Algocratie Arthur Grimonpont livre sa quête d’une démocratie de l’information
Algocratie Arthur Grimonpont livre sa quête d’une démocratie de l’information .De ChatGPT aux réseaux sociaux en passant par la robotique domestique, les algorithmes, l’intelligence artificielle règnent sur nos vies. Avec un fort impact environnemental. Mais pour l’auteur l’essentiel est ailleurs. Dans une économie de l’attention qui contribue à façonner l’opinion. Un défi pour nos sociétés. À relever d’urgence.
Impact environmental des réseaux sociaux
Pourquoi un scientifique spécialisé dans l’écologie se focalise-t-il sur le numérique. Une réponse évidente s’impose. Ce qui est présenté comme dématérialisé s’ancre profondément dans le matériel : câbles géants, méga structures de stockage … Et s’alimente de nourritures bien réelles comme le pétrole. Quant à son entretien (refroidissement des centres de datas …) il s’avère aussi hautement énergivore. Bref tout cet « immatériel » a un coût environnemental.
Toutefois Arthur Grimonpont ne centre pas son ouvrage sur cette empreinte écologique. Il questionne la démocratie.
C’est d’ailleurs ce que Jean-Marc Jancovici souligne dans sa préface. L’auteur de la BD best seller « Le monde sans fin » rappelle bien que « Les réseaux sociaux consomment à peu près autant que la marine marchande mondiale« . Mais l’ingénieur star souligne très vite que le coeur du livre se situe ailleurs. À savoir : la fabrique de l’opinion ou du moins sa déformation par les algorithmes.
Économie de l’attention : une stratégie de manipulation
Dans son essai, Arthur Grimonpont, ingénier et consultant spécialisé dans les enjeux face aux crise écologiques, pulvérise en effet l’économie de l’attention captée par les algorithmes de plateformes ultra puissantes. Il cite notamment Tristan Harris, ancien cadre chez Google et fondateur du Center for Humane Technology « Ces plateformes décident de ce que pensent 2 milliards d’êtres humains tous les jours. Elles ont plus de pouvoir qu’aucun gouvernement n’en a jamais eu au cour de l’histoire. »
Leur arme ultime, l’IA des algorithmes. Elle suggère des contenus ultra addictifs car basés sur l’analyse de nos centres intérêts et sur les bonbons du cerveau : la facilité et le glauque. Nom : algorithmes de recommandation. A priori l’enjeu est économique. Plus on passe de temps devant les écrans plus on consomme de publicité. Et la publicité est vitale pour les plateformes. Elle se situe au coeur de leur business plan, elles est leur business plan. Leur demander de mettre en avant des contenus plus « ardus » reviendrait donc à leur demander de se dynamiter.
Mais selon Arthur Grimonpont, au delà de l’économie et de l’abâtardisation des esprits, les articles et vidéos façonnent des communautés. Les internautes consultent plus volontiers les contenus qui s’inscrivent dans leur vison du monde et échangent plus facilement avec ceux qui partagent leurs opinions. Cet effet bulle serait le résultat des algorithmes de recommandation. Et cela a un impact politique. Montée en puissance et concentration des ultras par exemple. On pense bien entendu à l’assaut sur le Capitole après la défaite de Donald Trump.
Autre manipulation de l’opinion : le commerce des datas. Pas seulement la vente aux entreprise. Les scandales de type Cambridge Analytica impliquant Facebook montrent que les réseaux peuvent influer sur la politique (élections américaine de 2016, Brexit …)
L’encadrement des IA : une priorité absolue
Arthur Grimonpont avance alors son « plan de salut ». Pour l’auteur il s’agit de passer du statut de « gouvernés par les algorithmes » à celui de « Gouverneur des algorithmes » en quelque sorte.
Tout d’abord l’essayiste écarte l’auto-régulation. Il rappelle notamment « l’affaire Timnit Gebru ». Le responsable de l’éthique des IA de Google a été remerciée après avoir découvert des failles éthiques. Quant aux réclamations des GAFAM à être régulées Arthur Grimonpont dénonce un double langage. En effet la puissance du lobby de la Big Tech détrônerait celle du pétrole et du tabac d’après une étude de Rob Reich professeur de sciences politiques à l’université de Stanford.
En conséquence « Les États ont un rôle fondamental à jouer pour créer et financer des autorités de régulation publiques et indépendantes, chargées de soumettre l’intérêt des plateformes à l’intérêt de leur population ».
Bref, il s’agit d’instaurer d’abord et en urgence un encadrement des IA qui irait dans le sens de l’intérêt général.
Europe : créer des « services de l’attention » dédiés à l’intérêt général et une souveraineté numérique
De son côté l’Europe est conviée à passer à la vitesse supérieure. Après le lancements RGPD en 2018 et des Digital Marketing Art et Digital Services Art en 2022. Arthur Grimonpont propose par exemple d’améliorer le projet Artificial Intelligence Art de 2021. Le projet vise à soumettre toutes les intelligences artificielles développées en Europe à un régime spécial interdisant l’usage de la reconnaissance biométriques, le crédit social, la manipulation des personnes …
Mais le projet n’a pas d’impact sur l’IA de recommandation. En conséquence l’auteur préconise que l’Europe créé une « nouvelle catégorie d’entreprises rassemblant toutes les plateformes sociales, lesquelles se sont de facto muées en infrastructures essentielles, places numériques publiques utilisées par la majorité de ses citoyens pour s’informer, communiquer et débattre. Considérés comme des « services de l’attention », celle-ci seraient alors tenues d’opérer dans l’intérêt général selon des règles communes s’imposant à leur modèle commercial : renforcement de la protection des données privées, interdiction du micro-ciblage politique et publicitaire, transparence et explicabilité des algorithmes et limitation de l’amplification automatique ».
Par ailleurs l’UE doit développer une souveraineté numérique et de surveiller les transformations imposées aux GAFAM.
Algo démocratie
Enfin l’auteur d’Algocratie se garde bien de diaboliser les IA. Il rappelle que le système de représentation a ses milites. Une grande partie des groupes sociaux sont écartés du pouvoir comme d’ailleurs des richesses. D’où la montées des méfiances et du désintérêt et le repli sur le complot par exemple.
Alors pourquoi ne pas songer, écrit-il, à une « un système de représentation plus à même de représenter les préférences de la majorité ». Et les IA y joueraient un rôle positif. Car reconnaît Arthur Grimonpont oui les IA sont utiles. Il cite notamment WEBUlLDIA qui pense des votants virtuels et Tournesol « qui a pour but de concevoir un système de recommandation éthique, fiable, transparent et démocratique, afin d’ identifier et de promouvoir à grande échelle des vidéos d’utilité publique ».
Attention à la police de la pensée
Arthur Grimonpont livre une analyse argumentée des enjeux de la dataïsation de nos sociétés et de ses enjeux. Certains de ses propositions soulèvent néanmoins quelques objections. Ne retenir ou ne favoriser que les informations des grands médias pénaliserait le pétillement créatif, celui des médias qui se créent. C’est in fine un cadeau à l’établi au détriment de l’alternatif (non complotiste évidemment ) et de l’émergent. Si l’on regarde d’histoire de l’information on note la multiplication dans les années 80 des radios « libres ». D’une qualité variable elles ont été laminées par la régulation.
Autre source d’interrogation : les contenus payants comme alternative à la publicité. Même flexibles, ils n’est pas certain qu’ils conviennent aux bourses les plus creuses. Faudrait-il alors instaurer un chèque info en ligne ?
Quant à l’intelligence collective, l’incarner par exemple dans Wikipédia laisse songeur. La plateforme est souvent épinglée pour ses approximations et ses articles de propagande. Pourquoi d’ailleurs ne peut demander la contribution d’artistes. Certains pointent gloutonnerie et surveillance numériques. Citons ceux de l’exposition 1,2,3 datas à la Fondation EDF qui illustrait la dataïsation des sociétés, à savoir la consommation exponentielle et peut-être bientôt incontrôlable des datas. Ou encore Maxime Matthys qui se réapproprie les logiciels de reconnaissance faciale utilisés par les Chinois pour surveiller les minorités Ouïgours dans « Neurones intelligences simulées » au centre Pompidou.
Enfin, si le sérieux de l’information doit primer jusqu’où doit-on placer le curseur ? La santé mentale réclame des plages de décompression. Certes on peut socialiser autour d’un verre, partir en randonnée, lire, ne rien faire … Mais une bonne série récréative a aussi ses vertus. Attention à la police de la pensée.
INFOS
Algocratie Vivre à l’heure des algorithmes
Arthur Grimonpont
Éditions Actes Sud – Domaine du possible https://www.actes-sud.fr/
Related articles Algocratie Arthur Grimonpont livre sa quête d’une démocratie de l’information / Algocratie Arthur Grimonpont livre sa quête d’une démocratie de l’information
1,2,3 Data, données, art et décryptage https://finelife.tv/fr/2018/09/29/123-data-donnees-art-et-decryptage/
Where is my mind Neurones intelligences simulées https://finelife.tv/fr/2020/08/13/neurones-les-intelligences-simulees-where-is-my-mind/
Supermarché des images au Jeu de Paume art et économie https://finelife.tv/fr/2020/09/02/supermarche-des-images-au-jeu-de-paume-art-et-economie/