Les algorithmes , la bombe à retardement ?
Allons-nous confier nos vies à des algorithmes ?
Si n’est pas déjà fait…
Déjà, La Guerre de l’attention sévit, Comment ne pas la perdre
Extrait
“C’est une guerre qui nous fait passer l’essentiel de notre temps devant un écran. Une guerre dont nous sommes à la fois les victimes et les agents quand nous réagissons sur Twitter, quand nous notons un chauffeur sur Uber, quand nous swipons sur Tinder… Une guerre qui fait de nombreux dommages, en premier lieu chez les plus jeunes : obésité, troubles du sommeil et de la concentration, isolement… sans compter la mise en danger du lien social et du débat démocratique, et l’accélération de la catastrophe écologique. Une guerre que se livrent les plus grandes entreprises pour capter notre temps de cerveau. Cette guerre, c’est celle de l’attention.
Au fondement de notre liberté et de notre bien-être, l’attention est une ressource rare et précieuse. Elle pourrait disparaître si son exploitation, immense gisement de profits, n’est pas limitée. Pour cela, les manuels de « bon usage » du numérique ne suffiront pas. Refusant les fausses promesses du « techno-solutionnisme vert », ce livre est une arme pour mener la reconquête collective de notre attention. Nourri par un travail de terrain, il propose une plongée dans les rouages de l’économie de l’attention ainsi que des propositions politiques concrètes. Ou comment faire de la déconnexion un pilier de la transition écologique à venir, au service d’une société conviviale et décroissante.”
A moins d’être sur une autre planète, il ne vous aura pas échappé que ChatGPT est au cœur de l’actualité depuis début décembre.
Je ne vais pas vous faire un grand discours sur l’intelligence artificielle, mais simplement vous donner des pistes pour y réfléchir.
À la question Qui est ChatGPT ?, le robot conversationnel répond lui-mème
« Je suis ChatGPT, un grand modèle de langage formé par OpenAI. Je suis capable de comprendre et de répondre à des questions sur de nombreux sujets en utilisant l’intelligence artificielle. »
Certes les experts vous diront qu’il y a encore beaucoup de lacunes sur certains sujets, mais les universités ont commencé à bloquer l’accès aux étudiants, Amazon bloque l’accès aussi à ses employés pour ne pas intégrer du code venant d’un concurrent.
Si notre attention est de capter nos choix suggérés par les algorithmes dans les trois quart des cas, est-on sûr encore de pouvoir garder notre libre arbitre, voire notre liberté de penser par soi-même ?
La liberté à l’épreuve de l’algorithme
Présentation de l’émission Le Book club Olivia Gesbert, Le livre contre le tout-algorithme
Les algorithmes agissent dans tous les pans de notre vie, y compris dans la chaîne du livre en dirigeant nos goûts, en orientant notre geste d’achat voire en écrivant à la place des auteurs. Nos invités pour en parler sont Johan Ferber, co-rédacteur en chef du magazine DIACRITIK et chercheur en littérature, auteur de Parlez-vous le Parcoursup ? (Seuil Libelle, 6 janvier 2023). A ses côtés, Arthur Grimonpont, ingénieur, chercheur et consultant spécialisé dans les enjeux de transition face aux crises écologiques. Il publie Algocratie : vivre libre à l’heure des algorithmes (Actes Sud, octobre 2022).
Je vous invite à lire, écouter, regarder, forger votre réflexion afin d’éviter que ces plateformes régissent nos vies et nos pensées.
Il en va de la liberté d’expression mais aussi de la démocratie.
Philippe Cadu
Matière à réflexion
Autres sujets dans la presse.
France culture
Médiapart
Après ChatGPT, l’IA controversée de Microsoft qui imite les voix
Le géant américain du numérique a mis au point une nouvelle intelligence artificielle capable de reproduire la voix humaine comme les émotions du locuteur. Son nom : Vall-E. Des chercheurs dénoncent le développement de ces IA toujours plus réalistes et alertent sur leurs dangers, notamment démocratiques.
Anthony Laurent, 4 février 2023
Extrait :
Quelques semaines après la mise en ligne de ChatGPT (développé par l’entreprise californienne OpenAI), Microsoft a annoncé avoir développé une nouvelle intelligence artificielle (IA) capable d’imiter la voix humaine. Le 5 janvier dernier, une équipe d’ingénieurs de la firme américaine a publié un article sur la plateforme de prépublications scientifiques arXiv (non encore évaluées par les pairs) annonçant avoir mis au point un système qui « surpasse de manière significative l’état de l’art » en matière de modélisation du langage.
Une nouvelle étape dans le développement de l’IA dite « générative », produisant automatiquement des textes, des images, des sons, et qui ne va pas sans poser de sérieuses questions éthiques et démocratiques.
De quoi s’agit-il exactement ? Vall-E est capable de copier et de reproduire la voix d’un être humain à partir d’un extrait sonore de trois secondes seulement. Alors que les algorithmes de ChatGPT génèrent automatiquement des réponses écrites à partir de l’analyse d’un immense corpus de textes, la dernière IA de Microsoft produit une voix synthétique en transformant un texte en langage semblable à celui d’un humain. Dit autrement, il est possible de lui faire dire n’importe quelle phrase en imitant la voix d’une personne réelle, même si celle-ci ne l’a jamais prononcée….
….
« L’un des dangers avec les outils d’IA, c’est qu’en poussant loin leur réalisme et leur anthropomorphisme, on gomme finalement les différences de statut entre l’homme et la machine », alerte pour sa part Sylvain Petitjean. Face à la montée en puissance et au déferlement annoncés de l’IA, ainsi qu’au pouvoir démiurgique que ses futurs développements confèreront à qui la possédera (États, multinationales, groupes terroristes…), le président de l’AFCIA préconise son interdiction pure et simple, en lieu et place des « usines à gaz » éthiques.
Avant cela, « comme pour les armes nucléaires ou les armes autonomes, il faut mettre en œuvre un traité international de non-prolifération des systèmes d’intelligence artificielle. L’IA ne doit pas proliférer », insiste Cédric Sauviat.
« Tant que ceux qui conçoivent et commercialisent ces technologies ne seront pas tenus comme pénalement responsables de leurs conséquences néfastes sur la société, il n’y aura pas de prise de conscience », considère pour sa part Benoît Piédallu, qui estime qu’avec l’IA, « on a ouvert la boîte de Pandore ».
Anthony Laurent