L'année dernière, j'ai assisté à une table ronde sur l'IA générative dans l'éducation. Un moment mémorable a été la question d'un intervenant : « Quel est le problème ? L'IA générative, c'est comme une calculatrice. Ce n'est qu'un outil. »
L'analogie est de plus en plus courante. Sam Altman, directeur général d'OpenAI, a lui-même qualifié ChatGPT de « calculatrice de mots » et comparé les commentaires sur cette nouvelle technologie aux réactions suscitées par l'arrivée de la calculatrice.
Les gens disaient : « Il faut interdire ça, car les gens vont tricher à leurs devoirs. Si on n'a plus besoin de calculer une fonction sinusoïdale à la main […], alors l'enseignement des mathématiques est terminé. »
Cependant, les systèmes d'IA générative ne sont pas des calculateurs. Les traiter comme tels revient à obscurcir leur nature, leur fonction et leur public. Cette analogie simpliste simplifie une technologie controversée et ignore cinq différences cruciales avec les technologies du passé.
1. Les calculatrices n'hallucinent pas et ne persuadent pas
Les calculatrices calculent des fonctions à partir d'entrées clairement définies. En tapant 888 ÷ 8, vous obtenez une seule bonne réponse : 111.
Ce résultat est limité et immuable. Les calculatrices ne déduisent pas, ne devinent pas, n'hallucinent pas et ne persuadent pas.
Ils n'ajoutent pas d'éléments faux ou indésirables à la réponse. Ils ne fabriquent pas d'affaires judiciaires et ne disent pas aux gens « S'il vous plaît, mourez ».
2. Les calculatrices ne posent pas de dilemmes éthiques fondamentaux
Les calculatrices ne soulèvent pas de dilemmes éthiques fondamentaux.
pour créer ChatGPT, des travailleurs kenyans éplucher des contenus irrémédiablement traumatisants pour un ou deux dollars de l'heure. Les calculatrices n'avaient pas besoin de ça.
Après la crise financière au Venezuela, une entreprise d'étiquetage de données par IA a vu l'opportunité de s'emparer d'une main-d'œuvre bon marché grâce à des modèles d'emploi abusifs . Les calculatrices n'en avaient pas besoin non plus.
Les calculatrices n’ont pas nécessité la construction de vastes nouvelles centrales électriques la concurrence avec les humains pour l’eau, comme le font les centres de données d’IA dans certaines des régions les plus sèches du monde .
Les calculatrices n'ont pas nécessité de nouvelles infrastructures . L'industrie des calculatrices n'a pas connu d'essor minier massif, comme celui qui entraîne actuellement une extraction avide de cuivre et de lithium, comme sur les terres des Atacameños au Chili.
3. Les calculatrices ne compromettent pas l’autonomie
Les calculatrices n'avaient pas le potentiel de devenir une « complétion automatique à vie ». Elles n'ont jamais proposé de prendre toutes les décisions à votre place, de votre alimentation à votre destination de voyage, en passant par le moment où vous embrassez votre partenaire.
Les calculatrices n'ont pas remis en cause notre capacité à penser de manière critique. En revanche, il a été démontré que l'IA générative affaiblit le raisonnement indépendant et accroît le « délestage cognitif ». À terme, le recours à ces systèmes risque de confier le pouvoir de décision quotidien à des systèmes d'entreprise opaques.
4. Les calculatrices ne présentent pas de biais sociaux et linguistiques
Les calculatrices ne reproduisent pas les hiérarchies du langage et de la culture humains. L'IA générative, en revanche, s'appuie sur des données reflétant des siècles de relations de pouvoir inégales, et ses résultats reflètent ces inégalités.
Les modèles linguistiques héritent et renforcent le prestige des formes linguistiques dominantes, tout en marginalisant ou en effaçant celles qui sont moins privilégiées.
Des outils tels que ChatGPT gèrent l'anglais courant , mais reformulent, étiquettent mal ou effacent régulièrement d'autres anglais du monde .
Bien qu’il des projets qui tentent de lutter contre l’exclusion des voix minoritaires du développement technologique, le biais de l’IA générative en faveur de l’anglais courant est inquiétant.
5. Les calculatrices ne sont pas des « machines à tout faire »
Contrairement aux calculatrices, les modèles de langage ne fonctionnent pas dans un domaine restreint comme les mathématiques. Ils ont plutôt le potentiel de s'immiscer dans tout : perception, cognition, affect et interaction.
Les modèles linguistiques peuvent être des « agents », des « compagnons », des « influenceurs », des « thérapeutes » et des « petits amis ». C'est une différence essentielle entre l'IA générative et les calculateurs.
Contenu de nos partenaires
Si les calculatrices facilitent les calculs, l'IA générative peut s'engager dans des fonctions transactionnelles et interactionnelles. En une seule séance, un chatbot peut vous aider à éditer votre roman, à coder une nouvelle application et à dresser le profil psychologique d'une personne qui vous plaît.
Rester critique
L'analogie avec la calculatrice donne l'impression que les modèles linguistiques et les soi-disant « copilotes », « tuteurs » et « agents » sont inoffensifs. Elle autorise une adoption sans réserve et suggère que la technologie peut résoudre tous les défis auxquels nous sommes confrontés en tant que société.
Il convient également parfaitement aux plateformes qui créent et distribuent des systèmes d'IA générative. Un outil neutre ne nécessite ni responsabilité, ni audit, ni gouvernance partagée.
Mais comme nous l'avons vu, l'IA générative n'est pas une calculatrice. Elle ne se contente pas de traiter des chiffres ou de produire des résultats limités.
Comprendre ce qu'est réellement l'IA générative exige une réflexion critique rigoureuse. Celle qui nous permet d'affronter les conséquences d'une action rapide et casse-chose . Celle qui nous aide à décider si la casse en vaut la peine.
Celeste Rodriguez Louro , professeure agrégée, présidente du département de linguistique et directrice du laboratoire de langues, Université d'Australie occidentale
Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l' article original .
