Dans une tribune d’opinion commune publiée ce mercredi dans le New York Times, les trois intellectuels louent les nouveaux programmes ChatGPT (OpenAI), Bard (Google) et Bing (Microsoft) pour leur capacité à résoudre les problèmes, mais aussi pour leur « souci » pour ces systèmes qui se caractérisent par leur « amoralité, leur fausse science et leur incompétence linguistique ».
« Nous craignons que la variété d’intelligence artificielle la plus populaire et la plus à la mode – l’apprentissage automatique – dégrade notre science et dégrade notre éthique en incorporant à notre technologie une idée fausse fondamentale du langage et de la connaissance », ont-ils écrit.
Ils disent que bien que ces programmes aient été salués comme « les premières lueurs à l’horizon » d’une intelligence artificielle dans laquelle les esprits des machines sont plus nombreux que les cerveaux humains en quantité et en qualité, intellectuellement, artistiquement et créativement, ils n’ont pas encore été réalisés. atteint ce moment.
Selon Chomsky, Roberts et Watumull, les usages de programmes tels que ChatGPT peuvent être utiles dans certains domaines « limités » comme la programmation informatique ou « suggérer des rimes pour des vers légers », mais leurs différences profondes avec les humains dans le raisonnement et dans l’utilisation de le langage de la parole impose « des limites importantes à ce que ces programmes peuvent faire ».
Pour ces scientifiques, « ces programmes sont coincés dans une phase pré-humaine ou non humaine de l’évolution cognitive ».
« Son défaut le plus profond est l’absence de la capacité la plus critique que possède toute intelligence : dire non seulement ce qui se passe, ce qui s’est passé et ce qui se passera -c’est-à-dire décrire et prédire-, mais aussi ce qui ne se passe pas et ce qui pourrait et il ne pouvait pas arriver », assurent-ils avant de souligner que ce sont là les ingrédients d’une explication, « le signe d’une véritable intelligence ».
Chomsky loue les progrès de l’IA, mais met en garde contre ses dangers et son « amoralité »
Ils soutiennent que, contrairement aux machines, « la pensée de style humain repose sur des explications possibles et la correction des erreurs, un processus qui limite progressivement les possibilités pouvant être rationnellement envisagées ».
En ce sens, ils citent en exemple une phrase de Sherlock Holmes au Dr Watson : « Lorsque vous avez éliminé l’impossible, ce qui reste, aussi improbable soit-il, doit être la vérité. »
« Mais ChatGPT et des programmes similaires qui, de par leur conception, sont illimités dans ce qu’ils peuvent « apprendre » (c’est-à-dire mémoriser) ; ils sont incapables de distinguer le possible de l’impossible », affirment-ils. Pour cette raison, affirment-ils, les prédictions des systèmes d’apprentissage automatique seront toujours superficielles et douteuses.
Enfin, ils soutiennent que la véritable intelligence est capable de pensée morale, tandis que les chatbots ont lutté et continuent de lutter pour trouver un équilibre entre la création de contenu et l’éloignement de ce qui est moralement répréhensible.
À titre d’exemple, ils ont cité le précurseur de ChatGPT publié par Microsoft en 2016 (Tay) qui « a inondé Internet de contenu raciste et misogyne ».
Ainsi, ils affirment que les créateurs de ChatGPT, compte tenu de l’incapacité du programme à raisonner à partir de principes moraux, l’ont sévèrement restreint afin qu’il ne participe pas à des discussions nouvelles ou controversées.
« Ils surgénèrent (produisant à la fois des vérités et des mensonges, approuvant des décisions éthiques et contraires à l’éthique) ou sous-génèrent (démontrant un manque d’engagement envers toute décision et une indifférence aux conséquences) », concluent-ils.
Avec des informations de l’EFE.
