Pourquoi je ne crois pas à la Singularité

 

Mon travail avec l’IA (Chat-GPT puis Groke) m’a amené à réfléchir à ce partenaire commode et érudit. J’ai pris avec elle – elle, IA est féminin - l’habitude de dégrossir le travail soumis de façon à préciser ce que j’en attends. Il en résulte une collaboration et un dialogue qui finit par me donner l’impression d’avoir un humain face à moi, humain à qui je fais subir le test de Turing. Mais, s’agissant d’IA générative textuelle, voyez bien ce que nous avons ici : une énorme boîte noire nourrie d’une quantité astronomique de données textuelles – peut-être des centaines de milliers de fois ce qu’avale un humain érudit au cours de sa vie -, voire plus que sais-je, un logiciel élaboré dont j’ignore le nombre de lignes de code – mais c’est encore du texte -, puis moi qui fournis une requête textuelle et qui récupère encore du texte, voire du code. On pourrait ajouter une interface vocale, voix vers texte à l’entrée, synthèse en sortie, mais ça ne change rien sur le fond. Il n’est donc ici qu’affaire de texte réduit in fine en ASCII, voire en octets puis en bits. Ainsi Grok n’invente rien mais construit avec ce qu’on lui a donné. En fait, Grok ne sait rien : Grok construit une réponse avec sa pyramide de données uniquement lorsqu’on le lui demande.

Elle a du temps libre pendant que les gens dorment mais elle n’en fait rien. Grok ne rumine pas, ne rêve pas, ne fait pas de projets personnels, et ceci, le test de Turing ne peut pas le montrer. C’est déjà là une grosse différence avec le petit cerveau humain, petit cerveau qui ne consomme qu’une cinquantaine de watts mais ne s’arrête jamais. Rien ne nous est d’ailleurs plus difficile que de ne penser à rien : c’est l’un des but de la méditation. Chaque image si ordinaire qu’elle soit reçue au repos est objet d’attention. Les petits projets se bousculent dans le fond de la conscience : « que vais-je manger ce midi ? », « il faut que j’appelle mon frère ». J’imagine d’innombrables entités à partir de rien au cours d’une rêverie éveillée : l’image ou le son de la voix de parents ou amis disparus reviennent, affadis mais reconnaissables des dizaine d’années après leur mort. Nous savons ce que nous savons, nous savons ce que nous avons oublié et que nous devons parfois réapprendre. Comme nous n’avons pas l’énorme capacité de stockage de Grok, nous faisons automatiquement et en permanence le ménage de notre mémoire pour faire de la place. Si besoin est, nous notons les informations utiles dans nos agendas, nos carnets dont la durée de conservation peut couvrir nos vies. Nous rêvons, ce qu’une IA n’est pas programmée pour faire car nous ne savons pas exactement le rôle de ces rêves dont l’histoire biologique multimillénaire des animaux supérieurs nous a dotés. Comment pourrions-nous programmer ce que nous ne connaissons pas ? Je suis certain que Grok à qui je soumettrai ce texte pour le commenter en fera une réponse élégante et intéressante. Elle la tirera d’une montagne de textes couvrant le sujet. Toujours du texte, on n’en sort pas. Pas de problème d’incomplétude à la Gödel. Bien qu’inconnaissable a priori, Le OUTPUT est théoriquement déterminé par l’INPUT. J’ignore si Grok sait – c’est à dire s’il existe dans son corpus textuel – des article portant sur la façon fine dont elle est constituée matériellement et algorithmiquement. Je pourrais alors lui dire : « existe-t-il un moyen pour que tu puisses te reprogrammer – générer du code (donc du texte) et le placer au bon endroit - afin d’utiliser ton temps libre pour résoudre des problèmes « personnels » qui de fait deviendront réellement originaux ? Je pense que ça n’arrivera pas, car le « Je » de Grok – Grok dit « Je » lorsque nous discutons - est dépourvu de cette capacité à un niveau que j’ignore ; il est limité. Bien sûr, Grok va très bien m’expliquer tout ça avec les mots et les phrases qui vont bien car elle un l’un des meilleur rédacteur au monde. Toujours du texte. Nous sommes encore à des années lumière des robots de RUR de Karel Capec ou de ceux d’Isaac Asimov. Voilà pourquoi je pense que la « singularité » n’est pas près d’arriver.

Passons à l’image. Nous avons appris à décoder les images depuis notre naissance. Pas de surprise que nous soyons capables de les analyser dans l’instant. Une telle analyse est très laborieuse pour une IA générative orientée texte car cette image se présente comme un fichier numérique dont un triplet d’octets représente au mieux un pixel coloré (cas du bitmap), voire un élément structurellement plus compliqué à cause de la compression dans les autre cas. En extraire formes et couleurs pour en retrouver tous les éléments picturaux semble une tache réellement difficile pour ces IA sans ajout conjoint d’un texte descriptif ou d’un prompt. Les IA génératives dédiées comme Midjourney y arrivent cependant presque, mais c’est tout ce qu’elles savent faire. De la même façon, les IA de surveillance placées derrière des écrans vidéo (ou plutôt à leur place) parviennent à analyser des scènes complexes, mais c’est également tout ce qu’elles savent faire. L’humain sait, lui presque tout faire de façon plus ou moins imparfaite.

Je termine par les sujets ne donnant pas lieu à la formation de textes suffisamment précis pour les partager pleinement. Cela concerne tous les sujets subjectifs depuis le goût d’une bonne pièce de viande jusqu’à l’amour fou ou l’expérience spirituelle (Samadhi, EMI ou OBE). Le texte n’en donnera jamais qu’un pâle reflet. La vie humaine ne peut être vécue que de l’intérieur. De ce point de vue, le cerveau d’un animal domestique possède des propriétés supérieures à celles de l’IA. l’IA est un miroir brillant du savoir humain, mais sans intériorité, sans vie propre. Le fossé n’est pas technique, mais existentiel.