🎤 Jusqu'où une super IA peut-elle aller ? (Aymeric Roucher, auteur)

Monde Numérique : [0:01] Je recevais récemment Aymeric Roucher, Monde Numérique : [0:03] ingénieur et auteur du livre Ultra Intelligence, jusqu'où iront les IA. Si vous n'avez pas eu le temps d'écouter l'interview complète, Monde Numérique : [0:10] voici un best-of des passages les plus significatifs. On parle d'AGI, la fameuse super-intelligence, d'Elon Musk, de la place de l'Europe dans la course à l'IA, des risques de l'intelligence artificielle, et aussi de la bulle de Yann Lequin et des agents IA. Bonne écoute. Aymeric Roucher: [0:27] Et en gros ce concept d'EGI moi je le trouve pas satisfaisant, parce que vouloir absolument que l'IA nous dépasse sur absolument tout c'est un critère qui est pas utile en fait en quelque sorte on s'en moque que l'IA reste moins forte que nous sur certains domaines il pourrait y avoir des domaines qui sont pas du tout pertinents. Aymeric Roucher: [0:43] Du genre quels pourraient être les domaines de l'intelligence qui sont peu utiles par exemple je sais pas la mémoire épisodique de savoir ce qu'on a mangé hier soir, ça me dérange pas que l'IA soit moins forte que moi dans ce domaine là tant qu'elle est capable d'avoir un prix Nobel de physique, pour moi, Aymeric Roucher: [0:58] c'est une mesure plus pertinente. Et en fait, je pense que ce vers quoi on arrive déjà, c'est des IA qui sont beaucoup plus fortes que nous sur certains domaines, peut-être moins fortes que nous sur d'autres, mais en fait, tout ce qui compte, c'est l'impact qu'elles peuvent avoir dans la vie réelle. En gros, l'IA de 2010, c'était auto-compléter des mots sur un téléphone. Et donc ça, c'était une tâche qui ne dure même pas un dixième de seconde à un humain. En fait, ce qui s'est passé à mesure que les modèles sont devenus de plus en plus forts, c'est que l'IA est devenue capable de résoudre des tâches de plus en plus longues avec ce qui sort aujourd'hui avec Cloud Code par exemple donc avec tous les donc ces agents donc ces modèles d'IA à qui on donne la capacité d'utiliser des outils où donc là pour le coup ils peuvent en fait utiliser des outils ça permet de gagner beaucoup plus d'autonomie Et là, ces agents-là, on les voit qu'ils commencent à atteindre des heures d'autonomie. Dans un an, probablement, les modèles seront capables de résoudre des tâches qui durent une semaine quasiment. Elon Musk, par exemple, dans sa boîte, Dia XIA, le premier truc qu'il a fait, c'est de mettre en place plus de puissance de calcul que tout le monde. Et il a très rapidement mis en place les plus gros data centers du monde. Et donc, moi, je m'attends à ce que XIA aille peut-être doubler en performance les autres boîtes qu'on connaît comme OpenAI. Aymeric Roucher: [2:04] Davantage que Terminator je crains Elon Musk qui pète un câble et qui décide d'envoyer ses robots dans toute l'Amérique en fait il n'y a pas besoin que le robot décide de, décide de prendre le contrôle tout seul il suffit d'un méchant qui possède des robots et vous rendez le même problème, les Etats-Unis disposent de 73% de la puissance de calcul pour l'IA dans le monde entier l'Europe a je crois que c'était entre 4 et 5% et en fait tant qu'il y a ce ratio là mais c'est complètement impossible que l'Europe soit autre chose que complètement la traîne donc. Monde Numérique : [2:32] C'est avant tout une question d'argent finalement. Aymeric Roucher: [2:35] Oui, là-dessus, je pense que c'est principalement ça. Vous prenez votre puissance financière multipliée par le talent de vos ingénieurs. Monde Numérique : [2:44] Il y a MEI de Yann Lequin qui est en train d'essayer de lever 500 millions. Aymeric Roucher: [2:50] Ça, on va voir comment ça se passe. Mais historiquement, dans les dernières années, Lequin a principalement eu tort. Par exemple, en 2023, il y a des vidéos où il dit les LLM sont incapables d'avoir du sens physique. Et il cite comme exemple, il dit comme exemple, regardez, si je pose mon téléphone sur la table et je demande à une IA, qu'est-ce qui va se passer si maintenant je tire la table qu'est-ce qui va arriver au téléphone ? Et les IA de l'époque lui répondaient n'importe quoi du genre le téléphone va entrer en lévitation ou quelque chose comme ça et ils donnaient ça comme exemple de les LLM sont structurellement incapables d'avoir du sens physique et bien en fait vous preniez les modèles de pointe six mois plus tard ils répondaient très très bien à cette question-là Parce. Monde Numérique : [3:22] Que finalement les défauts des LLM sont compensés par l'amélioration constante, la puissance de calcul qui ne cesse d'augmenter etc. Aymeric Roucher: [3:31] Oui, exactement Comme souvent en. Monde Numérique : [3:34] Technologie c'est pas toujours la meilleure technologie d'un point de vue pur qui gagne ça peut être une technologie imparfaite mais on la booste tellement on l'upgrade. Aymeric Roucher: [3:43] Tellement que. Monde Numérique : [3:43] Finalement elle tient la route quoi. Aymeric Roucher: [3:45] Bah exactement je pense que c'est la bonne image c'est il y a un scientifique qui s'appelle Richard Sutton qui appelait ça the bitter lesson la leçon la mère leçon c'est de dire que en fait nous les scientifiques on aime bien faire des belles constructions intellectuelles des choses propres et tout voilà, ou essayer de dicter à la machine comment raisonner et en fait pas du tout il faut des, les réseaux de neurones en fait c'est de l'intelligence très basique en fait un neurone c'est simplement quelques connexions et c'est un processus hyper naïf mais en fait vous en empilez des milliards et là ça crée une intelligence, Et en gros, The Bitter Lesson, c'est un peu l'idée de dire qu'on avait, il y a dix ans, des centaines d'algorithmes différents, et chacun était un peu spécialisé dans un domaine, était le meilleur dans un domaine, et vous aviez des scientifiques qui étaient à la pointe sur chacun de ces domaines. Et en fait, aujourd'hui, tout ça a été récupéré par les LLM qui battent absolument Aymeric Roucher: [4:31] tous les algorithmes sur absolument tous les domaines. En fait, oui, Lequin est un peu en train de parier contre la tendance, contre la Bitter Lesson. Monde Numérique : [4:37] Oui, complètement. Aymeric Roucher: [4:38] Et en gros, en général, ceux qui ont fait ça, historiquement, se sont fait mordre. Peut-être qu'il va déboucher sur quelque chose de très bien, mais par exemple les labos de Métas ou Yann Lequin n'ont pas particulièrement performé, et ils ont un peu loupé le virage Métas a un peu loupé le virage des LLM. Monde Numérique : [4:55] Qu'est-ce que vous pensez justement des récentes déclarations de Dario Amodei, il a son mémoire ou le patron d'Anthropic où il a sérieusement tiré la sonnette d'alarme en disant qu'il y avait un danger et qu'il fallait vraiment s'en saisir. Aymeric Roucher: [5:09] En effet je pense qu'il y a un danger et alors je pense quand même que en gros il faut bien savoir dans quel camp on habite, malheureusement il y a un peu des camps qui sont en train de se dessiner où on a la Chine par exemple qui fait concurrence aux Etats-Unis et en fait l'Europe n'est pas dans ce jeu là donc en gros les problèmes dont eux s'inquiètent c'est des problèmes qui n'existent pas pour nous et je trouve que justement mais qui pourraient nous concerner. Monde Numérique : [5:31] Un jour ou l'autre. Aymeric Roucher: [5:32] Ça va nous montrer moins que Musk qui pète un câble et qui vient nous écraser, en gros je crois plus à la confrontation entre pays que à la perte de contrôle de l'IA, et en fait c'est un risque qui est beaucoup plus sûr vous voyez vu le niveau des IA qu'on a en Europe en fait c'est pas demain la veille qu'elles vont se révolter elles sont pas assez intelligentes pour ça. Monde Numérique : [5:53] Vous vous dites il n'y a pas de bulle de l'intelligence artificielle. Aymeric Roucher: [5:58] En fait je pense que la question fondamentale c'est est-ce que l'IA va continuer de progresser, Et en gros, il y a pas mal de tendances de long terme qui sont plus à la continuation d'un progrès de l'IA. Et en fait, si on tire bien cette courbe de progrès, ça va nous amener très loin en termes de conséquences. L'IA va prendre une part énorme dans l'économie. Il y a un risque de chômage de masse aussi si les gens n'arrivent pas à retrouver un travail. Aymeric Roucher: [6:20] En fait, il y a plein de choses qui vont se passer où l'IA va prendre de plus en plus de puissance. Et je pense qu'en gros, les gens qui font les cours du marché, c'est des gens qui doutent pas mal de cette possibilité-là. Monde Numérique : [6:30] L'impact de l'IA sur les métiers on est au début de l'histoire d'après vous et comment elle va s'écrire l'histoire ? Aymeric Roucher: [6:39] Alors la manière dont je la vois c'est que vous avez un peu cette croissance d'intelligence générale et les métiers demandent peut-être des seuils de performances différents donc par exemple vous voyez le métier de traducteur en fait c'était quelque chose qui a été accessible à l'IA assez vite, et aujourd'hui traduire des textes par écrit ça n'existe plus comme métier, plus personne va vous envoyer un texte en disant « je te paye tant si tu me traduis ce texte-là ». Monde Numérique : [7:00] Non, peut-être pour valider le travail des IA encore. Aymeric Roucher: [7:05] Voilà. Ça, je pense que ça va être une dynamique dans tous les métiers. En fait, un métier même remplacé, vous aurez toujours certaines personnes qui restent là-dedans pour un service un peu premium. Monde Numérique : [7:13] Premium. Aymeric Roucher: [7:14] Et cette personne-là fait le travail de 20 personnes de son métier avant. Mais ça remplace quand même les 19 autres. Monde Numérique : [7:20] Ça va ressembler à quoi, un monde avec des agents partout, des agents IA ? Aymeric Roucher: [7:25] Ah bah justement, ça fait un peu le pont avec ce dont on parlait sur les métiers, où en gros, moi mon métier développer, j'aime beaucoup, mais je pense que peut-être avant un ou deux ans, il n'existe plus, enfin il y aura une personne sur les 100 qu'on avait avant, il n'y en aura plus qu'une qui aura un emploi, donc je pense qu'on risque d'avoir un remplacement de beaucoup d'emplois, et ça risque d'être difficile pour les gens d'en retrouver un, parce qu'il faut aller dans un domaine complètement différent, et peut-être que l'IA sera déjà meilleur que sur ce domaine-là aussi. Aymeric Roucher: [7:50] En fait l'eau monte partout et c'est pas comme à l'époque de la révolution industrielle où c'est simple si vous aviez un métier qui demandait d'exercer une force physique dans une direction très précise et sans adresse, dans ce cas oui vous étiez remplacé les chevaux de trait, leur population a chuté en flèche aux Etats-Unis au moment de la révolution industrielle parce qu'il n'y avait plus besoin d'eux mais bon les humains ils restaient l'intelligence et l'intelligence n'était pas du tout remplacée donc c'était toujours facile de se reconvertir, enfin facile entre guillemets aujourd'hui ça risque d'être un peu plus dur parce que la concurrence arrive partout et je pense que ça arrivait à tous les métiers et là donc vous parlez d'agent, en fait en gros un agent c'est simplement prendre ces modèles de langage là qui sont capables de compléter du texte et c'est lui dire maintenant tu as le droit d'utiliser des outils supplémentaires et les outils ça peut être tout ce dont vous avez besoin pour faire une journée de travail. Aymeric Roucher: [8:34] Par exemple c'est la messagerie où on vous donne un outil envoyer un mail un outil lire les dix derniers mails, ça peut être Google pour faire des recherches ça peut être un tableur Excel pour aller noter quelque chose et en gros tous les métiers qui se font sur ordinateur, en fait vous pourrez même avoir un outil souris quoi, qui est capable de faire des clics n'importe où sur l'écran et qui prend des captures d'écran. Ça, d'ailleurs, Musk travaille beaucoup là-dessus. Ça s'appelle MacroHard, cette initiative-là. Aymeric Roucher: [8:56] Et ce qu'on peut voir à terme, c'est qu'en fait, un métier, si vous pouvez faire votre métier en télétravail, ça veut dire qu'il est intégralement faisable par ce genre d'agent qui serait capable de faire des clics de manière efficace sur l'écran. En fait, il y a même des gens qui parlent d'une quatrième blessure narcissique. L'humanité a été blessée d'abord par la révolution copernicienne, blessée dans son orgueil, parce que la révolution copernicienne lui apprenait que non, on n'était pas le centre du monde. Ensuite, par Darwin, parce que Darwin lui apprenait que non, on n'était pas une espèce à part parmi les autres. La troisième, c'est Freud lui-même qui nous apprenait qu'on était beaucoup en partie gouverné par notre subconscient. Ça pourrait être la quatrième, l'arrivée de l'IA, qui nous montre qu'en fait, l'intelligence n'est pas essentielle à nous et tout le travail cognitif que Aymeric Roucher: [9:36] nous on fait pourra être remplacé. Et je pense que c'est un constat qui peut être assez triste parce qu'on perd un peu de la merveille qu'était être humain. Et en fait, les gens ont tendance à résister beaucoup à cette idée parce qu'elle nous blesse, mais on le voit de plus en plus avec l'IA. Par exemple, les gens disaient « L'IA ne sera pas créative ». En fait, c'est faux. L'IA est déjà plus créative en art ou en musique que la plupart des humains on disait que l'IA ne serait jamais capable de raisonner correctement, enfin on disait plein de choses que l'IA ne saurait jamais faire qu'elle aurait jamais d'humour, qu'elle serait jamais capable de comprendre la psychologie et en fait dès qu'on mesure dès qu'on mesure ces choses là, on s'aperçoit que oui en effet les modèles d'il y a un an et demi, d'il y a un an d'il y a encore six mois ils n'étaient pas capables mais que ceux d'aujourd'hui commencent à le pouvoir ou le peuvent déjà et ceux de demain le pourront encore mieux. Monde Numérique : [10:18] Merci beaucoup Aymeric Roucher et on renvoie donc à votre livre ultra-intelligence. Jusqu'où iront les IA chez Otil Jacob ? Et si ce best-of vous a plu, dites-le-moi en commentaire sur votre plateforme d'écoute ou sur le site mondenumérique.info.