🇫🇷🇨🇦 Debrief Transat (extrait) - Comment l'IA Grok est devenue folle

Jérôme : [0:06] Grosse polémique, parce que Grok a pété les plombs. Grok s'est pris pour un nazi. Grok a chanté les louanges d'Adolf Hitler. Grok a sorti les pires insanités antisémites. Pas seulement des théories racistes à droite à gauche, des trucs pas du tout politiquement corrects. Alors, je pense qu'il faut qu'on explique à nos auditeurs ce qui s'est passé. Bruno : [0:31] En tout cas, l'histoire dont on a parlé le plus, C'est qu'à un moment donné, il y a justement une utilisatrice de Grok, Sandy Steinberg, qui a été ciblée par les réponses de Grok suite à des commentaires qu'elle avait publiés. Et là, Grok s'est mis à faire des amalgames avec cette personne-là. Et tu avais vraiment l'impression que c'était quelqu'un qui n'aime pas nécessairement la communauté juive, qui répondait. Et là, puis ce qui est pernicieux dans cette histoire-là, c'est qu'il y avait une réponse qui se tenait, sauf qu'il a commencé à rajouter des informations qui, là, faisaient de lui vraiment un raciste. Jérôme : [1:11] Oui, qu'on ne lui avait pas demandé, en fait. Bruno : [1:13] Non, exactement. Et là, tu te dis, mais ça vient d'où, ça? Parce que la première réponse... Bon, c'est un jugement de valeur, mais ça s'arrête là. Mais là, il rajoutait des couches. Et puis après, on a vu d'autres histoires comme ça qui sont arrivées. Et c'est un peu comme, je vais dire, la famille des « moi aussi ». Une fois qu'on commence à sortir de cette histoire-là, on voit apparaître d'autres incidents qui sont arrivés où les gens en ont plus ou moins parlé parce qu'ils ont été surpris, mais ils n'en ont pas fait tout un plat. Mais voyant qu'il commençait à y avoir une débarque, là, on s'est mis à publier sur les réseaux sociaux d'autres cas, d'autres histoires où c'est arrivé comme ça. Et là, ça fait qu'à la fin de la journée, à force, moi, j'ai vu cinq, six cas majeurs apparaître et qui mettaient Grok dans les beaux droits. Jérôme : [1:56] Mais alors, ce qu'il faut dire, c'est que, bon, d'une part, Elon Musk a toujours Jérôme : [2:01] dit, effectivement, qu'il voulait que Grok soit une IA anti-Walk, entre guillemets. Bruno : [2:05] La liberté de parole. Jérôme : [2:06] Voilà, le free speech dans toute sa splendeur. Donc, il le présentait comme quelque chose qui aurait moins de filtres que ChatGPT, par exemple. Et en plus, il venait d'annoncer une mise à jour de Grok. Parce qu'en fait, la version qui a déraillé, c'est une version qui a été mise en ligne, c'est la 3, mais améliorée, qui a été retouchée et qui a été mise en ligne au mois de juillet. Et donc, voilà. Et après, il y a quand même eu des correctifs très vite. C'est-à-dire que tout le monde, déjà, il y a des propos qui tombent sous le coup de la loi, qui ont été repérés, etc. Et ils ont quand même assez vite rectifié le tir. Mais je ne sais pas comment ça se passe de ton côté de l'Atlantique, mais moi, je vois ici, en France, bon, je ne suis pas en France là aujourd'hui, mais évidemment, je reste connecté, je suis ça très très près. Si je retourne un peu la tête sur la gauche, je vois très très bien ce qui se passe. Et alors, ça y est, chez nous, c'est n'importe quoi, parce que ça a été une récupération politique. J'ai vu passer des tweets hallucinants de responsables politiques que je ne nommerai pas qui en fait qui parlent de Grok comme si c'était une personne, Tu vois, en disant que... Bruno : [3:14] Même des cèdres dans certains médias français. Jérôme : [3:16] Mais oui, mais c'est complètement fou. Alors, on voit ce qu'il y a derrière. En fait, c'est pour se payer Elon Musk, parce qu'Elon Musk, de toute façon, c'est l'homme à abattre vu de France. Donc, si Grok est antisémite, ça veut dire qu'Elon Musk est antisémite. Rappelez-vous, il avait fait le salut nazi, etc. Bon, moi, je trouve ça surréaliste. Et encore une fois, ce n'est pas pour prendre la défense d'Elon Musk. Et je comprends que ses propos... Ce n'est pas des propos, d'ailleurs. Que ces mots apparaissant sur les écrans aient pu choquer évidemment beaucoup de personnes et c'est très choquant. Jérôme : [3:45] Mais attention, les amis, il faut raison garder, c'est une IA de quoi on parle. C'est du software et c'est une machine. Bruno : [3:52] Il y a simplement une suite de mots qui semblent faire un sens. Jérôme : [3:56] Voilà. Donc, c'est n'importe quoi. En fait, et je te dis, il y a une récupération politique que je trouve odieuse parce que, sur prétexte de vouloir se payer Elon Musk et tout ce qu'il représente, on dit n'importe quoi et ça donne une image de la technologie une vision des choses totalement déviée, en réalité, je trouve. Bruno : [4:17] Mais bon, là, ça ne se produire plus, parce qu'il y a un Grok 4. Jérôme : [4:21] Ben oui, on verra si Grok 4 est plus... Mais c'est intéressant, plus de comprendre... Bruno : [4:25] Mais il n'y a personne qui est à l'abri de ce genre de dérive-là. Jérôme : [4:27] Mais exactement. De toute façon, l'IA hallucine, on n'arrête pas de le répéter, que ce soit aussi pour les images, pour plein de choses. Et c'est vrai que c'est très difficile de lui lâcher la bride, donc effectivement de moins le filtrer au niveau du fine-tuning, tout en évitant qu'il dérape. Mais moi j'ai remarqué un truc aussi sur X c'est que, attention, c'est pas innocent tout ça. Tous les postes où Grok dérape et dit n'importe quoi pourquoi il fait ça ? C'est toujours en réponse à des propos ou à des profils qui eux-mêmes sont loin d'être irréproclables. Ce sont généralement des gens qui sont extrêmement provocateurs, extrêmement haineux, etc., qui sollicitent Grok, ou bien c'est dans des discussions où il y a des gens qui ont des profils hyper provocateurs. Si tu remontes les profils des gens, les fils, etc., tu vois qui sont ces gens-là. Et Grok, ce n'est pas une intelligence. C'est de l'intelligence artificielle, donc ce n'est pas de l'intelligence, il faut le rappeler, ça n'a rien à voir avec l'intelligence. Et il s'adapte. Ce que fait le mieux une intelligence artificielle, c'est dire ce qu'on a envie d'entendre. Bruno : [5:37] Surtout qu'il est programmé pour ça. Jérôme : [5:39] Mais voilà, donc il est au milieu d'un troupeau de complotistes, il va parler comme un complotiste. Bruno : [5:44] Exactement. Jérôme : [5:44] Et voilà. Bruno : [5:46] Mais merci pour cette précision. Jérôme : [5:48] Non, mais ça m'a énervé, ça m'a énervé parce que... Bruno : [5:51] Ça paraît pas. Jérôme : [5:53] Moi, j'aime pas quand on quitte la raison, si tu veux. Quand on rentre dans le champ de la déraison, et en plus souvent pour de mauvaises raisons, encore une fois, c'est-à-dire de la récupération politique, pour servir son discours, sa paroisse, etc..