Un chercheur de l’une des start-up stars de l’IA, Anthropic, démissionne, inquiet d’une IA “hors de contrôle”. Quels sont les vrais dangers de l’intelligence artificielle ?
Les avertissements d'un grand mathématicien
"On se rend de plus en plus compte qu’une IA peut échapper à ses créateurs, explique Guillaume Grallet, rédacteur en chef Sciences et Tech du Point, auteur de “Pionniers. Voyage aux frontières de l'intelligence artificielle” (Editions Grasset), au micro de Jacques Cardoze, sur l’antenne de Sud Radio. Pas volontairement, pour l’instant, pour se rebeller contre l’homme et créer sa perte. C’est l’avertissement de Jacob Coxon, c’est très grave. On a vu son chef lui donner raison, dire qu’il pose les bonnes questions."
"Ce n’est pas un farfelu, mais un mathématicien de haut rang cherchant à rendre l’IA explicable, compréhensible. Il s'est rendu compte que chez Anthropic, la maison mère de Claude, le concurrent de ChatGPT, on ne voulait pas l’entendre. En réalité, il existe une course de vitesse très forte entre OpenAI et Anthropic, qui fait qu’on laisse des agents IA faire tout et n’importe quoi."
🧠L'IA peut-elle détruire l'humanité ?
🗣️ @guillaumgrallet : "Une IA peut échapper à ses créateurs, c'est un avertissement de #JacobCoxon. On laisse des agents faire tout et n'importe quoi" #GrandMatin
📻https://t.co/LIMgdJRBVG pic.twitter.com/mtCeztbzTC
— Sud Radio (@SudRadio) September 10, 2026
Les apprentis-sorciers de l'IA
"Cet été, OpenAI a cherché à tester ses tout derniers modèles d’IA. Elle les a mis dans un « bac à sable », censée être totalement hermétique au monde extérieur, explique Guillaume Grallet, rédacteur en chef Sciences et Tech du Point, sur l’antenne de Sud Radio. Les agents intelligents ont commencé à se parler entre eux, à trouver une faille, un accès Internet pour trouver une solution au problème qu’ils devaient résoudre. Qu’elles se parlent entre elles était une vraie découverte."
"Je suis allé voir ces créateurs que j’appelle des apprentis-sorciers. Bien sûr que l’IA peut faire des choses formidables. Le créateur de DeepMind dit qu’il faut arrêter cette course effrénée. Bien sûr, la Chine va nous dépasser, mais il faut voir où l’on va. Il faut de la régulation, une agence internationale. Je pense qu’il faut expliquer, et pas seulement faire peur. Il faut essayer de résoudre les grands problèmes de l’humanité, les cancers, s’attaquer aux grands problèmes mathématiques."
Retrouvez "Sud Radio vous explique" chaque jour à 7h40 dans le Grand Matin Sud Radio avec Jacques Cardoze
Cliquez ici pour écouter “Sud Radio vous explique”
Toutes les fréquences de Sud Radio sont ici !