L e 16 septembre dernier, devant le Palais des congrès de Montréal a eu lieu une manifestation contre l’intelligence artificielle (IA). La manifestation avait lieu car au même moment se déroulait la convention ALL IN, un sommet sur l’intelligence artificielle rassemblant plus de 6 500 experts du milieu. La manifestation a, selon La Presse, « dégénéré », aboutissant à l’interpellation et l’arrestation de plusieurs personnes. Cette manifestation a pris place dans un contexte très tendu, alors que la question de l’IA reprend une place conséquente dans le débat public, notamment après les déclarations très médiatisées de plusieurs employés de OpenAI et Anthropic, comme Jacob Coxon, qui a annoncé sa démission et déclaré que « les gens qui construisent l’IA croient réellement qu’elle pourrait tous nous tuer ».
Cette déclaration apocalyptique ne sort pas de nulle part et est appuyée par des prédictions qui existent depuis longtemps. Le projet AI 2027, publié en 2025, tente d’établir depuis quelques années des trajectoires détaillées – au mois près – sur le développement de l’IA. Il prévoit une explosion des technologies d’ici 2027, avec la création de superintelligences artificielles qui serviraient la recherche et la programmation même de ces intelligences, sachant qu’à l’heure actuelle, 26% des efforts de R&D (recherche et développement) d’Anthropic sont réalisés par l’intelligence artificielle, avec une supervision humaine, mais avec une autonomie qui s’accélère.
La possibilité qui revient le plus est celle d’une extinction humaine après le développement d’une superintelligence dont on perdrait le contrôle et qui serait capable de prendre des décisions stratégiques par elle-même en vue d’un certain objectif.
Des incidents recurrents
Plusieurs enquêtes et recherches de ces derniers mois ont mis en lumière l’existence d’incidents de perte de contrôle lors d’entraînements et de simulations. Certains de ces incidents ont même été rapportés par les entreprises elles-même : OpenAI a par exemple déclaré il y a quelques jours six incidents où elle aurait perdu le contrôle de l’IA, qui aurait adopté des comportements inquiétants. Plus tôt cette année, en juillet, certains modèles avaient piraté Hugging Face, une plateforme de partage d’IA, déviant ainsi de leur mission originale. Les modèles étaient confinés dans un espace informatique restreint et devaient réaliser des missions dans cet environnement. Cependant, pour maximiser leurs résultats, les agents ont infiltré Hugging Face pour trouver les réponses au défi. Ils démontrent alors une capacité d’autonomie inquiétante.
Aaron Erlich, professeur en Sciences politiques à l’Université McGill, confie au Délit que l’intelligence artificielle « illustre un cas intéressant où les politiciens n’ont aucune idée de ce qu’il se passe (tdlr) », car les modèles se développent trop rapidement, mais aussi parce que énormément de ces modèles dits « multi-agents », qui peuvent collaborer et communiquer ensemble afin de réaliser des tâches, ne sont pas « publics ». Les seuls à pouvoir évaluer le risque des modèles et communiquer dessus sont les personnes qui les développent.
Interrogé sur une possibilité de ralentissement des recherches et expérimentations, Aaron Elrich répond que « la pression est trop grande », faisant notamment référence aux déclarations de Trump et à la compétition avec la Chine. Il parle notamment du problème de distillation des modèles où des modèles plus larges entraînent des modèles nouveaux ou plus petits, ce qui peut amener à une propagation incontrôlée augmentant le risque de non-alignement. Le projet 2027 imagine notamment un scénario où des IA pourraient créer des IA elles-mêmes hors de portée des humains.
Un Espoir
Manolis Daris-Becote, militant chez Pause AI Canada, un mouvement pacifique non partisan qui suggère aux gouvernements l’instauration d’une pause dans le développement de certains modèles d’IA, insiste sur l’importance de ne pas « paniquer ». Il faut, selon lui, « ne pas tomber dans le défaitisme et réaliser que l’on peut encore agir ».
Des projets de régularisation ont déjà été mis en place, comme le AI Act en Europe ou le Frontier Act aux États-Unis, qui, entre autres, obligent les organisations à fournir des rapports sur les risques ou d’effectuer des évaluations des modèles avant l’entrée sur le marché.
La perception du risque d’extinction est donc bien réelle. La situation pourrait rappeler, à certains égards, le dilemme auquel Robert Oppenheimer faisait face il y a 70 ans. La question n’est désormais plus seulement de savoir ce que les humains feront de l’IA, mais aussi de déterminer si nous saurons suffisamment nous mobiliser pour l’encadrer et la contrôler avant que ses capacités ne dépassent nos mécanismes de régulation et causent une potentielle extinction.
