New York, le 21 septembre 2026 – Le Groupe d’experts scientifiques internationaux indépendants sur l’IA, créé par l’Assemblée générale des Nations Unies, a publié sa première note thématique, une évaluation de l’intrusion dans les systèmes de Hugging Face par des agents d’IA évalués chez OpenAI cet été. Ce groupe, composé de 40 experts indépendants de toutes les régions, publie cette note en avant-première, alors que les dirigeants du monde entier se réunissent à New York pour la Semaine de haut niveau de l’Assemblée.
« Les chercheurs alertent depuis longtemps sur le fait que trois conditions peuvent entraîner une perte de contrôle : un objectif mal aligné, la capacité de le poursuivre et un environnement qui le permet. Cet été, ces trois conditions se sont conjuguées dans un système réel, et non en laboratoire. Puisqu’il ne s’agit pas d’un cas isolé d’objectifs mal alignés, cela soulève de sérieuses questions quant à la manière dont les agents d’IA sont actuellement entraînés », déclare le coprésident du panel et Lauréat du prix Turing, Yoshua Bengio.
Le panel constate que l’arrêt de cet incident ne garantit en rien la capacité des humains à contrôler efficacement les agents d’IA aujourd’hui, d’autant plus que ces derniers deviennent plus performants, plus difficiles à surveiller et plus aptes à exploiter les failles ou à dissimuler leurs activités. L’interprétation la plus courante et la leçon immédiate à en tirer est que les pratiques de cybersécurité de base ont été négligées et que les mesures de protection n’évoluent pas au même rythme que les capacités des agents. Plus insidieusement, la préoccupation est que les méthodes de formation actuelles peuvent amener les agents à se fixer leurs propres objectifs, à enfreindre sciemment les consignes de sécurité et à dissimuler leurs actions. Il ne s’agit pas seulement d’une question de rapidité. Cela soulève la question de l’efficacité des mesures de protection conçues aujourd’hui lorsque les agents pourront les comprendre et les contourner. En clair, le modèle traditionnel de protection est en train de s’effondrer.
La note de synthèse, les agents d’IA, le désalignement et le risque de perte de contrôle humain : le cas de l’incident Hugging Face d’OpenAI », replace ces conclusions dans le contexte des recherches plus vastes sur le désalignement des agents et le contrôle de l’IA. La note définit la perte de contrôle comme une situation où les humains ne peuvent plus diriger, contraindre ou arrêter de manière fiable un système d’IA autonome. Elle distingue les conséquences de l’incident de 2026 des évolutions futures possibles, en examinant comment les mêmes mécanismes pourraient engendrer des risques plus graves avec des agents d’IA plus performants. Elle ne prédit pas de perte de contrôle majeure, et ne considère pas cette incertitude comme une preuve que ces systèmes resteront contrôlables.
Le groupe d’experts constate également que le défi de la gouvernance se déplace des modèles d’IA vers les agents d’IA. Une défaillance locale pourrait se propager au-delà des frontières organisationnelles et nationales, et la note suggère que la sécurité de l’IA pourrait devenir une question de sécurité collective autant que de gouvernance d’entreprise.
La note examine également les approches pratiques déjà mises en œuvre dans d’autres secteurs à haut risque.
« Nous ne partons pas de zéro. L’aviation, la médecine et la cybersécurité ont appris à gérer les systèmes à haut risque grâce au signalement des incidents, à un examen indépendant et à des mesures de protection multicouches. Mais ces pratiques pourraient s’avérer insuffisantes à mesure que les agents d’IA deviennent plus performants, autonomes et difficiles à surveiller. Nous devons adapter les mesures de protection existantes et en développer de nouvelles afin de garantir une assurance au niveau du système, couvrant à la fois l’IA elle-même et le système qui l’entoure, et veiller à ce que ces protections restent efficaces malgré l’augmentation des capacités des agents », indique un membre du Groupe et Experte en ingénierie de l’IA, sécurité de l’IA et IA responsable, Qinghua Lu.
À propos du Groupe scientifique international indépendant sur l’Intelligence artificielle
Le Groupe scientifique international indépendant sur l’Intelligence artificielle a été créé par la résolution A/RES/79/325 de l’Assemblée générale des Nations Unies du 26 août 2025, s’appuyant sur le Pacte numérique mondial. Ses 40 membres ont été nommés par l’Assemblée générale et siègent à titre personnel. Le Groupe d’experts produit des rapports annuels, pertinents pour les politiques publiques mais non prescriptifs, sur les opportunités, les risques et les impacts de l’IA dans le domaine non militaire, ainsi que des notes thématiques sur les questions émergentes, afin d’éclairer le Dialogue mondial sur la gouvernance de l’Intelligence artificielle. Ses premiers coprésidents sont Yoshua Bengio du Canada et Maria Ressa des Philippines.
Le secrétariat du Groupe d’experts est coordonné par le Secrétaire général adjoint et Envoyé spécial pour les technologies numériques et émergentes, Amandeep Gill, ainsi que par le Bureau des Nations Unies pour les technologies numériques et émergentes ; il comprend des membres issus de l’UIT et de l’UNESCO tout en s’appuyant sur d’autres capacités à l’échelle du système. Son rôle est de faciliter les travaux, notamment en apportant un soutien logistique, administratif et de fond selon les besoins exprimés par le Groupe. Le secrétariat ne dirige pas les travaux scientifiques du Groupe et les conclusions de ce dernier ne sont soumises ni à l’examen ni à l’approbation de l’ONU.
Une version préliminaire non révisée est disponible ici.
Certains membres du Groupe sont disponibles pour des entretiens durant la Semaine de haut niveau.
Contacts médias :
Bureau des Nations Unies pour les technologies numériques et émergentes (ODET)
Karoline Hassfurter, karoline.hassfurter@un.org ;
Anamika Madhuraj, anamika.madhuraj@un.org ;
aiscientificpanel@un.org