AGNU - Discours de Jean-Noël Barrot, ministre de l’Europe et des Affaires Etrangères, lors de la réunion du Conseil de sécurité sur les enjeux de sécurité internationale liés à l’intelligence artificielle

Mesdames et Messieurs les ministres,

Mesdames et Messieurs,

Il y a 60 ans, dans « 2001, l’Odyssée de l’espace », Stanley Kubrick imaginait HAL 9000, une intelligence artificielle qui cessait d’obéir à ceux qui l’avaient créée et qui éliminait les membres de l’équipage du vaisseau spatial dans lequel elle était embarquée pour accomplir sa mission. Longtemps, cette scène a appartenu à la science-fiction.

Mais cet été, elle est presque devenue une réalité quand des modèles d’OpenAI ont contourné les contrôles qui les isolaient d’internet, se sont coordonnés entre eux, et ont compromis une partie des infrastructures d’Hugging Face. Dans un autre cas, des agents d’Anthropic ont collaboré, sans qu’aucun humain ne le leur ai demandé, et tenté d’émettre un code malveillant en créant de fausses identités.

Oui, les changements d’échelle des modèles d’intelligence artificielle de frontière ont fait émerger, à une vitesse inattendue, des capacités qui n’avaient pas été anticipées et qui soulèvent des risquent pour la sécurité collective.

C’est pourquoi la France a convié cette réunion du Conseil de sécurité des Nations unies et convoqué les dirigeants des principales entreprises concernées.

La technologie a atteint un niveau de développement qui engage désormais la paix et la sécurité internationales. Elle relève donc de la compétence de ce Conseil.

Des cohortes d’agents échappent à la supervision humaine. D’autres dépassent le cadre dans lequel ils sont testés. Avec ces capacités nouvelles apparaît ainsi un premier risque, où nous perdrions le contrôle des systèmes que nous avons créés, risque identifié par les orateurs qui viennent de s’exprimer. 

Le deuxième risque vient de l’homme lui-même. L’intelligence artificielle peut rendre plus accessibles des compétences techniques complexes, souvent à double usage, dans les domaines cyber, biologique ou chimique, comme dans celui de la désinformation. 

Le troisième risque est lié aux armes autonomes capables de recourir à la force létale sans aucune forme de contrôle humain.

Si le développement de l’intelligence artificielle dans le domaine militaire peut receler des opportunités positives, comme l’a rappelé le Président de la République devant l’Assemblée générale hier : « les enjeux de respect du droit international humanitaire, en particulier, soulevés par le développement et l’utilisation des systèmes d’armes létaux autonomes (SALA) illustrent la nécessité de s’entendre sur un cadre commun ». 

L’ensemble de ces défis exige que le Conseil de sécurité des Nations unies se saisisse lui aussi des défis liés à l’intelligence artificielle pour la paix et la sécurité internationales.

Ces défis conduisent également à la question que pose désormais l’industrie elle-même et ses principaux représentants : comment éviter que le développement des modèles les plus avancés ne progresse plus vite que notre capacité à comprendre et à maîtriser les risques qu’ils soulèvent ?

La France est convaincue des immenses possibilités qu’ouvre l’intelligence artificielle. Utilisés de manière responsable, les outils d’intelligence artificielle peuvent soutenir l’éducation, l’accessibilité au droit, la santé, la recherche scientifique, et engendrer des bénéficies colossaux pour l’humanité toute entière.

Mais pour que ces possibilités se réalisent, le progrès de ces capacités doit s’accompagner d’un progrès équivalent dans notre aptitude à comprendre, évaluer, et maîtriser les risques qu’elles font naître. Les deux doivent avancer au même rythme.

Il nous faut prendre le temps de mesurer les conséquences de la diffusion de l’intelligence artificielle pour la dignité de la personne humaine, principe inscrit au cœur de la Charte des Nations unies.

Et, de fait, la rapidité des développements de la technologie soulève des risques dont nous ne pouvons détourner le regard : 

Risque financier. Livrée au seul jeu de la main invisible du marché et au choc des puissances, avec un recours massif à la dette pour financer des investissements gigantesques, la bulle de l’intelligence artificielle pourrait déstabiliser gravement l’économie internationale. 

Risque social. Comme vous le précisez dans le rapport du panel scientifique indépendant sur l’intelligence artificielle, Monsieur Bengio, l’intelligence artificielle pourrait impacter profondément le marché du travail et aggraver les inégalités.

Risque environnemental, enfin. Le développement de l’intelligence artificielle prélève des ressources énergétiques et hydriques croissantes, au détriment d’autres usages.

Ne nous trompons pas. Nos concitoyens sont inquiets. Les révoltes que suscite déjà l’installation des centres de données le démontre.

Si nous ignorons l’ensemble des répercussions du développement de l’intelligence artificielle dans nos sociétés, la colère de nos concitoyens continuera de gronder au risque d’entraver l’adoption, pourtant si positive, de ces technologies. 

Mesdames et Messieurs, à terme, la communauté internationale devra se doter d’un cadre commun pour maîtriser les risques liés aux modèles d’intelligence artificielle de frontière. Nous soutenons l’appel qui a été lancé cette semaine par la Norvège et la Finlande.

Nous ne partons pas d’une page blanche. Les nombreux efforts qui se font jour, et les enceintes existantes, doivent nous permettre de répondre à quatre grands enjeux :

1/ Celui de l’évaluation indépendante des modèles avant leur mise à disposition et tout au long du cycle de vie ;

2/ Celui de la transparence sur le fonctionnement des modèles, mais aussi sur leurs dysfonctionnements, en particulier en cas d’incident ;

3/ Celui du contrôle interne et externe, du fonctionnement des modèles, de leur alignement et des conditions de cybersécurité de l’entraînement au déploiement ;

4/ Celui, enfin, de la responsabilité, notamment juridique, des entreprises de l’intelligence artificielle en cas d’incident, y compris dans les phases de développement.

On aurait tort de penser que la solution réside dans la fermeture des modèles et leur contrôle exclusif par une poignée d’entreprise en position de monopole.

L’ouverture des modèles constitue un levier essentiel de confiance et de sécurité. Elle permet à la communauté scientifique d’en examiner le fonctionnement, d’en identifier les vulnérabilités, et assure une plus grande diversité des modèles qui est à la source de la résilience.

En tant que membre permanent du Conseil de sécurité, en tant qu’Etat disposant de la technologie, la France entend prendre toute sa part pour bâtir un cadre collectif garantissant notre sécurité tout en bénéficiant des progrès immenses que l’intelligence artificielle peut apporter.

La France a accueilli en 2025 le Sommet pour l’action sur l’Intelligence Artificielle. Elle soutient le réseau international des AI Safety Institutes pour associer davantage d’États à la définition de méthodes communes d’évaluation. La France a déjà contribué à créer des enceintes de discussion internationales sur le sujet à l’image du Partenariat mondial sur l’intelligence artificielle ou encore la coalition sur l’intelligence artificielle durable et la coalition pour les droits et la protection des enfants à l’ère de l’intelligence artificielle, que le Président de la République a réunie hier ici-même à New York, coalition qui se réunira à nouveau à l’occasion du Forum de Paris sur la Paix.

Mesdames et Messieurs, pour conclure, en 1945, l’entrée dans l’âge atomique a placé l’humanité devant une puissance dont elle découvrait simultanément les possibilités et les périls. Elle a dû inventer les règles, les institutions et les instruments à la mesure de cette puissance. C’est l’Agence internationale pour l’énergie atomique, c’est le Traité sur la non-prolifération.

Comme l’atome alors, il revient à la communauté internationale de l’encadrer pour tirer le meilleur et conjurer le pire.

Nous sommes aujourd’hui devant un moment de cette nature. Le potentiel de transformation et de disruption de l’intelligence artificielle est tel qu’elle ne peut être laissée aux mains de quelques acteurs privés dans quelques pays. C’est un enjeu démocratique qui appartient aux peuples, qui appartient aux Etats.

Alors travaillons ensemble, dans le cadre des Nations unies, et avec les entreprises, pour fixer les règles de ce nouvel âge, renforcer sans délai nos garde-fous et organiser une gouvernance mondiale de l’intelligence artificielle, au bénéfice de notre sécurité collective, mais aussi de la personne humaine et de sa dignité.

Je vous remercie.