Appel de Paris : États et entreprises de l’IA s’engagent sur la sécurité des modèles les plus puissants

Avec l’Appel de Paris, des États et des entreprises de l’intelligence artificielle ont signé ensemble un texte pour encadrer les risques des modèles les plus avancés. Emmanuel Macron a réuni lundi 9 novembre, en partie par visioconférence, des dirigeants politiques, des patrons de l’IA et des chercheurs. Selon l’Élysée, c’est la première fois que des entreprises du secteur s’engagent ainsi en faveur d’une réponse internationale. Le même jour, le chef de l’État s’est dit prêt à interdire certains usages de l’IA dangereux pour les enfants.

Qui était autour de la table

La réunion, présidée par Emmanuel Macron, prolonge une rencontre organisée le 17 juin lors du sommet du G7 d’Évian entre chefs d’État et dirigeants de laboratoires d’IA. Y ont participé, selon l’Élysée, les dirigeants de Bahreïn, du Canada, de la Finlande, du Japon, de la Norvège, des Pays-Bas, du Royaume-Uni et de la Sierra Leone, le secrétaire américain au Trésor, Scott Bessent, ainsi que des représentants de l’ONU et de l’OCDE.

Sept entreprises étaient représentées : Anthropic, Black Forest Labs, Hugging Face, Microsoft, Mistral AI, OpenAI et Sakana AI, avec notamment Sam Altman (OpenAI), Dario Amodei (Anthropic) et Arthur Mensch (Mistral AI). Le chercheur canadien Yoshua Bengio, l’un des pionniers de l’apprentissage profond, faisait partie des représentants de la recherche et de la société civile.

Ce que prévoit l’Appel de Paris

Les participants se sont accordés sur trois besoins : des évaluateurs indépendants, des standards communs pour l’évaluation et le signalement des incidents majeurs, et une clarification des responsabilités de chacun. Le texte se décline en trois volets.

• Évaluer : bâtir un cadre commun pour évaluer et gérer les risques des modèles dits « de frontière », les plus avancés, en priorité sur les usages malveillants (cyberattaques, armes chimiques, biologiques, radiologiques ou nucléaires) et sur la perte de contrôle. Les résultats non sensibles seront publiés dans un registre accessible au public.
• Partager : renforcer les systèmes d’alerte précoce, signaler rapidement les incidents graves et offrir aux lanceurs d’alerte, y compris les salariés des entreprises, des canaux sécurisés et confidentiels.
• Responsabiliser : les développeurs s’engagent à rendre publics les capacités, limites et risques connus de leurs modèles, à permettre leur évaluation par des experts indépendants et à prévoir des mécanismes capables d’interrompre un modèle. Les États doivent clarifier les responsabilités en cas de dommages à grande échelle, y compris transfrontaliers.

Le texte ne fixe ni calendrier ni sanctions et reste ouvert à de nouveaux soutiens. Il est signé à ce stade par six États (Bahreïn, Canada, Finlande, France, Norvège et Pays-Bas), par dix entreprises (Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI et Synthesia) et par plusieurs organisations de la société civile, dont LawZero, fondée par Yoshua Bengio.

Londres et Tokyo en soutien

Le Premier ministre britannique, Andy Burnham, a soutenu la démarche et proposé de faire de l’IA une priorité de la présidence britannique du G20 en 2027. La Première ministre japonaise, Sanae Takaichi, a plaidé pour davantage d’échanges internationaux sur l’évaluation des risques, tout en soulignant que les États pouvaient adopter des approches différentes. Ni le Royaume-Uni ni le Japon ne figurent toutefois, à ce stade, dans la liste des États signataires publiée par l’Élysée.

Macron prêt à interdire certains usages pour les enfants

Dans un entretien aux Échos publié le même jour, Emmanuel Macron a annoncé vouloir aller plus loin sur la protection des mineurs. « S’il y a un risque pour les enfants avec certains usages de l’IA, alors il faut l’interdire », a-t-il déclaré, en plaidant pour des audits et une certification préalables avant que les enfants puissent utiliser certains modèles. « Ce n’est pas parce que c’est de l’IA que ce doit être le Far West », a ajouté le chef de l’État, qui mène déjà campagne pour interdire certains réseaux sociaux aux moins de 15 ans.

Un comité d’experts devait remettre le 10 novembre ses recommandations sur la protection face à l’IA. Emmanuel Macron souhaite porter le sujet au niveau européen et convaincre d’autres pays, dont les États-Unis et le Canada, de suivre.