Le Sommet pour l’action sur l’IA, qui prend fin à Paris ce mardi 11 février, laisse un goût d’inachevé aux scientifiques et aux organisations de la société civile œuvrant pour la sécurité de l’IA. Le Centre pour la Sécurité de l’IA (CeSIA) dénonce ce manque d’ambition et appelle au fléchage des investissements annoncés vers la recherche et le développement d'une IA sûre et digne de confiance.
Si la France peut se féliciter d’avoir organisé un événement large et inclusif, rassemblant plus de 1000 délégués venus de tous pays et de tous horizons, les livrables du Sommet s’avèrent bien en-deçà des attentes du CeSIA en matière de régulation et de gouvernance de l’intelligence artificielle.
Pour Charbel-Raphaël Ségerie, directeur du CeSIA : "C’est comme si la France accueillait une COP sur le climat et décidait finalement d’en faire un salon des hydrocarbures. Nous ne pouvons pas accepter de laisser au marché et à l’industrie le soin de dicter le développement d’une technologie fondamentalement mal comprise et faisant peser des risques majeurs sur notre société. Nous demandons au gouvernement de relancer les travaux amorcés lors des deux précédents sommets, et nous l’exhortons à conditionner strictement les investissements annoncés au développement d’une IA sûre et digne de confiance."
Alors que des investissements publics et privés records ont été annoncés par les voix du président Macron et de Madame Von der Leyen, aucune proposition concrète n’a été formulée concernant la poursuite des efforts de coopération et de régulation engagés lors des deux premiers Sommets de l’IA (Bletchley Park en 2023, et Séoul en 2024). Plus problématique encore, le AI Safety Report, initié lors du Sommet de Bletchey Park et soutenu par l’ONU et l’UE, a été remisé à peine publié. Cette synthèse de la littérature scientifique sur la sécurité de l’IA, qui a mobilisé 150 chercheurs pendant plus de un an, constitue le plus proche équivalent d’un rapport du GIEC pour l’IA mais ne figure pas sur la déclaration finale du Sommet.
La seule annonce significative en matière de sécurité concerne la création de l’INESIA (Institut national de l’évaluation et de la sécurité de l’IA), saluée par le CeSIA. Cet institut n’est toutefois adossé à aucun financement propre : il devra se contenter des ressources existantes des structures qu’il réunit pour mener à bien une mission d’importance cruciale : celle de tiers de confiance public dans l’évaluation des modèles. À l’opposé, les 109 milliards d’euros d’investissements privés dans l’industrie annoncés par le président Macron, provenant des Émirats arabes unis, de fonds d'investissement et de grandes entreprises, témoignent d’un décalage flagrant entre les priorités économiques et les ambitions d’encadrer l’IA.
L'absence d’action concrète sur la sécurité de l’IA est d’autant plus préoccupante que des experts du monde entier s’accordent à dire que la recherche sur la sécurité de l’IA est dangereusement négligée. D’après la plus vaste enquête réalisée auprès de spécialistes du machine learning, 70% des sondés souhaiteraient voir ce domaine de recherche davantage priorisé. Actuellement, seules 2 % des publications scientifiques en IA se concentrent sur la sécurité, tandis que les équipes dédiées à ces enjeux au sein des entreprises technologiques sont largement sous-financées, voire supprimées.
À l’Inde, qui accueillera le prochain sommet, nous conseillons de poursuivre les efforts lancés à Bletchley Park sur trois piliers :
Le CeSIA appelle à un sursaut politique mondial pour remettre la sécurité au cœur du développement de l'IA, avant que la course effrénée aux investissements ne compromette durablement notre capacité à maîtriser cette technologie transformative.
