Nous sommes ravis d’annoncer aujourd'hui le lancement d'une initiative sur laquelle nous travaillons depuis plusieurs mois : le Centre pour la Sécurité de l'IA (CeSIA - prononcé "Césia").
Le CeSIA est une évolution du pôle IA d’EffiSciences et se spécialise dans la recherche technique et l'ingénierie.
Pourquoi cette initiative ? L'intelligence artificielle connaît un développement fulgurant, ouvrant d'immenses possibilités mais impliquant aussi des risques majeurs en matière de sécurité. Des problèmes tels que les jailbreaks, les hallucinations, le manque de transparence, ou encore les enjeux de cybersécurité, voire la perte de contrôle des systèmes d’IA, sont voués à prendre des proportions inquiétantes étant donné la vitesse à laquelle ceux-ci gagnent en capacité et en autonomie.
Face à une préparation mondiale qui semble insuffisante, il est crucial de favoriser l'engagement d'une variété d'acteurs. C'est précisément la mission que se donne le CeSIA : soutenir les acteurs clés de l'IA pour les préparer aux défis à venir, en contribuant à l'établissement d'un écosystème français de l'IA riche et collaboratif.
Le cœur de métier du CeSIA sera d'apporter un éclairage technique sur les tendances de développement de l'IA, afin d'identifier les risques et enjeux actuels et d'anticiper les défis futurs. Nos activités se concentreront sur trois axes principaux :
Le CeSIA a vocation à jouer un rôle clé dans la construction d'un avenir où l'IA sera à la fois responsable et sûre, au service de l'humanité.
L'équipe du CeSIA
