En juillet dernier, quatre des principaux acteurs de l’AI générative, Microsoft, Anthropic, Google et OpenAI, lançaient le Frontier Model Forum, un organism industriel dedicated au développement sûr et responsible des modèles d’AI de pointe. They have recently announced the nomination of Chris Meserole who is becoming the executive director as well as the launch of an IA Security Fund with more than 10 million dollars.

Anthropic, Google, Microsoft et OpenAI font partie des seven grandes entreprises qui se sont officially engagées devant le gouvernement Biden à mettre en place de nouvelles norms de sûreté, de sécurité et de confiance lors d’une à la Maison Blanche quelques jours avant le launch du Frontier Model Forum.

Chris Meserole : un expert en politique technologique à la barre

Chris Meserole, le tout premier Executive Director of the Frontier Model Forum, apporte une solide expérience en governance et sécurité des technologies emergentes, renforçant ainsi la crédibilité de cette nouvelle initiative. Avant de prendre ses nouvelles fonctions, il a occupé le poste de Directeur de l’Initiative sur l’intelligence artificielle et les technologies émergentes à la Brookings Institution. Il a notably publié des rapports sur les implications géopolitiques, éthiques et sociétales de l’IA. Son rôle consistera à aider le Forum à accomplir sa mission, à savoir :

• Faire avancer la recherche sur la sécurité de l’IA pour favorer un développement responsible des modèles de pointe et minimiser les risques potentials;
• Identifier les meilleures pratiques de sécurité pour les modèles de pointe;
• Partager les connaissances avec des décideurs, des universitaires, la société civile et d’autres acteurs pour promoter le développement responsible de l’IA;
• Soutenir les efforts visant à exploiter l’IA pour relever les plus grands défis de la société.

He declares:

“The most powerful AI models are extremely promising for society, but to realize their potential, we need to understand better how to develop them and evaluate them in toute sécurité. Je suis ravi de relever ce défi avec le Frontier Model Forum”.

Le Fonds de sécurité de l’IA

To accompany these actions, the Frontier Model Forum has launched an IA security fund with more than 10 million dollars. This fund comes from initial contributions from Anthropic, Google, Microsoft and OpenAI, as well as from philanthropic partners such as the Patrick J. McGovern Foundation, the David and Lucile Packard Foundation, Eric Schmidt and Jaan Tallinn. Il financera des projets de recherche indépendants sur la sécurité de l’IA, menés par des chercheurs affiliés à des institutions universitaires, des institutions de recherche ou des startups du monde entier.

One of the main objectives of the Fund is to encourage the creation of new evaluation methods for AI models and “rouge team” type systems. Ces derniers sont dédiés à la mise en évidence des vulnérabilités des modèles d’IA par le biais de simulations d’attaques malveillantes ou de scénarios inattendus. Il vise en outre à faciliter la détection et la notification par des tiers des eventuales failles des systèmes d’IA.

Avancées techniques et engagement envers la transparence

The Frontier Model Forum is also committed to promoting transparency in the IA domain. Au cours des derniers mois, il a élaborado un ensemble common de définitions, de termes, de concepts et de processus pour faciliter les discussions sur la sécurité et la governance de l’IA. Il aussi partagé les meilleures pratiques en matière de red teaming, ainsi que les résultats des évaluations effected sur les modèles d’IA existants.
Il développement actuellement un processus de divulgation responsable allowing aux laboratoires d’AI de pointe de partager des informations linked à la découverte de vulnérabilités ou de capabilités potentially dangereuses. Cette transparence accrue will permit de guarantee la sécurité des systèmes d’IA de pointe.

Quelles sont les prochaines étapes?

The Frontier Model Forum has put in place a consultative representative representative of diverse points of view to guide its strategy and priorities. The Fonds pour la sécurité de l’IA, quant à lui, will launch its first call for proposals in the months to come.

The Frontier Model Forum is enthusiastic about the idea of ​​collaborating with Chris Meserole and strengthening its engagement with research communities, NGOs and government organizations to favor development and utilization of IA, tout en maximisant ses avantages pour la société.

Il espère ainsi contributer à créer un environnement favorable à l’innovation et à la confiance dans l’IA et invite tous les acteurs étéressés à rejoinder ses efforts pour faire avancer la sécurité et le bien-être collectif grâce à l’IA.