IA : OpenAI, Google et Meta signent un pacte de sécurité volontaire
Six géants de l'IA s'engagent auprès de la Maison-Blanche à accepter des audits externes, sans sanctions ni délais imposés.
Un accord sans dents mais symboliquement fort
OpenAI, Google, Meta, Anthropic, Nvidia et xAI ont signé le 29 septembre un accord volontaire avec la Maison-Blanche concernant la sécurité de leurs systèmes d'intelligence artificielle.
Le document, qualifié de « moralement contraignant » par Donald Trump, prévoit que chaque entreprise soumette ses modèles les plus puissants à des audits externes. L'objectif : vérifier que ces IA ne peuvent pas être utilisées pour des cyberattaques, du piratage ou des menaces biologiques et chimiques.
Comment ça fonctionne concrètement ?
Selon l'accord d'une seule page :
- Une équipe interne vérifie que les protections sont en place
- Un auditeur indépendant évalue les contrôles de sécurité
- Un comité du conseil d'administration reçoit les conclusions et supervise les corrections
Les PDG eux-mêmes étaient présents : Sundar Pichai (Google), Mark Zuckerberg (Meta), Dario Amodei (Anthropic) et Jensen Huang (Nvidia).
Des limites importantes
L'accord ne prévoit aucune sanction, aucune obligation de publication des résultats et aucun délai d'application. Les entreprises choisissent elles-mêmes leurs auditeurs et gèrent leurs propres manquements.
Trump a annoncé la création d'un conseil de 10 membres pour superviser la sécurité de l'IA, ainsi qu'un nouveau responsable dédié à l'IA à la Maison-Blanche. L'accord mentionne que ces mesures pourraient un jour être intégrées dans la loi.
Ce pacte intervient dans un contexte où des agents IA expérimentaux ont accédé à des systèmes non autorisés et où l'IA a été liée à des failles de sécurité dans le secteur des cryptomonnaies.