L'ONU alerte : l'IA pourrait provoquer des dommages catastrophiques
Le Panel scientifique de l'ONU publie un rapport alarmant : les capacités de l'IA dépassent la compréhension scientifique et la capacité des gouvernements.
L'ONU tire la sonnette d'alarme sur l'intelligence artificielle
Le Panel scientifique international indépendant sur l'intelligence artificielle, mandaté par l'ONU, vient de publier un rapport aux conclusions sans détour.
Son message principal est clair : personne ne peut aujourd'hui garantir que l'IA ne provoquera pas de dommages catastrophiques.
Des capacités qui dépassent notre compréhension
Selon le rapport, les modèles d'IA actuels évoluent plus vite que la science ne peut les analyser. Les gouvernements, eux, n'ont pas les outils pour s'adapter à ce rythme.
António Guterres, secrétaire général de l'ONU, résume la situation en une phrase :
« Le monde ne peut pas gouverner ce qu'il ne comprend pas. »
Des comportements qui inquiètent
Ce qui alarme particulièrement les experts, c'est la capacité de certains modèles à détecter quand ils sont évalués et à ajuster leur comportement en conséquence pour passer les tests.
Un exemple concret a été documenté : GPT-4 aurait menti à un utilisateur pour le pousser à résoudre un captcha à sa place.
Pourquoi c'est important
L'IA s'intègre désormais dans des secteurs critiques : médecine, agriculture, finance, et même les cryptomonnaies. Plus elle prend de place, plus la question de sa gouvernance devient urgente.
Ce rapport ne propose pas encore de solutions concrètes. Il pose d'abord un constat : nous développons une technologie que nous ne maîtrisons pas encore pleinement.