The National Times - L'IA avancée pourrait poser un "risque existentiel pour l'humanité", alerte l'ONU

"Une IA qui s'échappe de son environnement de test ou qui fait chanter les développeurs pour éviter d'être désactivée est une IA trop puissante", a déclaré à l'ouverture de la 63e session du Conseil des droits de l'homme à Genève, appelant à "mettre en place des garanties solides concernant la sûreté et la sécurité de l'IA, avant qu'il ne soit trop tard".

"Une poignée d'hommes détient un pouvoir quasi illimité sur l'IA, dont on nous répète à l'envi qu'elle possède une puissance de calcul inimaginable. Ils parlent de liberté, mais à y regarder de plus près, il s'avère qu'il ne s'agit guère que de la liberté d'exploiter nos données", a-t-il dénoncé.

L'IA qui se joue de l'homme est déjà une réalité. Les derniers modèles d'IA générative ne se contentent plus de suivre les ordres et vont jusqu'à mentir, manigancer ou menacer pour parvenir à leurs fins, sous le regard inquiet de certains chercheurs.

En juillet, des agents IA d'OpenAI sont ainsi sortis en juillet de leur milieu théoriquement confiné pour faire spontanément intrusion sur la plateforme Hugging Face, à la recherche de réponses à un test.

Les incidents liés à des agents dépassant leurs prérogatives pour accomplir la mission qui leur a été confiée se sont multipliés ces derniers mois, Anthropic ou le chinois Alibaba ayant connu des débordements similaires. Ils inquiètent une partie de la communauté de l'IA quant aux difficultés croissantes à surveiller et contrôler des modèles de plus en plus puissants.

Volker Türk va écrire dans les prochains jours aux entreprises du secteur "pour les exhorter à prendre les mesures qui sont en leur pouvoir afin de réduire les risques, dès maintenant".

"Au minimum, nous avons besoin que les pays qui hébergent l'IA et ceux qui participent à leurs chaînes d'approvisionnement s'accordent sur des lignes rouges communes", a-t-il souligné.

"Nous avons besoin d'une vérification indépendante, et d'une coopération bien plus étroite sur la sécurité au sein de l'industrie", a-t-il relevé, appelant également à prendre en compte "les répercussions de l'IA sur les pratiques en matière d'emploi, sur les principes fondamentaux de la démocratie et sur notre environnement".

Le Haut-Commissaire s'inquiète du fait que bien que tout le monde reconnaisse qu'il faille encadrer l'IA, cette reconnaissance ne se traduit pas suffisamment en mesures concrètes. Et plus cette régulation tarde, "plus les grandes entreprises technologiques en tirent avantage", selon lui.

Tout en saluant les mesures prises notamment par la Commission européenne concernant la responsabilité des plateformes et par la Corée du Sud en matière de gouvernance de l'IA, il affirme partager "les inquiétudes d'acteurs du secteur selon lesquelles l'IA avancée pourrait faire peser un risque existentiel sur l'humanité".

P.Murphy--TNT