The National Times - La mésaventure d'un proviseur américain, cas d'école des dangers de l'IA

La mésaventure d'un proviseur américain, cas d'école des dangers de l'IA


La mésaventure d'un proviseur américain, cas d'école des dangers de l'IA
La mésaventure d'un proviseur américain, cas d'école des dangers de l'IA / Photo: © AFP/Archives

Après l'indignation provoquée dans un lycée américain par la diffusion de propos racistes attribués au proviseur, le vertige de découvrir que la bande sonore a été montée de toutes pièces. Cet épisode illustre les dangers d'une intelligence artificielle devenue accessible à tous.

Taille du texte:

Eric Eiswert, proviseur à Pikesville dans le Maryland, près de Washington, s'est retrouvé au coeur d'une violente polémique avec un enregistrement vocal -- qui se révélera un faux -- lui faisant prononcer des commentaires choquants contre des élèves juifs et des "enfants noirs ingrats".

L'affaire, qui survient en pleine année électorale aux Etats-Unis, met en lumière la facilité avec laquelle les outils d'IA générative peuvent être employés pour nuire à tout un chacun, et les difficultés auxquelles font face les autorités pour lutter contre de telles pratiques.

"Désormais, tout le monde est vulnérable", et non plus seulement les célébrités, alerte Hany Farid, professeur à l'Université de Californie à Berkeley (ouest).

"Il suffit d'une image pour ajouter une personne dans une vidéo, et 30 secondes d'audio pour cloner la voix de quelqu'un", poursuit le spécialiste en détection d'images et d'enregistrements manipulés numériquement, consulté par la police dans cette affaire.

Quand l'enregistrement fuite sur les réseaux sociaux en janvier, il devient rapidement viral. Une publication recueille des milliers de commentaires sur Instagram, et propulse l'école au coeur d'une polémique nationale.

Le militant des droits civiques DeRay McKesson réclame la démission du proviseur sur son compte X, suivi par près d'un million d'internautes. Il admettra s'être fait abuser.

Les messages haineux pleuvent sur les réseaux sociaux et les coups de fil menaçants se multiplient dans l'établissement. Le "monde serait meilleur si vous étiez sous terre", écrit ainsi un internaute au proviseur.

Ce dernier est placé en congés, son domicile mis sous protection. Contacté par l'AFP, il n'a pas répondu.

- Vengeance -

"Je continue de m'inquiéter des dégâts provoqués par cette affaire", confie Billy Burke, directeur du syndicat représentant le proviseur.

Fin avril, Dazhon Darien, 31 ans, responsable sportif du lycée, a été arrêté par les autorités, accusé d'être à l'origine du faux. Les enquêteurs sont remontés jusqu'à lui grâce à l'adresse électronique qui a initialement partagé le fichier.

Il aurait agi pour se venger d'une enquête ouverte à son encontre par le proviseur sur des paiements suspects.

Le prévenu a mené des recherches sur des outils d'IA depuis le réseau informatique du lycée, selon l'acte d'accusation.

La bande sonore, selon l'analyse d'un expert consulté par la police, "contient des traces de contenu généré par l'IA, avec un montage humain a posteriori".

Cette affaire démontre la nécessité "d'adapter la loi aux avancées technologiques", a estimé le procureur local, Scott Shellenberger.

De nombreux lycées américains doivent déjà lutter contre la diffusion par des élèves d'images pornographiques de leurs camarades confectionnées à partir de l'IA générative, une pratique à l'origine de terribles vagues de harcèlement.

Les montages audio sont particulièrement difficiles à déceler. En janvier, un message diffusé par appels téléphoniques automatisés usurpant la voix du président Joe Biden incitait les électeurs démocrates de l'Etat du New Hampshire (nord-est) à s'abstenir lors des primaires pour du parti.

A Pikeville, l'affaire a secoué les habitants, "très proches les uns des autres", raconte Parker Bratton, l'entraîneur de golf du lycée.

"Il y a un seul président, mais il y a un million de proviseurs!", s'inquiète-t-il, "les gens se demandent +Que va-t-il m'arriver si quelqu'un décide tout simplement de détruire ma carrière?+".

F.Hammond--TNT

En vedette

Anthropic en bourse et piratage de GTA 6 : l'actualité tech

Cette semaine, le monde technologique a été marqué par deux événements majeurs : l'introduction en bourse d'Anthropic, premier géant de l'IA coté à Wall Street, et les premières tentatives de piratage du jeu vidéo GTA 6. Ces développements illustrent la dynamique actuelle entre innovation financière et communauté de joueurs.

Première peau artificielle prête à greffer au monde : un exploit technologique français

Plusieurs acteurs publics et privés français, dont le groupe Urgo et le CNRS, ont annoncé vendredi avoir mis au point en laboratoire une peau artificielle conçue pour être directement greffée. Cette technologie, issue de cinq années de recherche, vise à traiter les grands brûlés sans prélèvement sur le patient.

GTA 6 sur PC : la pression monte après les leaks Xbox et PS5

Bien que le pirate informatique Cyberleek ait mis en ligne une version Xbox complète de Grand Theft Auto VI, aucune copie n'est actuellement jouable sur PC. Les obstacles techniques, notamment l'absence d'émulateur fonctionnel et le chiffrement de Sony, maintiennent la communauté dans l'attente d'une sortie officielle prévue pour 2027.

Mazda teste un système de capture du CO₂ embarqué sur une Mazda3

Mazda développe un système embarqué de capture du carbone sur une Mazda3 de course au Japon. Ce prototype aspire le CO₂ pour le stocker dans des bonbonnes, visant à réduire les émissions de gaz à effet de serre tout en prolongeant la vie des moteurs thermiques face à l'électrification.

Taille du texte: