Ce canular ne passe pas. Trois lycéens américains du Carmel High School au nord de New York ont créé un « deepfake » qu’ils ont ensuite publié sur TikTok, relaie BFMTV jeudi 9 mars. Dans ces fausses vidéos, les jeunes ont mis en scène le proviseur du collège voisin George Fischer en train de proférer des injures et menaces racistes. L’homme semble dans ces séquences qualifier des étudiants noirs de « singes » et leur affirmer qu’ils seraient renvoyés en Afrique, relaie BFMTV. L’interlocuteur se serait ensuite montré plus virulent en déclarant : « J’espère que ces nég*** se feront tirer dessus parce qu’ils n’apprennent tout simplement pas. » Puis de menacer de passer lui-même à l’action en venant au lycée « avec (sa) mitrailleuse ».
Colère des parents d’élèves
Mais ces vidéos étaient bel et bien des « deepfakes » réalisées par les trois lycéens. Ces jeunes se sont servis de l’intelligence artificielle pour falsifier les propos du directeur. Cette technologie permet aussi de modifier le visage d’une personne de façon très réaliste. Si les vidéos ont été retirées, la polémique ne devrait pas s’éteindre de si tôt. Les parents d’élèves ont dénoncé l’inaction de la direction scolaire, qui se serait contentée de dénoncer un « racisme flagrant », sans mettre en place de mesures de sécurité adaptées au collège.
Des dépôts de plaintes envisagés
Dès le 12 février, les vidéos ont été signalées à la direction. Puis le 15 février, le district central de Carmel, gérant à la fois le lycée et le collège, a condamné, dans un communiqué relayé par BFMTV, des « vidéos inappropriées créées à l’aide de l’intelligence artificielle et se faisant passer pour des membres de l’administration du district ». Avant de prévenir que les auteurs des faits seront « traités conformément au code de conduite du district ». Cela n’empêche pas certains parents de vouloir porter plainte contre les autorités scolaires. Leur avocat a même évoqué une « menace terroriste à l’école ».
