On ne présente plus la série Black Mirror que Netflix a récupérée en produisant la saison 3. Disponible depuis le 21 octobre, cette saison continue à s’attacher de modéliser un futur réel possible. Quelles que soient la puissance et l’efficacité des technologies que nous utilisons au quotidien, il est nécessaire que nous les questionnions et les remettions en cause justement d’un point de vue éthique et proposions des gardes-fous pour éviter le pire.
Le dernier épisode de cette saison, Haine Virtuelle, est intéressant à plus d’un titre car il souligne une tendance qui pointe depuis deux ans le bout de son nez : le jury populaire version 3.0, complètement dématérialisé. Manipulations, colères et théories du complot sont largement exploitées sur le net à des fins peu glorieuses dans la plupart des cas et particulièrement sur les réseaux sociaux. Sans encadrement, ces cercles deviennent rapidement des anti-chambres de jugements hâtifs et définitifs. Pour l’instant, ces comportements de masse n’ont tué personne, mais cet épisode de Black Mirror nous prévient que nos comportements irréfléchis et notre méconnaissance de la technologie peuvent mettre la vie d’autrui en danger(et par effet boomerang, les nôtres).
Haine Virtuelle, un synopsis qui glace le sang
Nous nous excusons par avance auprès de nos lecteurs et lectrices qui n’ont pas encore vu cette série et particulièrement cet épisode, pour le spoil à venir. Haine Virtuelle (Hated in the Nation, en anglais) raconte l’histoire de la mort d’une journaliste dont le dernier article provoque sur les réseaux sociaux et le web une vague de haine sans précédent. Elle entraine donc une enquête de la police et les deux enquêtrices vont découvrir avec horreur que la journaliste a été assassinée par des abeilles-drones, piratées par des individus dans le but de les faire exploser dans son corps. A l’origine, ces petits robots avaient un but pacificateur puisqu’ils pollinisaient les plantes et supplantaient la disparition de nos petites abeilles. Hackées par des pirates, elles deviennent de véritables engins meurtriers grâce aux données géolocalisées de la victime dont le comportement a été jugé incorrect par des internautes sur un réseau social.
Sur cette plateforme d’échanges en nombre de caractères limités (toute ressemblance avec un réseau social mondialement connu est ici complètement fortuite), le hashtag #DeathTo focalise les commentaires et les contenus des internautes désireux de faire la peau à cette journaliste. Dans cet épisode de Black Mirror, ils ont le pouvoir d’exécuter un individu et s’arroge le pouvoir de dénoncer publiquement les personnes qui ne suivent pas leur idéologie. Ici l’espace public devient juge, parti et exécutant. Dans ce contexte narratif, nous ne sommes plus dans le vivre ensemble et encore moins dans le savoir-vivre. Le réseau social remodélise complètement cet espace, pour le meilleur et le pire.
Vous pensez néanmoins que cela reste de la fiction et les gens sont par nature raisonnables ? Des événements récents prouvent justement le contraire.
L’histoire de Cecil, le lion en contrepoint de Black Mirror
Rappelez-vous, c’était il y a un peu plus d’un an, les réseaux sociaux s’enflammaient pour la mort de Cecil, un magnifique lion, connu des touristes et des scientifiques, tué illégalement par un chasseur américain Walter Palmer. Sa mort suscita une indignation mondiale parmi les défenseurs de l’environnement qui demandèrent aux politiques des réponses rapides pour éviter un tel massacre à l’avenir.
La ressemblance avec l’épisode 6 de Black Mirror commence avec ce qui va suivre. Palmer fut inondé de messages vraiment haineux sur les réseaux sociaux, des activistes donnèrent des détails sur sa vie privée et l’inscription Lion Killer a été taguée sur sa porte de garage. Les réactions se sont organisés autour de #CecilTheLion et continuent encore aujourd’hui.
Même si cette colère n’a pas donné lieu au lynchage de cet homme, certains tweets étaient sans équivoque :
Contrairement à l’épisode de Black Mirror, d’autres réactions plus positives ont provoqué des réponses législatives à ce braconnage illégal. Cependant, les réactions épidermiques questionnent ce qu’est devenu l’espace public, conçu pour exercer sa citoyenneté et où se tient l’échange et le débat afin de devenir un contre-pouvoir à une hégémonie politique (appelons-la pensée unique, pour faire simple). L’instantanéité des réseaux sociaux et en particulier de Twitter abolit cet espace en facilitant la surinformation et la surréaction.
Si l’histoire de Cecil n’était qu’un exemple isolé, on n’aurait rien à craindre mais la manipulation entre en résonance avec des comportements malveillants, nous sommes en droit d’exiger des garde-fous pour éviter le pire.
L’expérience Tay nous invite à la prudence
Tay est cette expérience conduite par Microsoft sur Twitter. Lancée en mars dernier, Tay était une IA capable de converser et d’interagir avec les internautes. Au fil de ses échanges, elle se construisait une personnalité. Elle a tourné court rapidement car en l’espace de 24h, ce bot était devenu raciste, complotiste et faisait l’apologie du Parti Républicain, une fois entre les mains d’internautes haineux et peu scrupuleux.
Comme dans Haine Virtuelle, la manipulation, voire ici le hacking de Tay, nous montre un visage de la technologie qui est tout sauf neutre. Mal contrôlée, elle devient rapidement un cercle vicieux, où l’enjeu même de popularité est fragile, car l’arroseur peut devenir l’arrosé en l’espace d’un clin d’oeil. Tout n’est pas affaire de communication (quoi que) mais aussi et avant tout de temps de réflexion. Les réseaux sociaux ont besoin d’éthique et si possible pas une dictée par un algorithme ou une intelligence arttficielle.