Réflexion - Quand la technologie commence à faire peur
Je me suis fait la réflexion lors de la diffusion du dernier gala de la télévision chinoise pour le nouvel an. Une débauche d’images de synthèse, de trucages mais aussi d’IA et de robots. Et si au delà de la démonstration de puissance il fallait y voir le danger à venir ?
Deux numéros m’ont particulièrement marqué cette année : L’un remplaçait l’habituel démonstration d’arts martiaux en mettant en scène des robots armé de sabres et remplaçant les moines Shaolin. L’autre était un spectacle nautique avec des danseurs dans un décor retouché par image de synthèses avec à la fois de vrais drones dans le ciel pour figurer des animaux mais aussi de fausses incrustations, comme un cheval de lumière qui galope. Le choc de cette débauche d’effets continus nous empêche de réfléchir, nous sidère et ne nous permet plus de distinguer le vrai du faux. Surtout lorsque tous les tableaux sont modifiés en temps réel par des incrustations vidéo et effets en image de synthèse pour faire croire que le public est remplacé par de l’eau, avec reflets etc..
Cette capacité à générer de tels effets ne me sidère plus mais m’inquiète. Car si ici c’est détectable car encore un peu grossier ou trop lisse, ce n’est plus le cas pour des vidéos retravaillées par de l’IA. Le coup des doigts manquants ou en trop, c’est déjà du passé. Heureusement pour l’instant en connaissant un peu les lieux où sont censé se passer les choses, on peut détecter les erreurs. Avec les horaires, les lumières aussi. Mais comme souvent avec l’IA, ça demande ses propres connaissances pour détecter erreurs volontaires, halucinations etc.. Un premier danger puisque évidemment ce n’est pas à la portée de tout le monde et sinon il faut tout mettre en doute, être très attentif. Nous avons vu comment Trump a parfois mis volontairement des vidéos trafiquées ou détournées de leur contexte pour abuser la crédulité des “gens”…et le retour de baton avec les créations iraniennes. Il y a ici une rupture de confiance et elle vient des plus hauts sommets des états. Plus récemment, on a vu, sans vraiment incriminer l’IA cette fois, des montages audio ou vidéo détournant des propos de diplomates pour leur faire dire l’inverse. Il n’y a hélas plus de choix : Faut-il douter de tout ou tout accepter. Je répondrais ni l’un ni l’autre car remettre tout en cause peut nous faire basculer dans la paranoïa ou le complotisme (la conquête de la lune, le 11 septembre, …).
vrai ou faux alors?
Et de l’autre coté, il y a cette technologie qui progresse sur la robotique et la capacité des drones à agir par eux même. Nous avons pu le voir encore récemment dans l’attaque illégales de l’Iran par Israel et les USA. Des drones autonomes ont été envoyés pour brouiller les pistes et leurrer les défenses afin de libérer l’espace aérien aux vrais attaquants, dirigés par des humains encore aujourd’hui. Mais ces sortes de drones kamikazes de nouvelle génération, dont le prix doit être faramineux d’ailleurs, laissent entrevoir vers quoi l’IA se dirige. la science a toujours progressé avec le militaire, c’est un fait : Nucléaire, Aviation, Conquête spatiale, Drogues et études du cerveau, et même les premières voitures autonomes… Ce n’est jamais très reluisant pour les droits humains, animaux et la nature. Voilà encore une fois un peuple qui va subir les conséquences de prototypes militaires, comme du temps de la guerre d’Espagne avec les armes allemandes. Pas de convention de Genève de toute façon dans tout cela ou de moratoire comme sur les armes chimiques. On voit poindre le rêve d’une société techno-fasciste sans limite avec des robots qui iront tuer à la place d’humains qui pourraient avoir une clause de conscience. Aujourd’hui c’est une guerre mais demain ce seront dans des polices privées ou publiques.
le dernier robot Hyundai, issus de la technologie militaire de Boston Dynamics
Peu à peu, avec le retour d’états autoritaires, de fascismes, nous voyons se construire ce que des auteurs de Dystopie prophétisaient. On nous montre évidemment les progrès que l’IA apporterait dans la vie de tous les jours, souvent pour des motifs assez futiles d’ailleurs. Mais il y a toujours le revers de la médaille. Et vous conviendrez qu’il est difficile de faire confiance à l’humain pour se modérer, lui qui continue à s’auto-détruire en emportant avec lui d’autres espèces vivantes. Je me pose alors la question de ce que nous pouvons faire. A l’image des armes nucléaires où l’escalade a pu cesser un temps (la tendance semble aussi s’inverser récemment), on peut rêver d’un moratoire sur l’IA entre gens dits civilisés, comme l’a rappelé le…pape. Mais ceux qui ne signeront pas verraient évidemment l’occasion d’être puissants à leur tour, de se protéger. Faut-il arriver encore à un point de non-retour comme dans une guerre mondiale pour que l’on réagisse. Je le crains une fois de plus et je ne peux qu’espérer ne pas le voir de mon vivant. Aujourd’hui nous voyons le Pentagone tisser des liens avec les grandes société d’IA et de cyber-“défense”, trop heureuses de chercher enfin une rentabilité non atteinte à ce genre. Il faut s’imaginer la même chose dans les autres empires, l’Europe étant en ordre dispersé, si ce n’est à la traine.
Dans ce moment, faut-il aller soi-même dans l’escalade à l’armement, dans le toujours plus réaliste pour tromper les opinions? Ou faut-il refuser cela au risque d’être “mangé” ? Je te laisse, lecteur.rice, répondre à cette question et agir si tu le peux encore.
