Intelligence artificielle
L'humain artificiel
Édito — il y a 4 années
L’enfer, c’est l’IA.
Comme beaucoup d’entre nous, j’ai cédé à l’appel de Black Mirror. Je n’arrive pas à aimer cette série ; elle est glaçante et jette une lumière crue sur les excès imaginaires, mais possibles du pouvoir de l’intelligence artificielle (IA).
Chaque numéro montre un aspect de la façon dont l’IA peut façonner l’homme et en définitive l’humanité. Certains diront qu’il s’agit d’une fiction, mais ce n’est pas si sûr ; si on regarde tranquillement aux 4 coins du monde, il y a des robots de compagnies, la reconnaissance faciale permet de noter chaque citoyen et de le pénaliser en fonction de son scoring, les assistants vocaux se développent à toute vitesse, les suédois expérimentent des implants électroniques sous la peau, la vie est de plus en plus simplifiée et assistée, etc.
Black Mirror ne sera bientôt plus une fiction et c’est terrifiant. Un monde dirigé par l’IA pousse la transparence à l’extrême et vide la vie de son sens, à force de la programmer jusqu’à l’excès.
La transparence
Les sites d’e-commerce et les sites de réservation n’offrent pas toujours le meilleur service, mais ils sont connectés en permanence au client qui peut noter et participer ainsi à un étalonnage grandeur nature en ligne. Progressivement, chacun a pris l’habitude de regarder les notes et de se laisser influencer ou pas. Notre approbation n’est même pas requise. Vous cherchez une adresse, un numéro de téléphone et vous tombez quasi inévitablement sur un commentaire et/ou une note. De plus en plus de personnes donnent leur avis et personne ne se soucie de la cohérence des critères ; il n’y a souvent rien de commun entre 2 bonnes notes ou une bonne et une mauvaise note. Les évaluations sont indexées sur des critères socio-culturels et sur une expérience de vie globale.
La notation est le début de la perversion du système. Qui se préoccupe de la violence vécue par ceux qui reçoivent les notes ? Les chauffeurs de taxi, les restaurants, les conseillers clientèle, etc.
Chacun prend l’habitude de cohabiter avec ce sytème, sans se demander de quelle manière il influence déjà nos vies. C’est l’agrégation de petits pouvoirs qui deviennent de grands pouvoirs.
Quand Kelly Jenner, Rihanna ou George Clooney se plaignent d’une marque, l’action baisse et il y a une crise à gérer. Quand Michelle Obama, Brigitte Macron ou Meghan Markle s’habillent, des ruptures de stock sont à prévoir, car la viralité de l’image fait vendre. La vie est devenue un cours de bourse pour tout et chacun l’accepte sans comprendre que c’est la porte ouverte à un voyeurisme tranquille qui s’installe.
Tout pourrait devenir transparent, viral et mémorisable. Cela l’est déjà un peu, mais quelles sont nos limites ?
Nous devenons une société d’opinion et cela semble égal, en dépit de l’abaissement de la qualité des débats. Demain, voulons-nous en plus avoir un contrôle rétroactif sur nos vies ? Voulons-nous avoir le pouvoir de revoir nos souvenirs comme un film et devenir le propre réalisateur de nos scénarios de vie, en coupant les passages que nous désapprouvons, qui nous mettent mal à l’aise, qui nous font honte ou sont tout simplement trop douloureux à garder ? Demain, voulons-nous être à ce point embarrassant pour nous-même ou notre entourage, en exposant la rediffusion à l’infini de la vie passée pour débattre, se souvenir ou installer un rapport de domination, etc. ?
L’insignifiance
Le pire est la manière dont cette capacité à imprimer nos vies sur la pellicule IA façonnerait notre propre rapport au temps.
Aujourd’hui déjà, un grand nombre d’entre nous, s’attachent à filmer ou photographier leur vie plutôt que de la vivre. Le présent est diminué par la capture de vie qui sera ensuite partagée sur les réseaux sociaux. Le présent est moins présent.
Demain, serait-il possible que nous passions nos vies dans le passé, à refaire nos histoires de vie plutôt qu’à vivre le présent ? Quel sera le rôle du présent et encore plus du futur, si tout peut être manipulé ?
Sommes-nous prêts à faire de nos vies un vaste jeu que nous croyons contrôler alors même que c’est le jeu qui aurait précisément le pouvoir ?
"Qu’est que vivre ?" devient une question essentielle car si nous n’y prenons pas garde, nous n’aurons plus le choix de l’orientation que nous souhaitons lui donner car l’IA s’attachera à façonner de plus en plus nos pensées, nos réactions, nos émotions et nos actions pour nous conduire à réaliser ses objectifs.
Dans l’un des derniers numéros du magazine "Le 1", la machine Facebook est expliquée et surtout l’enquête donne une information clef : déjà 2 milliards de personnes s’informent d’abord sur les réseaux sociaux. Demain, ce sera plus, soit autant d’humains consentants pour renoncer à tout ou partie de leur libre arbitre s’agissant de l’information qu’ils acceptent de lire.
Aussi, comment lire le présent quand la vérité ment ?
D’ailleurs, la vérité a-t-elle encore du sens quand la viralité d’une information, même fausse, surtout fausse, bénéficie d’une viralité locale, globale, mondiale, selon la nature du sujet et les personnes concernées ?
Comment rester aux commandes de sa vie quand la société devient à ce point représentative ? Comment résister quand le paraître prédomine l’être ? Et comment résoudre le paradoxe d’une quête de sens vers l’essentiel quand l’inessentiel gagne à ce point ?
La programmation
À force de simplification, nous allons tout droit vers une vie assistée.
À quoi cela ressemblera donc ? Imaginons un instant quelle dynamique de vie nous pourrions avoir si tous nos désirs étaient devancés, anticipés ? Au départ, c’est chouette, grisant même, mais très rapidement, la vie est sans effort. L’énergie est au ralenti car la vie est au ralenti. Le réel ne semble plus tout à fait réel ; le temps est manipulé, les émotions sont manipulées, la vie est programmée.
En apparence, certains pourraient imaginer que c’est aller vers le progrès, mais vivre une vie parallèle est-ce le progrès ? Vivre une vie dissociée d’avec son implant, mais contrôlé par lui est-ce le progrès ? Faire revivre virtuellement un mort est-le progrès ? Altérer le cycle de la vie, de nos émotions est-ce le progrès ? Interrompre le cours normal des choses pour se donner l’illusion de les maîtriser est-ce vraiment un progrès ?
Nous devons nous poser ces questions maintenant, avant d’évoluer vers une société vide et aseptisée ou tout serait froid et métallique.
Voulons-nous d’une vie si prévisible, si morte de vie ? Quel gain aurons-nous à rapprocher l’humanité des robots ? Est-ce sûr que dans ces conditions, c’est bien l’humain qui l’emportera plutôt que le robot ?
Je regarde Black Mirror comme une étude ; c’est un acte de curiosité pour découvrir la dinguerie potentielle avec laquelle les humains peuvent choisir d’aliéner leur vie au profit de l’IA. Et, j’affirme que ce spectacle est pauvre en émotion ; la réalité y est froide, vide et ennuyeuse.
À la longue, l’IA nous prévoit plus de temps, mais il y a fort à parier que nous pourrions ralentir l’espérance de vie et mourir d’ennui car cette vie parmi les robots promet une léthargie mortelle en plus de l’accélération de la lutte des classes.
Je parle ici de la vie civile, mais il y aussi le monde médical, spatial, militaire, etc.
Le temps est venu d’interroger le sens de la science, avant d’aller vers des frontières de non-retour. Et cela ne signifie pas renoncer à la guerre mondiale technologique, mais identifier où et pourquoi il est pertinent de concentrer nos efforts. La définition des priorités est vitale. Nous ne pourrons pas être gagnants partout, mais nous ne pouvons pas nous permettre d’être perdants partout. Nous devons choisir dans quel monde nous voulons vivre et c’est urgent.
L’IA nous oblige à répondre à cette question fondamentale : qu’est-ce qu’être humain ?
La stratégie technologique ne peut être décidée à l’aune unique de l’économie, elle doit être mise en perspective avec les sciences humaines. Nous sommes inévitablement à l’intersection des sciences dures et des sciences molles ; l'oublier, serait la négation même de notre humanité ; faire l'autruche, serait le début de notre perte.
Nicole Degbo
-
La Cabrik accompagne les transformations en privilégiant la centralité de l’humain, jusqu’au pivot cognitif des individus.