On vote où on chatbote ?

Bonjour.

Bien que sa compagnie littéraire soit très agréable, aimer ou ne pas aimer Harari, là n'est pas la question.

Dans Nexus, comme à son habitude, Y.N.Harari traite du rapport de l'humanité au monde. Son objectif est cette fois-ci rien moins que l'évolution de la communication humaine à travers ses outils tels que l'écriture, et donc le livre, la presse, et pour faire vite...l'IA actuelle.

La différence avec ses précédents ouvrages, dont la forme très accessible au grand public reste égale, réside dans l'immédiateté de notre projection dans un futur qui est en train de très vite nous envahir dans notre actuel présent. Et nous ne sommes pas prêts, aucun humain, ni aucune organisation humaine actuelle, à affronter les capacités logiques pures de l'IA ni sa vitesse d'exécution.

Pour l'IA, le problème d'une chaloupe capable de sauver 20 personnes dans une situation de noyade où il faudrait en sauver 50, ni violons ni problème : on en sauve 20. Point à la ligne. L'humain a la "faiblesse" de voir le problème sous d'autres angles qui échappent totalement à l'IA telle qu'elle semble exister et fonctionner actuellement. L'autre problème, c'est que, si ces "raisons que la raison ignore" échappent à l'IA, les fondements du raisonnement et des décisions de l'IA reposent sur des quantités astronomiques de "données" humaines, là où l'être humain réfléchi à partir d'un corpus académique réduit et de données vécues ridiculement peu nombreuses. La seule lacune de l'IA, et qui fait sa puissance potentiellement dévastatrice, c'est de n'avoir pas de sentiment en quoi que ce soit. C'est inhumain. Et il est humainement inacceptable d'être sous l'autorité de tels raisonnements. L'Histoire du 20ème siècle nous en a donné un échantillon. La suite pourrait en confirmer sa généralisation.

Et c'est bien là le plus alarmant.

On apprend que l'IA peut d'ores et déjà se faire passer imperceptiblement pour un être humain, et ce de façon massive, par exemple par l'intermédiaire des chatbots sur internet, actuel réseau planétaire d'information et d'influence par excellence. L'analyse des dernières élections américaines montre que des pourcentages élevés de tweets générés par chatbots ont pu profondément influencer les votants, et ce de façon massive.

On parle là des fondements mêmes d'une démocratie, voire des rapports de base de toute société humaine quelle qu'en soit la couleur politique : la voix individuelle issue d'une communication entre humains en vue de décisions prises ensemble par des humains concernant leurs existences d'êtres humains. Ou pas. Car si un nombre suffisant de voix de robots non identifiées et hautement manipulables par des forces non identifiées, participe invisiblement aux débats par le biais des réseaux sociaux, on peut penser que ce sont les robots qui vont finir par voter par la main des hommes et des femmes.

Ceci n'est plus de l'ordre du gadget jetable. Mais du gadget explosif, aux dimensions mondiales.

Ceci semble important, et c'est beaucoup plus passionnant, clair et convainquant quand c'est Harari qui l'expose.

Une lecture hautement recommandable, dans toutes les langues et dans tout pays où des êtres humains se désirent libres de penser par eux-mêmes leurs décisions, et de rester conscients de leur condition humaine sensible, sensée, pensante et agissante, quel que soit le régime politique en place.