Superintelligence. Il n’y a pas plus évidente et enfantine appellation à poser sur la notion scientifique d’une intelligence qui serait supérieure en tout point à celle des humains. Mais écrire « supérieure » est encore trop faible. Il faut se représenter la chose comme suit : une superintelligence serait à l’intelligence humaine ce que l’intelligence humaine est à celle des lombrics. Il s’agirait d’un déclassement colossal dans tous les domaines.

Dans cet essai scientifique et philosophique, Nick Bostrom (informaticien et philosophe suédois, professeur à l’université d’Oxford et directeur du Future of Humanity Institute) analyse, avec ce qui m’a paru être une grande froideur, les chemins possibles vers cette superintelligence et les dangers existentiels qui en découlent pour notre espèce.

Cependant, même si ce livre semble catastrophiste, il recèle un intérêt majeur. Comme, selon toute vraisemblance, l’intelligence artificielle est la meilleure candidate à l’avènement d’une superintelligence, cela laisse une marge technique pour étudier et implémenter des solutions de contrôle dont certaines sont évoquées par l’auteur. C’est le grand mérite de cet ouvrage qui reste toutefois, il faut le signaler, difficile d’accès.

Malgré cela, ce n’est pas une lecture très rassurante… Déjà parce que le livre a été publié en 2014, et qu’en s’intéressant aujourd’hui à la technique de l’IA on se rend compte qu’on tombe avec difficulté sur les solutions de contrôle proposées par l’auteur, comme si ce champ de la recherche qu’il estime pourtant crucial n’avait pas été investi par le plus grand nombre (après, je ne suis en rien expert, et peut-être que d’autres théories plus solides évoluent dans les milieux scientifiques épargnant le grand public… mais c’est quand même douteux) ; et ensuite parce que Bostrom lui-même, bien qu’il s’en défende brièvement à la fin de son opus, ne respire pas la confiance pour l’humanité, c’est le moins qu’on puisse dire…

Avant que ne survienne une explosion d’intelligence, nous autres humains sommes comme des petits enfants qui jouent avec une bombe. Décalage entre le pouvoir de notre jouet et l’immaturité de notre conduite. La superintelligence est un défi, auquel nous ne sommes pas préparés et auquel nous ne serons pas prêts avant longtemps. Nous n’avons qu’une petite idée de la détonation qui se produira, même si, quand nous approchons le dispositif de notre oreille, nous entendons un vague tic-tac.

Un enfant qui aurait une bombe dans ses mains devrait évidemment la déposer gentiment, sortir rapidement de la pièce et contacter l’adulte le plus proche. Mais ce que nous avons ici, ce n’est pas un enfant mais beaucoup d’enfants, chacun avec un mécanisme de déclenchement à sa portée. Les chances que nous aurons tous la sagesse de déposer cette chose dangereuse semblent à peu près nulles. Un imbécile est prêt à appuyer sur le bouton, juste pour voir ce que ça fait.

Nous ne pouvons pas parvenir à plus de sécurité en nous enfuyant, parce que le souffle de l’explosion fera tomber le firmament même. Et il n’y a aucun adulte à l’horizon.

Pas question, dans une telle situation, d’éprouver un sentiment d’exaltation genre « ça alors ! ». La consternation et la peur seraient plus indiquées ; mais l’attitude à adopter, c’est plus une détermination glacée à être aussi compétents que nous le pourrons, un peu comme si nous nous préparions à un examen difficile qui nous permettrait de réaliser nos rêves, ou qui les détruirait.

Bon, rien que ça…

Et puis même les « rêves » et bénéfices qu’une superintelligence contrôlée pourrait nous permettre d’accomplir ont quelque chose de glaçant (en tout cas pour moi). La coupure anthropologique serait si forte que ce serait de toute façon la fin de l’espèce humaine telle que nous la connaissons. Quand on fait un petit effort d’imagination, il est difficile de sentir appartenir à la même humanité que les futurs humains. Il y a un côté « nous n’avons été que cela, à peine des australopithèques pour ceux qui naissent après la superintelligence contrôlée... » Mais j’extrapole sans doute trop.

En conclusion, un livre très intéressant, lourd, terrible, et qu'on espère trop grandiloquent dans ses suppositions.

Activité sur Superintelligence: Paths, Dangers, Strategies