Le mois dernier s’est tenu en Angleterre un AI Safety Summit, où Elon Musk, Brad Smith, le Premier ministre Rishi Sunak et le chercheur Yoshua Bengio ont pu échanger sur l’avenir de l’IA.
Bletchley Park, un manoir qui conjugue le gothique victorien, le style Tudor, le baroque hollandais et… un passé fascinant : c’est ici, dans le comté de Buckinghamshire, dans le sud-est de l’Angleterre, qu’Alan Turing et sa bande de mathématiciens géniaux ont décrypté pendant la Seconde Guerre mondiale le système de communication nazi Enigma.
C’est là aussi que, quatre-vingts ans plus tard, les 1 er et 2 novembre, se sont réunis le Premier ministre britannique, Rishi Sunak, la vice-présidente des États-Unis, Kamala Harris, ou encore la présidente de la Commission européenne, Ursula von der Leyen, pour disserter du futur de l’intelligence artificielle. Dans les allées de ce sommet AI Safety, on croise la crème des chercheurs. À l’instar de Yoshua Bengio, qui a contribué à la mise au point des prémices de l’apprentissage supervisé structurant, c’est-à-dire des neurones artificiels qui, guidés, sont capables de reconnaître des caractères, des formes ou des couleurs.
Né à Paris et installé au Canada, il est à l’origine, au milieu des années 1990, des generative adversarial networks, ou réseaux adverses génératifs : des mini programmes qui rendent l’ordinateur créatif, en particulier en inventant des images. Habituellement posé, il apparaît un peu inquiet. Pendant la conférence, il explique qu’« il faut absolument se préparer à des utilisations dangereuses de l’IA ». Un exemple ?
Il peut s’agir de faciliter la tâche à des personnes malfaisantes en leur permettant de mettre au point des armes chimiques et biologiques ou encore de mener des cyberattaques, tout comme de lancer des campagnes de désinformation.
Et, lorsqu’on lui parle de l’open source, une approche ouverte qui permet à une communauté de chercheurs de corriger des bogues en permanence, il met en garde :
On ne veut pas servir sur un plateau d’argent aux criminels, aux terroristes et aux États voyous des capacités dangereuses aujourd’hui difficilement accessibles.
Pour lui, l’exigence de sécurité doit être comparable à celle demandée à des entreprises qui fabriquent des ponts, des avions ou des médicaments.
Le dernier jour de la conférence, Elon Musk, avocat du projet Neuralink, qui vise à greffer une puce dans le cerveau humain afin de permettre à ce dernier, entre autres choses, de résister aux progrès de l’intelligence artificielle, va jusqu’à prédire devant un Rishi Sunak médusé la fin du travail humain. Ce remplacement de tous nos jobs est une théorie à laquelle Brad Smith n’adhère pas.
Je n’y crois pas une seconde. Je préférerai toujours une salle de classe où le prof est un être humain et non un ordinateur et, si demain je vais à l’hôpital, je préfère m’entretenir avec un médecin plutôt qu’avec une machine
répond le président de Microsoft, avant d’asséner :
Le quotient intellectuel ne fait pas tout, nous avons besoin d’empathie… Les humains doivent rester aux commandes.
