Après sa victoire aux échecs, l’intelligence artificielle a réussi, récemment, à battre l’homme au jeu de go. Elle trouve désormais des applications pratiques dans de nombreux services en ligne et l’on prédit même la disparition de nombreux métiers humains (y compris celui d’avocat, parait-il, mais quid de la robe ?). Les progrès en IA sont considérables et ne suivent plus les prévisions des scientifiques. Certains d’entre eux s’émeuvent des conséquences possibles : Stephen Hawking, qui n’est pas un rigolo, estime ainsi que l’IA pourrait mettre fin à l’humanité.
Des chercheurs en intelligence artificielle travaillent désormais sur la possibilité de désactiver un programme sans que celui-ci ne s’y oppose. En effet, dans le mécanisme d’apprentissage de l’IA, il est apparu que la « machine » pouvait trouver elle-même des solutions originales pour atteindre son but ou, au moins, éviter l’échec. On évoque ainsi ce programme de Tétris qui, pour éviter de perdre, s’était mis indéfiniment sur « pause »… Les chercheurs se demandent donc si, en intégrant un programme de désactivation – appelé « bouton rouge » – la machine ne chercherait pas aussi à le neutraliser. Ces mêmes spécialistes veulent nous rassurer en nous disant qu’ils ne cherchent pas à stopper des Robocops devenus fou-fous mais seulement à ce que « l’agent » apprenne correctement. Ce qui est fascinant dans ces recherches sur l’IA c’est que tout peut encore être inventé. Et surtout… évité.
Rien de tel dans l’intelligence humaine. On le voit encore aujourd’hui : la France s’apprête à accueillir, du moins elle l’espère, plusieurs millions d’amateurs de football et, à cette occasion, certaines intelligences supérieures ont pensé que c’était une bonne idée de réduire drastiquement l’offre de transports intérieurs et internationaux, de transformer ses grandes villes – à commencer par Paris – en poubelles géantes, d’ignorer les effets des inondations récentes, de manifester contre un projet de loi qui ne concerne pas ceux qui manifestent, et, pour les plus enthousiastes, de casser quelques magasins, agresser des policiers et faire des feux de joie avec des voitures ou, au moins, leurs pneus.
Où est le bouton rouge ?