Cover image

Devrions-nous interdire l'intelligence artificielle?

L’heure de mettre en place une police de l’AI ou d’interdire l’AI de Google?

Une intelligence artificielle développée par la filiale Deep Mind de Google, AlphaGo, a réussi à battre quatre fois le Sud-coréen Lee Sedol dans une série de cinq matchs du jeu de go. Sedol est considéré comme le meilleur joueur de go du monde.

AlphaGo est un ensemble d'algorithmes d’intelligence artificielle (AI), basés sur le cerveau humain.

Le go est considéré comme le jeu le plus difficile du monde et il est plus complexe que les échecs, par exemple.  On dénombre 10171 combinaisons possibles, contre 10 38 aux échecs.

Wikipedia :

"Une partie de go se déroule sur un tablier, le goban, sur lequel est tracée un quadrillage de 19 lignes horizontales par 19 lignes verticales, noté 19×19, qui déterminent 361 intersections. (...) Les deux adversaires placent des jetons noirs et blancs, appelés pierres. Dépourvues de toute inscription ou décoration, les pierres ont toutes la même forme, et ne se différencient que par la couleur.(...) Le but est de répartir le plateau entre les deux joueurs en dessinant des territoires, chaque intersection contenue dans un territoire valant un point.(...) Noir commence en déposant une pierre de sa couleur sur une intersection du plateau. Puis, à tour de rôle, les joueurs posent une nouvelle pierre sur une intersection vide du goban. Lors d'une partie typique, les joueurs se placent d'abord proches des coins, les territoires étant plus facile à construire en s'aidant des bords du plateau."

Le jeu se termine d'une manière naturelle par consentement mutuel, quand la zone est divisée de telle sorte qu’aucun nouveau mouvement n’apporterait aucun avantage supplémentaire.

Selon Laurent Alexandre, le PDG de DNAVision, une société française spécialisée de biologie moléculaire, le moment est venu de mettre en place un système qui permet de contrôler l'intelligence artificielle.

Le Monde (accès payant): 
“Est-il raisonnable d’apprendre aux machines à tromper, dominer, dépasser les hommes  ? Est-il sage de leur apprendre à cacher leurs intentions, ­à déployer des stratégies agressives et manipulatrices comme dans le jeu de go  ? (...)

Il est sans doute impossible d’interdire l’IA de ­Google, mais il faut mener une réflexion mondiale sur l’encadrement des cerveaux faits de silicium. Ce d’autant que la victoire de Google va accélérer la ­bataille industrielle entre les géants d’Internet qui ­placent l’IA au cœur de notre civilisation. La police de l’IA deviendra cruciale dans les décennies qui viennent.”

Peut-être devrions-nous éventuellement réfléchir à ce que nous devrions faire si une armée de quelques centaines de milliers d’individus tels que celui-ci venaient à nous: