Stephen Hawking: ‘L’intelligence artificielle peut être la meilleure ou la pire des choses pour l’humanité’

A l’occasion de la sortie du film « Transcendance »,  le célèbre physicien britannique Stephen Hawking a publié une colonne de The Independent. Les découvertes d’Hawking ont été décisives pour la compréhension des trous noirs, de la cosmologie et de la gravité quantique. Il met en garde contre les effets potentiellement dévastateurs pour l’humanité du développement sans contrôle de l’intelligence artificielle qui pourrait rapidement devenir omnipotente :

« Les jalons récemment franchis que sont les voitures autonomes, l’ordinateur qui a gagné au jeu télévisé « Jeopardy ! » et les assistants personnels Siri, Google Now et Cortana, ne sont que les symptômes d’une course à l’informatique alimentée par des investissements sans précédent, et le développement continu fondé par une base théorique de plus en plus mature. Mais ces réalisations feront pâle figure à côté de ce que les décennies prochaines nous apporteront.

Les bénéfices potentiels sont énormes ; tout ce que cette civilisation a à offrir est le produit de l’intelligence humaine ; nous ne pouvons prédire ce que nous pourrons accomplir lorsque cette intelligence sera amplifiée par les outils que l’intelligence artificielle (IA) pourrait fournir, mais l’éradication des guerres, des maladies et de la pauvreté devraient figurer en bonne position dans la liste. Le succès lié à la création de l’IA serait alors l’évènement le plus important de l’histoire humaine.

Malheureusement, il pourrait aussi être le dernier, à moins que nous n’apprenions à éviter les risques. A court terme, les armées du monde envisagent des systèmes d’armes autonomes capables de choisir et d’éliminer leurs cibles ; les Nations Unies et Human Rights Watch ont réclamé un traité pour interdire de telles armes. A moyen terme, ainsi que l’ont souligné Erik Brynjolfsson et Andrew McAfee dans « The Second Machine Age », l’IA pourrait transformer nos économies pour apporter une grande richesse, mais aussi un grand bouleversement.

Lorsque l’on regarde plus loin, on voit qu’il n’y a pas de limites fondamentales à ce qui peut être réalisé : aucune loi physique n’empêche les particules d’être organisées selon des manières qui leur permettraient de réaliser des calculs encore plus avancés que ceux que réalisent les combinaisons de particules des cerveaux humains. Une transition explosive est possible, bien qu’elle pourrait se dérouler de façon différente que celle qui est décrite dans le film [Transcendance, ndlr] : comme Irving Good l’a compris en 1965, des machines avec une intelligence surhumaine pourraient améliorer de façon itérative leur création encore et toujours plus, déclenchant ce que Vernor Vinge a nommé une  « singularité »». (…)

« On peut imaginer que cette technologie pourrait déjouer les marchés financiers, surpasser les chercheurs humains en matière d’inventions, manipuler les dirigeants humains, et développer des armes que nous ne pouvons même pas comprendre. Alors que l’impact à court terme de l’IA dépend de qui la contrôle, son impact à long terme dépend de notre capacité à la contrôler.

Vous croyez que les experts, confrontés aux possibilités de bénéfices et de risques incalculables pour l’avenir, font tout ce qu’ils peuvent pour s’assurer du meilleur résultat possible ? Faux. Si une civilisation extra-terrestre nous envoyait un message disant « Nous arriverons dans quelques décennies », pensez-vous que nous répondrions « OK,  appelez-nous quand vous arriverez, nous allumerons la piste d’atterrissage ». Probablement pas, mais c’est plus ou moins ce qui se passe avec l’IA. Bien que nous soyons confrontés à ce qui puisse être potentiellement le pire ou le meilleur de l’histoire humaine, très peu de recherches sérieuses sont consacrées à ces problèmes, hormis celles menées par quelques organisations à but non lucratif ». (…)

« Chacun de nous devrait se demander ce que nous pouvons faire dès à présent pour améliorer les chances d’en retirer des bénéfices en évitant les risques ».

Show More

Express devient Business AM

Close
Close