Et si l’intelligence artificielle finissait entre les mains de quelqu’un comme Kim Jong-un?

L’intelligence artificielle (IA) est définie comme « la capacité d’un système à interpréter correctement des données externes, à en tirer des enseignements, et à utiliser ces derniers pour atteindre des objectifs et réaliser des tâches spécifiques grâce à une adaptation flexible. » Une définition compliquée pour nous dire que les ordinateurs sont devenus plus intelligents que les humains.

Cela peut avoir d’énormes conséquences. Dans son livre ’21 questions for the 21st century‘, le penseur-philosophe israélien Yuval Noah Harari souligne les dangers de l’IA… Quand elle tombe entre les mains de régimes totalitaires, tels que celui de Kim Jong-un en Corée du Nord:

«À l’avenir, le régime exigera que chaque Nord-Coréen porte un bracelet biométrique. Il surveillera tout ce que cette personne fait et dit, ainsi que sa tension artérielle et son activité cérébrale.

Grâce à une compréhension sans cesse croissante du cerveau humain et à l’énorme pouvoir de l’apprentissage automatique (l’examen automatisé des modèles et des relations dans de grandes quantités de données), le régime nord-coréen pourra découvrir ce que chaque citoyen pense à chaque instant. 

Se réveiller au goulag

Imaginez un Nord-Coréen en train de regarder une photo de Kim Jong-un. Les capteurs biométriques détectent sa colère. (Par exemple, au travers d’une augmentation de la pression artérielle et d’une augmentation de l’activité de l’amygdale). Dans ce cas, cette personne se réveillera le lendemain matin dans un camp de prisonniers. »

L’introduction de l’intelligence artificielle a donc non seulement des conséquences sur l’environnement de travail, qui est de plus en plus automatisé, mais elle a également des implications majeures et inquiétantes pour notre processus politique, écrit l’Israélien. « Imaginez un avenir dans lequel les gouvernements devront attendre que des algorithmes leur donne le feu vert pour leur budget ou leur réforme fiscale. »

Surtout quand ces mêmes politiciens ne comprennent rien à l’IA. À propos, combien de nos représentants élus pourraient vous expliquer exactement ce qu’est l’IA aujourd’hui ?. Et quelles conséquences ses applications pourraient avoir sur le plan social ?

Et pourtant, peu de politiciens ont placé cette perturbation technologique au sommet de leurs priorités. Lors de l’élection présidentielle américaine de 2016, ni Donald Trump ni Hillary Clinton n’ont discuté des conséquences de l’automatisation sur les pertes d’emplois. La portée de la technologie ne s’est retrouvée à l’ordre du jour que récemment dans le contexte du scandale du courrier électronique de Clinton. Ou en ce qui concerne l’impact présumé des médias sociaux sur les résultats des élections.

Plus