Les machines ne sont pas encore capables de démasquer les fausses nouvelles

Les machines ont encore peu de talent pour distinguer les fausses nouvelles des vrais reportages, indique une étude réalisée par des scientifiques du Massachusetts Institute of Technology (MIT) et de l’Université Cornell aux États-Unis et de l’Université de Tel Aviv en Israël. Les chercheurs notent que l’intelligence artificielle utilisée réalise néanmoins parfaitement les objectifs de la technologie.

Cependant, selon les scientifiques, il est faux de penser que cette technologie pourrait aussi permettre de révéler des fausses nouvelles.

Signature

« Ceux qui s’attendent à ce que l’ordinateur apprenne à pouvoir enrayer l’épidémie de fausses informations qui se propage sur Internet seront déçus », souligne le chercheur Tal Schuster, informaticien au Massachusetts Institute of Technology.

« Les machines sont parfaitement équipées pour identifier les textes produits par d’autres machines. En revanche, la technologie n’est pas particulièrement capable de distinguer les déclarations vraies des déclarations fausses. »

Les scientifiques de l’Allen Institute of Machine Learning ont déjà démontré l’année dernière que leur réseau de neurones Grover était en mesure de déterminer les textes générés automatiquement par des réseaux similaires. De tels systèmes utilisent une méthode qui est une sorte de signature. Toutefois, les systèmes automatiques choisissent des combinaisons de mots plus mondains, moins inventifs que les écrivains humains. En détectant cette signature, Grover était capable de dire quand un texte avait été créé par une machine.

Agences de presse

« Cependant, cela ne signifie pas que la plate-forme serait automatiquement capable d’identifier les textes contenant de fausses informations », expliquent les chercheurs. « Pour aboutir à cette conclusion, il faudrait supposer que tous les textes de machines sont faux et que tous les messages de sources humaines sont vrais. »

« Mais, ce n’est pas le cas. De plus en plus de systèmes automatiques sont utilisés pour convertir des informations en messages simples. Ce système est notamment utilisé par les agences de presse pour publier des informations légitimes. Cependant, la même technologie peut également produire de fausses nouvelles. »

« Avec les possibilités actuelles, les machines ne sont donc pas appropriées pour détecter les fausses nouvelles », concluent les chercheurs.

Plus