YouTube, la plateforme de vidéos de Google, ne pourra probablement jamais filtrer 100 % des contenus nuisibles qui lui sont soumis. C’est ce que le CEO de la firme, Sundar Pichai, a concédé au cours d’une interview donnée à CNN Business.  Pichai a admis que définir  la ligne rouge entre la liberté d’expression et les discours de haine était l’un des défis les plus difficiles qui s’étaient présentés à lui depuis sa nomination en tant que CEO de Google.

YouTube a été mis en cause à plusieurs reprises au cours des dernières années pour avoir diffusé des contenus haineux, des théories dd complot et des infox.

Exclure plus de 99 % des contenus indésirables

Et en dépit de ses efforts pour filtrer ce type de contenus, des messages de suprémacistes, antisémites, homophobes ou conspirationnistes ont ​​continué d’apparaître sur sa plate-forme. « Etre confronté au harcèlement en ligne, simplement sur la base de son identité ou de son orientation sexuelle, est tout simplement extraordinairement grave », a déclaré Pichai. « Donc, nous nous sentons responsables en tant que plate-forme. »

Lorsqu’on lui a demandé où il fixait la limite entre la haine et la liberté d’expression sur YouTube, le CEO de Google a expliqué que la firme planchait activement pour la définir, mais qu’il s’agissait d’un défi colossal. « C’est l’une de ces choses pour lesquelles, disons, nous réussissons dans plus de 99 % des cas. (…) Mais notre objectif est de porter ce pourcentage à un très, très faible pourcentage, bien en deçà de 1 % ».

La plateforme utilise une combinaison d’intelligence artificielle et d’employés pour faire respecter ses règles d’utilisation, qui excluent la publication de ce type de contenus. Rien qu’entre le mois de janvier et le mois de mars, YouTube a procédé au retrait de plus de 8 millions de vidéos qui enfreignaient ces règles. La majorité d’entre elles avaient été automatiquement signalées par un algorithme. Cependant, la grande taille de la plate-forme vidéo implique qu’il sera sans doute impossible de les éradiquer totalement.

Une attitude trop attentiste

« Il est peu probable que nous puissions atteindre un score de 100 %. Tous les systèmes à grande échelle rencontrent des problèmes pour exclure les activités indésirables. Les émetteurs de cartes de crédit en sont un bon exemple. Malgré toutes les mesures de sécurité, ils ne seront peut-être jamais en mesure d’éliminer complètement la fraude », a dit Pichai.

Il reconnaît néanmoins que Google a été parfois trop attentiste dans ce domaine. Certaines vidéos inacceptables sont demeurées visibles sur la plate-forme pendant des années. Il aura par exemple fallu 7 ans de batailles juridiques pour que les familles des personnes décédées au cours de la fusillade de Sandy Hook obtiennent le retrait des vidéos conspirationnistes niant les meurtres de leurs proches. « C’est navrant, bien sûr… nous aurions aimé nous attaquer aux problèmes bien plus tôt que nous ne l’avons fait (…) Il faut reconnaître que nous n’avons pas bien géré la situation », a commenté le CEO de Google.

De nouvelles régles… déjà violées

Récemment, YouTube a annoncé de nouvelles règles d’utilisation de la plate-forme pour éradiquer les « vidéos alléguant qu’un groupe est supérieur pour justifier la discrimination, la ségrégation ou l’exclusion fondée sur des qualités comme l’âge, le sexe, la race, la caste, la religion, l’orientation sexuelle ou le statut de vétéran ».

Toutefois, CNN Business a récemment découvert que les comptes appartenant à certains des figures bien connues aux États-Unis pour leurs messages haineux, comme le suprémaciste blanc Richard Spencer, ou l’ancien dirigeant du Ku Klux Klan David Duke, sont toujours actifs sur YouTube, en dépit de ces nouvelles règles.