L'assassinat du professeur d'histoire Samuel Paty le 16 octobre dernier a relancé le débat autour de la diffusion des messages haineux sur les réseaux sociaux. "Leurs contre-mesures ne sont pas assez efficaces", fustige Baptiste Robert.

"Des bots pour insulter d'autres personnes toutes les 15 minutes"

Ce hacker toulousain, est plus connu sur Twitter sous le pseudo Elliot Alderson où il réunit plus de 226 000 abonnés et via lequel il a révélé des failles de sécurité majeures sur des applications aux États-Unis, en Inde et en France. S'appuyant sur cette expertise, Baptiste Robert a fondé cet été sa propre société baptisée Predicta Lab pour "écouter les signaux faibles sur les réseaux sociaux" afin de lutter contre les fake news et la haine en ligne.

"Lorsque un événement survient, il y a toujours quelqu'un qui sort son smartphone pour filmer la scène et la partager sur Twitter ou Facebook. L'idée est de capter ce premier signal pour alerter nos clients. Pour y parvenir, j'ai développé des connecteurs sur les réseaux sociaux qui récupèrent de la donnée en fonction de mots-clés prédéfinis. Et ces données sont passées dans un filtre qui est mon modèle de machine learning.

Je pensais que ce serait compliqué techniquement mais en réalité j'ai obtenu des résultats très vite avec des gens qui se donnent leur adresse pour aller se battre, un compte d'élève clamant 'avoir trop envie d'égorger son connard de prof sur Twitter', des utilisateurs qui créent des bots pour aller insulter d'autres personnes toutes les 15 minutes, etc. Ce type d'agissements est puni par la loi."

Avec Predicta Lab, Baptiste Robert cible trois types de clients. En premier lieu, les gouvernements en leur donnant des alertes sur ces sujets de haine en ligne, de désinformation et de terrorisme mais aussi sur la détection de catastrophes naturelles. Le deuxième type de clients visé sont les marques pour gérer leur réputation en ligne et adapter leur communication en fonction de ce qui se dit sur les réseaux sociaux. La troisième cible, ce sont les rédactions de médias pour leur livrer des alertes sur de potentielles actualités.

"Par exemple, notre système a permis de détecter la première vidéo d'un riverain de l'incendie de la cathédrale de Nantes, une heure et demie avant les premiers articles sur le sujet et avant même l'arrivée des pompiers sur place", illustre-t-il.

L'entrepreneur a engagé des discussions avec le gouvernement français et entame des collaborations pour plusieurs marques. Les clients ont le choix entre deux options : une souscription à un nombre défini d'alertes par mois ou un service lié à un projet qui comprend aussi l'installation du dispositif sur le serveur de l'entreprise.

Des millions de vues sur TikTok pour des vidéos insinuant que Joe Biden est pédophile

Si les services de réputation en ligne commencent à se développer depuis quelques années, Baptiste Robert estime qu'il reste toujours un vide à combler en matière de désinformation et de haine en ligne.

Après l'élection de Donald Trump en 2016, Facebook et Twitter ont été pointés du doigt pour leur rôle dans la diffusion de fake news sur la candidate démocrate Hillary Clinton, parfois à l'aide de bots. Cet impact a par la suite été étayé par plusieurs études universitaires. Depuis, les plateformes affichent publiquement leur volontarisme pour lutter contre la diffusion de fake news.

Pour autant, constate Baptiste Robert : "La désinformation a changé mais elle est toujours là". Dans un papier publié sur Medium, il révèle l'ampleur de la diffusion des théories conspirationnistes du mouvement QAnon sur TikTok.

Les partisans de cette mouvance ont envoyé massivement sur le réseau social préféré des ados des messages insinuant que le candidat démocrate à la présidentielle Joe Biden est pédophile. Pour limiter la propagation de cette fake news, TikTok a bloqué certains hashtags comme #joebidenisapedo. Mais les utilisateurs ont trouvé la parade en employant d'autres hashtags. "Certaines vidéos cumulent plusieurs millions de vues. Très souvent, elles mettent en scène une jeune fille très mignonne ou un vétéran bien musclé. Au final, les vidéos finissent par être choisies par l'algorithme et à atteindre une certaine audience", dénonce le hacker toulousain.

Et Baptiste Robert fait remarquer qu'il existe toujours des freins des plateformes pour que des entrepreneurs s'emparent de ces sujets.

"Facebook a donné beaucoup de bases de données aux universitaires. Ces derniers les utilisent pour rédiger des papiers académiques. C'est bien mais cela ne va pas résoudre le problème de fond. Il faut des outils en temps réel. En la matière, les réseaux sociaux ne jouent pas le jeu et ne mettent pas à disposition les outils dont nous aurions besoin. TikTok n'a pas d'API, autrement dit de méthode à destination des développeurs pour récupérer les données. Concernant Facebook et Instagram, on peut même voir dans le code des efforts pour lutter contre l'accès aux données."

Avec sa société Predicta Lab, Baptiste Robert compte œuvrer pour que "Internet redevienne un espace plus serein". Une suite logique pour le hacker qui s'est toujours défini comme "bien intentionné".

Lire aussi : Baptiste Robert, le hacker toulousain qui vous veut du bien