Selon une experte de Cybernews, Meta et TikTok privilégient les profits en laissant des contenus nocifs se propager pour stimuler l’engagement.

Meta et TikTok sont au cœur d’une nouvelle tempête. Selon un rapport de la BBC s’appuyant sur les témoignages de plus d’une dizaine de lanceurs d’alerte et d’initiés, les deux géants des réseaux sociaux auraient sciemment laissé proliférer des contenus préjudiciables sur leurs plateformes pour alimenter une course à l’engagement dictée par les algorithmes. Cette stratégie, qui priorise les cours de la Bourse et les relations politiques au détriment de la sécurité des utilisateurs, est vivement dénoncée par les experts en cybersécurité.

Le « ragebait », un modèle économique lucratif

Au cœur du système se trouve le « contenu borderline » : des publications misogynes, racistes, sexistes ou complotistes qui, bien que néfastes, restent souvent dans les limites de la légalité. Un ingénieur de Meta a révélé à la BBC avoir reçu pour instruction d’autoriser davantage de ce type de contenu pour concurrencer TikTok, notamment dans un contexte de baisse du cours de l’action de l’entreprise. Ces publications, souvent qualifiées de « ragebait », sont conçues pour provoquer une réaction émotionnelle forte de la part de l’utilisateur.

« Puisque les utilisateurs interagissent avec, l’algorithme est amené à « penser » que c’est ce que les gens veulent. Les humains derrière l’algorithme doivent clairement comprendre que ce n’est pas le cas, mais les clics se transforment en argent. Alors pourquoi la Big Tech couperait-elle la branche sur laquelle elle est assise ? », analyse Jurgita Lapienytė, Rédactrice en chef de Cybernews (https://www.cybernews.com), un média indépendant spécialisé dans l’actualité de la cybersécurité.

Le modèle économique semble porter ses fruits. D’après des documents internes de Meta, l’entreprise aurait gagné 16 milliards de dollars en 2024, soit 10 % de ses revenus annuels, grâce à des publicités frauduleuses et à la vente de biens interdits. Une preuve, selon les critiques, que le géant de la technologie est parfaitement conscient de l’ampleur des dommages qu’il peut causer et des profits qu’il peut en tirer.

Radicalisation et santé mentale, les victimes du système

Les conséquences de cette monétisation de la colère sont multiples et graves.

« Pendant que les plateformes et les législateurs prennent leur temps pour débattre de ce qu’est le contenu borderline, les gens doivent faire face aux retombées psychologiques de l’addiction aux réseaux sociaux », poursuit Jurgita Lapienytė.

Elle énumère les maux : « De l’incapacité à distinguer le bien du mal ou le faux du vrai, la perte de concentration, de sommeil, et même du sens de soi, à la radicalisation, la dépression et l’automutilation – les conséquences des manipulations algorithmiques des entreprises pour atteindre leurs objectifs commerciaux sont désastreuses pour l’humanité ».

Le témoignage de Calum, un jeune homme de 19 ans interrogé par la BBC, illustre tragiquement ce phénomène. Il raconte avoir été « radicalisé par l’algorithme » dès l’âge de 14 ans. Les plateformes lui recommandaient en permanence des contenus qui le scandalisaient, le menant progressivement à adopter des opinions racistes et misogynes.

« Les vidéos me dynamisaient, mais pas vraiment dans le bon sens. Elles me mettaient très en colère. Cela reflétait beaucoup la façon dont je me sentais intérieurement, j’étais en colère contre les gens autour de moi », a-t-il confié.

Une menace pour la démocratie et une conformité de façade

Au-delà de la santé mentale individuelle, c’est le tissu social et démocratique qui est menacé. Les adversaires, conscients de la logique algorithmique, l’exploitent pour diffuser de la désinformation et des mensonges, semant la division pour influencer les élections dans le monde entier. Les lanceurs d’alerte pointent également du doigt une hypocrisie systémique. Un employé de TikTok a révélé que l’entreprise priorisait les plaintes impliquant des personnalités politiques afin d’« éviter les menaces de régulation ou d’interdiction », reléguant au second plan des signalements graves concernant des adolescents victimes de cyberharcèlement ou de chantage sexuel.

Pour Jurgita Lapienytė, cette attitude relève de la « conformité performative » : une façade de bonnes intentions qui masque une absence de changement structurel profond. Les plateformes communiquent sur des mesures de sécurité tout en évitant les réformes fondamentales qui nuiraient à leur modèle économique.

L’experte s’interroge ainsi sur « les dommages que cette conformité de façade a déjà causés à la démocratie ».

Face à ces accusations, documentées dans le rapport de la BBC (https://www.bbc.com/news/technology-68532104), Meta a nié amplifier délibérément les contenus préjudiciables à des fins lucratives, tandis que TikTok a qualifié ces affirmations de « fabriquées ».