Les réseaux sociaux vont bientôt subir des attaques massives d'agents IA, préviennent les scientifiques

Attaques massives de bots IA : une nouvelle menace pour les réseaux sociaux

Dans un avenir proche, des campagnes à grande échelle pourraient émerger sur les réseaux sociaux, orchestrées par des bots dotés d’intelligence artificielle (IA). Ces bots imiteront le comportement réel des personnes et exploiteront la propension psychologique à « la sagesse de la majorité », afin de manipuler l’opinion publique. En conséquence, ils seront capables de :

* Diffuser de fausses informations
* Exercer une pression sur des utilisateurs individuels
* Influencer les processus politiques

Ainsi, les bots IA pourraient devenir un nouveau type d’arme dans les guerres d’information.

Comment fonctionnent les futurs bots
Le professeur norvégien Jonas Kuns advient que les bots IA seront capables de :

1. Imiter les gens : leur activité semblera naturelle, rendant difficile leur détection.
2. Créer l'illusion d’une foule : les gens suivront la « sagesse », mais en réalité cela sera dirigé par un opérateur inconnu (individu, groupe, parti politique, entreprise ou fonctionnaire).
3. Poursuivre ceux qui refusent de rejoindre : les bots peuvent supprimer les contre-arguments et renforcer leur propre récit.

Il n’existe pas encore de dates précises pour l’apparition de ces « robots », mais les experts estiment qu’ils sont déjà déployés dans certains endroits. La menace s’accentue par le fait que les écosystèmes numériques sont affaiblis par la perte du discours rationnel et l’incertitude générale sur la réalité parmi les citoyens.

Des bots simples aux bots complexes
* Les bots primitifs représentent déjà plus de la moitié du trafic web. Ils accomplissent uniquement des tâches basiques : publier des messages standard, mais ils peuvent être détectés facilement s’il y a des opérateurs.
* Les bots IA basés sur de grands modèles linguistiques seront beaucoup plus sophistiqués.
* Ils s’adaptent aux communautés spécifiques.
* Ils créent plusieurs « personnalités » avec mémoire et identité.
* Ils s’auto-organisent, apprennent et se spécialisent dans l’exploitation des faiblesses humaines.

Kuns les compare à un « organisme autosuffisant », capable de coordonner ses actions sans intervention humaine constante.

Des signes déjà visibles
L’année dernière, l’administration de Reddit a annoncé une action en justice contre des chercheurs qui utilisaient des chatbots pour manipuler l’opinion de 4 millions d’utilisateurs. Les résultats ont montré que les réponses IA étaient trois à six fois plus convaincantes que les publications réelles.

* L’ampleur de l'attaque dépend de la puissance de calcul du malfaiteur et de la capacité de la plateforme à y résister.
* Même un petit nombre d’agents peut avoir une influence significative dans des communautés locales, car les nouveaux participants seront perçus avec suspicion.

Ce que peuvent faire les administrations des réseaux sociaux
1. Renforcer l’authentification : exiger la confirmation que l’utilisateur est humain (pas une panacée, mais compliquera la tâche aux malfaiteurs).
2. Scanner le trafic en temps réel : détecter les anomalies statistiques et les écarts par rapport au comportement normal.
3. Créer des communautés d’experts : rassembler spécialistes et institutions pour surveiller les attaques, réagir et accroître la sensibilisation publique.

Ignorer ces mesures peut entraîner de graves dysfonctionnements lors des élections et d’autres événements importants.

Conclusion
Les attaques massives de bots IA ne sont plus une simple problématique théorique. Elles représentent une menace réelle pour l’échange honnête d’informations, la démocratie et la stabilité sociale. Pour se protéger, les plateformes et les utilisateurs doivent adopter activement de nouvelles technologies de détection et accroître le niveau de pensée critique dans la société.