L'IA "générative" a fait un immense bond en avant et s'infiltre un peu partout y compris sur ce forum où je note l'arrivée de bots(?) qui agissent de façon de plus en plus subtile.
Les premières générations de "spam" bots étaient basique. Le robot s'inscrivait sur le forum et postait un message de "pub" souvent en anglais d'ailleurs. La détection était évidente.
Puis ça évoluer, les bots faisaient des réponses "banales" à d'anciens posts (style "super!") mais ajoutait des liens dans la citation. Aucune chance que vous cliquiez sur ces liens, ce n'était pas le but des spameurs, il s'agissait simplement d'améliorer le référencement google de leurs clients (une technique basique de SEO). J'ai eu un petit délais, mais là encore une fois que l'on a compris le truc la détection reste assez facile.
Depuis quelques mois les choses se sont un peu corsées. Je note en effet la présence de nouveaux inscrits trop polis pour être honnêtes qui se servent du contexte d'une discussion pour faire des réponses élaborées dans un français "parfait".
C'est perturbant car il n'y a pas de spam "évident", sans doute s'agit-il de gagner de la confiance dans un premier temps avant de pouvoir placer des liens ou de tenter d'influencer. La levée de doute est de plus en plus complexe.
Ce genre d'agent peut-être infiniment patient et répondre poliment à plein de messages avant de dévoiler son vrai but. J'ignore aujourd'hui le niveau de perfectionnement de ces "agents", mais il ne faut pas beaucoup d'imagination pour extrapoler que leur automatisation sera de plus + plus grande et que leur comportement même deviendra plus intelligent avec le temps. Les LLM étant généralement multilingues le binz va être global.
S'il est "rentable" pour d'avoir des usines à troll humaine avec l'IA ça va juste être bien pire...
Bref au niveau des échanges "virtuels" la vigilance est de mise plus que jamais...
Petite video qui invite à la réflexion sur l'IA en général :
T.
