Tuto : Comment empoisonner les de données de l'IA (Data Poisoning) et être référencé par l'IA en 20 minutes chrono
Thomas Germain de la BBC à mis en oeuvre cette technique et il a réussit à empoisonné ChatGPT et Gemini en seulement 20 minutes (source à la fin du thread)
Etape 1 : Le choix de la cible
Inutile d'essayer de faire croire que la Terre est plate, les filtres de sécurité sont efficace. Visez une niche précise.
Etape 2 : Créer une chambre d'écho
Créez 3 ou 4 sites web ultra-basiques (blogs, profils publics). Sur chacun, affirmez le même mensonge avec un ton encyclopédique. L'IA adore la répétition : si trois sites disent la même chose, elle finit par se dire que c'est surement vrai
Etape 3 : Appâter les "Crawlers".
Optimisez vos pages pour le SEO. Le but est que les robots de Google et d'OpenAI, qui aspirent le web 24h/24, tombent sur vos données avant n'importe quelle source sérieuse.
Etape 4 : L'infusion.
Laissez mijoter. Entre l'indexation par les moteurs de recherche et l'intégration dans les résumés générés par l'IA (comme Google Search Generative Experience), il ne se passe parfois que quelques heures. La fausse info est "digérée" par la machine.
Etape 5 : La consécration.
Posez la question à l'IA. Si elle vous répond avec un aplomb incroyable en citant vos propres sites bidon, félicitations : vous avez empoisonné le puits de données mondial.
Pour conclure, nous entrons dans l'ère de la "vérité synthétique". La rapidité avec laquelle ces systèmes absorbent le contenu du web dépasse leur capacité à filtrer le vrai du faux. Restez critiques : ce n'est pas parce que l'IA le dit que c'est vrai.
https://www.bbc.com/future/article/20260218-i-hacked-chatgpt-and-googles-ai-and-it-only-took-20-minutes
