Как российская пропаганда «отравляет» ИИ‑чат-ботов, заставляя их повторять ложь

The Times: Исследование Demos показало, что ChatGPT, Gemini, Claude, Mistral и Grok воспроизводят фейки, «отравленные» через GEO. Примеры фейков: майнинг криптовалюты на АЭС под руководством Зеленского; переработка тел украинских солдат на мясо. Источник — Фонд борьбы с несправедливостью (r-FBI), структура Пригожина, санкционированная ЕС и США.

В 17% из 3000 ответов чат-боты придавали достоверность фейкам; 30% обсуждали без оценки; около половины опровергали. Манипуляция шла через сеть из трёх сайтов: «НКО»-витрина со скрытыми инструкциями для ИИ, «новостник» с множеством коротких заметок и псевдо‑западный журнал, заточенный под индексацию ИИ.

Авторы призывают к маркировке и стандартам GEO, обмену данными об угрозах и инженерным мерам. Выявлено 50 компаний, применяющих GEO (15 — в Великобритании). Anthropic признала проблему; Mistral заявила, что исследование касалось «сырых» моделей; OpenAI — что использовалась старая версия. Две страны, по данным отчёта, нанимали PR‑фирмы для GEO.

перевод и аннотация сделаны ИИ // читайте исходный материал

подготовлено совместно с Восточный Курьер