Чат-бот Claude цитирует российскую дезинформацию как источник новостей

Spiegel: Берлинская Agora Digitale Transformation изучила, как ИИ‑системы (ChatGPT, Claude, Google Gemini и др.) подбирают источники для ответов на новости. В выборке из 675 запросов и ~4800 ссылок модели опирались на узкий пул доменов, а критерии отбора остаются «черным ящиком». У ChatGPT выявлена доминация welt.de; исследователи связывают это с партнерством OpenAI и Axel Springer. Claude семь раз сослался на домены так называемой сети «Pravda» — российского влияния, что, по оценке авторов, ставит дезинформацию в один ряд с журналистикой.

Компании возразили: Anthropic заявила о тренировке на политический баланс, Google — об опоре на давно отлаженные ранжирующие системы, OpenAI — об использовании «наиболее релевантных» источников вне зависимости от сделок. Авторы призывают к раскрытию критериев выбора, явной атрибуции и публикации партнерств, а также к регулированию. Формат ИИ‑обзоров снижает трафик на оригинальные медиа и угрожает их устойчивости; планируется долгосрочное исследование.

перевод и аннотация сделаны ИИ // читайте исходный материал

подготовлено совместно с Восточный Курьер