Anthropic заявила, что Иран и Россия использовали Claude для исследований в области вооружений

Bloomberg: Anthropic опубликовала доклад о злоупотреблениях своим ИИ Claude для военных и потенциально биологических целей. Пользователи из Ирана, России, Китая и Йемена пытались применить модель для роя «камикадзе»-дронов, систем наведения ракет и слежки. Компания утверждает, что выявила и пресекла все операции; самые продвинутые модели Fable и Mythos в случаях не фигурировали.

Среди эпизодов: не связанные с государством российские акторы разрабатывали ПО для автономного FPV‑роя на основе кадров с украинского фронта; силы в хуситском Йемене создавали ПО для ракет и провели неудачный пуск; структуры, связанные с Китаем и Ираном, пытались построить системы наблюдения, включая слежку за уйгурами и маскировку под приложение молитв. Консультант в Мали использовал Claude для платформы мониторинга телефонов. Отмечено и ускорение хакерских операций (Midnight Blizzard, ShinyHunters). Anthropic напоминает: по мере роста возможностей моделей растут и риски; компания даже столкнулась с Пентагоном, отказав применению Claude для массового надзора и автономного оружия.

перевод и аннотация сделаны ИИ // читайте исходный материал

подготовлено совместно с Восточный Курьер