Anthropic: Moonshot AI выдавала ответы Claude за собственные
Редакция XORit · Источники, использование AI и исправления
Обновлено:
В сентябрьском отчёте об угрозах Anthropic сообщает, что китайский сервис Moonshot AI (чат-бот Kimi) перенаправлял запросы пользователей к моделям Claude, преимущественно к Opus, а ответы отображались как собственные. По данным Anthropic, за один десятидневный отрезок через сеть из 5380 фейковых аккаунтов прошло почти 300 тысяч запросов, а с мая по июль — более 23 миллионов обменов.
Anthropic отмечает, что такая практика нарушает условия использования Claude и вводит пользователей в заблуждение относительно возможностей собственных моделей Moonshot AI. Компания не приводит технических деталей, но подчёркивает риски подобных схем подмены.
Помимо Moonshot AI, в несанкционированной дистилляции обвиняются Alibaba и DeepSeek. Для Alibaba зафиксировано свыше 151 миллиона обменов, использованных, по утверждению Anthropic, для дообучения моделей Qwen. DeepSeek, как сообщается, применял похожую схему подмены.
Anthropic заявляет, что обнаружила и пресекла злоупотребления, усилив механизмы защиты и поделившись информацией с властями и отраслевыми партнёрами, где это уместно. В отчёте описаны случаи вредоносного использования Claude, но раздел о дистилляции не входит в семь основных категорий вредоносной активности.
Важно отметить, что все обвинения исходят из отчёта Anthropic и пока не получили независимого подтверждения. Moonshot AI, Alibaba и DeepSeek не комментировали эти заявления.
Этот случай подчёркивает проблему несанкционированного использования языковых моделей через API и необходимость совершенствования технических средств защиты и координации усилий в индустрии.
Исходная публикация в Telegram ↗
Редакторы перевода: Соловьев В., Пеков А.
Источник материала: www.anthropic.com ↗