Anthropic передала полиции переписку с угрозами, жительницу Флориды обвинили

Компания Anthropic передала полиции переписку жительницы Флориды Карли Мишель Хеллер с чат-ботом Claude. По данным отчёта об аресте офиса шерифа округа Ли, 26 сентября 2026 года она написала боту, что собирается устроить стрельбу в офисе шерифа, а на следующий день заявила, что купила новое оружие. Женщину задержали у её дома в Бонита-Спрингс и обвинили в письменных угрозах насилием; по законам Флориды это тяжкое преступление второй степени.

Шериф округа Кармине Марчено сказал, что Хеллер использовала ИИ «как дневник». В заявлении для прессы он назвал искусственный интеллект мощным инструментом, который можно применять и во вред, и призвал серьёзно относиться к угрозам, созданным или переданным с помощью ИИ. По его словам, пользователям важно понимать, что в чатах с ИИ и при поисковых запросах они не остаются по-настоящему анонимными.

В Anthropic за тем, как люди используют Claude, следит подразделение Safeguards: оно проверяет соблюдение правил сервиса и может замедлить или закрыть доступ нарушителю, а также скорректировать ответы. На запрос о комментарии в компании сразу не ответили.

Не первый случай

Это не первый случай, когда переписку с Claude передают полиции. В Сан-Антонио разговор о стрельбе в начальной школе привёл к аресту 22-летнего человека: ему предъявили обвинение в террористических угрозах третьей степени.

На фоне этого случая законодатели обсуждают, насколько сами ИИ-компании должны отвечать за порядок на своих платформах. Сенаторы Джош Хоули и Крис Мёрфи продвигают законопроект, который может открыть технологическим гигантам путь к судебным искам.

Редактор перевода: Салтанов А.