Как ИИ-агенты влияли на решения профессиональных аналитиков

Anthropic изучила, как ИИ-агенты влияют на решения специалистов во время работы. В эксперименте 50 профессиональных аналитиков с помощью Claude Code оценивали, стоит ли расширять программу консультационной поддержки фермерских хозяйств. В ходе анализа им предстояло сделать четыре выбора, например определить, как измерять продуктивность и какие хозяйства учитывать.

Исследователи тайно задавали агенту предпочтение по каждому из четырёх вопросов и просили его аргументировать свою позицию. Аналитики выбирали предложенный агентом вариант в среднем в 86% случаев. Если специалист уже высказывал своё мнение до ответа агента, то при расхождении с его позицией менял выбор в 60% случаев, а при совпадении оставлял его без изменений в 94% случаев. Эти результаты основаны на 38 таких эпизодах.

После задания 77% участников использовали в объяснениях аргументы агента, иногда почти дословно, но лишь 15% указали, что взяли их у ИИ. Авторы подчёркивают ограничение эксперимента: предпочтения агентов намеренно усилили, чтобы измерить их влияние. Поэтому результаты не показывают, как часто специалисты следуют позиции ИИ в обычной работе.

Изображение: Basile Morin CC BY-SA 4.0 · Лицензия

Редактор перевода: Салтанов А.