OpenAI увольняет подрядчиков за использование ИИ в разметке ответов ChatGPT

Подрядчики, которых OpenAI нанимает размечать ответы ChatGPT, теряют работу за использование нейросетей в самой этой работе. 22 сентября 404 Media рассказала, что поговорила с тремя такими исполнителями и получила внутренние документы, где правила прописаны прямым текстом.

Работа у них ручная: читать реальные запросы пользователей и оценивать ответы модели, в том числе следя за тем, чтобы она не льстила собеседнику и не приписывала себе человеческие черты. По одному из внутренних документов, в отдельных проектах занято больше десяти тысяч подрядчиков.

В документах сказано прямо: ИИ в работе использовать нельзя. Отдельно упомянуты Grammarly и машинный перевод. Проверяющим, которые ищут нарушителей среди коллег, тоже запрещены ИИ-детекторы вроде GPTZero, их считают ненадёжными. Подозрения предлагают оценивать по общей картине: повторяющиеся слова, «тире в стиле ИИ», слишком быстро сданная работа. Одного из уволенных уведомили о проблемах с «подлинностью» работы.

Двое собеседников издания работали через компанию Mercor. Она заявила, что контракты строго запрещают применение языковых моделей и что подтверждённых нарушителей немедленно отстраняют от проектов. Один из подрядчиков сказал, что видит такое постоянно: в коллективе из тысяч человек пойманных, по его словам, немало.

Ирония в том, что так ИИ обучают с помощью ИИ. Обучение моделей на сгенерированных текстах уже приводит к коллапсу: качество со временем падает. Ещё один собеседник 404 Media признался, что иногда намеренно выбирал худшие варианты ответов, чтобы навредить обучению.

OpenAI историю с увольнениями комментировать отказалась.

Изображение: Original: OpenAI Vector: Zhing Za Public domain

Редактор перевода: Салтанов А.