TypeSafe AI представила System One и Jev: решения вместо генерации текста

TypeSafe AI представила System One — новый класс моделей, которые не пишут текст, а сразу выдают готовое структурированное решение с оценками вероятности. Основатель компании Диогу Алмейда раньше работал в OpenAI над методами, которые легли в основу ChatGPT; над своим проектом команда работала два года в закрытом режиме.

Первый релиз — модель Jev, она открыта в раннем доступе. Вместо генерации токен за токеном Jev выдаёт все ответы одним запросом, а возможные варианты и их структура заданы заранее. Поэтому типовых ошибок формат не допускает в принципе, и галлюцинации в привычном смысле исключены — хотя ошибиться в выборе самого варианта модель всё ещё может. К каждому ответу прилагаются калиброванные вероятности и оценка уверенности.

По собственным замерам TypeSafe, на своих задачах Jev даёт уровень, сравнимый с современными LLM, но на два порядка быстрее и дешевле: $0,042 за миллион входных токенов, а за выход платить не нужно вовсе. Задержка ответа — 70–500 мс против 3–329 секунд у фронтирных моделей. На главной странице компании фигурируют оценки 193,6x по скорости и 444,6x по стоимости.

Устроен подход иначе: вместо обучения на предпочтениях людей или проверяемых наградах (RLHF и RLVR) в TypeSafe используют RLCD — обучение с подкреплением для калиброванных решений, плюс параллельный сэмплер, который считает все выходы за один запрос. Названия тоже не случайны: класс моделей отсылает к «быстрому» мышлению из книги Канемана, а имя Jev — к Уильяму Джевонсу.

Основное применение — роль «нечёткого if» внутри обычного кода: классифицировать, распределить по маршрутам, оценить, извлечь данные, разветвить логику там, где жёсткие правила слишком хрупки. Ещё один сценарий — проверять и ограничивать другие модели: оценивать, судить, ловить джейлбрейки. Быстрые ответы позволяют встраивать такие вызовы в приложения, чувствительные к задержке.

Ограничения компания проговаривает сама. Цифры взяты из внутренних workflow-оценок, эталоном служило среднее ответов моделей GPT-6 Astra и Fable 5.1 — то есть сравнение смещено в сторону решений OpenAI и Anthropic. Авторы допускают, что оценки выбраны в выгодную для них сторону и что в реальности выигрыш будет ниже. Независимой проверки нет: доступ к Jev открыли в раннем режиме и постепенно снимают разработчиков из листа ожидания.

Изображение:

Редактор перевода: Салтанов А.