API Decisions от OpenAI запущен для всех и нацелен на рынок моделей принятия решений TypeSafe объёмом $7,6 млрд

В четверг OpenAI открыла Decisions API для всех клиентов, выйдя на специализированный рынок ИИ, созданный моделью Jev компании TypeSafe, которая помогла TypeSafe достичь оценки в $7,6 млрд. Модели принятия решений работают как сверхбыстрые «супер-классификаторы», выдающие выбор из набора вариантов с показателем уверенности значительно быстрее секунды — намного быстрее, чем универсальные чат-модели. OpenAI создала Decisions API, перенастроив ChatGPT Luna так, чтобы приоритет отдавался скорости и снижению затрат на инференс, а не обучая совершенно новую модель. Типичное время отклика снизилось с одной-трёх секунд до 100–180 миллисекунд; приложение для изучения языков Speak сообщило, что после перехода сократило собственную задержку с 1,4 секунды до 0,13 секунды. Впервые API была анонсирована на дне разработчиков OpenAI 29 сентября, а сейчас она включает голосовую и визуальную модальности с географически таргетированным инференсом для снижения задержки по всему миру. По независимым тестам Jev удерживает сильные позиции — седьмое место в AIM System One Index и третье в Artificial Analysis Decision Index, против восьмого и четырнадцатого у модели OpenAI — и остаётся самой запрашиваемой моделью принятия решений на OpenRouter. Последняя версия Jev теперь также поддерживает изображения и инструкции «smart-if». Руководитель по продуктам OpenAI Никунж Ханда отметил мультимодальные преимущества Luna, назвав её «чрезвычайно мощной» для классификации изображений и отметив улучшенную калибровку, добавив, что компания также рассчитывает на дальнейший прирост скорости, который со временем может позволить покадровый анализ видео.