L'API Decisions d'OpenAI entre en service et vise le marché de TypeSafe, valorisé à 7,6 milliards de dollars, dans les modèles de décision

OpenAI a ouvert son API Decisions à l'ensemble de ses clients jeudi, entrant sur un marché de l'IA spécialisé créé par le modèle Jev de TypeSafe, qui a propulsé l'entreprise à une valorisation de 7,6 milliards de dollars. Les modèles de décision agissent comme des « super-classificateurs » ultrarapides, renvoyant un choix parmi un ensemble d'options avec un indice de confiance en bien moins d'une seconde — beaucoup plus vite que les modèles de chat généralistes. OpenAI a conçu l'API Decisions en reconfigurant ChatGPT Luna pour privilégier la vitesse et réduire les coûts d'inférence, plutôt qu'en entraînant un tout nouveau modèle. Les temps de réponse habituels sont passés d'une à trois secondes à 100-180 millisecondes ; l'application d'apprentissage des langues Speak a indiqué avoir réduit sa propre latence de 1,4 seconde à 0,13 seconde après le changement. L'API avait été annoncée pour la première fois lors de la journée des développeurs d'OpenAI, le 29 septembre, et inclut désormais des modalités vocale et visuelle, avec une inférence ciblée géographiquement pour réduire la latence à l'échelle mondiale. Selon des tests indépendants, Jev conserve une position solide — septième sur l'AIM System One Index et troisième sur l'Artificial Analysis Decision Index, contre huitième et quatorzième pour le modèle d'OpenAI — et reste le modèle de décision le plus sollicité sur OpenRouter. Le dernier modèle Jev prend désormais aussi en charge les images et les instructions « smart-if ». Nikunj Handa, responsable produit chez OpenAI, a souligné les atouts multimodaux de Luna, le jugeant « extrêmement puissant » pour la classification d'images et doté d'une meilleure calibration, tout en visant de nouveaux gains de vitesse qui pourraient à terme permettre une analyse vidéo image par image.