OpenAI a anunțat la 22 octombrie disponibilitatea generală a Decisions API, un serviciu pentru aplicații și agenți AI care trebuie să clasifice informații sau să aleagă rapid între acțiuni definite. Produsul folosește GPT-6 Luna și primește text, imagini ori date JSON. Răspunsul are o formă limitată de întrebarea aplicației: o probabilitate, o opțiune dintr-o listă sau un scor.
Potrivit OpenAI, această abordare poate produce decizii de până la zece ori mai rapid decât folosirea GPT-6 Luna prin Responses API. Comparația aparține companiei și privește cele două modalități de acces la model. Anunțul extinde etapa beta cu memorarea temporară a contextului reutilizat, integrare nativă cu GPT-Live, procesare regională și un număr mai mare de întrebări într-o singură cerere.
Trei tipuri de răspuns pentru operațiunile unei aplicații
Decisions API este construit în jurul unor întrebări cu rezultate delimitate în prealabil. Pentru verificarea unei condiții, tipul numit predicate returnează o estimare între zero și unu a probabilității ca acea condiție să fie adevărată. Exemplul documentat este examinarea unei fotografii de produs pentru identificarea unor urme vizibile de deteriorare, pe baza criteriilor incluse în întrebare.
Tipul choice selectează o variantă dintre opțiunile furnizate de dezvoltator. Într-un sistem de asistență, o solicitare poate fi încadrată într-un departament, iar un agent poate primi următorul pas dintre variante precum continuarea, reluarea sau cererea unei clarificări. Răspunsul include opțiunea selectată, probabilitățile asociate variantelor și un indicator de încredere al modelului.
Tipul score evaluează informația în raport cu niveluri ordonate ale unei grile. Rezultatul este media indicilor acelor niveluri, ponderată cu probabilitățile atribuite de model. Valoarea poate cădea între două niveluri. Această formă permite exprimarea severității unei probleme pe o scară definită, în timp ce alegerea unei singure categorii rămâne rolul tipului choice.
Aplicația stabilește întrebările, variantele permise și informațiile necesare evaluării. Tot aplicația execută operațiunile asociate răspunsului, în logica sa proprie. Datele despre apeluri de instrumente și rezultatele acestora pot fi incluse ca dovezi într-o conversație evaluată. Decisions API întoarce rezultatul clasificat, iar fluxul software îl folosește pentru rutare, filtrare sau prioritizare.
JSON, imagini și până la 400 de întrebări
Disponibilitatea generală aduce suport pentru obiecte și liste JSON transmise direct ca informație de analizat. Datele structurate pot fi combinate cu text și fotografii într-un mesaj. Pentru imagini sunt acceptate adrese publice sau conținut inclus direct în cerere. În plus, instrucțiunile fiecărei întrebări pot conține propriile imagini, alături de informația comună întregii evaluări.
Limita ajunge la 400 de întrebări într-o cerere, față de 200 în etapa beta. Întrebările independente pot folosi același context, inclusiv pentru evaluări diferite ale aceleiași fotografii. Pentru operațiunile în care o întrebare depinde de răspunsul anterior, mecanismul documentat folosește cereri succesive. Astfel sunt păstrate atât informația comună, cât și ordinea deciziilor din aplicație.
Contextul reutilizat beneficiază de prompt caching, prin care un prefix identic al informației de intrare poate fi folosit din nou la cereri ulterioare. Pragul minim pentru acel prefix este de 1.024 de tokenuri. Conținutul întrebărilor se află în afara acestei porțiuni reutilizabile, iar imaginile specifice unei întrebări urmează aceeași delimitare.
Integrare cu aplicațiile vocale și procesarea documentelor
Integrarea nativă cu GPT-Live permite declanșarea evaluărilor în timpul unei conversații vocale, pe măsură ce este actualizată transcrierea. OpenAI descrie un agent de suport care alege între o întrebare suplimentară, direcționarea solicitării și escaladarea cazului. În exemplul prezentat de companie pentru un personaj digital, aplicația primește reacția selectată și schimbă expresia acestuia.
Procesarea conversației vocale rămâne în GPT-Live, iar Decisions API evaluează informația transmisă pentru alegerea rezultatului. Acest mecanism leagă evenimentele conversației de acțiunile implementate în aplicație. Integrarea este una dintre funcțiile adăugate după beta, alături de extinderea capacității de procesare în mai multe regiuni din Asia, menționată de OpenAI în anunț.
Box este printre companiile care descriu folosirea produsului pentru clasificarea documentelor și trimiterea lor către etapa potrivită. În evaluarea raportată de Box, pe 30 de cazuri de certificate de asigurare, selectarea rutei a fost de aproximativ cinci ori mai rapidă decât prin Responses API, cu aceeași acuratețe. Compania precizează că situațiile cu încredere mai redusă sunt trimise către persoane care le verifică.
OpenAI descrie și utilizări în propriile echipe. Personal Finance folosește produsul pentru a încadra descrierile tranzacțiilor în categorii. Echipa de comunicare clasifică materialele analizate după teme și evaluează relația lor cu mesajele urmărite, pentru a identifica elementele care cer examinare suplimentară.
Tarifare pe intrare și opțiuni regionale
Tariful de bază anunțat este de 0,10 dolari pentru un milion de tokenuri de intrare. Citirea informației păstrate în cache este tarifată la 0,01 dolari pentru un milion de tokenuri, iar scrierea în cache are costuri separate, în funcție de durata de păstrare. Tokenurile de ieșire sunt fără taxă. Procesarea regională și contextul lung au ajustările de preț prevăzute în condițiile serviciului.
Procesarea regională este acceptată în Statele Unite și în Europa, aceasta din urmă incluzând Spațiul Economic European și Elveția. Opțiunea Zero Data Retention este disponibilă clienților eligibili. OpenAI distinge aceste condiții de simpla utilizare a punctului de acces Decisions, pentru care GPT-6 Luna este modelul acceptat în prezent.
Companiile pot urmări separat consumul de tokenuri și numărul cererilor, cu filtrare sau grupare după proiect, cheie API ori model. O cerere care conține mai multe întrebări este numărată o singură dată în acest indicator. Disponibilitatea generală reunește astfel clasificarea, evaluarea imaginilor și selecția următorului pas într-un serviciu dedicat deciziilor structurate din aplicații.
