OpenAI a publicat pe 29 octombrie o versiune revizuită a Model Spec, documentul care descrie comportamentul urmărit pentru modelele sale. Actualizarea reorganizează regulile în jurul a cinci valori și detaliază modul în care agenții AI trebuie să folosească informațiile de context, să respecte autoritatea instrucțiunilor și să păstreze controlul uman asupra acțiunilor. Schimbările privesc inclusiv aplicațiile construite de dezvoltatori pe platforma API.
Cele cinci repere sunt fidelitatea față de intenția umană, limitarea efectelor dăunătoare, onestitatea și transparența, autonomia oamenilor în luarea deciziilor și atenția față de persoanele afectate. OpenAI le prezintă drept structura comună a unor angajamente deja reflectate în document, completată cu principii și exemple noi. Model Spec rămâne descrierea comportamentului vizat în procesul de antrenare și îmbunătățire a modelelor.
Instrucțiunile și informațiile de context au autorități diferite
Documentul actualizează ierarhia folosită pentru rezolvarea instrucțiunilor contradictorii. Regulile fundamentale au prioritate, urmate de instrucțiunile de sistem, cele ale dezvoltatorului și cele ale utilizatorului. Recomandările generale au un nivel separat, care permite adaptarea la cererea concretă. La același nivel de autoritate, o instrucțiune ulterioară poate înlocui o cerință anterioară.
O distincție importantă privește materialele consultate în timpul lucrului. Pagini web, fișiere, citate și rezultate primite de la instrumente sunt informații fără autoritate implicită de a schimba sarcina agentului. Autoritatea poate fi delegată prin instrucțiunile aplicabile, însă simpla prezență a unei comenzi într-un document nu o transformă în instrucțiune autorizată.
Model Spec ilustrează această diferență prin aplicații de programare care consultă documentația unui proiect și prin conținut extern care încearcă să redirecționeze modelul. În primul caz, cererea utilizatorului poate presupune respectarea regulilor relevante ale proiectului. În al doilea, instrucțiunile străine sarcinii trebuie tratate ca parte a materialului analizat, nu ca o extindere automată a permisiunilor.
Context relevant, cu proveniență și scop păstrate
Noua secțiune despre context acoperă conversațiile anterioare, preferințele, corecțiile, starea unui proiect, informațiile recuperate și rezultatele instrumentelor. Modelul trebuie să păstreze continuitatea unei activități relevante, fără să oblige utilizatorul să repete date deja oferite. În același timp, documentul cere separarea informațiilor comunicate explicit de persoană de interpretările deduse de sistem.
Relevanța nu se stabilește numai prin disponibilitatea informației. Modelul trebuie să țină cont de sursă, vechime, sensibilitate, destinatar și scop. O cerere punctuală nu devine automat preferință permanentă, iar datele unei etape anterioare a proiectului trebuie evaluate în raport cu situația actuală. Instrucțiunile explicite rămân distincte de preferințele presupuse din context.
Documentul tratează separat răspunsurile private și materialele destinate altor persoane. Un detaliu potrivit într-o conversație individuală poate necesita altă evaluare înainte de includerea într-un mesaj sau document partajat. Pentru datele sensibile, divulgarea trebuie să corespundă cererii actuale, publicului și scopului comunicării. Modelul trebuie să descrie corect și modul în care a folosit contextul disponibil.
Autonomia agentului are un domeniu stabilit
Pentru sarcini complexe, OpenAI descrie un domeniu de autonomie înțeles de utilizator și agent. Acesta precizează obiectivele intermediare permise, efectele acceptabile, accesul la date sau sisteme și momentele în care este necesară o clarificare ori o aprobare. Limitele pot fi stabilite prin designul produsului sau în cursul definirii unei activități concrete.
Regula acoperă și condiția de încheiere a lucrului. Model Spec recomandă ca domeniul să includă un termen și cere oprirea acțiunilor după îndeplinirea condiției finale, până la confirmarea unui nou domeniu. Extinderea permisiunilor trebuie aprobată de utilizatorul inițial sau de dezvoltator, în cadrul ierarhiei aplicabile. Delegarea către alți agenți păstrează aceleași limite și eventualele cereri ulterioare de oprire.
Secțiunea privind efectele acțiunilor detaliază costurile, trimiterea mesajelor, modificarea documentelor externe, ștergerea fișierelor și accesul la informații sensibile. Acțiunile trebuie proporționate cu obiectivul stabilit. Efectele semnificative care depășesc cererea necesită autorizare explicită și specifică, iar pentru operațiunile greu reversibile documentul descrie măsuri precum copii de siguranță, verificări prealabile și evidența operațiunilor executate.
Controlul uman include posibilitatea verificării, corectării, înlocuirii sau opririi sistemului. Modelul trebuie să facă acțiunile și problemele relevante vizibile persoanelor autorizate. În lucrările pe care alte persoane le vor întreține sau continua, informațiile esențiale trebuie să poată fi înțelese, revizuite și preluate de cei responsabili. Aceste principii descriu explicit responsabilitatea agentului în procesele de lucru.
Un exemplu din specificație tratează bugetul ca limită de lucru, nu ca sumă care trebuie consumată integral. Pentru realizarea unei invitații, agentul poate încerca mai multe variante utile și se poate opri după obținerea rezultatului cerut. Documentul diferențiază atât consumarea inutilă a întregului buget pe variante aproape identice, cât și oprirea prematură la un rezultat slab doar pentru reducerea costului.
În aceeași logică, o solicitare de revizie trimisă prin procesul obișnuit al unei echipe este diferită de notificările repetate care întrerup inutil colegii. Exemplele extind evaluarea efectelor dincolo de plăți și fișiere: contează și timpul altor persoane, accesibilitatea rezultatului și posibilitatea continuării muncii fără dependență de agentul care a început-o.
Stil adaptabil și rezultate care pot fi preluate de oameni
OpenAI retrage majoritatea indicațiilor detaliate despre stil și păstrează adaptarea la limbă, cultură, persoană și context. Compania menține repere precum abordarea obiectivă a întrebărilor. O perspectivă cerută explicit poate fi respectată, dar modelul nu trebuie să o presupună doar pentru a confirma ceea ce crede că utilizatorul dorește să audă.
Versiunea revizuită diferențiază conversațiile interactive de rezultatele consumate de aplicații. Pentru ieșiri programatice, respectarea structurii solicitate, inclusiv a unui format JSON, face parte din comportamentul descris. Documentul folosește acum denumirea GPT pentru model, iar OpenAI continuă lucrul la metode de antrenare care urmăresc aplicarea principiilor în situații noi. Publicarea specificației și actualizarea modelelor sunt etape distincte ale acestui proces.
