Kong a anunțat, pe 4 noiembrie, extinderea platformei sale de administrare a sistemelor AI, cu funcții pentru urmărirea costurilor, observarea sesiunilor agenților și controlul accesului la resursele unei companii. Actualizarea Kong AI Management, integrată în Kong Konnect, reunește aceste funcții cu registrul de capabilități AI, serviciile de identitate, Token Vault și versiunea 2.3 a AI Gateway.

Anunțul privește infrastructura prin care aplicațiile și agenții folosesc modele, instrumente și date, nu lansarea unui nou model de inteligență artificială. Potrivit Kong, extinderea răspunde trecerii de la cereri izolate către modele la procese în care o singură sarcină implică mai multe servicii, interfețe API, servere MCP și alți agenți. Platforma aduce controlul acestor interacțiuni într-un cadru comun de configurare și administrare.

Specialistă folosind un laptop într-o cameră cu servere
Christina Morillo

Acces la resurse fără distribuirea credențialelor către fiecare agent

Una dintre componentele prezentate este Token Vault, disponibilă în cadrul Kong Identity. Aceasta intermediază credențialele necesare accesului la serviciile din aval, în momentul utilizării lor. Agentul se identifică în fața infrastructurii Kong, iar accesul la resursa solicitată este asociat unei identități și regulilor aplicabile acesteia. Cheia unui serviciu sau tokenul folosit mai departe nu trebuie încorporat în implementarea fiecărui agent.

Separarea privește două niveluri distincte: identitatea celui care solicită operațiunea și autentificarea necesară la sistemul care o execută. Agentul continuă să aibă o identitate proprie. Token Vault gestionează credențialele pentru accesul autorizat la resurse, în loc ca fiecare integrare să păstreze independent copii ale acestora. Fluxul poate include atât acces în numele unui utilizator, cât și comunicare între aplicații.

Accesul la o resursă prin Token Vault

  1. Identitatea agentuluiAgentul se autentifică în infrastructură.
  2. Politica de accesSe verifică permisiunea pentru resursă.
  3. Token VaultIntermediază credențialul necesar.
  4. Resursa autorizatăServiciul primește cererea autentificată.

Kong descrie suport pentru conexiuni OAuth, chei API și alte tipuri de credențiale, în funcție de serviciul integrat. Furnizorii prezentați includ platforme pentru dezvoltare software, colaborare și date. Prin această arhitectură, autorizarea unei operațiuni și furnizarea credențialului necesar pot fi administrate central, iar activitatea poate fi urmărită de la identitatea solicitantului până la resursa utilizată.

Politicile se aplică interacțiunilor administrate prin această infrastructură. Retragerea accesului unui agent la o resursă este o decizie distinctă de schimbarea unei chei distribuite anterior în alte sisteme. Componenta urmărește reducerea răspândirii credențialelor în aplicațiile AI și păstrarea unui punct comun de control asupra folosirii lor, conform descrierii tehnice a companiei.

Un registru pentru modelele și instrumentele aprobate

AI Registry adaugă inventarul capabilităților pe care organizația le pune la dispoziția aplicațiilor și agenților. În acest registru pot apărea modele, agenți, servere MCP, instrumente, resurse și competențe reutilizabile. MCP este protocolul prin care aplicațiile AI pot descoperi și utiliza instrumente ori surse de date conectate; registrul organizează aceste capabilități împreună cu informațiile de administrare.

În prezentarea Kong, o înregistrare poate include proprietarul, versiunea, starea aprobării, contextul de risc și cerințele de autentificare sau acces. Publicarea unei capabilități pentru o anumită audiență este separată de simpla sa existență în infrastructura companiei. Astfel, inventarul tehnic și lista resurselor pe care un agent le poate descoperi sunt administrate explicit.

Serviciul Identity asociază cererile cu persoane, aplicații sau agenți și permite folosirea aceleiași identități chiar când metodele de autentificare diferă. Metadatele despre echipă, mediu sau unitate organizațională pot participa la stabilirea politicilor. Acest nivel de control al accesului la aplicații și API-uri privește permisiunile efective ale integrărilor, inclusiv operațiunile executate de un agent în numele unui utilizator.

Monitorizarea urmărește sesiunea completă a agentului

Funcțiile extinse de observabilitate urmăresc succesiunea interacțiunilor dintr-o sesiune AI. În locul consultării exclusive a unei cereri către un model, echipa tehnică poate urmări legătura dintre apelurile către modele, instrumente, servere MCP și agenți, împreună cu politicile aplicate. Sunt incluse date despre intrări și ieșiri, atribute, durată, erori și consum de tokenuri.

Cabluri de rețea conectate la echipamente într-un rack
Brett Sayles

Această urmărire privește fluxul operațional al aplicației: ce servicii au fost apelate, în ce ordine și cu ce rezultat tehnic. Nu reprezintă acces la un mecanism intern de raționament al modelului. Kong descrie vizualizări pentru cereri, urme de execuție și jurnale, precum și identificarea componentelor în care apar întârzieri sau eșecuri.

Platforma poate păstra analiza în interfața Konnect sau poate trimite telemetria către alte sisteme prin OpenTelemetry. Datele despre consum și comportament pot fi urmărite pe modele, agenți, echipe și aplicații. Această organizare leagă monitorizarea serviciilor API de observarea proceselor AI care le folosesc, în loc să trateze fiecare interacțiune ca eveniment fără context.

Costurile pot fi atribuite unei echipe, aplicații sau activități

Măsurarea consumului se face la nivelul gateway-ului AI, punctul prin care trece traficul administrat. Evidența poate coborî până la cererea individuală și tokenurile consumate. Aceeași structură de atribuire se poate utiliza pentru mai mulți furnizori de modele, în timp ce prețurile specifice fiecăruia sunt păstrate în calcul. Schimbarea furnizorului și identificarea echipei responsabile de consum sunt astfel două dimensiuni separate ale evidenței.

Noua componentă de administrare a costurilor transformă datele de utilizare în evidențe care pot fi repartizate pe dimensiuni organizaționale. Kong enumeră echipe, utilizatori, aplicații, agenți, proiecte, clienți și activități de business. O astfel de repartizare permite asocierea consumului cu unitatea care îl produce, inclusiv când mai multe aplicații folosesc același furnizor de modele.

Calculul ține cont de structura tarifelor configurate: tokenuri de intrare și ieșire, utilizarea cache-ului, niveluri de preț, regiuni sau tarife negociate. Produsul include urmărirea bugetelor, a consumului efectiv și a estimărilor, precum și limite și notificări. Compania prezintă și mecanisme de optimizare a traficului, precum rutarea cererilor și utilizarea cache-ului, fără ca anunțul să stabilească un procent de economie aplicabil tuturor implementărilor.

Extinderea anunțată combină, astfel, funcții noi de cost și observabilitate cu componente de inventariere, identitate și administrare a traficului. Obiectele urmărite rămân concrete: cine execută o operațiune, ce resursă poate utiliza, unde sunt gestionate credențialele, ce traseu tehnic urmează sesiunea și cărei activități îi este atribuit consumul.