Meta a prezentat pe 28 octombrie o nouă generație a sistemului Andromeda, care selectează reclamele candidate pentru afișare pe Facebook și Instagram. Actualizarea schimbă etapa inițială a recomandărilor publicitare, înaintea clasării finale a anunțurilor. Potrivit companiei, infrastructura aflată în producție depășește un miliard de evaluări de reclame pe secundă pe un singur server GPU.
Pentru firmele care desfășoară campanii de publicitate pe Facebook și Instagram, schimbarea se află în mecanismul care identifică anunțurile eligibile pentru o persoană. Meta urmărește să examineze mai multe opțiuni cu un model mai expresiv, păstrând timpul de răspuns necesar afișării reclamei. Parametrii de targetare definiți de advertiser continuă să fie aplicați în procesul de selecție.
Selecția inițială și clasarea finală au sarcini diferite
Andromeda operează în prima etapă a recomandării, denumită retrieval. Dintr-un volum mare de anunțuri eligibile, sistemul formează în câteva milisecunde un grup restrâns de candidați. Etapa următoare, ranking, aplică evaluări mai detaliate și mai costisitoare din punct de vedere al calculului asupra acestui grup.
Noua arhitectură încearcă să aducă în selecția inițială o calitate a modelării apropiată de cea utilizată la clasarea finală. Meta descrie o reproiectare comună a modelului, a software-ului de procesare și a modului în care sunt folosite procesoarele grafice. Cele trei componente sunt dezvoltate împreună pentru a susține volumul de reclame analizat.
Compania leagă această schimbare de creșterea inventarului publicitar. Conform Meta, instrumentele de creație bazate pe AI generativ au contribuit la apariția a sute de milioane de reclame noi după lansarea inițială Andromeda din 2024. Un număr mai mare de variante mărește și cantitatea de informație pe care sistemul trebuie să o examineze pentru fiecare selecție.
Mai multe componente specializate pentru interese și context
Modelul actualizat utilizează o arhitectură de tip mixture-of-experts, inspirată de modelele lingvistice mari. În locul unei singure componente care reprezintă utilizatorul, Meta descrie un ansamblu de componente specializate. Acestea procesează interese care se schimbă în timp și semnale provenite din diferite contexte de utilizare.
Printre informațiile menționate de companie se află succesiunea interacțiunilor cu reclamele, reprezentări ale grupurilor de utilizatori, caracteristici semantice derivate cu ajutorul modelelor lingvistice și interacțiuni între suprafețele platformelor. Conținutul reclamei este combinat cu informații despre contextul în care aceasta ar urma să fie afișată.
Un mecanism de direcționare selectează apoi componentele specializate relevante pentru perechea utilizator–reclamă. Meta afirmă că această organizare se apropie de performanța modelării din etapa ranking, folosind aproximativ de 300 de ori mai puține operații de calcul la inferență decât modelul Andromeda din 2024. Comparația privește arhitectura tehnică, nu costul unei campanii.
Mai puține transferuri între procesoare și memorie
O altă schimbare reunește etapele de procesare pe aceeași infrastructură GPU. În organizarea anterioară, unele operații pentru fiecare solicitare erau executate pe servere CPU, iar listele de candidați erau trimise prin rețea către acceleratoarele care evaluau modelul. La volume foarte mari, aceste transferuri deveneau o limitare a sistemului.
În noua structură, potrivirea regulilor de eligibilitate, evaluarea și alegerea celor mai buni candidați sunt reunite pe același GPU. Sistemul trimite o solicitare compactă cu informațiile necesare și primește înapoi lista finală restrânsă. Meta estimează o reducere de aproximativ 100 de ori a traficului de rețea asociat acestei reorganizări.
Echipa a unit și operațiile intermediare într-un singur nucleu de procesare. Rezultatele temporare rămân în registrele și memoria partajată ale procesorului grafic, în loc să fie scrise și citite repetat din memoria principală a acceleratorului. Scopul tehnic este utilizarea mai eficientă a lățimii de bandă disponibile, pe lângă executarea modelului propriu-zis.
Meta precizează că mutarea selecției pe GPU păstrează regulile de targetare ale advertiserilor. Indexul trebuie să gestioneze condiții din zeci de categorii de caracteristici și să reflecte modificările în timp real, pe măsură ce reclamele sunt create, schimbate sau expiră. Creșterea vitezei de evaluare este realizată în cadrul acestor condiții de eligibilitate.
Cifrele descriu componente și perioade distincte
În producție, compania raportează peste un miliard de reclame evaluate pe secundă pentru întregul flux de selecție de pe un server GPU. Cifra este prezentată ca un salt de aproximativ 100 de ori față de sistemul Andromeda din 2024. Ea măsoară capacitatea de procesare, nu numărul de persoane care văd reclame.
Separat, Meta descrie peste zece miliarde de evaluări pe secundă pentru nucleul care realizează interacțiunea dintre utilizator și reclamă, pe un GPU GH200. Operația de potrivire în index depășește, în testele raportate, 100 de miliarde pe secundă. Aceste valori se referă la componente diferite și nu sunt echivalente cu debitul întregului sistem aflat în producție.
Meta atribuie evoluțiilor Andromeda, începând din 2025, o creștere de 2,4% a conversiilor pe Facebook. Este o valoare raportată de companie pentru sistemul său, cu un interval de referință mai larg decât anunțul din octombrie. Documentul tehnic o prezintă separat de măsurătorile de viteză ale noii arhitecturi.
În colaborarea cu NVIDIA, echipa a măsurat o accelerare de 5,3 ori a nucleului de evaluare a interacțiunii, de la 2,4 miliarde la peste zece miliarde de reclame pe secundă. Potrivit Meta, această componentă a ajuns la aproximativ 85% din lățimea de bandă maximă a memoriei GPU. Rezultatul descrie eficiența operației tehnice analizate.
Compania a testat și reprezentarea valorilor numerice pe opt biți, în locul variantei pe 16 biți. Meta raportează o creștere suplimentară a debitului de până la două ori, cu o acuratețe comparabilă cu precizia pe 16 biți. Pentru fluxul complet, variantele optimizate în teste au atins viteze de câteva ori mai mari decât debitul curent din producție.
Optimizările au fost dezvoltate și în colaborare cu NVIDIA, începută în prima parte a anului 2026. Meta arată că lucrările continuă pe platformele Grace Blackwell și asupra raportului dintre resursele CPU și GPU. Acestea sunt direcții de dezvoltare a infrastructurii, în timp ce actualizarea prezentată descrie selecția publicitară deja utilizată în producție.
