Google a deschis miercuri, 7 octombrie, accesul global la SynthID Detector, instrumentul său pentru identificarea imaginilor, videoclipurilor și înregistrărilor audio realizate cu AI compatibilă. Serviciul este disponibil în engleză și verifică materiale produse de Google și de parteneri precum OpenAI, NVIDIA și Kakao. Apple urmează să fie inclusă, potrivit anunțului Google.
Compania raportează peste 180 de miliarde de imagini și videoclipuri marcate cu SynthID, precum și un volum audio echivalent cu 240.000 de ani. Funcțiile de verificare integrate în Search, Gemini și Chrome primesc, împreună, peste un milion de solicitări zilnic.
Accesul public urmează testelor cu profesioniști din presă
Prima prezentare a portalului SynthID Detector a avut loc în mai 2025. Atunci, Google oferea acces inițial unor testeri și invita jurnaliștii, cercetătorii și profesioniștii media să se înscrie pe o listă de așteptare. Descrierea acelei versiuni explica verificarea prin încărcarea unui material și scanarea lui pentru identificarea marcajelor digitale. Rezultatele puteau indica zone dintr-o imagine sau segmente audio în care era detectat marcajul. Portalul reunea astfel verificări pentru mai multe tipuri de conținut, într-o interfață comună destinată examinării provenienței materialelor generate.
Tehnologia SynthID, dezvoltată de Google DeepMind, introduce marcaje direct în conținutul generat sau modificat cu inteligență artificială. Aceste semnale sunt concepute să nu fie perceptibile oamenilor, dar să poată fi recunoscute de sistemele de detecție. Prezentarea tehnologiei include imagini, sunet, video și text. Marcarea are loc în produsele care o implementează, în legătură cu generarea conținutului. Detectorul caută ulterior acel semnal; identificarea depinde de existența unui marcaj compatibil în materialul examinat. Scopul declarat al sistemului este transparența privind folosirea AI în producerea sau modificarea conținutului.
Marcajul digital are limite tehnice
La lansarea SynthID din august 2023, DeepMind descria două modele de învățare profundă antrenate împreună: unul pentru aplicarea marcajului și altul pentru identificarea lui. Sistemul fusese proiectat să păstreze semnalul după operațiuni precum schimbarea culorilor, aplicarea filtrelor sau compresia JPEG. Echipa preciza însă că tehnologia nu rezistă garantat manipulărilor extreme. Fiind încorporat în pixeli, marcajul poate rămâne detectabil chiar dacă metadatele fișierului sunt eliminate. Această proprietate diferențiază semnalul din imagine de informațiile descriptive stocate alături de ea.
Google a documentat limite concrete și pentru fotografiile editate. În februarie 2025, compania a anunțat folosirea SynthID pentru imaginile modificate cu funcția Reimagine din Magic Editor, în Google Photos. Comunicarea de atunci arăta că o intervenție foarte mică, precum schimbarea culorii unei flori din fundal, poate să nu producă un marcaj detectabil. Sistemul era extins astfel de la imagini create integral prin AI la fotografii editate cu instrumente generative. Dimensiunea și natura modificării rămân relevante pentru posibilitatea de a identifica intervenția automată.
Documentația Gemini face, la rândul ei, distincție între verificarea din aplicație și alte implementări. În descrierea disponibilă la momentul redactării, verificarea SynthID din Gemini recunoaște conținut realizat cu instrumentele Google AI. Un rezultat fără marcaj detectat nu exclude producerea materialului cu alte sisteme AI. Pagina menționează și rezultate neconcludente, inclusiv pentru imagini cu prea puține detalii sau editări foarte mici. Condițiile documentate pentru aplicația Gemini nu trebuie extrapolate automat la noul portal public ori la toate instrumentele care folosesc aceeași tehnologie.
Search oferă și context despre circulația imaginilor
În Google Search, verificarea provenienței imaginilor face parte dintr-un set mai larg de informații. Funcția About this image, prezentată și în contextul integrării cu Lens și Circle to Search, poate arăta cum este folosită și descrisă o imagine pe alte pagini, inclusiv în materiale jurnalistice sau verificări factuale. Poate afișa metadatele disponibile și informații despre marcajul SynthID. Google precizează că metadatele pot fi adăugate ori eliminate de persoana care publică imaginea. Aceste informații descriu originea și folosirea fișierului, fără a înlocui examinarea afirmațiilor asociate lui.
O altă componentă a verificării este standardul Content Credentials, dezvoltat de Coalition for Content Provenance and Authenticity, C2PA. Documentul explicativ al standardului descrie înregistrări asociate criptografic unui material, care pot consemna originea, editările și folosirea inteligenței artificiale. Aceste înregistrări urmăresc să facă identificabile modificările neautorizate ale informațiilor de proveniență. Ele pot documenta instrumentele implicate în realizarea unui fișier și relația dintre materialul final și elementele din care a fost compus. Participarea la acest ecosistem este voluntară, iar standardul urmărește interoperabilitatea între aplicații și dispozitive.
Google și-a prezentat colaborarea cu C2PA într-un anunț din septembrie 2024. Compania a participat la dezvoltarea versiunii 2.1 a standardului și a descris integrarea informațiilor de proveniență în produsele sale. Pentru Search, comunicarea viza afișarea, prin About this image, a informațiilor C2PA despre crearea sau editarea imaginilor cu AI. Google explica atunci că protejarea istoricului unui material presupune cerințe de validare și verificarea sursei care semnează datele. Inițiativa era prezentată alături de extinderea SynthID, ca parte a instrumentelor pentru transparența conținutului.
C2PA precizează că validarea acestor înregistrări nu stabilește dacă ceea ce prezintă o imagine este adevărat. Standardul verifică asocierea informațiilor de proveniență cu fișierul, integritatea lor și încrederea în semnatar. Un material cu istoric verificabil poate necesita în continuare verificarea locului, datei și împrejurărilor în care este prezentat. Detectarea folosirii AI și confirmarea faptelor relatate printr-o imagine rămân, astfel, operațiuni distincte.
