Comisia Europeană a stabilit reguli pentru etichetarea conținutului generat de AI
Comisia Europeană a publicat miercuri versiunea finală a Codului de bune practici privind transparența conținutului generat de inteligența artificială, un document care explică modul în care companiile, platformele și operatorii de sisteme AI trebuie să aplice noile obligații prevăzute în AI Act.
Noile reguli se vor aplica din 2 august 2026 și vizează, în special, etichetarea imaginilor, videoclipurilor, înregistrărilor audio și textelor generate sau manipulate cu ajutorul inteligenței artificiale. Practic, utilizatorii vor trebui să fie informați când interacționează cu un chatbot, când văd un deepfake sau când citesc un text generat automat pe teme de interes public.
Comisia Europeană susține că aceste reguli sunt necesare într-un context în care devine tot mai greu pentru utilizatori să facă diferența dintre conținutul creat de oameni și cel generat artificial. Riscurile vizate sunt dezinformarea, manipularea la scară largă, fraudele, impersonarea unor persoane reale și inducerea în eroare a consumatorilor.
„Europenii au dreptul să știe dacă ceea ce văd, aud sau citesc a fost făcut sau modificat de IA, în special atunci când un astfel de conținut poate modela dezbaterea publică. Transparența este modul în care protejăm încrederea. Prezentul Cod de bune practici oferă furnizorilor și implementatorilor de IA o modalitate clară și practică de a eticheta conținutul generat de IA și deepfake-urile, în conformitate cu normele Regulamentului privind IA, care se vor aplica de la 2 august. Îi invit să adere la cod și să dea dovadă de spirit de lider în dezvoltarea și implementarea unei IA responsabile și de încredere”, a declarat Henna Virkkunen, vicepreședintă executivă a Comisiei Europene pentru suveranitate tehnologică, securitate și democrație.
Codul a fost elaborat de șase experți independenți, cu contribuții din partea a peste 180 de părți interesate, printre care furnizori de sisteme AI, operatori, IMM-uri, reprezentanți ai mediului academic, instituții publice și organizații ale societății civile. Printre autori se află și profesoara româncă Mădălina Botan, de la SNSPA, vicepreședintă a unuia dintre grupurile de lucru implicate în redactarea Codului.
Una dintre cele mai vizibile schimbări pentru utilizatori va fi apariția unor etichete clare pentru conținutul generat sau modificat cu ajutorul inteligenței artificiale. Deepfake-urile vor trebui marcate ca atare, iar imaginile, videoclipurile și materialele audio generate artificial vor trebui să poată fi identificate. De asemenea, textele generate sau manipulate de AI, publicate pe teme de interes public, trebuie etichetate clar atunci când nu există o revizuire umană sau control editorial.
Asta înseamnă că un material video care imită o persoană reală, o imagine creată artificial, o înregistrare audio generată cu voce sintetică sau un text produs automat despre alegeri, sănătate, economie ori alte teme de interes public va trebui semnalat astfel încât utilizatorul să înțeleagă că materialul nu este autentic.
Codul stabilește că furnizorii de sisteme AI generative trebuie să folosească soluții de marcare care pot fi citite automat. Cu alte cuvinte, conținutul generat sau modificat de AI trebuie să conțină semnale tehnice care să permită identificarea lui ca fiind artificial. Aceste marcaje pot include metadate, watermark-uri invizibile, semnături digitale sau alte soluții tehnice care indică faptul că materialul a fost generat ori modificat cu ajutorul inteligenței artificiale.
Documentul arată, însă, că, în multe cazuri, o singură metodă de marcare nu este suficientă. De aceea, Codul recomandă folosirea unei combinații de soluții tehnice, pentru ca marcajele să fie eficiente, robuste, fiabile și interoperabile. Scopul este ca un conținut generat de AI să poată fi identificat chiar dacă este redistribuit, comprimat, modificat sau publicat pe mai multe platforme.
În cazul imaginilor și videoclipurilor, marcajele pot fi integrate direct în fișier sau în metadatele acestuia. Pentru materialele audio pot fi folosite soluții similare, adaptate formatului sonor. În cazul textelor, situația este mai complicată, deoarece textul simplu nu poate păstra metadate în același mod ca o imagine sau un videoclip. Din acest motiv, documentul vorbește despre soluții speciale de marcare a textelor generate automat.
Codul nu se limitează doar la obligația de a marca materialele generate de AI. Furnizorii vor trebui să pună la dispoziție și soluții de detecție, astfel încât marcajele să poată fi verificate. Aceste soluții pot lua mai multe forme: specificații publice, programe software, biblioteci tehnice sau servicii cloud accesibile prin API. Scopul este ca utilizatorii, platformele, cercetătorii, jurnaliștii, autoritățile sau alte părți interesate să poată verifica dacă un conținut a fost produs sau manipulat de un anumit sistem AI.
Rezultatul verificării trebuie afișat clar și într-un mod ușor de înțeles. Cu alte cuvinte, nu este suficient ca sistemul să detecteze tehnic marcajul; informația trebuie prezentată astfel încât utilizatorul să înțeleagă dacă materialul este generat de AI, modificat de AI sau autentic. Documentul mai prevede că aceste mecanisme trebuie testate, monitorizate și actualizate periodic, pentru a rămâne eficiente în fața tehnologiilor care evoluează rapid.
Ghidul prevede inclusiv posibilitatea folosirii unor iconițe europene comune pentru marcarea conținutului generat sau modificat de AI. Sunt prevăzute iconițe distincte pentru conținut complet generat de inteligența artificială și pentru conținut parțial modificat cu AI. Variantele propuse includ etichete de tip „AI GENERATED” și „AI MODIFIED”, pentru ca utilizatorii să înțeleagă rapid dacă un material este creat integral artificial sau doar modificat parțial.
Aceste iconițe sunt gândite pentru a fi ușor de observat, ușor de înțeles și utilizabile pe platforme diferite. Comisia Europeană a menționat că designul lor a fost testat în mai multe state membre, iar variantele cu text explicit au fost considerate mai clare pentru utilizatori.
În practică, o astfel de etichetă ar putea apărea peste o imagine, într-un colț al unui videoclip, lângă un text publicat online sau într-un alt loc vizibil, în funcție de formatul conținutului.
Una dintre regulile importante din Cod este că eticheta trebuie afișată cel târziu în momentul în care utilizatorul vede sau aude pentru prima dată conținutul respectiv. Asta înseamnă că avertismentul nu ar trebui ascuns într-un meniu, într-o pagină separată sau într-un text greu de găsit. Eticheta trebuie să fie vizibilă imediat, fără ca utilizatorul să fie nevoit să caute explicații suplimentare.
Pentru conținutul vizual, Codul recomandă ca eticheta să fie plasată într-un loc ușor de observat, de exemplu într-un colț al imaginii sau al videoclipului, fără să fie acoperită de alte elemente grafice. Ea trebuie să rămână vizibilă suficient timp pentru a putea fi observată. Documentul cere ca etichetarea să fie accesibilă și pentru persoanele cu dizabilități, copii sau vârstnici. În cazul conținutului audio, urmează să fie dezvoltate soluții specifice, inclusiv o variantă de icon dedicată materialelor sonore.
Pentru furnizorii de sisteme AI generative, obligația principală este să marcheze automat conținutul
