OpenAI a suspendat conturi ChatGPT din Rusia implicate în campania de dezinformare
OpenAI a anunțat că a blocat un grup de conturi ChatGPT din Rusia, după ce a descoperit că acestea erau utilizate într-o operațiune online de influență și răspândire a dezinformării, transmite CNBC.
Compania a identificat activitatea în timp ce investiga postări de pe rețelele sociale generate cu ajutorul inteligenței artificiale. Analiza a condus ulterior la descoperirea unei operațiuni mult mai ample, concepute inclusiv pentru a ascunde originea rusă a celor implicați.
ChatGPT era folosit pentru producerea mesajelor de propagandă. Potrivit OpenAI, operatorii introduceau instrucțiuni în limba rusă și utilizau ChatGPT pentru a genera comentarii și alte materiale destinate platformelor Substack, Telegram, X, Facebook și LinkedIn. Utilizatorii cereau inclusiv modelului să elimine din textele generate indiciile lingvistice care ar fi putut dezvălui că autorii erau ruși.
O componentă importantă a campaniei era promovarea unei organizații numite International Burke Institute (IBI). Site-ul acesteia conținea materiale copiate din lucrări academice reale, uneori atribuite în mod fals altor autori. Operațiunea nu urmărea astfel doar distribuirea unor postări favorabile Rusiei. Era construită o infrastructură care să ofere acestor mesaje o aparență de credibilitate, prin presupuși experți, materiale cu aspect academic și instrumente prezentate drept analize proprii.
Campania dezvoltase și un așa-numit „sovereignty index”, sau indice al suveranității, care prezenta Rusia într-o lumină favorabilă și evalua negativ state occidentale. Postările generate cu ChatGPT direcționau utilizatorii către ceea ce părea a fi o instituție credibilă, cu experți, cercetări academice republicate și propriul indice de evaluare a riscurilor.
OpenAI consideră că mecanismul arată modul în care inteligența artificială poate fi utilizată nu doar pentru producerea rapidă de conținut, ci și pentru fabricarea unei aparențe de autoritate și independență a surselor. OpenAI afirmă că operațiunea nu pare să fi obținut o audiență foarte mare. Compania consideră însă că pericolul principal consta în infrastructura creată. Aceasta putea fi dezvoltată și utilizată ulterior pentru campanii de influență la o scară mult mai mare.
AI poate permite actorilor implicați în asemenea operațiuni să producă volume mari de conținut, să ascundă originea mesajelor și să creeze instituții aparent legitime care să susțină anumite narațiuni. În acest caz, utilizarea inteligenței artificiale a avut însă și efectul invers: urmele lăsate de folosirea ChatGPT au contribuit la descoperirea operațiunii mai ample.
Incidentul se înscrie într-o serie mai largă de tentative de utilizare a inteligenței artificiale în operațiuni de influență asociate unor actori pro-ruși. În februarie, OpenAI anunțase închiderea unor conturi ChatGPT asociate cu Rybar, o organizație media pro-rusă despre care guvernul britanic afirmă că este parțial coordonată de Administrația Prezidențială rusă, finanțată de corporația de stat Rostec și că lucrează cu membri ai serviciilor ruse de informații.
Descoperirea evidențiază una dintre provocările tot mai importante generate de AI: aceeași tehnologie care permite producerea rapidă și ieftină de conținut poate fi folosită pentru construirea unor ecosisteme de informații aparent credibile, menite să ascundă cine se află în realitate în spatele mesajelor distribuite online.
