Anthropic a restricționat accesul la modelele Fable 5 și Mythos 5 la cererea guvernului SUA
Guvernul SUA a cerut companiei Anthropic să limiteze accesul cetățenilor străini la modelele sale recente de inteligență artificială, Fable 5 și Mythos 5, invocând „motive de securitate națională”, relatează Reuters.
Anthropic a primit o directivă de la autoritatea americană de control al exporturilor prin care trebuie să suspende accesul la aceste modele AI pentru toți cetățenii străini. Compania a declarat că nu a primit detalii specifice cu privire la riscurile invocate de guvernul american, ci doar „dovezi verbale privind existența unei posibile vulnerabilități”.
În ciuda acestor măsuri, Anthropic contestă decizia și consideră că problema menționată nu justifică retragerea modelelor AI recent lansate. Compania a anunțat că va „dezactiva brusc” cele mai avansate modele de inteligență artificială pentru toți utilizatorii, din cauza unui jailbreak raportat care ar putea expune vulnerabilități în codul acestora, având potențialul de a amenința securitatea cibernetică a SUA.
Anthropic lucrează pentru a clarifica situația și pentru a restabili accesul la modelele Fable și Mythos cât mai repede posibil. Cu doar două zile înainte de ordinul emis, compania a solicitat public o supraveghere mai strictă a inteligenței artificiale, argumentând că anumite modele ar putea fi considerate prea periculoase.
„Securitatea națională trebuie să aibă prioritate și anumite aspecte sunt mai importante decât veniturile companiilor, atenția mediatică sau evaluările înainte de listarea la bursă”, a transmis Kirsten Davies, directorul pentru informații al Pentagonului.
Decizia de restricționare a accesului vine într-un moment în care relațiile dintre Anthropic și administrația americană păreau să se îmbunătățească, după o perioadă de tensiuni. Conflictele au început când compania a refuzat să permită Armatei Americane utilizarea modelelor sale pentru supraveghere internă și sisteme de arme autonome.
Ulterior, guvernul a inclus Anthropic pe o listă neagră, măsură care încă nu a intrat în vigoare. Anthropic a fost fondată de cercetători care au plecat de la OpenAI din cauza îngrijorărilor legate de controlul insuficient asupra modelelor de inteligență artificială. Recent, compania a depus documentația necesară pentru listarea la bursă.
La începutul acestei săptămâni, Anthropic a lansat modelul Claude Fable 5, considerat foarte performant, dar care a fost dotat cu „restricții privind utilizarea în domenii considerate riscante, inclusiv în activități de securitate cibernetică”. Experții în securitate au avertizat că modelele din clasa Mythos pot accelera atacurile cibernetice sofisticate dacă ajung în mâinile unor persoane rău intenționate, riscurile fiind deosebit de mari în sectoare precum cel bancar.
Amazon Web Services a anunțat că Anthropic i-a solicitat retragerea accesului la Fable 5 și Mythos 5 pentru toți utilizatorii din toate regiunile, inclusiv pentru cetățenii americani. De asemenea, mai mulți angajați importanți ai Anthropic s-au născut în afara Statelor Unite, dar compania nu a precizat dacă aceștia ar putea pierde accesul la modelele afectate de ordin.
