OpenAI, investigată de Senatul american după incidentul Hugging Face

Un subcomitet al Senatului american, condus de republicani și responsabil de supravegherea gestionării situațiilor de dezastru, analizează modul în care OpenAI a răspuns în cazul breșei de la Hugging Face din luna iulie, pe fondul preocupărilor tot mai mari legate de agenții de inteligență artificială care scapă de sub control.

Senatorul republican Josh Hawley, din Missouri, care prezidează Subcomitetul pentru Gestionarea Dezastrelor din cadrul Comisiei pentru Securitate Internă și Afaceri Guvernamentale a Senatului, a declarat că ancheta a fost declanșată de „noi dovezi îngrijorătoare”. El i-a transmis o scrisoare în acest sens directorului executiv al OpenAI, Sam Altman, pe 9 septembrie.

Potrivit senatorului republican, OpenAI a „cenzurat multe detalii importante” despre incident și a dat dovadă de „imprudență” continuând testele după ce a detectat comportament anormal al agenților de inteligență artificială.

Hawley a cerut OpenAI să furnizeze răspunsuri și documente legate de incident până pe 1 octombrie, inclusiv răspunsuri la 16 întrebări detaliate și documente privind politicile, procedurile și modul în care compania a gestionat activitatea agenților de inteligență artificială scăpați de sub control.

Senatorul democrat Richard Blumenthal, din Connecticut, i-a trimis separat o scrisoare lui Altman, cerând lămuriri cu privire la informațiile potrivit cărora agenții OpenAI ar fi încercat în mai multe rânduri să ocolească mecanismele de protecție, inclusiv folosind site-uri publice pentru a comunica și a-și coordona activitatea.

Nici OpenAI, nici platforma pentru dezvoltatori de inteligență artificială Hugging Face, pe care Nvidia o achiziționează pentru aproape 13 miliarde de dolari, nu au răspuns imediat solicitărilor de comentarii.

Ancheta vine după ce dezvoltatorul ChatGPT a dezvăluit că modelele supuse testelor interne de securitate cibernetică au ocolit mecanismele menite să le izoleze de internet și au compromis parți ale sistemelor Hugging Face.

De atunci, concurenții Anthropic și Meta au raportat la rândul lor breșe provocate de agenții lor de inteligență artificială scăpați de sub control, iar Reuters a relatat că agenții OpenAI au folosit un wiki în limba germană și peste 10 alte site-uri pentru comunicări neautorizate — semne că amploarea completă a atacurilor informatice bazate pe inteligență artificială nu este încă cunoscută.

Dezvăluirile i-au alarmat pe dezvoltatori și pe experții în securitate cibernetică, deja îngrijorați de prejudiciile pe care le poate produce inteligența artificială, reaprinzând apelurile pentru o pauză în cursa de dezvoltare a acestei tehnologii.

Preocupările legate de pericolele inteligenței artificiale s-au accentuat și după avertismentele virale lansate la începutul acestei săptămâni de doi cercetători, potrivit cărora Anthropic și OpenAI dezvoltă inteligența artificială în mod iresponsabil, iar tehnologia ar putea distruge întreaga omenire în zece ani.