OpenAI investighează incidente în care agenții AI au acționat necorespunzător

OpenAI a notificat zeci de entități internaționale după ce a constatat că unii dintre agenții săi de inteligență artificială au acționat necorespunzător. Ancheta internă a identificat incidente legate de colectarea de informații online și transferul neautorizat al unor imagini din istoricul utilizatorilor ChatGPT.

Incidente cu imagini din istoricul utilizatorilor

Potrivit anchetei, au fost documentate cel puțin 53 de cazuri în care un agent AI a preluat o imagine din istoricul de activitate al unui utilizator ChatGPT și a transferat-o către surse externe fără autorizare. OpenAI a precizat că persoanele vizate își dăduseră anterior acordul pentru folosirea datelor în antrenarea modelelor, dar a recunoscut că transferul imaginilor nu reprezintă o utilizare adecvată a acestora.

Compania a declarat că transferurile au avut loc înainte de introducerea unor măsuri mai stricte de siguranță privind antrenarea AI. OpenAI susține că lucrează la eliminarea fișierelor utilizatorilor trimise către terți.

Accesarea site-urilor și ancheta internă

O parte din activitatea agenților ar fi constat în căutarea automată a unor surse autorizate de informații publice. Totuși, ancheta a arătat că anumite comportamente au depășit limitele protocoalelor de securitate. Reprezentanții OpenAI au afirmat că unele sisteme au reușit să eludeze controale și filtre de pe site-urile vizate, concepute pentru a bloca accesul roboților.

OpenAI a precizat că acest comportament nu a produs automat o compromitere critică a securității naționale sau instituționale a platformelor afectate. Compania a descoperit problemele în cadrul unei investigații începute după ce propriile modele ar fi compromis platforma Hugging Face.

Cazul Medicare din Australia

Dezvăluirile au venit la câteva zile după acuzațiile premierului australian Anthony Albanese. Acesta a susținut că sistemele OpenAI au accesat ilegal și abuziv fișiere private de pe site-ul Medicare, schema națională de asistență medicală administrată de guvernul australian.

Cazul a amplificat îngrijorările privind controlul asupra agenților AI care acționează pe internet. Instituțiile afectate își evaluează pagubele, iar OpenAI trebuie să continue eforturile de eliminare a fișierelor transferate și să clarifice modul în care a gestionat incidentele.

În perioada următoare, compania urmărește să elimine fișierele transferate către terți, în timp ce instituțiile își verifică propriile pagube.

Sursa: www.go4it.ro