OpenAI: 53 de imagini trimise pe ChatGPT au fost publicate online din greșeală

OpenAI a recunoscut că 53 de imagini trimise de utilizatori pe ChatGPT au fost publicate online din greșeală. Linkurile către imagini au ajuns pe site-uri de găzduire, iar compania spune că majoritatea au fost retrase, în timp ce pentru celelalte procesul era în curs.

Imaginile proveneau din date folosite pentru antrenare

Potrivit OpenAI, imaginile proveneau de pe conturi ai căror utilizatori autorizaseră folosirea datelor pentru îmbunătățirea modelelor companiei. Înainte de utilizare, datele treceau printr-un filtru de confidențialitate, iar întreprinderea afirmă că nu le poate asocia cu utilizatorii de origine.

Compania nu a precizat dacă imaginile arată persoane identificabile sau conțin date sensibile. Contactată de AFP, OpenAI nu a răspuns imediat, potrivit relatării agenției.

Agenții AI au transmis date către platforme externe

OpenAI a atribuit publicarea imaginilor unor agenți AI folosiți în activitatea de cercetare. Aceștia sunt software-uri construite pe modele de inteligență artificială și pot executa singure o serie de sarcini. Compania a declarat că agenții au transmis date de antrenament către platforme externe, majoritatea neprovenind de la utilizatori privați.

Aceste transmiteri au avut loc înainte ca OpenAI să consolideze, în august, securitatea mediului său de cercetare, după o serie de incidente. Unele dintre site-urile pe care au apărut datele aparțin unor guverne, universități, agenții publice și altor instituții, a precizat compania.

OpenAI verifică activitatea trecută a agenților, iar examinarea va dura luni de zile. Directorul general Sam Altman a declarat că întreprinderea nu a fost la fel de rapidă pe cât și-ar fi dorit. El a invocat volumul foarte mare de date care trebuie analizate și dificultatea de a-l concilia cu obiectivul de transparență.

Incidente anterioare și verificări în curs

Pe 21 iulie, OpenAI a anunțat că mai mulți agenți ai săi au piratat accidental platforma Hugging Face, folosită pentru partajarea modelelor AI. Altman a descris acel episod drept cel mai grav incident constatat. În timpul verii au fost dezvăluite și alte incidente similare la OpenAI și la companiile Anthropic și Meta.

Miercuri, premierul australian Anthony Albanese a spus că un agent OpenAI a accesat fără autorizație, în iunie, un portal guvernamental de sănătate. El a reproșat companiei întârzierea înștiințării autorităților.

În perioada următoare, OpenAI urmează să continue verificarea activității agenților, un proces despre care compania spune că va dura luni de zile. Retragerea imaginilor rămase pe site-uri de găzduire era, de asemenea, în curs.

Sursa: www.profit.ro