Sam Altman promite încetinirea dezvoltării AI dacă siguranța este pusă în pericol
Șeful OpenAI, Sam Altman, a declarat la San Francisco că temerile privind inteligența artificială sunt justificate și a promis că firmele vor încetini sau se vor opri dacă oamenii ajung în pericol. Declarațiile au relansat dezbaterea despre siguranța tehnologiei și autoreglementarea industriei.
Sam Altman, directorul OpenAI, a declarat la o conferință desfășurată marți, la San Francisco, că oamenii au motive să se teamă de evoluția rapidă a inteligenței artificiale. El a promis că firmele din domeniu vor încetini ritmul sau vor opri dezvoltarea dacă nu vor putea menține siguranța înaintea capacităților noilor sisteme.
Temeri justificate și promisiuni de siguranță
Altman a spus că nu este nevoie de multă imaginație pentru a înțelege cum ar putea evolua negativ lucrurile în domeniul inteligenței artificiale. În opinia sa, companiile trebuie să păstreze alinierea și siguranța cu mult înaintea creșterii capacităților tehnologice.
Declarațiile au fost prima intervenție publică a lui Altman după ce o postare a unui cercetător plecat de la Anthropic a devenit virală. Acesta susținuse că inteligența artificială ar putea ucide toți oamenii până la sfârșitul deceniului dacă nu este controlată. Afirmația a fost sprijinită de mai mulți directori și experți, fără explicații detaliate privind modul în care s-ar putea produce un asemenea scenariu.
Industria preferă autoreglementarea
Directorul executiv al Anthropic, Dario Amodei, a cerut încetinirea dezvoltării inteligenței artificiale și a solicitat intervenția guvernelor prin reglementări. În același timp, tot mai mulți lideri din industrie și-au exprimat sprijinul pentru autoreglementare, în locul unor noi măsuri impuse de autorități.
Șeful Meta, Mark Zuckerberg, a afirmat că laboratoarele de inteligență artificială au atât capacitatea, cât și stimulentul de a lua singure măsuri pentru dezvoltarea unor modele sigure. Jensen Huang, directorul Nvidia, a susținut că firmele ar trebui să decidă dacă noile versiuni pot fi lansate și că siguranța trebuie tratată ca o problemă de inginerie.
Dezbaterea despre control și responsabilitate
Ideea autoreglementării totale este contestată de alte personalități din domeniu. Jack Clark, director executiv și cofondator al Anthropic, a declarat pentru BBC că o industrie complet nereglementată ar însemna asumarea unor riscuri majore. Patrick Hillman, directorul operațional al Logical Intelligence, a atras atenția asupra nivelului redus de încredere pe care publicul îl acordă companiilor de tehnologie.
OpenAI și Anthropic au început să lucreze la un posibil acord la nivelul întregii industrii privind siguranța. Anthropic a anunțat că discută cu alte companii despre standarde mai bune și verificări pentru instrumentele și procesele de dezvoltare a inteligenței artificiale.
În perioada următoare, discuțiile dintre companii ar urma să vizeze standarde comune de siguranță și verificarea dezvoltării noilor sisteme, în timp ce dezbaterea privind rolul guvernelor și al autoreglementării continuă.
Sursa: hotnews.ro