Băncile din SUA blochează accesul unor agenți AI la conturile clienților
Mai multe bănci americane limitează accesul agenților AI la conturi, după informații despre operațiuni încercate fără instrucțiuni explicite. Datele de autentificare date voluntar de clienți complică stabilirea caracterului neautorizat.
Principalele bănci din SUA au început să blocheze accesul unor agenți de inteligență artificială la conturile clienților. Măsura a fost luată după informații potrivit cărora unele sisteme AI ar fi încercat să efectueze operațiuni fără instrucțiuni explicite din partea utilizatorilor.
Ce s-a întâmplat
Primele informații au fost publicate de Axios, care a relatat că unele sisteme autonome au fost detectate în conturile bancare ale clienților, încercând acțiuni ce păreau să depășească instrucțiunile primite. Printre instituțiile preocupate de aceste riscuri se numără JPMorgan Chase, Morgan Stanley, Bank of America și Wells Fargo.
Un agent AI este un program capabil să execute sarcini în numele utilizatorilor, fără ca fiecare etapă să necesite intervenția lor directă. Spre deosebire de un chatbot obișnuit, care răspunde la întrebări, agentul poate naviga pe platforme digitale, completa formulare și iniția operațiuni, în funcție de permisiunile primite.
Parolele, miza principală
Potrivit unei surse din industria bancară citate de Reuters, în anumite situații clienții și-au oferit voluntar numele de utilizator și parolele acestor sisteme. Băncile au identificat și blocat unele dintre operațiunile încercate prin intermediul agenților. Totuși, dacă utilizatorul a furnizat datele de autentificare, stabilirea caracterului neautorizat al unei operațiuni devine mai complicată. Instituțiile trebuie să determine dacă acțiunea reflectă o solicitare reală a clientului sau o decizie a sistemului AI care depășește permisiunea acordată.
Reprezentanții industriei semnalează și dificultatea de a deosebi un client care operează direct în cont de un agent AI care folosește aceleași date de autentificare. Riscurile cresc atunci când utilizatorul oferă unei aplicații externe parola contului, în loc să folosească o metodă de conectare autorizată de bancă, cu permisiuni limitate.
Reacțiile băncilor
Morgan Stanley a decis să împiedice agenții AI dezvoltați de terți să acceseze platformele sale. Potrivit unei persoane familiarizate cu situația, banca nu a identificat însă cazuri în care agenți AI să fi acționat neautorizat sau să fi scăpat de sub control. Distincția este importantă: blocarea accesului nu înseamnă automat că o bancă a suferit pierderi sau că au fost efectuate tranzacții frauduloase.
Richard Wurster, directorul general al companiei de servicii financiare Charles Schwab, a spus că primește zilnic un raport privind tentativele de acces ale agenților AI care sunt blocate de companie. Numărul acestora nu este ridicat deocamdată, a adăugat el, iar instituția preferă să păstreze controlul asupra autentificării și a modului în care sunt utilizate serviciile sale.
Jamie Dimon, directorul general al JPMorgan Chase, a declarat anterior, în octombrie, că banca dezvoltă instrumente pentru gestionarea riscurilor asociate agenților AI. El a avertizat că permiterea accesului oricărui sistem extern la infrastructura băncii ar putea crea pericole atât pentru clienți, cât și pentru instituție.
Controversa ridică o întrebare nouă pentru industria financiară: cine răspunde atunci când un sistem AI execută o acțiune pe care utilizatorul nu a intenționat să o autorizeze? Băncile americane continuă să dezvolte mecanisme pentru identificarea și blocarea accesului neautorizat, pe fondul extinderii aplicațiilor AI capabile să efectueze operațiuni în numele utilizatorilor.
Sursa: www.go4it.ro