O treime dintre companii nu verifică securitatea instrumentelor AI

Companiile introduc tot mai des verificări de securitate înainte de implementarea instrumentelor de inteligență artificială, însă aproximativ o treime încă nu le fac. Potrivit datelor citate de Medialine România din raportul Global Cybersecurity Outlook 2026 al World Economic Forum, vulnerabilitățile asociate AI au fost indicate de 87% dintre respondenți drept riscul cibernetic cu cea mai rapidă creștere în 2025.

Verificările de securitate, în creștere

Raportul arată că 64% dintre organizații au introdus procese pentru evaluarea securității instrumentelor AI înainte de implementare. Procentul este aproape dublu față de anul anterior, când se situa la 37%. În același timp, aproximativ o treime dintre organizații nu verifică încă securitatea acestor instrumente.

Medialine România atrage atenția asupra folosirii instrumentelor publice de AI pentru informații precum contracte, date financiare sau baze de date cu clienți. În aceste situații, compania poate pierde controlul asupra modului în care informațiile sunt procesate și gestionate.

Înainte de integrarea unei soluții AI în activitatea zilnică, organizațiile ar trebui să analizeze procesarea datelor, infrastructura pe care rulează soluția, drepturile de acces și controlul păstrat asupra informațiilor. Elena Radu, Director Operațional Medialine România, a spus că aceste decizii trebuie luate înainte ca instrumentul să lucreze cu date reale de business.

Nivelul de risc depinde de date și utilizare

Medialine susține că nu toate scenariile de utilizare a AI au același nivel de risc. Instrumentele publice pot fi folosite pentru activități fără informații confidențiale, în timp ce datele financiare, contractele și bazele de date interne necesită reguli și mecanisme suplimentare de protecție.

Pentru informații sensibile, o variantă este infrastructura privată, fie în centrul de date al companiei, fie într-un cloud privat. Potrivit materialului, aceasta permite organizației să stabilească mai clar cine accesează informațiile, unde sunt procesate și în ce condiții pot fi utilizate de aplicațiile AI.

Pentru companiile din sectoare reglementate, utilizarea AI trebuie analizată și prin prisma cerințelor NIS2 și DORA privind riscurile cibernetice și furnizorii externi. Evaluarea include infrastructura, găzduirea și locul în care datele sunt procesate și stocate.

De la testare la procese cu date reale

Reprezentanții Medialine recomandă diferențierea între testarea unui instrument AI și folosirea lui în procese cu acces la informații sensibile. Înainte de implementare, companiile ar trebui să stabilească ce categorii de date pot fi procesate, unde vor fi găzduite, cine le poate accesa și ce mecanisme de audit și control sunt disponibile.

Medialine oferă CompanyCloud, servicii de cloud privat, și CompanyAI GPT, un mediu AI securizat pentru organizații. Acesta poate rula în cloudul privat al companiei din România sau Germania ori în infrastructura clientului. Soluția include Generative Shield, un strat de guvernanță cu reguli și filtre pentru procesarea datelor, accesul AI și conținutul care trebuie blocat.

În continuare, companiile trebuie să definească aceste reguli și controale înainte de a permite instrumentelor AI să lucreze cu informații reale. Materialul subliniază că atenția trebuie să vizeze și infrastructura și controlul datelor, nu doar performanța modelelor.

Sursa: start-up.ro