O eroare AI a dus armata SUA la planuri de interceptare a unei nave chineze
Un raport de intelligence generat cu ajutorul inteligenței artificiale a identificat greșit încărcătura unei nave chineze. Eroarea a determinat armata SUA să pregătească o posibilă operațiune care putea escalada într-un conflict între cele două state.
O eroare produsă de un instrument de inteligență artificială a determinat armata SUA să pregătească interceptarea unei nave chineze despre care se credea în mod greșit că transportă componente pentru un program de arme nucleare. Raportul, descris ulterior drept „în întregime fals”, a circulat în cadrul armatei americane în timpul războiului cu Iranul.
Planuri pentru interceptarea navei
Potrivit unor surse citate de CNN, militarii americani se pregăteau să urce la bordul navei. De asemenea, au fost ridicate de la sol avioane militare americane, cu puțin timp înainte de operațiunea planificată.
Situația a fost reevaluată după ce oficialii americani au analizat mai atent raportul. Ei au descoperit că documentul fusese întocmit cu ajutorul inteligenței artificiale, iar chatbotul folosit de un analist identificase greșit încărcătura navei.
Cum a apărut informația eronată
Analistul a interogat un chatbot în legătură cu date despre manifestul navei. Informațiile proveneau de la Comandamentul pentru Operații Speciale al SUA din Pacific. Nu este clar dacă instrumentul folosit era un chatbot comercial sau un produs dezvoltat de guvernul american.
Chatbotul a combinat informații din surse deschise cu date secrete obținute prin interceptarea semnalelor. A ajuns la o concluzie decisivă, dar greșită, privind încărcătura navei. Ulterior, analistul a folosit din nou AI pentru a transforma aceste constatări într-un raport standard de informații, transmis mai departe oficialilor militari.
Riscuri pentru deciziile militare
Una dintre sursele citate de CNN a afirmat că eroarea „aproape a declanșat un război”. O operațiune americană împotriva unei nave chineze ar fi putut degenera într-un conflict armat între cele două națiuni.
Sursele au precizat că astfel de „halucinații” ale instrumentelor AI nu ar fi un incident izolat în comunitatea de intelligence. AI este introdusă în armată pentru a sprijini decizii mai rapide, inclusiv alegerea țintelor și localizarea resurselor militare. Unii oficiali consideră însă că presiunea pentru transmiterea rapidă a informațiilor poate favoriza erorile, mai ales atunci când analiștii nu verifică critic rezultatele.
În continuare, cazul evidențiază necesitatea verificării rapoartelor generate cu ajutorul inteligenței artificiale înainte ca acestea să fundamenteze operațiuni militare sau decizii cu potențial de escaladare.
Sursa: hotnews.ro