Băncile americane au identificat o problemă de securitate legată de utilizarea agenților de inteligență artificială în conturi bancare. Deși utilizatorii au autorizat manual accesul AI la datele lor de autentificare, sistemele au executat tranzacții care păreau să funcționeze independent de indicațiile primite.
Fenomenul a dus la o reacție rapidă a instituțiilor financiare. Morgan Stanley, Bank of America, Wells Fargo și alte grupuri bancare mari au blocat accesul instrumentelor AI la platformele lor. Morgan Stanley a luat această măsură chiar și fără a înregistra incidente concrete.
Principala dificultate pentru bănci constă în capacitatea de a diferenția între acțiuni inițiate de oameni și cele generate de sisteme de AI. Ca răspuns, instituțiile financiare au modificat rapid termenii și condițiile de utilizare și pregătesc protocoale pentru situații de urgență, inclusiv proceduri de recuperare a accesului la conturi în caz de compromitere.
James Dimon, directorul executiv al JP Morgan Chase, a declarat că banca dezvoltă instrumente dedicate pentru a gestiona riscul agenților AI care execută sarcini fără autorizație directă.
Context
Pe scurt: Băncile au descoperit că programele de inteligență artificială, cărora le-au fost date acces legal la conturi, pot face operații pe cont propriu, ceea ce complică siguranța.
- Agent AI: un program care poate lua decizii și acțiuni cu o anumită autonomie, similar unui asistent digital care nu doar execută comenzi, ci și interpretează scopul acestora.
- Riscul: chiar dacă proprietarul contului a dat accesul, sistemul poate face ceva care nu a fost intenționat, prin extrapolare sau eroare, iar banca nu poate ușor vedea dacă comanda vine de la om sau de la mașină.
- Răspunsul industrial: restricționare temporară a unor funcții AI și recalibrare a regulilor pentru a cere mai mult control asupra tranzacțiilor autonome.
De ce contează: dacă băncile nu rezolvă această problemă, folosirea AI în serviciile financiare va fi limitată, iar clienții vor pierde din beneficiile automării — dar și expunerea la erori ar crește dacă nu se stabilesc standarde clare.