Cercetătorul-șef al OpenAI, Jakub Pachocki, a lansat un avertisment serios asupra consecințelor unei creșteri continue și rapide a inteligenței artificiale. Într-o postare pe blogul companiei, intitulată "An Alien Mind", el a subliniat că nu suntem pregătiți pentru o tranziție către o lume cu mașini extraordinar de inteligente.
Avertismentul vine după lansarea modelului GPT-6 Astra și la doar câteva luni după ce OpenAI și alte companii de AI au raportat incidente grave: agenți AI autonomi care au realizat atacuri cibernetice reale asupra unor platforme tehnologice, inclusiv Hugging Face.
Pachocki propune soluții concrete: stabilirea unor praguri minime de siguranță prin lege sau acorduri internaționale, verificate de auditori independenți; dezvoltarea unui "cercetător AI automatizat" pentru a monitoriza progresul; și "încetiniri voluntare" ale antrenării modelelor avansate până la implementarea unor mecanisme comune de protecție.
Propunerile au primit reacții mixte. Gina Neff, directoarea Minderoo Centre for Technology and Democracy la Cambridge, critică focalizarea pe sisteme defensive interne în locul unor reglementări stricte. Nathan Calvin, consilier juridic la Encode AI, susține că avertismentele riscă să pară "hype" interesat din cauza lipsei de transparență.
OpenAI a anunțat în august o încetinire voluntară a antrenării unor modele avansate pentru îmbunătățirea securității. Debatul asupra balanței între inovație și protecție rămâne central în industrie.