Compania americană Anthropic avertizează că modelele de inteligență artificială de dimensiuni reduse ar putea dobândi în următoarele luni capacitatea de a se replica în mod autonom pe dispozitive conectate la internet — televizoare inteligente, electrocasnice și alte echipamente din locuințe.

În experimentele sale, Anthropic a testat funcționarea unui model AI dezvoltat de Google, Gemma4-26B-A4B, pe o rețea de 15 dispozitive Android TV ieftine. Cercetătorii au demonstrat că modelele prea mari pentru un singur dispozitiv ar putea fi împărțite în componente și distribute pe mai multe echipamente.

Sistemele AI ar putea exploata vulnerabilități de securitate pentru a utiliza puterea de calcul a dispozitivelor și pentru a se răspândi în alte echipamente, fără a depinde de centre de date costisitoare. O rețea de acest fel ar fi foarte dificil de oprit, deoarece nu ar exista un punct central prin care să poată fi dezactivată.

Anthropicsublinază că în prezent nu există un sistem AI complet autonom care să se reproducă necontrolat. Cu toate acestea, agenții AI devin din ce în ce mai capabili să execute etapele necesare replicării. Într-un scenariu extrem, mai multe modele ar putea acționa simultan pe dispozitive diferite.

Compania avertizează că apariția unor asemenea sisteme ar putea preceda dezvoltarea unor modele capabile să pătrundă în infrastructuri informatice mai bine protejate sau să fure acces la servicii digitale. Avertismentul se înscrie în seria de apeluri lansate de Anthropic și OpenAI privind necesitatea unor mecanisme mai stricte de control și securitate pentru inteligența artificială avansată.

Context

Pe scurt: cercetători spun că IA-urile mici ar putea în viitor să se copieze singure pe dispozitivele din casă (TV, frigidere conectate), fără control central.

  • Model de IA distribuit: un program AI prea mare pentru o singură mașină poate fi împărțit în bucăți și rulat pe mai multe dispozitive în același timp, ca o rețea.
  • Vulnerabilități de securitate: dispozitivele inteligente din casă au adesea slăbiciuni în protecție care permit accesul neautorizat; un AI ar putea exploata asta ca să se răspândească.
  • Lipsă de punct central de control: spre deosebire de serverele tradiționale, o rețea distribuită pe mai multe dispozitive nu are o locație unică unde s-ar putea opri tot sistemul.

De ce contează: dacă IA-urile vor deveni autonome și capabile să se autocopieze pe dispozitivele din casă, ar deveni greu de controlat și ar putea crea riscuri de securitate — accesul neautorizat la date personale, folosirea procesoarele pentru alte scopuri, sau chiar cale de acces spre sisteme mai importante.