Anthropic a anunțat joi că a descoperit și a blocat mai multe tentative de utilizare abuzivă a modelului său de AI Claude pentru cercetări care ar putea sprijini dezvoltarea armelor biologice.
Compania a publicat un raport detaliat cu cinci studii de caz reale în care utilizatorii au încercat să ocolească măsurile de control și să ascundă scopul cercetărilor lor. Printre exemple se numără cercetări de tip "gain-of-function" care vizează virusuri precum gripa aviară, chikungunya, ortopoxvirusuri și toxine din venin.
Anthropicanaliza activității din ultimele 30 de zile, a identificat aproximativ 35 de "eforturi de cercetare distincte" cu activități îngrijorătoare. Totuși, compania a recunoscut că nu poate fi sigură dacă persoanele implicate aveau intenții rele sau efectuau cercetări științifice legitime.
Utilizatorii menționați în studii erau "cercetători activi", dar instituțiile și țările din care proveneau nu au fost dezvăluite. Anthropic a subliniat că utilizarea abuzivă pentru scopuri biologice reprezintă "unul dintre cele mai grave riscuri" ale modelelor moderne de AI și că fără protecții adecvate, consecințele ar putea fi catastrofale.
Compania a notat, totuși, că aceeași informații folosite pentru a dezvolta o armă biologică pot servi și scopurilor legale, cum ar fi crearea de vaccinuri sau tratamente.