Anthropic, dezvoltatoarea asistentului Claude, achiziționează Opaque Systems, companie de securitate AI cofondată de Raluca Ada Popa, profesor asociat la Universitatea California, Berkeley, și cercetător principal la Google DeepMind. Valoarea tranzacției nu a fost dezvăluită.

Opaque s-a dezvoltat din cercetarea universității și a devenit lider în domeniul inteligenței artificiale confidențiale și al infrastructurii AI securizate. Compania a construit tehnologii care permit organizațiilor să proceseze informații sensibile fără compromiterea confidențialității, inclusiv prin mecanisme de protecție la nivel hardware.

Firma a extins apoi activitatea spre sisteme AI al căror comportament poate fi verificat independent, printr-o dovadă criptografică a funcționării și respectării politicilor de securitate. Opaque a dezvoltat și proiecte open-source dedicate securității agenților AI, cum ar fi AgenTrust și Agent Governance Toolkit.

Raluca Ada Popa coordonează de noiembrie 2024 cercetarea în domeniu de securitate și confidențialitate la Google DeepMind, inclusiv pentru familia de modele Gemini. La Berkeley din 2015, a cofondat laboratoarele RISELab (2016–2022) și SkyLab (din 2022). A fost președintă a Opaque din ianuarie 2021 până decembrie 2024, rămânând în consiliul de administrație. Este și cofondatoare a PreVeil, firmă de criptare a comunicațiilor.

Achiziția marchează o nouă etapă pentru tehnologiile Opaque, într-un moment în care protejarea informațiilor și verificarea sistemelor autonome devin provocări critice pentru industria AI.

Context

Pe scurt: O companie americană de inteligenție artificială cumpără o firmă de securitate AI românească, pentru a îmbunătăți modul în care protejează informațiile sensibile și verifică corectitudinea modelelor sale de AI.

  • Inteligenţa artificială confidenţială – domeniu care studiază cum pot sistemele AI să proceseze date private (ex. date medicale, financiare) fără să le divulge sau să le compromită.
  • Verificare criptografică – o metodă matematică prin care poți proba că un sistem de AI se comportă corect și respectă regulile de securitate, fără să-i dai cuiva acces la codul intern.
  • Hardware-level protection – protecția informațiilor se implementează chiar la nivel de procesor/cip, nu doar în software, oferind o stare de apărare mai puternică.

Cum funcționează: Opaque a dezvoltat instrumente și procese care le permit companiilor să folosească modele de AI asupra datelor sensibile, în siguranță. Acum, Anthropic preiau aceste tehnologii pentru a le integra în propriii săi sistemi.

De ce contează: Pe măsură ce AI-ul penetrează sectoare sensibile (sănătate, finanțe, justiție), capabilitatea de a proteja confidențialitatea datelor și de a garanta că modelele funcționează corect devine esențială pentru încrederea utilizatorilor și conformitatea legală.