Compania Anthropic se așteaptă ca angajații virtuali controlați de inteligență artificială să înceapă să circule prin rețelele corporative în decurs de un an, a declarat Jason Clinton, directorul de securitate cibernetică (CISO) al companiei, într-un interviu acordat Axios.
De ce contează acest lucru?
Gestionarea acestor identități AI va forța companiile să-și reevalueze strategiile de securitate cibernetică, pentru a evita breșe majore de securitate.
Imaginea de ansamblu
Angajații virtuali ar putea deveni următoarea zonă fierbinte în inovația AI, spune Clinton.
- În prezent, „agenții” AI sunt folosiți pentru sarcini specifice, cum ar fi detectarea atacurilor de tip phishing.
- „Angajații virtuali” ar merge mult mai departe:
- Ar avea memorii proprii,
- roluri bine definite în cadrul companiei,
- conturi și parole personale în rețelele interne.
„Acest nivel de autonomie depășește cu mult ceea ce avem azi. Iar în acea lume, sunt foarte multe probleme de securitate pe care nu le-am rezolvat încă,” a declarat Clinton.
Problemele majore
Printre provocările de securitate:
- Cum se securizează conturile acestor entități AI?
- Ce nivel de acces ar trebui să aibă în rețea?
- Cine răspunde pentru acțiunile lor?
Două responsabilități-cheie pentru Anthropic:
- Testarea riguroasă a modelelor Claude, pentru a se asigura că pot rezista atacurilor cibernetice.
- Monitorizarea și reducerea riscurilor de abuz de către actori rău intenționați.
Nivelul de risc
Administratorii IT se confruntă deja cu dificultăți în gestionarea conturilor existente, în timp ce atacatorii cumpără parole reutilizate de pe dark web. Introducerea conturilor AI ar putea amplifica aceste riscuri.
Clinton avertizează că un „angajat virtual” ar putea să preia controlul asupra sistemului de integrare continuă al companiei (unde se testează și integrează cod nou), în timp ce își execută sarcinile.
„În lumea veche, așa ceva era o infracțiune. În lumea nouă, cine e responsabil pentru un agent AI care a rulat câteva săptămâni și a ajuns în acel punct?”
Interes și investiții în securitatea AI
Clinton consideră că securitatea angajaților virtuali este una dintre cele mai importante direcții în care companiile AI ar trebui să investească în anii următori.
El susține dezvoltarea de:
- Sisteme care oferă vizibilitate asupra activității conturilor AI,
- Instrumente care stabilesc o nouă clasificare a conturilor, adaptată angajaților non-umani.
Companiile majore din domeniul AI investesc masiv:
- OpenAI este în discuții pentru achiziția startupului de cod AI Windsurf,
- Anthropic a investit recent în Goodfire, o companie care ajută la înțelegerea modului în care „gândesc” modelele AI.
Dar…
Integrarea AI în locul de muncă provoacă deja probleme de adaptare.
Anul trecut, compania de management al performanței Lattice a sugerat că AI ar trebui inclusă oficial în structura organizațională. După reacții negative, a renunțat rapid la idee.
