Sari la conținut
Observator Digital Observator Digital

Tech

Agenții AI pot deveni un risc de securitate pentru companii, avertizează specialiștii de la Medialine România

Lipsa unor mecanisme de control și accesul excesiv la date pot transforma agenții AI în vulnerabilități majore pentru infrastructura organizațiilor.

· 3 min citire · Redacția Observator Digital

Agenții AI pot deveni un risc de securitate pentru companii, avertizează specialiștii de la Medialine România
Foto: Economica.net / economica.net

Agenții de inteligență artificială pot reprezenta un risc semnificativ de securitate pentru companii dacă aceștia acumulează drepturi de acces excesive sau sunt manipulați, conform raportului Global Cybersecurity Outlook 2026 publicat de World Economic Forum. Spre deosebire de instrumentele AI simple, acești agenți pot fi conectați la aplicații și surse de date, având capacitatea de a executa acțiuni concrete în baza permisiunilor primite. Această funcționalitate extinsă impune companiilor să stabilească reguli stricte privind consultarea și modificarea informațiilor.

Unul dintre pericolele principale este atacul de tip prompt injection, prin care un sistem AI poate fi indus să ignore instrucțiunile inițiale pentru a executa comenzi neprevăzute. Dacă agentul AI dispune de acces la alte aplicații, un astfel de atac poate duce la accesarea unor date sau la executarea unor acțiuni fără acordul intenționat al utilizatorului. Elena Radu, Director Operațional Medialine România, subliniază că un agent AI trebuie tratat ca un nou tip de utilizator al infrastructurii, care necesită monitorizare atentă a permisiunilor.

Un alt risc major vizează extinderea excesivă a drepturilor de acces, situație în care un agent configurat pentru sarcini simple ajunge să dețină permisiuni mult mai vaste decât este necesar. World Economic Forum avertizează că multiplicarea acestor sisteme în cadrul organizațiilor face administrarea identităților și a acreditărilor la fel de complexă sau chiar mai dificilă decât gestionarea utilizatorilor umani. Această complexitate crește probabilitatea ca un sistem să opereze cu drepturi nejustificate în cadrul rețelei de business.

Erorile de configurare sau instrucțiunile greșite pot fi propagate rapid prin sisteme automatizate, afectând un număr mare de fișiere, conturi sau aplicații într-un timp foarte scurt. Elena Radu explică faptul că riscul este maxim atunci când un sistem care poate greși primește acces nelimitat, deoarece consecințele unei erori sau ale unei compromiteri sunt mult mai mari. Din acest motiv, capacitatea de a opri sau limita rapid acțiunile unui agent trebuie planificată încă din faza de implementare.

Compromiterea unui agent AI cu drepturi extinse poate afecta direct și strategiile de recuperare a datelor, deoarece acesta poate ajunge atât la datele operaționale, cât și la copiile de backup. Pentru a preveni acest scenariu, se poate utiliza Cyber Vault, un spațiu izolat de infrastructura operațională unde sunt păstrate copii ale datelor critice într-un format care împiedică modificarea lor. Recuperarea datelor trebuie făcută separat, după verificarea integrității, pentru a evita reintroducerea unor fișiere compromise în sistem.

Securitatea cibernetică rămâne o provocare majoră, în contextul în care atacurile de tip DDoS au reprezentat 77% dintre cele 4.875 de incidente analizate de ENISA în perioada iulie 2024 – iunie 2025. Integrarea agenților AI adaugă un strat suplimentar de complexitate peste formele de atac deja cunoscute. Companiile trebuie acum să integreze protecția împotriva manipulării sistemelor proprii în strategia generală de continuitate a afacerii și de reziliență a datelor.

Surse

Sursa: Economica.net

Tot în Tech