Sari la conținut
Observator Digital Observator Digital

Tech

Riscurile securității în utilizarea agenților AI: Problemele accesului și ale manipulării sistemelor

Agenții AI pot introduce vulnerabilități noi în companii dacă nu sunt limitați strict prin mecanisme de control și permisiuni clare.

· 3 min citire · Redacția Observator Digital

Riscurile securității în utilizarea agenților AI: Problemele accesului și ale manipulării sistemelor
Foto: Economedia

Utilizarea agenților AI în cadrul companiilor poate genera riscuri semnificative de securitate dacă aceștia sunt conectați la aplicații și date fără limite clare de acces. Raportul Global Cybersecurity Outlook 2026, publicat de World Economic Forum, avertizează că aceste sisteme pot fi determinate să execute acțiuni diferite de cele solicitate inițial. Această capacitate de a acționa în numele unei organizații transformă agenții AI în noi puncte de vulnerabilitate pentru infrastructura digitală.

Unul dintre pericolele majore identificat este atacul de tip prompt injection, prin care un sistem poate fi manipulat să ignore regulile stabilite. Dacă un agent AI dispune de permisiuni extinse, acest tip de atac poate duce la accesarea neautorizată a informațiilor sau la executarea unor comenzi neprevăzute. Specialistii de la Medialine subliniază că un agent AI trebuie tratat ca un nou tip de utilizator al infrastructurii, necesitând o cunoaștere exactă a limitelor de acțiune.

Un alt risc critic vizează acumularea excesivă de drepturi de acces de către agenții AI. World Economic Forum menționează că multiplicarea acestor sisteme face administrarea identităților și a permisiunilor comparabilă sau chiar mai complexă decât gestionarea utilizatorilor umani. În plus, există pericolul propagării rapide a erorilor; o singură instrucțiune greșită într-un proces automatizat poate afecta un număr mare de fișiere sau conturi într-un timp foarte scurt.

Compromiterea unui sistem cu drepturi extinse poate afecta direct și strategiile de recuperare a datelor. Elena Radu, Director Operațional Medialine România, explică faptul că amenințarea poate veni din interiorul sistemelor proprii, ceea ce obligă companiile să proiecteze reziliența pentru scenarii imprevizibile. Dacă un agent AI are acces atât la datele operaționale, cât și la copiile de backup, capacitatea de a reveni la o versiune nealterată a informațiilor poate fi compromisă.

Pentru a combate aceste riscuri, se utilizează soluții precum Cyber Vault, un spațiu izolat unde sunt păstrate copii ale datelor critice într-un format care împiedică modificarea lor. Medialine oferă și instrumente precum CompanyAI GPT și Generative Shield, care funcționează ca un strat de protecție prin stabilirea unor reguli și filtre pentru fluxurile de lucru. Aceste tehnologii permit monitorizarea activităților și controlul strict asupra datelor ce pot fi accesate de asistenții AI.

Securitatea cibernetică rămâne o provocare majoră, având în vedere volumul mare de incidente raportate în perioada recentă. Conform raportului ENISA Threat Landscape 2025, care a analizat 4.875 de incidente între iulie 2024 și iunie 2025, atacurile de tip DDoS au reprezentat 77% din totalul acestora. Integrarea agenților AI nu elimină aceste forme clasice de atac, ci adaugă o nouă dimensiune de gestionare a riscurilor în cadrul strategiilor de securitate ale organizațiilor.

Surse

Sursa: Economedia

Tot în Tech