Sari la conținut
Observator Digital Observator Digital

Tech

Agenții AI cu acces extins pot genera riscuri majore de securitate pentru companii, avertizează Medialine România

Utilizarea agenților de inteligență artificială conectați la infrastructura internă necesită mecanisme stricte de control pentru a preveni manipularea sau erorile de execuție.

· 3 min citire · Redacția Observator Digital

Agenții AI cu acces extins pot genera riscuri majore de securitate pentru companii, avertizează Medialine România
Pexels License · original · licență

Agenții de inteligență artificială care sunt conectați la aplicațiile și bazele de date ale companiilor pot genera riscuri de securitate semnificative dacă nu beneficiază de limite clare. Specialiștii de la Medialine România avertizează că, deși acești agenți pot automatiza procese complexe și pot lucra continuu, ei pot fi determinați să execute acțiuni diferite de cele solicitate inițial. Riscurile sunt accentuate atunci când sistemele primesc permisiuni extinse fără mecanisme adecvate de monitorizare.

Conform raportului Global Cybersecurity Outlook 2026, publicat de World Economic Forum, agenții AI pot acumula drepturi de acces excesive în cadrul organizațiilor. Aceștia pot fi manipulați prin atacuri de tip prompt injection, tehnici care folosesc instrucțiuni ascunse pentru a determina sistemul să ignore regulile stabilite. Un astfel de atac poate duce la consultarea de informații sau la executarea de comenzi neprevăzute, fără acordul intenționat al utilizatorului.

Elena Radu, Director Operațional Medialine România, subliniază că un agent AI trebuie tratat ca un nou tip de utilizator al infrastructurii companiei. Dacă un sistem primește acces la cinci sisteme interne, organizația trebuie să știe exact ce poate face în fiecare dintre ele. Administrarea identităților și a permisiunilor pentru agenții AI poate deveni la fel de complexă sau chiar mai dificilă decât gestionarea accesului utilizatorilor umani.

Un alt pericol major este propagarea rapidă a erorilor în cadrul proceselor automatizate. Într-un sistem manual, o decizie greșită afectează o singură operațiune, însă un agent AI poate aplica o instrucțiune eronată asupra unui număr mare de fișiere sau conturi simultan. Elena Radu explică faptul că riscul crește atunci când un sistem care poate greși primește acces nelimitat, necesitând monitorizare și posibilitatea de a opri rapid acțiunile.

Companiile trebuie să integreze și soluții de protecție a datelor, precum tehnologia Cyber Vault, pentru a păstra copii izolate ale informațiilor critice. Medialine România propune soluții precum CompanyAI GPT pentru un mediu securizat și Generative Shield, care funcționează ca un strat de protecție prin reguli și filtre configurabile. Aceste instrumente permit stabilirea tipurilor de date accesibile și monitorizarea activităților desfășurate de asistenții AI.

Securitatea cibernetică rămâne o provocare constantă, având în vedere volumul mare de incidente raportate în ultimii ani. Raportul ENISA Threat Landscape 2025 a analizat 4.875 de incidente produse între iulie 2024 și iunie 2025, evidențiind faptul că atacurile de tip DDoS au reprezentat 77% dintre acestea. Implementarea tehnologiilor AI adaugă un nou strat de complexitate în strategia de apărare și de recuperare a datelor.

Surse

Sursa: Bursa

Tot în Tech