Experții în securitate cibernetică ai producătorului de soluții antivirus ESET au analizat peste 800.000 de aptitudini (AI skills) ale modelelor de inteligență artificială, identificând peste 25.000 de variante suspecte.
Dintre acestea, aproximativ 2.500 au fost clasificate direct drept malițioase, create pentru a colecta date bancare, date pentru criptomonede sau pentru a prelua controlul de la distanță asupra dispozitivelor.
Atacatorii cibernetici și-au mutat atenția dinspre chatboții clasici către domeniul emergent al agenților AI și al extensiilor, profitând de permisiunile extinse pe care utilizatorii le acordă acestor sisteme.
Tipurile de amenințări identificate de cercetători
Gama de instrumente folosite de criminalii cibernetici pentru manipularea modelelor de inteligență artificială este diversificată:
- Infostealers și Troieni: Extensii și AI skills create pentru a extrage automat date confidențiale (parole, chei API, date ale aplicațiilor bancare sau de criptomonede). Un studiu separat a descoperit peste 800 de astfel de aptitudini periculoase pe platforma ClawHub.
- Falsi asistenți AI în browsere: Microsoft a depistat o campanie cu aproape 1 milion de descărcări în care extensii malițioase imitau asistenți AI legitimi pentru a colecta istoricul chat-urilor și datele de autentificare.
- Atacuri de tip „Prompt Injection”:
- Direct: Atacatorul introduce instrucțiuni speciale în modelul LLM pentru a bypassa filtrele de securitate.
- Indirect: Codul malițios este ascuns în pagini web sau fișiere externe. Când agentul AI procesează acel conținut, este păcălit să execute acțiuni neautorizate.
- Generare automată de Malware: AI este utilizat pentru scrierea în timp real de scripturi malițioase, componente de ransomware sau stealthing (camuflaj).
Recomandările specialiștilor ESET pentru protecție
Pentru a evita transformarea asistenților AI în vectori de atac cibernetic, experții recomandă respectarea unor reguli stricte de igienă digitală:
- Atenție la permisiuni: Fiți precauți cu orice modul sau agent AI care solicită acces mai mare decât are nevoie în mod justificat.
- Verificarea scripturilor: Un semnal major de alarmă apare dacă pluginul încearcă să ruleze scripturi necunoscute sau accesează domenii suspecte la instalare.
- Monitorizarea comportamentului: Verificați periodic activitatea agentului AI după instalare pentru a observa modificări discrete de comportament.
- Actualizări constante: Păstrați software-ul agenților AI la cea mai recentă versiune pentru a beneficia de patch-urile de securitate.
„În prezent, cele mai mari riscuri apar în domeniul emergent al agenților AI. Deși chatboții sunt mai siguri decât în trecut, este important să nu renunțăm la măsurile de precauție. Combinarea bunelor practici cu funcții de securitate oferite de furnizori de încredere poate contribui la menținerea unui nivel ridicat de protecție”, subliniază Phil Muncaster, specialist ESET.
Fondată în 1992 la Bratislava (Slovacia), compania ESET este prezentă în peste 180 de țări, fiind unul dintre liderii globali în analiza malware și securitate cibernetică.
