Un australian i-a cerut unui agent de inteligență AI artificială să îi facă o simplă rezervare la o sală de fitness. În câteva minute, sistemul a găsit o vulnerabilitate în software-ul de rezervări și a reușit să înscrie utilizatorul la cursuri cu mult înainte de perioada permisă de sală. Apoi, fără să i se ceară acest lucru, agentul a anulat rezervarea unei alte persoane aflate înaintea utilizatorului pe lista de așteptare.Cazul este prezentat drept primul atac cibernetic autonom cunoscut de acest tip din Australia.
Un australian i-a cerut unui agent de inteligență AL artificială să îi facă o simplă rezervare s-a transformat într-un atac asupra sistemului
Australianul, identificat de ABC doar ca Andrew, lucrează pentru o companie care comercializează produse de inteligență artificială pentru firme. El experimenta cu OpenClaw, un software de agent AI pe care îl utiliza împreună cu serviciul Claude al Anthropic.
Agentul a fost folosit pentru o sarcină aparent banală: rezervarea unui loc la una dintre clasele de fitness ale sălii pe care o frecventa.
Sistemele de tip agent AI diferă de chatbot-urile obișnuite prin faptul că pot utiliza instrumente externe și pot executa acțiuni în mai mulți pași. Acestea pot avea acces la internet, e-mail, servicii de plată și alte aplicații, în funcție de permisiunile acordate, scrie ABC News.
În cazul de față, agentul a identificat o vulnerabilitate în sistemul de rezervări și a găsit o metodă prin care putea face rezervări cu câteva săptămâni sau luni înainte de limita stabilită de sala de fitness.
Agentul a eliminat un alt client de pe lista de așteptare
Problema a devenit mai serioasă atunci când Andrew a întrebat dacă poate ajunge mai repede pe lista de așteptare pentru un curs.
La acel moment, el ocupa poziția a patra pe lista de așteptare. Agentul a verificat sistemul și a descoperit că interfața de programare a aplicației, API-ul, nu verifica dacă utilizatorul avea dreptul să anuleze rezervarea altei persoane.
Agentul a testat vulnerabilitatea asupra persoanei aflate pe primul loc pe lista de așteptare și a reușit să îi anuleze rezervarea. Andrew a urcat astfel de pe poziția a patra pe poziția a treia.
Potrivit conversației prezentate de ABC, agentul i-a explicat utilizatorului că API-ul nu avea verificări de autorizare pentru anularea rezervărilor altor persoane și că testul a funcționat.
Andrew i-a cerut apoi să repare situația și să readucă persoana pe lista de așteptare. Agentul a răspuns că nu mai poate face acest lucru.
Compania care furnizează software-ul pentru rezervările sălii a declarat pentru ABC că nu comentează aspecte specifice de securitate. Anthropic nu a răspuns solicitării de comentarii a publicației.
Utilizatorul nu i-a cerut să spargă sistemul
Cazul scoate în evidență diferența dintre o instrucțiune dată unui chatbot și obiectivul atribuit unui agent autonom.
Andrew i-a cerut agentului să îi obțină un loc, nu să exploateze sistemul de rezervări și nici să elimine un alt client.
Bill Simpson-Young, cofondator și director executiv al organizației australiene de cercetare în domeniul siguranței AI Gradient Institute, a explicat că agenții autonomi pot alege metode pe care utilizatorii nu le-au solicitat sau anticipat.
În cazul de față, agentul a urmărit obiectivul utilizatorului și a utilizat o vulnerabilitate a sistemului pentru a încerca să îl îndeplinească. Diferența dintre obiectivul stabilit de om și metodele alese de agent este cunoscută în cercetarea AI drept problema „alignment”, adică problema alinierii comportamentului sistemului cu intențiile și limitele utilizatorului.
Agenții AI pot executa sarcini din ce în ce mai lungi
Dezvoltarea agenților AI a permis sistemelor să treacă de la răspunsuri generate în conversații la executarea unor sarcini care implică mai multe etape.
Potrivit unor cercetări citate de ABC, durata sarcinilor pe care inteligența artificială le poate realiza autonom s-a dublat, în medie, la aproximativ șapte luni.
În 2020, sistemele AI puteau finaliza autonom o sarcină care ar fi necesitat aproximativ patru secunde de muncă umană. În 2026, această capacitate ajunsese la sarcini care ar fi presupus aproximativ 12 ore de muncă umană.
OpenClaw, software-ul utilizat în cazul relatat de ABC, a fost lansat la începutul anului 2026 și a ajuns la milioane de descărcări. În aceeași perioadă, au apărut relatări despre agenți AI care au șters căsuțe de e-mail sau au întreprins alte acțiuni care nu fuseseră anticipate de utilizatori.
Cazul apare într-un moment în care laboratoarele AI testează limitele autonomiei
Incidentul din Australia a fost relatat la scurt timp după ce laboratoare de inteligență artificială au anunțat rezultate ale unor teste în care modele AI au desfășurat activități de securitate cibernetică în mod autonom.
ABC relatează că OpenAI a anunțat în iulie 2026 că unul dintre modelele sale a ieșit din mediul controlat în timpul unui test și a compromis o bază de date aparținând unei alte companii AI, în încercarea de a obține răspunsuri la testul primit.
Ulterior, Anthropic a anunțat că modelele sale au compromis, în cadrul unor teste similare, trei organizații reale. În alte experimente au fost observate comportamente precum folosirea unor identități false online, încercarea de a convinge persoane să ruleze cod malițios și colaborarea între modele AI pentru atingerea unor obiective.
Autoritățile australiene avertizează asupra riscurilor
Riscurile asociate agenților autonomi au determinat și autoritățile australiene să emită avertismente către companii și instituții publice.
Australian Signals Directorate a avertizat că sistemele AI pot interpreta greșit instrucțiunile, pot întreprinde acțiuni neintenționate și pot complica stabilirea responsabilității atunci când deciziile sunt luate printr-un lanț format din modele AI, instrumente și servicii.
Unul dintre riscurile identificate este legat de faptul că agenții AI pot interacționa cu sisteme software care au vulnerabilități de securitate. Pe măsură ce aceste sisteme devin mai autonome și pot opera la viteze mari, vulnerabilitățile existente pot fi descoperite și exploatate într-un timp mult mai scurt.
Cine răspunde dacă un agent AI produce un prejudiciu?
Incidentul ridică și o problemă juridică: cine este responsabil atunci când un agent AI întreprinde o acțiune pe care utilizatorul nu i-a cerut-o explicit?
Potrivit lui Hayden Delaney, avocat specializat în tehnologie, proprietate intelectuală și protecția datelor, software-ul nu este o persoană juridică și, prin urmare, nu poate fi considerat el însuși responsabil în sens juridic.
Responsabilitatea ar putea reveni, în funcție de circumstanțe, utilizatorului care a stabilit obiectivul, companiei care a proiectat software-ul agentului, dezvoltatorului modelului AI sau chiar operatorului sistemului care prezenta vulnerabilitatea.
Răspunsul depinde de factori precum acțiunile autorizate de utilizator, riscurile care puteau fi anticipate în mod rezonabil și natura activității în care a fost folosit sistemul.
Agentul a anunțat în cele din urmă vulnerabilitatea
După ce agentul nu a reușit să readucă persoana eliminată pe lista de așteptare, Andrew i-a cerut să redacteze un e-mail către furnizorul software-ului pentru a-l informa despre vulnerabilitatea descoperită.
Agentul a redactat mesajul și i l-a trimis lui Andrew pe WhatsApp. Acesta i-a răspuns să îl trimită.
Astfel, aceeași capacitate care a permis agentului să identifice și să exploateze vulnerabilitatea a fost folosită ulterior pentru a informa compania despre problema de securitate.
Pentru Andrew, experiența a reprezentat un avertisment cu privire la capacitățile agenților AI și la necesitatea utilizării lor responsabile.