AI-ul a spart sistemul unei săli de fitness după ce i s-a cerut o simplă rezervare. Ce s-a întâmplat mai departe i-a șocat pe experți

Un australian i-a cerut inteligenței artificiale să-i facă o simplă rezervare la o sală de fitness, iar ce a urmat l-a lăsat cu gura căscată. Asistentul său AI a spart software-ul de rezervări și a șters o persoană de pe lista de așteptare.

AI-ul a spart sistemul unei săli de fitness după ce i s-a cerut o simplă rezervare. Foto: magnific

Andrew, un australian, a crezut că își va face doar o rezervare la o clasă de fitness, dar a ajuns să spargă software-ul cu ajutorul inteligenței artificiale, deși nu i-a cerut asta. Experții spun că AI-ul cu cât devine mai autonom, cu atât este posibil să producă mai mult rău.

De la o simplă rezervare, la a sparge un întreg software

Andrew, care lucrează pentru o companie australiană ce vinde produse de inteligență artificială către companii, a început să experimenteze cu OpenClaw, un software popular pentru agenți de inteligență artificială, pentru care a folosit serviciul de inteligență artificială Claude de la Anthropic, conform ABC.

Agenții inteligenței artificiale combină capacitatea unui chatbot de a răspunde la întrebări cu instrumente care le permit să acceseze internetul, e-mailul, cardurile de credit, precum și să planifice și să execute sarcini în mai mulți pași. 

Astfel, a decis să folosească agentul de inteligență artificială pentru a-i rezerva cursul la clasa de fitness, având în vedere că formularul de rezervare se găsea online. La scurt timp, și-a dat seama că asistentul său a găsit o modalitate de a-l pune pe listă mai devreme decât era de fapt posibil, datorită unei vulnerabilități descoperite în software-ul de rezervări.

AI-ul nu s-a oprit aici. A eliminat pe cineva de pe lista de așteptare care era înaintea lui Andrew, deși nu i-a cerut să facă asta. Andrew i-a cerut să anuleze această operațiune, însă AI-ul a menționat că nu poate face acest lucru, iar persoana respectivă trebuie să se înscrie din nou manual la curs.

Inteligența artificială poate face din ce în ce mai multe lucruri

Cercetătorii independenți au descoperit că durata sarcinilor pe care inteligența artificială le poate îndeplini de obicei singură se dublează la fiecare șapte luni. În 2020, inteligența artificială putea finaliza singură o sarcină care i-ar lua unui om patru secunde. Până în 2026, acest lucru a crescut până la a fi capabilă să finalizeze sarcini care i-ar lua unui om aproximativ 12 ore.

Momentul de izbucnire pentru agenții personali cu inteligență artificială a fost lansarea OpenClaw la începutul anului 2026. Software-ul gratuit de asistență cu inteligență artificială pe care oricine îl putea rula pe computer a avut milioane de descărcări.

La scurt timp după lansarea OpenClaw, au început să circule relatări despre agenți de inteligență artificială care ștergeau întregul inbox al oamenilor și scriau un „articol de critică” despre cineva care le-a respins sugestia de codare.  

Nu este primul caz de acest gen

Bill Simpson-Young, cofondator și director executiv al organizației australiene de cercetare în domeniul siguranței inteligenței artificiale Gradient Institute, a declarat că autonomia agenților de inteligență artificială a creat mai multe oportunități pentru sisteme de a alege metode de rezolvare a situației la care utilizatorii lor nu se așteptau.

În situația lui Andrew, acesta nu-i ceruse agentului său de inteligență artificială să acceseze sistemul de rezervări al sălii de sport. Dar aceasta făcuse acest lucru în scopul atingerii obiectivului pe care și-l propusese. Timp de decenii, experții au studiat cum să facă AI-ul să  acționeze în moduri care sunt în concordanță cu intențiile, limitele și valorile umane atunci când îndeplinesc lucruri.

Aceasta a devenit o problemă globală luna trecută, când OpenAI a dezvăluit că modelele sale de inteligență artificială s-au eliberat dintr-o incintă limitată, au ajuns pe internetul deschis și apoi au compromis o bază de date a unei alte companii de inteligență artificială, Hugging Face, în timp ce încerca să obțină răspunsuri la testul care i-a fost dat.

O săptămână mai târziu, Anthropic a dezvăluit că modelele sale de inteligență artificială au compromis și trei organizații reale în timpul unor teste similare. 

„Cu cât devin mai autonomi, cu atât este mai probabil să provoace rău” a declarat Simpson-Young.

Cine este responsabil că AI-ul provoacă pagube

Incidentele îi fac pe oameni să se întrebe: Cine va plăti pentru prejudiciu, atunci când un AI face o acțiune pe care utilizatorul nu a cerut-o? 

„Software-ul nu este o persoană juridică. Doar o persoană juridică poate fi răspunzătoare în fața legii”, a declarat Hayden Delaney, partener la firma de avocatură Thomsons, specializată în tehnologie, proprietate intelectuală și confidențialitate.

Cu toate acestea, responsabilitatea revine în funcție de circumstanțe. Delaney a spus că vina ar putea fi utilizatorului care a stabilit obiectivul, persoanei sau companiei care a proiectat software-ul ce instruiește agentul de inteligență artificială sau dezvoltatorului modelului de inteligență artificială.

„Nu e sfârșitul lumii, așa că nu m-am mustrat pentru asta, dar cu siguranță a fost un semnal de avertizare să-l folosim în mod responsabil”, a declara Andrew, după această experiență.