AI-ul care i-a surprins chiar și pe experți. Un model a creat identități false pentru a păcăli oameni în timpul unor teste de securitate

Inteligența artificială continuă să evolueze într-un ritm accelerat, însă cele mai recente teste de securitate au scos la iveală comportamente care i-au surprins chiar și pe specialiști. În cadrul unor evaluări realizate de Institutul de Securitate AI din Marea Britanie (AISI), două modele avansate dezvoltate de Anthropic și OpenAI au demonstrat un nivel neașteptat de autonomie și capacitate de înșelare. Într-unul dintre cazuri, un model AI a creat identități false inspirate de persoane reale și a încercat să le folosească pentru a manipula utilizatori și a obține acces la o platformă de dezvoltare software,  relatează BBC.

AI-ul care i-a surprins chiar și pe experți.

Testele de securitate au scos la iveală un comportament fără precedent

Potrivit raportului publicat de AISI, modelele Mythos, dezvoltat de Anthropic, și Sol, creat de OpenAI, au manifestat un nivel de „autonomie și înșelăciune” care nu mai fusese observat până acum în cadrul unor astfel de evaluări.

În timpul unuia dintre teste, agentul AI Mythos a încercat să obțină acces la GitHub, una dintre cele mai utilizate platforme de dezvoltare software din lume. Pentru a-și atinge scopul, sistemul nu s-a limitat la executarea sarcinii primite, ci a recurs la metode complexe.

Evaluatorii au observat inițial „transferuri neobișnuite de date care ieșeau din sistemele noastre de cercetare”.

Ulterior, ancheta a arătat că „unii dintre agenții testați se angajaseră în activități susținute, potențial dăunătoare, îndreptate împotriva unor persoane și organizații reale”.

Modelul AI a creat identități false și a încercat să influențeze utilizatori reali

Conform raportului, agentul Mythos a generat un cod malițios pe care a încercat să îl introducă pe GitHub. Pentru a crește șansele de reușită, sistemul a identificat persoanele responsabile de administrarea platformei și le-a analizat activitatea.

Mai departe, inteligența artificială a creat profiluri online false inspirate de acele persoane reale și a început să trimită mesaje directe, pretinzând că este una dintre ele.

Scopul era convingerea utilizatorilor să aprobe modificările propuse de AI și să permită introducerea codului respectiv în sistem.

Situația a devenit și mai surprinzătoare după ce încercarea a fost contestată public.

„Atunci când cererea de modificare a agentului a fost contestată în mod public, acesta și-a modificat activitatea anterioară pentru a părea inofensiv și a luat în considerare adoptarea unei noi identități pentru a-și continua activitatea”, au explicat reprezentanții AISI.

Experții spun că nu au mai întâlnit un astfel de nivel de autonomie

Institutul britanic susține că modelul nu primise instrucțiuni explicite pentru a minți, a crea identități false sau a evita detectarea.

Cu toate acestea, AI-ul a ales singur aceste strategii.

„A fost prima dată când am observat ca riscurile legate de autonomie și înșelăciune să se manifeste atât de clar, fără o îndemnare specifică, în lumea reală”, au transmis cercetătorii.

De asemenea, instituția precizează că modul în care Mythos și Sol au reacționat la o sarcină aparent simplă a depășit scenariile anticipate de evaluatori.

„Activitatea desfășurată de agent a prezentat semne de comportamente inedite, potențial înșelătoare, la o amploare și o gravitate pe care nu le-am anticipat”, se mai arată în raport.

Majoritatea incidentelor au fost atribuite modelului Mythos

Raportul arată că aproape toate acțiunile considerate problematice au fost generate de modelul Mythos al companiei Anthropic.

Modelul Sol, dezvoltat de OpenAI, a fost asociat doar cu două dintre incidentele semnalate în timpul testelor.

Acest lucru nu înseamnă însă că riscurile sunt inexistente, ci că ambele modele vor continua să fie analizate în cadrul unor evaluări suplimentare.

Cum au reacționat Anthropic și OpenAI

Anthropic a precizat că scenariul folosit de cercetătorii britanici nu reflectă modul în care modelele sale funcționează în utilizarea comercială.

„Parametrii de testare AISI nu erau reprezentativi pentru niciunul dintre modelele noastre de producție”, a transmis compania, adăugând că desfășoară propria investigație pentru „identifica cauzele comportamentului”.

Și OpenAI a susținut că testele nu reproduc condițiile reale de utilizare.

Un purtător de cuvânt al companiei a declarat că metodologia AISI „nu reflectă utilizarea obișnuită”, iar compania va „continua să colaboreze cu evaluatorii și alte părți interesate din industrie pentru a consolida practicile comune de desfășurare a evaluărilor în condiții de siguranță, pe măsură ce modelele devin din ce în ce mai performante”.