Inteligența artificială a Google greșește masiv: milioane de răspunsuri eronate în fiecare oră
Un studiu citat de New York Times pune sub semnul întrebării acuratețea inteligenței artificiale a companiei Google. Răspunsurile generate de AI Overview integrată în motorul de căutare Google par credibile, dar se bazează pe o serie de surse, de la site-uri de încredere până la postări de pe Facebook. Analiza arată că sistemul oferă răspunsuri corecte în aproximativ 9 din 10 cazuri, potrivit cercetării Oumi. La scară globală, volumul uriaș de căutări transformă însă rata de eroare într-o problemă majoră. Cu trilioane de interogări anual, rezultatul este apariția a milioane de răspunsuri inexacte pe oră. Specialiștii avertizează că utilizarea acestor instrumente necesită prudență și verificare suplimentară.
Milioane de răspunsuri eronate la scară globală
Google procesează anual trilioane de interogări, iar estimările pentru anii următori indică depășirea pragului de cinci trilioane de căutări.
În acest context, cercetătorii atrag atenția că AI Overview poate genera zeci de milioane de răspunsuri discutabile în fiecare oră, respectiv sute de mii de erori pe minut. Problema nu ține doar de frecvența erorilor, ci și de impactul lor potențial, având în vedere vizibilitatea crescută a rezultatelor AI în pagina de căutare.
Tje New York Times scrie: „La sfârșitul anului trecut, Stephen Punwasi se pregătea să ia cina când a observat o știre care spunea că soția luptătorului Hulk Hogan ar putea intenta un proces în legătură cu moartea acestuia.
Punwasi, un analist de date în vârstă de 41 de ani care locuiește în Toronto, nu știa că Hogan murise și a întrebat Google când s-a întâmplat acest lucru.
Răspunsul l-a derutat. „Nu există rapoarte credibile privind decesul lui Hulk Hogan”, se arăta în „AI Overview” (Prezentare generală AI) a Google - un rezumat generat de tehnologia de inteligență artificială a companiei, care apărea în partea de sus a paginii.
Sub răspuns, Punwasi a fost surprins să vadă un articol din The Daily Mail care contrazicea răspunsul Google. Titlul era: „Misterul morții lui Hulk Hogan se adâncește”.
În 2024, Google a început să acorde răspunsurilor generate de IA un loc de prim rang în partea de sus a paginii cu rezultatele căutării. Noul produs, AI Overviews, a contribuit la transformarea Google dintr-un curator de informații într-un editor.
Surse incerte și manipulare
O altă concluzie importantă a studiului vizează calitatea surselor utilizate de sistem. Potrivit cercetătorilor de la compania Oumi, platforme precum Facebook și Reddit apar frecvent în lista de referințe a AI Overview, ocupând locuri fruntașe în topul citărilor. În unele cazuri, aceste surse sunt asociate atât cu răspunsuri corecte, cât și cu răspunsuri eronate, ceea ce ridică întrebări privind criteriile de validare a informației.
În plus, cercetătorii avertizează asupra riscului de manipulare. Actori rău intenționați ar putea publica conținut fals sau înșelător, amplificat artificial prin trafic, pentru a influența rezultatele generate de AI.
În astfel de scenarii, sistemul poate integra informații incorecte fără a le detecta ca atare, generând răspunsuri eronate prezentate ca fiind credibile.
Google susține, prin reprezentanții săi, că sistemele de siguranță și clasificare filtrează majoritatea spamului și că multe dintre exemplele problematice provin din interogări atipice.
Cu toate acestea, cercetătorii subliniază că dificultatea principală rămâne imprevizibilitatea rezultatelor și variația lor între căutări succesive.
În acest context, experții recomandă o abordare prudentă. Deși AI Overview poate fi util în sintetizarea rapidă a informațiilor, utilizatorii sunt încurajați să verifice sursele și să trateze rezultatele cu un grad ridicat de scepticism. Google însuși include un avertisment în interfață, menționând că inteligența artificială poate greși și necesită verificare suplimentară.
