Un asistent AI creat de Meta pentru a securiza conturile a devenit, în mod ironic, instrumentul principal prin care hackerii preiau controlul asupra profilurilor utilizatorilor.

Un asistent AI menit să protejeze conturile a devenit, în realitate, o portiță deschisă exact pentru cei de care trebuia să îi ferească pe utilizatori. Chatbotul lansat în martie de Meta, disponibil pe Facebook și Instagram, promitea să „rezolve probleme legate de cont” și să elimine escrocheriile.

În loc să îi oprească pe hackeri, însă, a început să îi ajute. Potrivit unei investigații 404 Media, instrumentul de asistență bazat pe inteligență artificială a executat fără ezitare cererile venite din partea atacatorilor. Metoda este simplă și greu de detectat.

Folosind un VPN pentru a falsifica regiunea geografică a victimei, hackerii au cerut chatbotului să schimbe adresa de e-mail asociată contului. Odată ce emailul era schimbat, autentificarea în doi pași devenea inutilă – atacatorii preluau controlul complet.

Cine sunt victimele atacurilor cibernetice?

Vulnerabilitatea nu este nouă. Mesajele dintr-un grup de Telegram analizat de 404 Media arată că această breșă există de mai multe luni. Semnele au apărut cu mult înainte ca gigantul tech să recunoască problema. Jane Wong, fost cercetător la Meta și hacker autoproclamat, a sunat alarma pe Threads.

„Se pare că parola mea a fost schimbată fără știrea mea – nu am putut să mă autentific folosind parola mea. Ori noul Meta Accounts Center are o eroare, ori contul meu este ținta unui atac. ” Wong a fost doar una dintre vocile care au semnalat ceva în neregulă.

Impactul real al breșei a devenit vizibil când conturi de top au căzut în mâinile hackerilor. Profiluri precum cel al fostului președinte Barack Obama sau al creatorului de conținut John Bentivegna au fost compromise.

Atacatorii ofereau acces la astfel de conturi în schimbul unor sume modice de bani, folosind exact această portiță.

Ce lecții oferă eșecul inteligenței artificiale?

Incidentul reînnoiește dezbaterile legate de securitatea cibernetică a chatboturilor bazate pe modele lingvistice mari. Nu este primul caz în care astfel de instrumente au generat sau chiar halucinat politici de companie false, ducând la confuzie și procese.

Experții avertizează de multă vreme și asupra riscului de scurgeri de date. Meta, în particular, are un istoric controversat în ceea ce privește tratarea datelor utilizatorilor.

În martie, The Information a dezvăluit că un agent AI intern al companiei a expus informații sensibile către persoane neautorizate. Nu este clar dacă acele incidente au legătură directă cu vulnerabilitatea actuală.

Cert este că Meta pare să fi remediat problema abia acum, la câteva luni după ce a fost descoperită. Pagubele, însă, s-ar putea să fie deja mult mai extinse decât lasă compania să se înțeleagă.

SURSE: 404 Media, The Information,