O recunoaștere discretă, ascunsă printre rândurile unei postări de blog, a declanșat o undă de șoc în comunitatea utilizatorilor ChatGPT.

OpenAI, dezvoltatorul celebrului chatbot, a dezvăluit că anumite conversații purtate cu inteligența artificială sunt monitorizate de moderatori umani și, în cazurile considerate suficient de grave, pot fi raportate autorităților.

Această dezvăluire, menită inițial să abordeze riscurile utilizării ChatGPT pentru probleme de sănătate mintală, a deschis o cutie a Pandorei, stârnind o dezbatere aprinsă despre confidențialitate, etică și consecințele unei astfel de supravegheri.

Conform explicațiilor oferite de OpenAI, atunci când sistemele detectează dialoguri în care utilizatorii par să planifice acte de violență împotriva altor persoane, aceste conversații sunt direcționate către „canale specializate”.

Acolo, o echipă restrânsă de angajați, riguros instruiți conform politicilor interne ale companiei, analizează situația și decide calea de urmat.

În scenariile în care o amenințare iminentă și serioasă este identificată, compania își rezervă dreptul de a transmite informațiile către forțele de ordine. Deși scopul declarat este prevenirea unor tragedii, măsura ridică o serie de întrebări fundamentale.

Cum anume reușește OpenAI să determine locația precisă a utilizatorilor pentru a alerta autoritățile locale? Ce garanții există împotriva unor eventuale abuzuri, spre exemplu, situații în care o persoană ar putea simula intenții violente pentru a provoca o intervenție a poliției împotriva cuiva?

Și, poate cel mai important, în ce măsură această supraveghere subminează principiul de confidențialitate pe care compania l-a promis inițial utilizatorilor săi? Reacțiile în mediul online nu au întârziat să apară și au fost preponderent critice.

Numeroși comentatori au avertizat asupra pericolului implicării forțelor de poliție în situații delicate de sănătate mintală, unde o intervenție intempestivă ar putea avea consecințe ireversibile.

Istoria recentă este presărată cu exemple de persoane aflate în criză care și-au pierdut viața în urma intervenției unor agenți de poliție chemați să gestioneze situația. Specialiști și intelectuali au caracterizat decizia OpenAI drept o formă de supraveghere excesivă.

Istoricul Katherine Pickering Antonova a evocat chiar imaginea unui Stalin încântat, subliniind temerea ca aceste instrumente tehnologice să devină pârghii de control total asupra vieților noastre.

Alții au făcut trimitere la dezvăluirile lui Edward Snowden despre cooperarea companiilor de tehnologie cu serviciile de informații americane, sugerând că nu este deloc o atitudine paranoică să credem că date sensibile ar putea ajunge direct în mâinile guvernului.

Critici vehemente au venit și din partea juriștilor: avocatul Stephen Hardwick a atenționat că absența confidențialității ar putea afecta grav activitatea avocaților care utilizează inteligența artificială pentru documente legale.

Dacă există riscul ca întrebările legate de cazuri sensibile să fie transmise poliției, atunci utilizarea ChatGPT în domeniul juridic se transformă într-o adevărată capcană etică și legală.

Deși unii analiști sugerează că OpenAI se află într-un echilibru delicat, criticată atât pentru pasivitatea în fața riscurilor, cât și pentru intervenția activă în conversații, miezul problemei pare să rezide în ritmul amețitor cu care industria inteligenței artificiale lansează produse insuficient înțelese și reglementate.

În loc să îmbunătățească tehnologia inerentă sau să limiteze utilizările cu potențial nociv, soluția adoptată pare a fi una de forță: apelul la autorități.

Pentru mulți utilizatori, concluzia este clară și definitivă: ChatGPT și instrumentele similare nu mai pot fi percepute ca spații sigure de confidență, nici măcar pentru întrebări aparent intime sau personale.

În loc să ofere liniștea promisă de CEO-ul Sam Altman, care vorbea recent despre o confidențialitate comparabilă cu cea oferită de un avocat sau un medic, OpenAI transmite acum un mesaj fundamental diferit – că ești, în permanență, observat și, în anumite condiții, raportat.

Această tensiune fundamentală – între inovație și control, între imperativul de a proteja vieți și dreptul la viața privată – este destinată să definească următoarea etapă a dialogului global despre inteligența artificială.

Întrebarea crucială rămâne: cât de departe suntem dispuși să mergem în sacrificarea confidențialității pentru o iluzie a siguranței și, mai ales, cine are autoritatea de a trasa această linie?

SURSE: OpenAI, ChatGPT, Incredibilia.ro