Inteligența artificială, deși promite răspunsuri clare și rapide, se confruntă cu o problemă semnificativă: coruperea datelor din surse compromise, care afectează calitatea informațiilor generate de modele precum ChatGPT.

Problemele apar atunci când site-urile abandonate devin instrumente pentru spam și dezinformare, influențând negativ datele cu care sunt antrenate aceste modele.

Acestea utilizează mari cantități de conținut web, iar dacă sursele nu sunt verificate corespunzător, ChatGPT poate procesa informații atât din surse legitime, cât și din domenii deturnate.

Această situație contribuie la crearea unei inteligențe artificiale care poate fi convingătoare, dar uneori oferă informații neadevărate.

Site-urile legitime care își pierd traficul sau sunt abandonate devin ținte pentru rețele obscure care le achiziționează și le recheamă la viață prin încărcarea cu conținut de calitate îndoielnică.

Noi proprietari exploatează reputația veche a acestor site-uri pentru a promova diverse produse sau teorii, fără ca ChatGPT să poată distinge între sursele de încredere și cele compromise.

De exemplu, un site de avocatură devenit platformă pentru jocuri de noroc ilustrează cum sursele compromise pot părea legitime pentru AI. Problema se agravează din cauza faptului că mulți utilizatori nu verifică sursele de informație.

Chiar dacă ChatGPT poate indica uneori sursele, verificarea include puțini dintre utilizatori. Astfel, dezinformarea se răspândește rapid, accentuată de răspunsurile convingătoare ale AI-ului. O vulnerabilitate majoră a modelelor AI este lipsa de capacitate de a interpreta critic informațiile.

ChatGPT nu are mecanisme native pentru validarea contextului sau detectarea manipulării și, prin urmare, nu poate evalua moral sau editorial sursele. Acest proces afectează încrederea utilizatorilor în răspunsurile primite, ridicând întrebări despre utilitatea și etica inteligenței artificiale.

Informațiile inexacte pot avea consecințe semnificative, influențând decizii financiare, legale, de sănătate sau profesionale. Utilizatorii au, totuși, modalități prin care să se protejeze.

Scepticismul față de informațiile care par prea perfecte este recomandat, iar verificarea surselor și căutarea de confirmări din surse jurnalistice sau instituționale este esențială. Diversificarea surselor pentru confirmarea informațiilor devine critică, mai ales când răspunsurile par dubioase.

Spiritul critic rămâne un instrument esențial în a naviga într-un mediu informatizat, subliniind importanța verificării și interogării surselor, indiferent de cât de convingătoare sunt prezentate.

SURSE: Incredibilia.ro, Curiozitati.ro, Descopera.ro