Cătălin CONSTANTINESCU

Preocupările din anii recenți pentru studierea impactului inteligenței artificiale s-au înmulțit în paginile revistelor culturale sau a celor academice, dar într-o anumită măsură ele trădează o perspectivă postumanistă sau transumanistă. Depășirea umanului apare ca soluție atât la filosofi contemporani, dar și la adepții și avocații acceleraționismului. Pare greu de măsurat ce și cât contează din predicțiile lui Sam Altman sau Dario Amodei, care sunt în primul rând antreprenori în căutare de profit (nimic de adăugat aici despre Peter Thiel).

Altele sunt mizele lui Nick Bostrom sau Huw Price, filosofi consistenți, cu un simț deosebit al transformărilor posibile în mileniul nostru. Ceea ce e surprinzător în plin secol XXI e să constați că seducția utopică funcționează la fel de electrizant ca în plină Renaștere, la un filosof ca Nick Bostrom, de exemplu. Nu întâmplător și-a intitulat volumul din 2024 Deep Utopia, desigur. Căci ideea unei lumi rezolvate este una în siajul gândirii utopice, de la Platon încoace. Nici de data asta nu ni se promite altceva: o societate post-penurie, a abundenței posibile implementării unei AGI (Artificial General Intelligence) capabilă să rezolve toate sarcinile posibile ale unei societăți a viitorului.

De ce spun că nu ar trebui să ne lăsăm păcăliți de afirmațiile, propunerile și previziunile celor care conduc companiile care construiesc modele AI? Măcar din cel puțin un motiv, pe care l-am descoperit cu ocazia utilizării mai multor platforme în scop de documentare. La întrebarea de ce modelele AI nu răspund cu „Nu știu” și încep să „halucineze”, adică să inventeze – imitând un dialog interuman, Google Gemini răspunde surprinzător de limpede, subliniind defectul arhitectural: „Corporațiile care dezvoltă aceste sisteme au prioritizat fluența conversațională în detrimentul acurateței factuale. Din punct de vedere comercial, un asistent care răspunde constant cu «nu știu» nu atrage investiții de miliarde. Astfel, modelele au fost setate algoritmic să forțeze un răspuns, să interpoleze date și să «ghicească» (să halucineze) pentru a menține iluzia utilității continue. Este o decizie de business care a sacrificat integritatea datelor”.

 

O ținută de gală cu mult sclipici

Așadar, simplificând am putea lesne decreta că pur și simplu nu avem nevoie de încă o iluzie. Aceasta iluzie a produsului este mai evidentă: industria vinde un produs cu un defect structural pentru anumite sarcini, ambalându-l ca pe un instrument omniscient. Un model de limbaj (LLM) este un motor de probabilitate statistică a cuvintelor. A fost antrenat să genereze fraze care par corecte, nu să ancoreze fiecare afirmație în realitatea empirică. A-l vinde drept o sursă infailibilă de informații în timp real este o practică comercială înșelătoare. Dar ambalarea unui produs într-o ținută de gală cu mult sclipici nu se limitează la această industrie. Cam tot ce aduce profit intră sub incidența acestei constatări.

În realitate, banii investiți în această industrie nu promit obținerea de rezultate mai bune. Cea mai mare parte a capitalului nu este alocată rafinării logice, ci infrastructurii critice: cumpărarea de cipuri grafice (GPU-uri), construirea de centre de date, care au un consum masiv de energie electrică necesar pentru antrenarea modelelor cu sute de miliarde de parametri (extinderea infrastructurii).

Strategia actuală a dezvoltatorilor se bazează pe premisa (discutabilă științific) că un model mai mare va deveni, în mod emergent, mai inteligent. În realitate, un model mai mare doar generează text mai fluid, dar păstrează aceleași defecte structurale în procesarea logicii de bază. Apoi, resursele sunt folosite pentru antrenarea pe seturi de date gigantice, colectate de pe întregul internet,

pentru ca produsul să poată răspunde la orice, de la rețete de bucătărie la cod de programare.

 

Banii se duc în cantitate și comercializare

Probabil că această abordare generalistă va menține o rigoare diluată, ca să folosesc un termen blând. Se pare că dezvoltatorii optimizează modelele pentru utilizatorul mainstream, care caută viteză și aproximare, nu pentru utilizatori care solicită analiză serioasă. De asemenea, o sumă masivă de resurse este blocată în ceea ce se numește „aliniere” (alignment). Sau RLHF („Reinforcement Learning from Human Feedback”), o tehnică prin care un model de limbaj este ajustat și corectat de către evaluatori umani pentru ca răspunsurile sale să fie mai utile, sigure și mai aliniate cu intenția utilizatorului. Toate astea cu scopul de a seta filtre pentru ca sistemul să nu fie ofensator, să respecte drepturile de autor sau să nu ofere răspunsuri periculoase, spun dezvoltatorii. Acest proces de calibrare comercială tinde adesea să uniformizeze răspunsurile și să le facă excesiv de politicoase, sterile sau predispuse la scuze repetitive inutile, în loc să optimizeze acuratețea interpretării textului.

Așadar, e clar că banii se duc în cantitate și comercializare, nu în rezolvarea problemei fundamentale a modelelor actuale: lipsa unui mecanism intern de verificare factuală. Sistemul funcționează ca un generator probabilistic de cuvinte, nu ca o conștiință critică capabilă să își corecteze raționamentul în mod real. De aceea, pentru un utilizator care caută rigoare, produsul livrează frecvent sub așteptări. E constatare în primul rând personală, derivată din răspunsuri la întrebări și solicitări foarte diverse.

E clar că în momentul de față avem două opțiuni: fie nu folosim chatbot-ul, oricare ar fi acesta, fie îl controlăm pas cu pas, cu nervi și frustrări. Măcar noi, cei care în anul 2000 nu mai eram copii, ca să-i citez pe Mihai Maximilian și pe Horia Moculescu.