Mă întreb dacă a auzit cineva de numele următoare: Iman Mirzadeh, Keivan Alizadeh, Hooman Shahrokhi, Oncel Tuzel, Samy Bengio, Mehrdad Farajtabar. Toți sînt „niște băieți“ de la Apple, însărcinați de compania cea mai bogată din lume să umble nițel la mecanismele interne și în intestinele Inteligenței Artificiale. Pun pariu că nu ați auzit așa ciudățenii de nume și nici nu vă prea bateți capul cu modelele de limbaj mari (LLM), care stau la baza noii minuni a tehnicii. De ce v-ați bate capul? Nu îi cereți lu’ văru’ IA să vă scrie scrisorile, referatele, răspunsurile? Nu o puneți de domnișoara IA (cea cu o mie de nume într-o mie de firme) să răspundă clienților nemulțumiți? De ce ne-am bate capul? Scăpăm de factorul uman, subiectiv, supus greșelii și toanelor. Iar femeile… Oho, cîte probleme! Așa, avem un pilot brici, care nu obosește și nu greșește niciodată, niciodată, niciodată…
Ei bine, mă tem că vă voi da o veste proastă. Departe de calculele precise ale calculatoarelor „ordinare“, care nu greșesc calculele matematice, mecanismele lingvistice complexe care par a oferi răspunsuri optime mint de îngheață apele. Cu cît par mai evoluate, cu atît rata de eroare, de minciună și dezinformare crește.
Am să îl citez aici pe Gary Marcus (autorul cărții The Algebraic Mind, din 2001, care a prevăzut punctul slab al modelelor actuale): „Toți cei care lucrează activ cu IA ar trebui să-l citească sau, cel puțin, acest fir excelent de pe X (Twitter) de la autorul principal, Mehrdad Farajtabar, care rezumă ceea ce au observat. Un pasaj-cheie: «Nu am găsit nici o dovadă de raționament formal în modelele de limbaj… Comportamentul lor este mai bine explicat prin potrivire sofisticată de tipare – atît de fragilă, de fapt, încît schimbarea numelor poate modifica rezultatele cu ~10%!»“.
Să traduc, pentru amatorii de senzații tari. Pui o întrebare calculatorului. Îți va răspunde. Ceva. Orice. Dacă introduci în respectiva întrebare unul sau mai multe cuvinte fără legătură cu subiectul, răspunsul se va schimba cam cu procentul de mai sus. Zici floare, cățel, conopidă, patrie și țac! – obții alt răspuns. Măi, asta miroase a umanitate, nu a inteligență. Cum spunea cineva, ceea ce presupune dinamica ChatGPT e un șablon care se umple cu orice. Importantă e corectitudinea gramaticală, nu cea logică. De altfel, utilizatorii de acum un an puneau aceeași întrebare și primeau răspunsuri diferite. Și mai interesant e micuțul studiu făcut pe o tablă de șah de Mathieu Acher. Inteligența Artificială a făcut mișcări imposibile. Un pion, de exemplu, a mutat trei cîmpuri. „Am repetat sesiunea de cinci ori. ChatGPT-4.0 și GPT-3.5-instruct au făcut greșeli similare.“
Incapacitatea arhitecturilor standard de rețele neuronale de a extrapola fiabil – și de a raționa formal – a fost o temă în toate provocările modelelor de limbaj mari. De altfel, IA se încurcă pînă și la matematică, deși nimic sentimental sau parazit nu intră pe fir. L-au testat pe înmulțiri de pînă la 20 x 20 – o1 rezolvă înmulțiri de pînă la 9 x 9 cu o acuratețe decentă, în timp ce GPT-4.0 întîmpină dificultăți peste 4 x 4. Aici ar trebui să ne gîndim dacă nu cumva modelelor generative de limbaj nu le lipsește ceva esențial. Ori matematică, ori logică. Personalitatea și observația directă, experiența de viață și spiritul critic. Dacă noi vedem „semnificații“ în limbajul automat, asta e pentru că natura umană are oroare de vid. Dacă scoatem niște cuvinte din pălărie, imediat creierul nostru va încerca să le acorde o logică, o semnificație, chit că nu e nimic acolo. Tot ce am citit pînă acum este de o plicticoșenie îngrozitoare. Parcă îl vezi pe tocilarul clasei mormăind ceva nobil, expresiv și corect, dar copiat de unde a nimerit. Antrenată cu miliarde de fraze și îmbîrligături gramaticale, IA nu are cum să intre în domeniul literaturii. Deși încearcă, corectînd cîțiva autori lipsiți de har și de un minim profesionalism.
Aflat de curînd la Timișoara, la librăria „La Două Bufnițe“, am urmărit o discuție a adolescenților despre literatura artificială. Le era teamă. Mie nu îmi e. Ceea ce mă îngrijorează e însă viteza cu care un model acaparează instituțiile, moda, casele oamenilor. IA va putea să facă orice, de la crimă la dezastru, pentru că nu are, dincolo de modele artificiale, și o conștiință de sine. Să mă bat peste gură. Nu știu dacă n-ar fi mai rău.
3.387 de vizualizări
Un amic, nu dau nume, poet si scriitor, impreuna cu alti amici a scris in anii ’90 niste carti, sub pseudonimul Sandra S. Brown. S-au vandut ca painea calda. Inteligenta artificiala ar putea scrie mii de astfel de carti. Fosta mea soacra, fan Sandra Brown, le-ar citi cu nesat.
„Viața a devenit mai veselă, tovarăși. Viața a devenit mai bună”. Cinic tiran, dar filmul a fost excelent. Subscriu la temerile dumneavoastră. Uneori pur și simplu trebuie să speri în noroc. Om trece și încercarea asta, cumva.
IA, cutia Pandorei din lumea actuală și viitoare. Când humanoizii vor înțelege că nu mai au nevoie de noi și că suntem doar o „pacoste” pe capul lor, atunci să vezi care pe care. Eu zic că vor fi când ei peste noi, când noi sub ei!