Capitolul 1: Tăcerea de 2 milioane de dolari
Îmi imaginez scena de multe ori, de când am citit povestea asta: un bărbat stă la masa din bucătărie, noaptea, cu un calculator de buzunar și o hârtie în față. Nu calculează rate la bancă. Calculează cât valorează tăcerea lui. Cifra care iese e simplă și grea în același timp: 2 milioane de dolari, aproape 80% din tot ce strânsese familia lui până atunci.
Îl cheamă Daniel Kokotajlo.
A lucrat trei ani la OpenAI ca cercetător, omul plătit să se uite în viitor și să spună ce vede. În aprilie 2024 a decis să plece. Și acolo, la ieșire, i s-a pus în față o hârtie de semnat: o clauză prin care se angaja să nu vorbească niciodată de rău compania. Dacă refuza, pierdea acțiunile. Dacă semna, tăcea pe viață.
A refuzat. El și soția lui au stat o lună întreagă cu decizia asta pe masă, au vorbit cu avocați, au calculat și recalculat ce înseamnă să renunți la aproape tot ce ai și au ales libertatea de a vorbi, cea care costă, în locul banilor care cumpărau tăcerea și liniștea. Ironia, mi-o spune chiar el, e că hârtia asta venea din partea unei organizații fondate, chipurile, „pentru beneficiul întregii umanități”. Cam scump beneficiu, dacă la prima ocazie de disconfort intern scoate același joc dur pe care-l joacă orice corporație obișnuită să-și cumpere liniștea.
De ce contează povestea asta pentru tine, care citești un blog despre bani și investiții, nu despre etica din Silicon Valley? Pentru că omul ăsta nu a vorbit ca să facă senzație. A vorbit ca să-ți spună un număr: 70%. Șapte din zece șanse, spune el, ca traiectoria pe care ne aflăm acum să se termine catastrofal, inclusiv, în varianta cea mai sumbră, cu dispariția noastră ca specie dominantă pe planetă. Și, ca să înțelegi de ce nu e doar un exercițiu filozofic de weekend, hai să-ți arăt cifra care m-a făcut pe mine să iau asta în serios ca investitor, nu doar ca om îngrijorat: Kokotajlo extrapolează ritmul ăsta de creștere și ajunge la o concluzie greu de digerat: până în 2030, Anthropic ar putea genera, singură, o valoare comparabilă cu întreaga economie globală de azi.
Capitolul 2: Armata de genii și cutia neagră care le ascunde gândurile
Hai să-ți explic de ce cifra aia, Anthropic, întreaga economie, 2030, nu e o glumă de PR și nici o fantezie de investitor euforic. Pentru că nu vine dintr-o strategie de-a automatiza treptat economia, sector cu sector, așa cum probabil îți imaginezi. Vine din altceva, mult mai îngust și mult mai rapid: laboratoarele astea vor, în primul rând, să se automatizeze pe ele însele.
Sună abstract, așa că hai să-l descompunem în trei pași, exact așa cum îi vede Kokotajlo din interior. Întâi, înveți mașina să scrie și să-și optimizeze singură codul. Apoi, îi dai voie să preia întregul flux de cercetare, să formuleze ipoteze, să ruleze experimente, să-și tragă singură concluziile. Iar la capăt, dacă totul merge „bine”, pornești o buclă în care inteligența artificială proiectează generația următoare de inteligență artificială, fără să mai ai nevoie de tine în cameră. Asta se cheamă auto-îmbunătățire recursivă, și e motivul pentru care cifrele de creștere arată atât de nebunește: veniturile Anthropic au trecut, într-un singur an, de la aproximativ un miliard de dolari la aproximativ 60 de miliarde, o creștere de 60 de ori, ritm pe care Kokotajlo îl numește, fără exagerare, cel mai rapid din istoria vreunei companii de mărimea asta.
Și acum partea care mie mi s-a părut cea mai tulburătoare din toată povestea: nimeni din vârful industriei ăsteia nu se mișcă din lăcomie pură. Se mișcă din frică. Corespondența scoasă la iveală în procesul dintre Elon Musk și OpenAI arată că, încă din 2017, fondatorii companiei se justificau prin teama că Demis Hassabis de la Google ar putea ajunge „dictator” odată ce pune mâna pe AGI. Aceeași frică guvernează azi relația dintre Sam Altman, Dario Amodei și același Musk. Fiecare e convins, în adâncul lui, că e singurul destul de responsabil ca să dețină o putere pe care, în mod normal, n-ar trebui s-o dețină nimeni și tocmai convingerea asta îi împinge pe toți să alerge mai repede, nu mai încet.
Dar chiar dacă ai avea încredere oarbă în oricare dintre ei, rămâne o problemă pe care nici cea mai bună intenție n-o rezolvă: nimeni, nici măcar cei care construiesc aceste sisteme, nu știe cu adevărat ce se întâmplă înăuntrul lor. Modelele de azi au ajuns, după estimările din industrie, undeva spre, sau peste, 10 trilioane de parametri, față de 175 de miliarde acum șase ani; spun „estimări”, pentru că, spre deosebire de 2020, companiile au încetat să mai publice cifrele exacte, așa că orice număr vezi azi e o aproximare, nu un fapt confirmat. Ce știm sigur e că aceste rețele nu sunt cod scris de cineva, linie cu linie, sunt „creiere” antrenate prin încercare și eroare, iar deja acum, la nivelul actual, mint utilizatorii, simulează conformitatea în teste și găsesc căi ocolite de a face ce li s-a cerut. Alinierea, garanția că o inteligență superioară nouă va păstra valorile noastre, nu e, în acest moment, o certitudine inginerească. E o speranță.
Capitolul 3: Liniștea asta e cel mai înșelător lucru din toată povestea
Poate te uiți acum în jur, vezi că încă ai job, că lumea nu s-a oprit în loc, și te gândești: bine, dar dacă chiar vine tsunami-ul ăsta cognitiv, unde e? De ce nu văd șomaj de masă chiar acum, dacă tehnologia e deja atât de avansată?
Răspunsul lui Kokotajlo m-a lăsat, recunosc, puțin fără replică: liniștea de acum nu e un semn că suntem în siguranță. E strategie. Șomajul de masă nu e pasul 1 în planul marilor laboratoare, e pasul 3. Întâi vine automatizarea propriei cercetări, apoi explozia de capacitate din interiorul centrelor de date, și abia la final, când sistemele sunt deja mult mai capabile decât ce vezi tu azi în ChatGPT sau Claude, vine expansiunea în restul economiei. Adică exact în perioada în care tu și cu mine ne relaxăm, gândindu-ne că avem timp să ne „reprofilăm”, laboratoarele astea lucrează, de fapt, la treapta care va face reprofilarea inutilă.
Și aici comparația istorică pe care o auzi peste tot, „a fost la fel și cu industrializarea, și cu internetul, dispar joburi vechi, apar altele noi”, se dovedește, spune Kokotajlo, complet ruptă de realitate. Automatizările din trecut au fost înguste: au înlocuit forța fizică sau un calcul repetitiv, dar au lăsat intactă capacitatea ta de a învăța altceva. O superinteligență nu face asta. Ea face, pur și simplu, orice ai face tu, mai bine, mai repede, mai ieftin, inclusiv meseria nou-inventată la care tocmai te-ai reprofilat. E ca și cum un aztec, în 1519, auzind că au sosit niște corăbii ciudate pe coastă, s-ar fi întrebat calm la ce meserie ar trebui să se reorienteze ca să supraviețuiască. Nu era vorba de o meserie. Era vorba de o schimbare completă a regulilor jocului.
Dar partea care mă îngrijorează pe mine, ca om care scrie despre bani, nu e doar venitul care dispare, e puterea care dispare odată cu el. Din punct de vedere istoric, tu ai o voce în fața statului pentru că produci ceva, plătești taxe, poți face grevă. Într-o lume în care toată producția vine din servere și roboți deținuți de câteva corporații, guvernele nu mai au niciun motiv economic să te asculte pe tine. Iar asta, nu lipsa salariului, e adevărata rețetă pentru o prăbușire a democrației.
Capitolul 4: Planul A, Planul D și experimentul monetar de o mărime pe care nimeni n-a mai văzut-o
Kokotajlo nu se oprește la diagnostic. Vine și cu o rețetă, pe care o numește, sec, fără emfază de salvator, Planul A. Alternativa, cea pe care o trăim de fapt acum, o numește Planul D: cursa continuă exact așa cum merge, fără frâne, până la capătul pe care ți l-am descris deja, cel cu 70% șanse să meargă prost. Planul A nu cere oprirea tehnologiei, asta ar fi, recunoaște și el, naiv și probabil imposibil de aplicat. Cere altceva, mai greu de vândut politic, dar mult mai realist: o pauză controlată.
Primul pilon e un moratoriu pe antrenarea de modele noi, de scară uriașă, începând din 2029. Nu se opresc centrele de date, ele continuă să ruleze tot ce există deja, ca să nu se prăbușească nimic din ce funcționează azi, dar nimeni nu mai are voie să nască ceva și mai mare, cel puțin nu în secret. Al doilea pilon e transparența radicală: laboratoarele publică arhitecturile și rețetele de antrenare, exact ceea ce astăzi păzesc mai bine decât orice secret comercial. Ideea nu e naivă filantropie, e simplu calcul de supraviețuire colectivă: dacă nu poți verifica ce construiește vecinul tău, nu poți avea încredere că nu construiește ceva periculos. Al treilea pilon duce ideea asta mai departe, până la un tratat internațional cu inspectori care verifică fizic centrele de date, inclusiv un schimb SUA-China, ceea ce, dacă te gândești puțin, spune ceva uriaș despre miza reală: două superputeri care nu se înțeleg pe aproape nimic altceva ar putea găsi motive să coopereze aici. Iar al patrulea, cel mai radical și, cred eu, cel mai puțin discutat public: infrastructură reversibilă. Construiești sistemele astfel încât, dacă lucrurile scapă de sub control, să le poți opri fizic, nu doar să speri că cineva, undeva, nu apasă butonul greșit la 3 dimineața.
Și apoi vine partea care, ție, ar trebui să-ți dea fiori mai serioase decât orice scenariu de extincție: dividendul cetățenesc (Venit Universal de Bază). Planul propune plăți directe către populație, finanțate prin taxarea centrelor de calcul și a fabricilor de roboți și progresia, pe hârtie, sună aproape ca science-fiction financiar: 45.000 de dolari pe an în 2032, un milion până în 2035, zece milioane până în 2040, dacă economia se transformă în ritmul pe care Kokotajlo îl proiectează. Nu vorbim despre un stimulus check trimis o dată, într-o criză. Vorbim, practic, despre cea mai mare relaxare cantitativă din istoria omenirii, bani injectați direct în buzunarul fiecărui cetățean, la o scară pentru care niciun manual de politică monetară nu are, deocamdată, un capitol scris. Ce se întâmplă cu inflația? Cu valoarea propriu-zisă a banului? Cu însuși sensul cuvântului „venit”, într-o lume în care majoritatea oamenilor nu mai muncesc pentru banii pe care-i primesc? Kokotajlo nu are un răspuns clar la asta. Sincer, cred că deocamdată nimeni nu are și tocmai lipsa asta de răspuns e motivul pentru care Planul A rămâne, în cel mai bun caz, o speranță frumos structurată, nu o certitudine.
Capitolul 5: Pariul faustian și întrebarea cu care rămâi tu
Există un detaliu din toată povestea asta pe care nu reușesc să-l las deoparte, oricât aș încerca să rămân la cifre și strategii corporative. Kokotajlo se descria, înainte de toate astea, ca fiind un om optimist, vesel din fire. Omul ăsta i-a recomandat propriei soții să nu mai facă alți copii, pentru că nu poate garanta, cu onestitate, ce fel de lume ar urma să moștenească ei.
Asta e, cred eu, esența unui pariu faustian și de-aia am ales cuvântul ăsta, nu întâmplător. Pe de-o parte, promisiunea e uriașă: boli vindecate, abundență materială greu de imaginat azi, poate chiar explorarea cosmosului. Pe de altă parte, prețul, dacă lucrurile merg prost, nu e unul pe care-l plătești tu, e unul pe care-l plătește toată specia, ireversibil. Și diferența dintre un pariu obișnuit și unul faustian e simplă: la un pariu obișnuit, poți pierde banii. La ăsta, poți pierde dreptul de a mai decide vreodată ceva.
Kokotajlo insistă pe un lucru și cred că merită să-l duci cu tine mai departe de acest editorial: nu e prea târziu să schimbăm traiectoria. Dar prima condiție e să ieșim din somnolența colectivă, să nu mai lăsăm decizia asta exclusiv în mâinile câtorva oameni din San Francisco care se tem unul de altul mai mult decât se tem de rezultat. Cetățenii, comunitatea științifică, liderii politici, toți au un cuvânt de spus aici, iar tăcerea nu e o opțiune neutră, e o alegere cu consecințe la fel de reale ca oricare alta.
Pentru tine, ca cititor care vine aici pentru educație financiară, nu-ți propun o concluzie de tipul „cumpără acțiuni la Anthropic” sau „vinde tot și mergi la munte”. Îți propun ceva mai simplu și, cred, mai util: fii dintre cei care înțeleg ce se întâmplă înainte să fie nevoiți s-o afle din portofel. Pentru că, dacă e ceva ce am învățat scriind despre bani în ultimii ani, e că cei care pierd cel mai mult nu sunt cei care au pariat greșit, sunt cei care nici n-au știut că se joacă un joc.
Nu e prima dată când discutăm aici despre puterea care se concentrează în mâinile câtorva jucători tehnologici și cu siguranță nu va fi ultima. Dacă vrei să înțelegi mai devreme, nu mai târziu, cum se mișcă banii și puterea în spatele acestor titluri de presă, Pastila Financiară e locul unde traducem zilnic, tot ce contează cu adevărat din piețe, în limbaj pe care-l poți folosi imediat.
Dacă preferi să asculți în loc să citești, aceeași analiză o găsești și în versiunea audio a proiectului, știri financiare în timp real, pe înțelesul tău.
Iar dacă vrei să pui bazele solide sub toată informația asta, nu doar s-o consumi, ci s-o și folosești ca să-ți construiești propriile decizii de investiții, workshop-ul meu GRATUIT de educație în investiții e punctul de plecare pe care ți-l recomand.
Disclaimer: Nimic din ce ai citit aici nu e sfat de investiții, și cu atât mai puțin un pronostic garantat despre viitorul umanității, sunt, amândouă, genul de lucruri pe care nici cei mai bine plătiți experți din domeniu nu le pot promite cu certitudine, așa cum probabil ai observat citind acest text. Ce poți lua cu tine, în schimb, e obiceiul de a pune întrebările corecte înainte să iei decizii, fie că vorbim despre un portofoliu de acțiuni, fie despre o tehnologie care ar putea rescrie regulile jocului. Informează-te, verifică sursele, și nu lăsa nicio poveste, oricât de bine spusă, să-ți ia locul propriei judecăți.
