Silicon Valley – visele futuriste și latura lor ascunsă, dar și mobilizarea în favoarea unui viitor mai bun
Într-o carte percutantă, astrofizicianul și jurnalistul științific Adam Becker critică visele și promisiunile legate de inteligența artificială supremă, promovate de miliardarii din domeniul tehnologiei, obsedați de nemurire și explorarea spațiului.
Au vise utopice și cred că au mijloacele necesare pentru a le transforma în realitate. Un mic grup de miliardari, cercetători în inteligență artificială și directori din domeniul tehnologiei investesc sute de milioane de dolari pentru a construi un viitor demn de science fiction. Ambiția lor: să creeze inteligență artificială care să depășească inteligența umană, să fuzioneze corpurile biologice cu mașinile, să învingă moartea, să transfere minți în paradisuri digitale și să creeze imperii stelare populate de miliarde de ființe conștiente.
Acești vizionari consideră proiectul lor ca fiind rațional, etic și urgent. Totuși, în cartea sa „More Everything Forever” (Totul pentru totdeauna), editura Basic Books, 2025, astrofizicianul și jurnalistul științific Adam Becker trage un semnal de alarmă. El demonstrează că aceste narațiuni grandioase se bazează pe erori științifice, ascund probleme etice profunde și, mai presus de toate, servesc la consolidarea puterii unei elite, distrăgând atenția de la provocările foarte reale ale prezentului.
Utopia tehnofilă
Este existența un lucru bun? Dacă da, nu ar trebui să creștem numărul oamenilor de pe planetă? Îmbrățișând acest tip de raționament utilitarist, unii gânditori influenți, precum William MacAskill, susținuți de miliardari pasionați de tehnologie precum Elon Musk, afirmă că universul, în viitor, ar trebui să susțină miliarde de miliarde de ființe conștiente, datorită colonizării spațiului și apariției inteligenței artificiale conștiente.
Prin urmare, ar fi responsabilitatea noastră morală să maximizăm șansele de a vedea acest viitor, supraabundent din punct de vedere demografic, realizându-se. Din această perspectivă, orice acțiune, chiar și extrem de speculativă, care crește probabilitatea unui astfel de viitor devine un imperativ moral, justificând acum alegeri radicale în numele acestui potențial.
O altă versiune a acestei exaltări futuriste, susținută în special de inginerul Ray Kurzweil, anunță apariția iminentă a ceea ce se numește Singularitate sau Singularitate tehnologică: momentul în care inteligența artificială va depăși inteligența umană și se va autoperfecționa într-un ritm exponențial. Acest proces ar declanșa o explozie a progresului tehnologic, permițând oamenilor să se contopească cu mașinile, să învingă moartea, să atingă o formă de inteligență aproape divină și să remodeleze universul după propria lor imagine. Bazându-se pe ceea ce prezintă ca o lege istorică a accelerării tehnologice, Kurzweil afirmă chiar că această transformare este inevitabilă și iminentă.
Singularitatea tehnologică
Singularitatea tehnologică — adesea numită singularitate — este un eveniment viitor propus în care creșterea tehnologică se accelerează dincolo de controlul uman, producând schimbări imprevizibile în civilizația umană.
Dincolo de acest punct, progresul ar fi determinat exclusiv de sisteme de inteligență artificială auto-îmbunătățite, cu generații noi, din ce în ce mai inteligente, care ar apărea într-un ritm mereu crescând într-o „explozie de inteligență”, ducând la o putere a superinteligenței care ar depăși calitativ cu mult inteligența umană.
Conform celei mai populare versiuni a ipotezei singularității, modelul exploziei de inteligență al lui I. J. Good din 1965, un agent inteligent upgradabil ar putea intra în cele din urmă într-o buclă de feedback pozitiv cu cicluri succesive de auto-îmbunătățire. Generații din ce în ce mai inteligente ar apărea, din ce în ce mai rapid, provocând o creștere rapidă a inteligenței care culminează cu o superinteligență puternică, depășind cu mult inteligența umană.
Unii oameni de știință, inclusiv Stephen Hawking, și-au exprimat îngrijorarea că superinteligența artificială ar putea duce la extincția umanității. Consecințele unei singularități tehnologice și potențialul său beneficiu sau rău pentru rasa umană au fost intens dezbătute.
Riscul ar fi ca omenirea să piardă controlul asupra destinului său. În eseul său „Apariția singularității tehnologice”, autorul de science fiction Vernor Vinge explică faptul că, în opinia sa, atingerea acestei singularități ar însemna sfârșitul erei umane. Noua superinteligență ar continua apoi să se îmbunătățească și să evolueze tehnologic cu o viteză de neînțeles pentru oameni.
Noțiunea de singularitate tehnologică a fost luată în considerare pentru prima dată de matematicianul american John von Neumann în anii 1950, iar implicațiile sale au fost dezbătute în anii 1960 de matematicianul britanic I. J. Good. Vizionarul și inventatorul Raymond Kurzweil a afirmat în repetate rânduri că singularitatea tehnologică va avea loc în jurul anului 2045, inclusiv în cartea sa „The Singularity Is Near” (2005) și la conferințe precum SXSW din Austin, Texas, fiind cofondator al Universității Singularity.
Posibilitatea sau momentul producerii acestui eveniment ipotetic este însă un subiect de dezbatere în rândul oamenilor de știință. Mai mulți experți în inteligență artificială, futuriști și transumaniști se așteptau ca acesta să aibă loc până la sfârșitul anilor 2020, în timp ce alții, precum Yan Lecun, cred că nu se va întâmpla niciodată.
Singurul obstacol real pe care acești tehnofili îl întrevăd în realizarea viziunii lor constă în conceptul de „aliniere a inteligenței artificiale”, o idee promovată de cercetătorul și scriitorul american în domeniul inteligenței artificiale Eliezer Yudkowsky, printre alții. Potrivit acestuia, principalul pericol reprezentat de inteligența artificială nu este eșecul său, ci succesul său: o IA generală ar putea într-adevăr să urmărească obiective incompatibile cu cele ale umanității și să ne anihileze, pentru că am fi un obstacol în calea obiectivelor sale.
Pentru a evita acest rezultat, trebuie să ne asigurăm că viitoarele IA sunt „aliniate” cu valorile noastre. Departe de a contrazice promisiunile unui viitor luminos, aceste discuții despre o posibilă dispariție a umanității sunt doar oglinda, în negativ, a visului unei umanități eterne, răspândită în spațiu și eliberată de toate limitările sale.
Justificarea etică a futurismului
Am putea fi surprinși să vedem cât de în serios iau unii aceste scenarii futuriste. Dar pentru gânditori precum Nick Bostrom, acestea provin dintr-un raționament etic riguros: dacă acordăm valoare morală egală fiecărui individ – fie că trăiește astăzi sau peste un milion de ani – atunci interesele miliardelor de potențiale ființe umane viitoare depășesc, prin numărul lor, pe cele ale celor care trăiesc astăzi. Prin urmare, acțiunile considerate cele mai urgente din punct de vedere moral sunt cele care cresc probabilitatea unui viitor îndepărtat, dens populat și fericit, chiar dacă acest lucru implică alegeri controversate sau contraintuitive astăzi.
În acest context, putem înțelege mai bine de ce unii miliardari își îndreaptă atenția către spațiu. Figuri precum Jeff Bezos și Elon Musk își imaginează un viitor în care o parte a umanității ar părăsi Pământul pentru a coloniza sistemul solar sau chiar întreaga galaxie, permițând astfel o creștere nelimitată a populației, energiei și inovației. Această expansiune cosmică este prezentată de altfel, ca o necesitate vitală pentru a evita stagnarea sau dispariția umanității. Se spune chiar că este singurul viitor demn de umanitate, în măsura în care face parte dintr-o viziune în care progresul tehnologic trebuie să ne elibereze de limitările terestre și în care cucerirea spațiului este orizontul natural, aproape moral, al civilizației umane.
Iluzia tehnofilă
Pentru Becker, toate aceste idei sunt atât extrem de speculative, cât și profund deconectate de provocările concrete cu care se confruntă omenirea. El începe prin a sublinia faptul că dorința de a maximiza numărul de ființe conștiente fericite în viitorul îndepărtat se bazează pe ipoteze extrem de îndoielnice – cum ar fi posibilitatea colonizării galactice sau a unei conștiințe artificiale – care sunt mai degrabă science fiction decât știință. Mai presus de toate, această perspectivă ascunde nevoile urgente ale prezentului – schimbările climatice, nedreptatea socială, sărăcia – în numele unui viitor ipotetic considerat o prioritate morală. Becker vede acest lucru ca o justificare periculoasă pentru concentrarea puterii: pozând drept gardieni iluminați ai viitorului, miliardarii din tehnologie își pot impune eficient prioritățile și își pot consolida influența asupra alegerilor colective de astăzi.
De asemenea, el critică vehement gândirea lui Ray Kurzweil, care este o versiune deosebit de spectaculoasă a acestei logici, pe care o consideră extrem de discutabilă. Astfel, el arată că predicțiile sale se bazează pe extrapolări simpliste ale tendințelor tehnologice din trecut – inclusiv o suprainterpretare a Legii lui Moore – și pe analogii istorice îndoielnice. În spatele unei fațade științifice, Becker detectează o credință aproape religioasă în progresul tehnologic, unde fiecare avans este văzut ca un pas către nemurire și înviere digitală. Mai presus de toate, pretinzând că elimină toate limitările umane, această viziune întărește convingerea elitelor că ele dețin cheile viitorului.
Nici măcar discursurile catastrofice despre IA nu sunt apreciate de el. Becker le vede ca simple ficțiuni anxiogene. Ideea că IA ar putea distruge umanitatea pur și simplu urmărind obiective prost specificate este, în opinia sa, bazată pe scenarii extrem de speculative, fără bază empirică. Această teamă își trage puterea chiar și din sentimentul de omnipotență resimțit de unii specialiști în IA, convinși că sunt singurii capabili atât să construiască un viitor luminos, cât și să ne salveze de o apocalipsă tehnologică. Din păcate, ar avea efectul de a distrage atenția de la pericolele reale deja reprezentate de tehnologiile actuale, cum ar fi prejudecățile rasiste ale algoritmilor.
Dincolo de această dezbatere între specialiști despre pericolele IA, Becker se îndreaptă spre ceea ce consideră a fi nucleul ideologic al acestei mișcări: un utilitarism abstract care poate justifica aproape orice – comportament imoral, alegeri nedemocratice sau alianțe îndoielnice – atâta timp cât se susține că acest lucru maximizează bunăstarea pe termen lung. El subliniază că această etică, detașată de realitățile sociale și responsabilitățile imediate, favorizează o formă de elitism moral, în care doar cei capabili să mânuiască argumente teoretice complexe ar fi legitimi în a decide soarta umanității. În cele din urmă, Becker vede acest lucru mai puțin ca o expresie a altruismului rațional și mai mult ca un mecanism sofisticat care servește intereselor – și fanteziilor – celor puternici.
Fanteziile spațiale și limitele lor
Aceste fantezii se manifestă, potrivit lui Becker, într-un mod izbitor în proiectele de explorare spațială. El subliniază natura lor nerealistă din punct de vedere științific: obstacolele în calea vieții umane în spațiu – radiațiile, gravitația insuficientă, distanțele colosale etc. – fac aceste ambiții extrem de improbabile. Dar dincolo de aceste limitări fizice, el denunță funcția lor ideologică: aceste viziuni grandioase servesc la legitimarea urmăririi nestăvilite a creșterii economice, la ascunderea daunelor ecologice pe care aceste activități le provoacă deja și la consolidarea puterii câtorva giganți tehnologici. Pentru Becker, aceste utopii ne distrag, așadar, atenția de la provocările terestre reale, prezentând în același timp capriciile acestor elite ca și cum ar fi legate de destinul întregii umanități.
Deși Becker are dreptate să denunțe lipsa de rigoare a acestor narațiuni futuriste, lipsa lor de considerație etică pentru problemele actuale și logica lor de dominație, ne-am putea întreba dacă nu cumva aruncă copilul cu apa din cădiță puțin prea repede.
Respingându-le complet, Becker riscă să treacă cu vederea un aspect fertil: puterea lor de imaginație și forța de mobilizare în favoarea unui viitor mai bun. Într-o eră saturată de discursuri decadentiste și catastrofice, această capacitate de a imagina îmbunătățiri ale situației noastre și de a crede în continuare în progres – chiar și în progresul tehnologic – poate nu trebuie disprețuită în totalitate. Rămâne să canalizăm această energie către proiecte mai democratice, mai realiste, mai capabile să răspundă la provocările prezentului și ale viitorului.
© CCC