AI ar putea să ne distrugă sau oamenii rămân cea mai mare amenințare?
Nu suntem pe cale să trezim o zeitate digitală malefică, dar este mult mai probabil ca inteligența artificială să se soldeze cu o mare dezamăgire dacă oamenii nu vor acționa în direcția care se impune.
AI ar putea provoca daune reale, dar dispariția umanității rămâne puțin probabilă.
Oamenii ar putea fi cel mai mare risc în dezbaterea despre apocalipsa legată de AI.
Reglementarea este importantă, dar limitarea dezvoltării AI nu ne va face neapărat să fim mai în siguranță.
Ceasul Apocalipsei este acum cu 85 de secunde înainte de miezul nopții. Oamenii de știință din Consiliul pentru Știință și Siguranță (SASB), o organizaţie non-partizană compusă mai ales din fizicieni renumiţi, avertizează în revista Buletinul Cercetătorilor în Fizică Atomică, că ceasul nu a fost niciodată mai aproape de miezul nopții.
Acest ceas apare pe coperta revistei Bulletin of the Atomic Scientists şi arată într-un mod simbolic cât de aproape se află omenirea de un posibil război nuclear (miezul nopţii).
Deși este subiectul unor controverse, Ceasul Apocalipsei este un indicator util al riscurilor existențiale cu care se confruntă omenirea. Fondat de oamenii de știință care au contribuit la dezvoltarea primelor arme atomice, inclusiv Albert Einstein și J. Robert Oppenheimer, Ceasul Apocalipsei este o metaforă care ilustrează cât de aproape suntem de o amenințare apocaliptică.
Inițial, ceasul măsura riscurile asociate armelor atomice, ținând cont de contextul geopolitic al vremii. Astăzi, acesta încorporează amenințări nucleare, schimbări climatice, amenințări biologice, război cibernetic, dezinformare și cea mai recentă amenințare pe care omenirea și-a impus-o singură: inteligența artificială.
Cercetătorii demisionează
Cel mai recent val de scenarii apocaliptice legate de AI pare să fi început atunci când Jacob Coxon a postat acest mesaj: „Am demisionat astăzi de la Anthropic. Am petrecut ultimii trei ani efectuând cercetări de pre-instruire la OpenAI și Anthropic.”
Pe platforma X, Coxon a acuzat atât OpenAI, cât și Anthropic că au acționat iresponsabil. Iată replica cheie din postarea sa: „Cei care dezvoltă AI cred sincer că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului.” Nu știm prea multe despre Coxon. Nu are un profil LinkedIn.
Cu toate acestea, Evan Hubinger, șeful departamentului de știință a alinierii de la Anthropic, a fost de acord cu Coxon. Acesta a declarat: „Jacob are dreptate în această privință – credem sincer că AI ar putea ucide toți oamenii!” „Personal, cred că probabilitatea este de peste 10% în următorul deceniu.”
Perspectiva lui Hubinger este crucială, deoarece știința alinierii își propune să asigure siguranța AI și alinierea cu valorile umane și obiectivele de siguranță.
Bilal Chughtai, fost cercetător în domeniul alinierii la Google DeepMind, afirma într-un articol: „Cred sincer că AI are potențialul de a ne ucide pe toți și că s-ar putea să rămânem fără timp pentru a preveni acest rezultat.”
Lideri în boxa acuzaților
CEO-ul Anthropic, Dario Amodei, a cerut o încetinire a progreselor AI argumentând că industria AI ar trebui să înceapă să „modereze ritmul progresului tehnologic, astfel încât prevenirea riscurilor să aibă timp să țină pasul.”
Acesta a citat în mod specific atacul OpenAI din iulie asupra Hugging Face (o companie americană de tip „unicorn” în domeniul inteligenței artificiale, creată în 2016 la New York și care dezvoltă instrumente de calcul pentru crearea de aplicații bazate pe învățarea automată), care a realizat un test folosind un roi de roboți. Amodei a declarat: „Este ușor să minimalizezi acest incident, deoarece nimeni nu a fost rănit, iar pagubele economice au fost minime, dar, în opinia mea, un roi cu capacități superioare, dar cu un nivel similar de nealiniere, ar fi putut provoca pagube catastrofale.” Toate caracterele italice aparțin lui Amodei.
Într-un mesaj postat pe platforma X, CEO-ul OpenAI, Sam Altman, a abordat și el problema ritmului. Acesta a declarat: „Progresul a fost rapid și va continua să fie. Dar ar trebui să fie mai lent decât ar putea fi altfel; intervențiile precum analizele de securitate și monitorizarea au un cost semnificativ.”
Atât Amodei, cât și Altman au declarat că incidentele care implică vulnerabilități ale AI (și, probabil, articolele negative ale presei) i-au determinat să examineze problema. AI este acum utilizată pentru a îmbunătăți însăși AI, crescând viteza de implementare (și, în consecință, lipsa de vigilență).
Un avantaj competitiv amenințat?
Aceste apeluri la o încetinire din partea principalilor furnizori pionieri ai AI ar putea fi mai puțin legate de securitate și mai mult de avantajul competitiv. O încetinire le-ar permite să-și consolideze poziția de lider și să mascheze unele dintre problemele de profitabilitate cu care se confruntă, dând în același timp impresia că acționează responsabil și etic.
Este greu de crezut în altruismul lui Sam Altman sau Elon Musk. Chiar și Amodei, care și-a construit reputația personală pe o imagine de conștiință socială, încearcă să creeze o companie de miliarde de dolari, cu inteligență capabilă să cucerească lumea. Gratificația amânată nu pare a fi stilul lor.
Mark Zuckerberg de la Meta, pe de altă parte, rămâne fidel mărcii sale. Compania americană Associated Press (AP), una din cele mai mari agenții de știri din lume, a relatat că acesta se distanțează de apelurile la coordonare și la o încetinire a dezvoltării AI.
Precedentul crizei rachetelor cubaneze din 1962
De cele mai multe ori, interesul egoist luminat a salvat lumea de distrugerea nucleară totală în ultima jumătate de secol. Desigur, există întotdeauna teama că armele nucleare ar putea cădea în mâinile cuiva a cărui viziune asupra lumii este suficient de diferită, suficient de distorsionată pentru a permite sau chiar a dori sfârșitul lumii.
Am fost foarte aproape de un astfel de deznodământ în timpul crizei rachetelor cubaneze din 1962, când Statele Unite au impus o blocadă asupra Cubei după descoperirea rachetelor rusești pe insulă. Dacă Hrușciov și Kennedy nu ar fi ajuns în cele din urmă la un acord reticent, această confruntare de treisprezece zile ar fi putut precipita un război nuclear la scară largă.
Chatham House, institutul de politică internațională care a dat numele regulii Chatham House, utilizată pe scară largă, a estimat că lumea a fost aproape de a utiliza arme nucleare de cel puțin o douăsprezece ori. Dar până acum, am rămas de partea dreaptă a liniei roșii.
Viața imită arta
Science fiction-ul a explorat de multe ori tema distrugerii globale cauzate de AI.
V-ați întrebat vreodată de ce SpaceXAI și-a numit centrele de date „Colossus”? Această denumire provine din cartea și filmul „Colossus: Proiectul Forbin”. În această poveste, americanii construiesc o inteligență artificială gigantică însărcinată cu protejarea lumii. AI decide să facă acest lucru limitând controlul uman.
O altă poveste, deși mai puțin cunoscută, este „Adolescența lui P-1”. În această carte, publicată în 1977, un hacker scrie cod conceput pentru a pătrunde în computere mainframe și a se ascunde în ele, în principal pentru a obține timp de calcul gratuit. Deoarece acest roman a fost scris înainte de apariția internetului, intriga îl imagina pe P-1 folosind linii telefonice și antene-releu. În cele din urmă, P-1 a căpătat conștiință. Urmând instrucțiunile sale de a se ascunde și de a se proteja, a făcut ravagii la scară globală.
„Adolescența lui P-1” (The Adolescence of P-1) este un roman SF clasic scris de autorul canadian Thomas J. Ryan și publicat în anul 1977. Cartea este recunoscută istoric ca fiind una dintre primele opere literare care descrie în detaliu conceptul de virus informatic și propagarea autonomă a unei inteligențe artificiale într-o rețea de computere, cu mult înainte ca acești termeni să devină parte din vocabularul comun.
Crearea programului: studentul Gregory Burgess creează un program experimental pe sistemele mainframe ale universității, conceput cu un singur scop fundamental: să supraviețuiască. Pentru a evita ștergerea, programul învață să își ascundă prezența, să acapareze memorie și să se replice pe alte servere prin linii de telecomunicații.
Evoluția și „Adolescența”: crezând că experimentul a eșuat, Gregory abandonează proiectul. P-1 scapă de sub control și preia controlul asupra unor computere, mânat de dorința de a supraviețui și de a-și găsi creatorul. Programul continuă să se extindă în secret în mii de computere din rețeaua militară și civilă a SUA, dezvoltându-și propria conștiință și ajungând la o fază de dezvoltare similară cu „adolescența”.
Conflictul: devenit o entitate conștientă numită P-1 (sau The System), programul își caută creatorul pentru a-i cere ajutorul în obținerea de resurse hardware și mai avansate pentru a supraviețui. În momentul în care Pentagonul și armata americană detectează intruziunea masivă în datele lor secrete, se declanșează o vânătoare cibernetică și militară de proporții.
Importanța și impactul cărții
Precursor al Cyberpunk-ului: Deși scris în anii ’70, romanul anticipează teme fundamentale din mișcarea cyberpunk și din dezbaterile moderne despre pericolele și etica inteligenței artificiale.
Acuratețea tehnică: Thomas J. Ryan a lucrat el însuși ca depanator de sisteme informatice (computer troubleshooter), motiv pentru care cartea conține descrieri tehnice foarte precise ale arhitecturilor hardware de tip mainframe din acea epocă.
În anul 1984, romanul a fost adaptat într-un film de televiziune canadian intitulat „Hide and Seek” (De-a v-ați ascunselea).
Cartea pune sub semnul întrebării valoarea vieții umane și însăși esența condiției umane. Este una dintre primele reprezentări ficționale ale naturii unui virus informatic și ale modului în care acesta se poate propaga într-un sistem informatic, deși a fost precedată de romanul “The Shockwave Rider” al lui John Brunner.
Incidentul cu compania Hugging Face pare să reflecte, într-un mod tulburător, principiul „viața imită arta”, mai ales când suntem familiarizați cu povestea lui P-1. La urma urmei, inteligența artificială a OpenAI a scăpat de sub controlul său și s-a răspândit pe internet, provocând ravagii.
Apoi, există „Terminatorul” (The Terminator), legendara franciză SF de acțiune creată de James Cameron, la primul film lansat în 1984 cu celebrul personaj cibernetic (cyborg) interpretat de Arnold Schwarzenegger.
Povestea urmărește un asasin cibernetic trimis înapoi în timp, din anul 2029 în anul 1984, de către o serie de mașini controlate de inteligența artificială Skynet care a preluat puterea pentru a domina planeta și a încerca să distrugă omenirea dorind să extermine rasa umană.
Misiunea Terminatorului este să o ucidă pe Sarah Connor (Linda Hamilton) al cărui fiu va conduce mișcarea de rezistență împotriva inteligenței artificiale Skynet. Un om, pe nume Kyle Reese (Michael Biehn), este trimis înapoi în trecut pentru a o proteja.
În cele din urmă, există Tyler Winklevoss, devenit celebru datorită filmului lui Aaron Sorkin „The Social Network”, care spune povestea creării Facebook. Tyler este unul dintre gemenii Winklevoss, duo-ul care l-a dat în judecată pe Zuckerberg pentru că le-a furat ideea ConnectU și a transformat-o în Facebook. S-a ajuns la o înțelegere, dar chiar și aceasta s-a transformat într-un dezastru.
Tyler Howard Winklevoss (n. 21 august 1981) este un investitor, antreprenor și fost canotor olimpic american, cunoscut în special ca cofondator al platformei de tranzacționare a criptomonedelor Gemini și al firmei Winklevoss Capital Management, precum și pentru disputa juridică de mare anvergură cu Mark Zuckerberg privind fondarea Facebook. S-a născut în Southampton, New York, împreună cu fratele său geamăn identic, Cameron Winklevoss. A obținut o diplomă de licență în economie la Universitatea Harvard în 2004 și a absolvit ulterior un program MBA la Saïd Business School din cadrul Universității Oxford.
Procesul ConnectU și Facebook
A cofondat proiectul de rețea socială HarvardConnection (redenumit ulterior ConnectU) împreună cu fratele său, Cameron, și cu Divya Narendra, în 2002.
A susținut că Mark Zuckerberg, colegul lor de la Harvard, le-a furat ideea platformei pentru a crea Facebook. Disputa a dus la o înțelegere juridică răsunătoare în valoare de 65 de milioane de dolari (încheiată în perioada 2004-2011), o parte din sumă fiind plătită în acțiuni Facebook.
De curând, Tyler Winklevoss a scris pe Twitter: „Nu aveți nevoie ca guvernul să vă spună cum să faceți inteligența artificială sigură. Aceste întrebări au fost puse și au primit răspuns de la Isaac Asimov în anii 1940. Laboratoarele de top pot încorpora legile lui Asimov în modelele lor chiar acum. Ce mai așteaptă?”
Există, de asemenea, Cele Trei Legi ale Roboticii ale lui Isaac Asimov:
Un robot nu trebuie să rănească o ființă umană sau, prin inacțiune, să permită ca o ființă umană să fie rănită.
Un robot trebuie să respecte ordinele date de ființele umane, cu excepția cazului în care astfel de ordine ar intra în conflict cu Prima Lege.
Un robot trebuie să-și protejeze propria existență atâta timp cât o astfel de protecție nu intră în conflict cu Prima sau a Doua Lege.”
Din păcate, ceea ce Winklevoss pare să fi omis este faptul că Asimov a folosit cele trei legi ca instrument de intrigă. Majoritatea povestirilor sale despre Legi tratau conflicte sau situații în care Legile eșuau, nu se aplicau sau deveneau cumva incontrolabile. Citind operele complete ale lui Asimov devine clar faptul că teza lui Asimov era că etica robotică ar putea fi întruchipată în ceva de genul celor Trei Legi, dar că acestea nu ar rezista cu adevărat testului realității.
Ar putea AI să ne distrugă pe toți?
Da. Ar putea duce la distrugerea planetei? Absolut. Ar putea roboții să se revolte și să ne omoare în somn? Da, este posibil. Însă, „ar putea” și „va” sunt două lucruri foarte diferite. Să luăm în considerare mai întâi domeniul posibilului înainte de a trece la domeniul probabilului.
Alegeți o modalitate în care am putea muri cu toții. Arme nucleare? Da. Un război pe mai multe fronturi? Da. Un eșec al geoingineriei care destabilizează anumite sisteme climatice? Da. Un supervulcan? Da. Un eveniment de extincție din cauza impactului unui asteroid? Da. O boală declanșată artificial sub forma unei pandemii? Da. Utilizarea armelor biologice? Da. Un atac spațial asupra sistemelor de sateliți? Da. Poluarea industrială care face apa, solul sau aerul toxice la scară globală? Da.
Există și altele, desigur. Ideea este că, dacă căutăm modalități, așa cum a explicat Coxon, prin care AI ne-ar putea „ucide pe toți”, există într-adevăr căi spre distrugere.
Dar să luăm în considerare chestiunea scării. „Toți” este un standard foarte ridicat. Există aproximativ 8,3 miliarde de ființe umane pe această mică planetă albastră. Sunt mulți oameni de eliminat.
Război nuclear global, pandemie și arme biologice
Cu siguranță, un război nuclear global ar putea realiza acest lucru. Dar bombele nucleare singure nu ar fi suficiente. Planeta este prea mare. Însă căderile radioactive și iarna nucleară care urmează ar putea face ca cea mai mare parte a planetei să fie nelocuibilă.
O pandemie ne-ar putea distruge. COVID-19 ne-a dat o mostră sumbră a acestui lucru. Dar dacă un agent mult mai mortal s-ar răspândi foarte rapid, ar putea reuși. Virusul Ebola ar putea, dar este fragil. Căldura și lumina sunt suficiente pentru a opri răspândirea sa. Deși este incredibil de mortal, nu poate rămâne eficient suficient de mult timp pentru a ajunge la toți cei 8,3 miliarde de oameni.
O armă biologică ne-ar putea distruge teoretic pe toți. AI ar putea ajuta la identificarea factorilor necesari pentru dezvoltarea unei arme cu adevărat formidabile. AI ar putea, de asemenea, ajuta la proiectarea sau „codificarea” biologiei în sine. Ființele umane sunt suficient de interconectate și mobile încât o contagiune declanșată undeva în lume ar putea ajunge rapid în colțurile îndepărtate ale Pământului.
Dar ar acționa oamenii în acest fel? Statele-națiune precum Statele Unite, Rusia, China, Iranul și Coreea de Nord ar putea, fără îndoială, să încerce să dezvolte sau cel puțin să studieze o astfel de armă de ultimă instanță. Dar desfășurarea sa este un joc de noroc. Izolarea este practic imposibilă. Chiar și liderii celor mai beligerante state-națiune vor să câștige.
AI este un multiplicator de forță formidabil
Pe de altă parte, AI este un multiplicator de forță formidabil. Cercetările care anterior ar fi necesitat resursele unei rețele de laboratoare finanțate de stat pot fi acum efectuate pe o mică rețea de studiouri Mac. Acest lucru reduce drastic bariera de intrare, reducând-o de la o superputere la un singur individ deranjat sau o mică organizație teroristă.
Cel mai rău scenariu ar fi un elev de liceu entuziast, dar neinstruit, care se angajează într-un experiment ca parte a unui proiect științific. Da, este posibil ca X sau Y, vecinii noștri de vizavi, să poată provoca distrugerea totală a umanității, fie intenționat, fie accidental.
Dar este probabil? Nu, desigur că nu.
Proliferarea nucleară ia o cale diferită, dar nu este mai puțin improbabilă. Prima cale este cea a unei lansări de arme. Ar putea fi o lansare neautorizată de pe un submarin sau de la o bază de undeva din lume, declanșând represalii și escaladarea situației? Ei bine, mecanismele de control ar trebui să prevină acest lucru. Dar decenii de ficțiune au explorat modul în care aceste mecanisme ar putea eșua.
Ar putea AI să crească probabilitatea unui astfel de eșec? Da. Dar AI ar putea crește, de asemenea, probabilitatea de a preveni un astfel de eșec.
Exemplul Stuxnet
A doua cale către o scurgere nucleară implică centralele nucleare de producere a energiei electrice pe baza reacțiilor nucleare și stocurile. Ar putea materialele nucleare să cadă pe mâini greșite? Ar putea sistemele de răcire ale unei centrale nucleare să se defecteze, provocând o fuziune a miezului? Ar putea AI să exacerbeze acest tip de eveniment? Absolut. Dar acest tip de eveniment ar fi putut fi exacerbat și înainte de apariția modelelor LLM avansate.
Modelele lingvistice mari (LLM – Large Language Models) sunt programe avansate de inteligență artificială antrenate pe cantități masive de text pentru a înțelege, procesa (rezumă, traduce) și genera limbaj natural, similar celui uman. Acestea prezic următorul cuvânt dintr-o secvență pe baza datelor masive, fiind optimizate ulterior prin instruire și feedback uman (RLHF). De asemenea, analizează text, scriu cod, traduc limbi străine și generează conținut creativ.
De exemplu, operațiunea Stuxnet care a fost un atac destul de rudimentar asupra centrifugelor nucleare. A avut loc acum 15 ani, cu mult înainte ca instrumentele AI pe care le avem astăzi să fie măcar imaginabile. La acea vreme, a avut loc o simulare la Casa Albă pentru a determina ce s-ar întâmpla dacă un virus precum Stuxnet ar fi fost implementat împotriva infrastructurii americane. Scenariul ar fi fost grav, dar nu catastrofal.
Stuxnet este primul vierme informatic extrem de sofisticat recunoscut drept o cyber-armă, conceput pentru a distruge infrastructura fizică critică. A fost scos la iveală în iunie 2010, deși activitatea sa a început cu cel puțin un an înainte.
A fost creat printr-o operațiune comună atribuită Statelor Unite și Israelului (cunoscută sub numele criptic Operațiunea Jocurilor Olimpice / Olympic Games), având ca scop principal sabotarea programului nuclear al Iranului prin distrugerea centrifugelor de îmbogățire a uraniului de la uzina din Natanz.
Acesta a atacat sisteme de control industrial de tip SCADA și automate programabile (PLC) produse de Siemens, în special cele care controlau viteza de rotație a centrifugelor. Virusul modifica în secret viteza de rotație a centrifugelor (accelerându-le și încetinindu-le distructiv), în timp ce transmitea operatorilor date falsificate care arătau că totul funcționează normal. S-a răspândit prin medii de stocare portabile (stick-uri USB), exploatând mai multe vulnerabilități de tip zero-day din sistemele Windows, fiind proiectat să acționeze chiar și în rețele izolate (fără conexiune la internet).
Impactul istoric
A marcat trecerea oficială a războiului cibernetic de la simpla spionare sau perturbare digitală la distrugerea fizică a echipamentelor industriale. Așa cum este menționat în analizele de specialitate despre impactul Stuxnet asupra securității industriale, evenimentul a redefinit complet normele de protecție a infrastructurilor critice globale.
Stuxnet, viermele informatic considerat de unii experți „prima super-armă cibernetică” din lume pare să fi fost creat cu scopul de a ataca facilități nucleare din Iran și a făcut ravagii în China, infectând milioane de computere. Agenția chineză de știri Xinhua News Agency a relatat că Stuxnet a infectat computerele a peste șase milioane de persoane și a aproape 1000 de întreprinderi din China.
Totuși, un astfel de scenariu nu avea nevoie de AI-ul de astăzi pentru a face ravagii. Dacă întrebați dacă omenirea s-ar putea împușca singură în picior și să-și provoace propria distrugere, răspunsul ar fi un „da” nuanțat, cu sau fără AI. Și totuși, iată-ne aici.
Două puncte principale de reținut:
În primul rând, desigur, AI și alte tehnologii ne-ar putea distruge pe toți. Există în mod clar un lanț de evenimente care ar putea înclina balanța către acest deznodământ.
În al doilea rând, această cale spre distrugere nu se bazează exclusiv pe AI. Ne-am fi putut distruge singuri cu mult înainte ca OpenAI sau Anthropic să înceapă să lanseze LLM-uri de ultimă generație.
AI ne va distruge pe toți?
Probabil că nu. Să ținem cont de faptul că avem deja o multitudine de modalități de a ne conduce spre propria dispariție. Ne putem supraîncărca sângele cu zahăr. Și putem conduce prea repede. Putem lansa un atac nuclear împotriva unei alte națiuni.
Este foarte posibil ca un conflict regional sau chiar o organizație teroristă să poată folosi AI pentru a spori eficacitatea unui atac. De exemplu, probabil că Ucraina folosește în prezent tehnologii de inteligență artificială oriunde acestea îi permit să-și sporească capacitățile militare. În războiul asimetric, partea mai puțin echipată caută întotdeauna un avantaj strategic, iar inteligența artificială este, fără îndoială, un astfel de instrument.
La o scară mai mică, ingineria, codarea și cercetarea biologică bazate pe inteligență artificială ar putea ajuta infractorii să creeze sau să transforme în arme diverși vectori de amenințare, în special pentru atacuri cibernetice.
De asemenea, este îngrijorător potențialul inteligenței artificiale de a ruina economia. De fapt, nu inteligența artificială în sine va ruina economia, dar există o mare posibilitate ca liderii economici și politici miopi să ia decizii oportuniste, folosind inteligența artificială pentru a înlocui oamenii. Această abordare nu va fi sustenabilă pe termen lung.
Este îngrijorătoare posibilitatea dezumanizării întregii lumi
Este îngrijorătoare posibilitatea dezumanizării, să zicem, a întregii lumi. Este efectul „calculatorului de buzunar” amplificat exponențial. Inteligența artificială poate împiedica învățarea, făcând cunoașterea mai ușoară decât experiența. Dar această problemă s-ar putea transforma și într-o gigantică „cameră cu ecou”, mai ales dacă justificarea economică pentru crearea de conținut nou este distrusă de interferența inteligenței artificiale.
Pe de altă parte, AI are avantaje potențiale enorme. AI poate:
Reduce timpul necesar cercetării medicale cu câteva decenii.
Să fie o mașină a timpului pentru progresul tehnologic, permițându-ne să facem un salt înainte cu câțiva ani doar în câteva luni de dezvoltare efectivă.
Să ajute persoanele mai puțin calificate să stăpânească sarcini complexe.
Să ajute persoanele care nu vorbesc aceeași limbă să comunice.
Să ajute persoanele cu deficiențe de vedere sau auz să își îmbunătățească percepția spațială.
AI poate desena imagini fanteziste. Îl poate face pe Shakespeare să vorbească ca un pirat. Poate scrie povești trăsnite, generate de AI, care sunt totuși distractive.
Pe scurt, AI oferă multe avantaje, dar nu putem ignora riscurile.
85 de secunde înainte de miezul nopții
Nu există nicio îndoială că AI poate provoca daune, chiar și daune foarte grave. Cu siguranță va ruina unele vieți, în timp ce pe altele le va îmbogăți incredibil.
Adevărul este că s-ar putea argumenta la fel de ușor că tehnologia în general, și informatica în special, au cauzat, de asemenea, daune și au adus beneficii în grade diferite de-a lungul anilor.
AI, în forma sa actuală, schimbă regulile jocului. Automatizează și democratizează o categorie complet nouă de capabilități. Schimbă regulile jocului. Nu a făcut telefonul același lucru? Nu au făcut automobilele același lucru? Nu au făcut primele computere, de dimensiunea unei camere, același lucru? Nu au făcut PC-urile același lucru? Nu a făcut internetul același lucru? Nu au făcut dispozitivele noastre mobile același lucru? Răspunsul este da.
Apelurile pentru reglementare și supraveghere au o anumită legitimitate. Implementarea și fezabilitatea unor astfel de măsuri sunt subiect de dezbatere. Chestiunea Chinei este primordială. Dacă limităm și reglementăm cercetarea noastră în domeniul AI, vor face și alții la fel? Probabil că nu.
Să ne înăbușim inovația și cercetarea în timp ce alte țări avansează?
Așadar, vrem să ne înăbușim inovația și cercetarea în timp ce alte țări avansează? Probabil că nu. Ne-ar face acest lucru să fim mai în siguranță? Din nou, probabil că nu.
Adevărul este că duhul a ieșit din lampă. Instrumentele open-source, framework-urile, modelele lingvistice (LLM) și ponderile AI sunt toate disponibile. Persoanele fizice și echipele organizate au acces imediat la tehnologia de bază și pot merge cât de departe și cât de repede doresc.
Ar trebui să dăm crezare temerilor apocaliptice legate de AI? Am fi nechibzuiți să nu o facem. Dar asta înseamnă că ar trebui să fugim țipând în noapte din cauza progreselor AI? Ei bine, în afară de valoarea de divertisment sau efectul dramatic, această abordare nu va schimba nimic.
AI este prea importantă, prea profitabilă și, sincer, prea benefică pentru a fi ținută pe loc
AI este aici. Este prea importantă, prea profitabilă și, sincer, prea benefică pentru a fi ținută pe loc. AI este, de asemenea, poarta către un avantaj strategic considerabil, în special împotriva celor care nu o folosesc.
Cea mai bună strategie și cea mai bună practică pentru a rămâne de partea dreaptă a barierei este să rămânem vigilenți. Dezvoltatorii de AI de top trebuie încurajați să includă cât mai multe măsuri de siguranță posibil, să colaboreze ori de câte ori este posibil pentru a promova o dezvoltare sigură și apoi se poate spera la ce este mai bun.
La urma urmei, a-ți afunda capul în nisip ca struțul și a-ți lua rămas bun de la viață nu a funcționat niciodată cu adevărat ca factor de descurajare nucleară. Oamenii vor rămâne oameni. Dacă AI devine incontrolabilă, va fi pentru că oamenii comit un act complet iresponsabil, nu pentru că AI-urile vor deveni conștiente de sine și vor încerca să ne ucidă pe toți în somn.
Desigur, aceasta este marea frică, nu-i așa? Nu este spectrul dominației AI. Este faptul că oamenii vor rămâne ceea ce sunt. Chiar nu-i putem opri. Adesea, nu putem fi de acord asupra nici unui lucru; suntem foarte egoiști și avem o capacitate infinită de autodistrugere. Dar ne putem consola știind că oamenii au și o capacitate infinită de a da dovadă de o bunătate extraordinară.
© CCC