“Kurrë mos prodhoni një fuqi që nuk mund ta kontrolloni”, Yuval Noah Harari tregon se si AI mund të kërcënojë demokracinë dhe të ndajë botën

Gjatë gjithë historisë, shumë tradita kanë besuar se disa të meta fatale në natyrën njerëzore na tundojnë të ndjekim fuqitë që nuk dimë t’i trajtojmë.

Miti grek i Phaethon tregonte për një djalë që zbulon se është djali i Helios, perëndisë së diellit. Duke dashur të vërtetojë origjinën e tij hyjnore, Phaethon kërkon privilegjin për të ngarë qerren e diellit. Helios paralajmëron Phaethon se asnjë njeri nuk mund të kontrollojë kuajt qiellorë që tërheqin karrocën diellore.

Por Phaethon këmbëngul, derisa perëndia e diellit të heqë dorë. Pasi u ngrit me krenari në qiell, Phaethon me të vërtetë humbet kontrollin e karrocës. Dielli largohet nga kursi, duke djegur gjithë bimësinë, duke vrarë qenie të shumta dhe duke kërcënuar të djegë vetë Tokën. Zeusi ndërhyn dhe godet Faetonin me një rrufe. Njeriu mendjemadh bie nga qielli si një yll që bie, vetë në zjarr. Zotat rivendosin kontrollin e qiellit dhe shpëtojnë botën.

Dy mijë vjet më vonë, kur Revolucioni Industrial po bënte hapat e tij të parë dhe makinat filluan të zëvendësonin njerëzit në detyra të shumta, Johann Wolfgang von Goethe botoi një përrallë të ngjashme paralajmëruese të titulluar “Nxënësi i magjistarit”. Poema e Gëtes (më vonë e popullarizuar si një animacion i Walt Disney-t me Mickey Mouse) tregon për një magjistar të vjetër i cili lë një nxënës të ri në krye të punëtorisë së tij dhe i jep atij disa punë për t’u kujdesur përderisa ai është larguar, si për shembull të marrë ujë nga lumi.

Çiraku vendos t’ia lehtësojë vetes gjërat dhe, duke përdorur një nga magjitë e magjistarit, magjeps një fshesë për të marrë ujin për të. Por çiraku nuk di si ta ndalë fshesën, e cila pa pushim merr gjithnjë e më shumë ujë, duke kërcënuar se do të vërshojë punishten. Në panik, nxënësi e pret në dysh fshesën e magjepsur me një sëpatë, vetëm për të parë se cila gjysmë të bëhet një fshesë tjetër. Tani dy fshesa të magjepsura po përmbytin punishten me ujë. Kur magjistari i vjetër kthehet, nxënësi lutet për ndihmë: “Shpirtrat që thirra, tani nuk mund të shpëtoj përsëri”. Magjistari e thyen menjëherë magjinë dhe ndalon përmbytjen.

Mësimi për nxënësin – dhe për njerëzimin – është i qartë: mos thirrni kurrë fuqi që nuk mund t’i kontrolloni.

Çfarë na thonë fabulat paralajmëruese të çirakut dhe të Faetonit në shekullin e 21-të? Ne njerëzit padyshim kemi refuzuar t’u vëmë veshin paralajmërimeve të tyre. Tashmë e kemi nxjerrë jashtë ekuilibrit klimën e Tokës dhe kemi mbledhur miliarda fshesa të magjepsura, drone, chatbot dhe shpirtra të tjerë algoritmikë që mund t’i shpëtojnë kontrollit tonë dhe të lëshojnë një përmbytje pasojash. Çfarë duhet të bëjmë atëherë? Fabulat nuk japin përgjigje, përveçse të presim që ndonjë zot ose magjistar të na shpëtojë.

Miti i Phaethon dhe poema e Gëtes nuk japin këshilla të dobishme sepse keqinterpretojnë mënyrën se si njerëzit fitojnë fuqi. Në të dyja fabulat, një njeri i vetëm fiton fuqi të madhe, por më pas korruptohet nga mendjemadhësia dhe lakmia. Përfundimi është se psikologjia jonë individuale me të meta na bën të abuzojmë me pushtetin. Ajo që i mungon kësaj analize të papërpunuar është se fuqia njerëzore nuk është kurrë rezultat i iniciativës individuale. Fuqia gjithmonë buron nga bashkëpunimi midis një numri të madh njerëzish. Prandaj, nuk është psikologjia jonë individuale ajo që na bën të abuzojmë me pushtetin.

Në fund të fundit, krahas lakmisë, mendjemadhësisë dhe mizorisë, njerëzit janë gjithashtu të aftë për dashuri, dhembshuri, përulësi dhe gëzim. Vërtetë, midis anëtarëve më të këqij të llojit tonë, lakmia dhe mizoria mbretërojnë supreme dhe i shtyjnë aktorët e këqij të abuzojnë me pushtetin. Por pse shoqëritë njerëzore do të zgjidhnin t’ia besonin pushtetin anëtarëve të tyre më të këqij? Shumica e gjermanëve në vitin 1933, për shembull, nuk ishin psikopatë. Pra, pse votuan për Hitlerin?

Tendenca jonë për të mbledhur fuqi që nuk mund t’i kontrollojmë nuk buron nga psikologjia individuale, por nga mënyra unike që speciet tona bashkëpunojnë në një numër të madh. Njerëzimi fiton fuqi të jashtëzakonshme duke ndërtuar rrjete të mëdha bashkëpunimi, por mënyra se si janë ndërtuar rrjetet tona na predispozon të përdorim fuqinë në mënyrë të pamatur.

Për shumicën e rrjeteve tona janë ndërtuar dhe mirëmbajtur duke përhapur trillime, fantazi dhe deluzione masive – duke filluar nga fshesat e magjepsura deri te sistemet financiare. Problemi ynë, pra, është një problem rrjeti. Konkretisht, është një problem informacioni. Për informacion është ngjitësi që mban rrjetet së bashku, dhe kur njerëzit ushqehen me informacione të këqija, ata kanë gjasa të marrin vendime të këqija, pavarësisht se sa të mençur dhe të sjellshëm janë ata personalisht.

Në gjeneratat e fundit njerëzimi ka përjetuar rritjen më të madhe ndonjëherë si në sasinë ashtu edhe në shpejtësinë e prodhimit tonë të informacionit. Çdo smartphone përmban më shumë informacion sesa Biblioteka e lashtë e Aleksandrisë dhe i mundëson pronarit të tij të lidhet menjëherë me miliarda njerëz të tjerë në mbarë botën. Megjithatë, me gjithë këtë informacion që qarkullon me shpejtësi marramendëse, njerëzimi është më afër se kurrë asgjësimit të vetvetes.

Pavarësisht – ose ndoshta për shkak të grumbullimit tonë të të dhënave, ne po vazhdojmë të nxjerrim gazra serë në atmosferë, duke ndotur lumenjtë dhe oqeanet, duke prerë pyjet, duke shkatërruar habitate të tëra, duke çuar në zhdukje specie të panumërta dhe duke rrezikuar themelet ekologjike të vetes sonë. specie. Ne po prodhojmë gjithashtu armë gjithnjë e më të fuqishme të shkatërrimit në masë, nga bombat termonukleare deri te viruset e fundit të botës. Udhëheqësve tanë nuk u mungon informacioni për këto rreziqe, por në vend që të bashkëpunojnë për të gjetur zgjidhje, ata po i afrohen një lufte globale.

A do t’i bënte gjërat më mirë – apo më keq të kesh edhe më shumë informacion? Së shpejti do ta zbulojmë. Korporata dhe qeveri të shumta janë në një garë për të zhvilluar teknologjinë më të fuqishme të informacionit në histori – AI. Disa sipërmarrës kryesorë, si investitori amerikan Marc Andreessen, besojnë se AI më në fund do të zgjidhë të gjitha problemet e njerëzimit. Më 6 qershor 2023, Andreessen botoi një ese të titulluar Pse AI do të shpëtojë botën , të mbushur me deklarata të guximshme si: “Unë jam këtu për të sjellë lajmin e mirë: AI nuk do ta shkatërrojë botën dhe në fakt mund ta shpëtojë atë”. Ai përfundoi: “Zhvillimi dhe përhapja e AI – larg nga një rrezik që duhet të kemi frikë – është një detyrim moral që kemi ndaj vetes, fëmijëve tanë dhe të ardhmes sonë”.

Të tjerët janë më skeptikë. Jo vetëm filozofët dhe shkencëtarët socialë, por edhe shumë ekspertë dhe sipërmarrës kryesorë të AI si Yoshua Bengio, Geoffrey Hinton, Sam Altman, Elon Musk dhe Mustafa Suleyman kanë paralajmëruar se AI mund të shkatërrojë qytetërimin tonë. Në një sondazh të vitit 2023 me 2,778 studiues të AI, më shumë se një e treta dhanë të paktën 10% mundësi që AI i avancuar të çonte në rezultate aq të këqija sa zhdukja e njeriut. Vitin e kaluar, afër 30 qeveri – duke përfshirë ato të Kinës, SHBA-së dhe Mbretërisë së Bashkuar – nënshkruan deklaratën e Bletchley-t mbi AI , e cila pranoi se “ekziston potencial për dëm serioz, madje edhe katastrofik, qoftë i qëllimshëm apo i paqëllimshëm, që rrjedh nga aftësitë e rëndësishme të këtyre modeleve të AI”. Duke përdorur terma të tillë apokaliptikë, ekspertët dhe qeveritë nuk kanë dëshirë të krijojnë një imazh të Hollivudit të robotëve rebelë që vrapojnë në rrugë dhe qëllojnë njerëz. Një skenar i tillë nuk ka gjasa, dhe thjesht i largon njerëzit nga rreziqet reale.

Inteligjenca artificiale është një kërcënim i paprecedentë për njerëzimin sepse është teknologjia e parë në histori që mund të marrë vendime dhe të krijojë vetë ide të reja. Të gjitha shpikjet e mëparshme njerëzore i kanë fuqizuar njerëzit, sepse pavarësisht sa i fuqishëm ishte mjeti i ri, vendimet për përdorimin e tij mbetën në duart tona. Bombat bërthamore nuk vendosin vetë se kë të vrasin, as nuk mund të përmirësojnë veten e tyre apo të shpikin bomba edhe më të fuqishme. Në të kundërt, dronët autonome mund të vendosin vetë se kë të vrasin, dhe AI-të mund të krijojnë modele të reja bombash, strategji të paprecedentë ushtarake dhe AI ​​më të mirë. AI nuk është një mjet – është një agjent. Kërcënimi më i madh i AI është se ne po thërrasim në Tokë agjentë të rinj të panumërt të fuqishëm që janë potencialisht më inteligjentë dhe më imagjinues se ne, dhe që ne nuk i kuptojmë apo kontrollojmë plotësisht.

“Në dekadat e ardhshme, ka të ngjarë që AI do të fitojë aftësinë edhe për të krijuar forma të reja jete”.

Tradicionalisht, termi “AI” është përdorur si një akronim për inteligjencën artificiale. Por ndoshta është më mirë ta mendojmë atë si një akronim për inteligjencën aliene. Ndërsa AI evoluon, ajo bëhet më pak artificiale (në kuptimin e varësisë nga dizajnet njerëzore) dhe më e huaj. Shumë njerëz përpiqen të masin dhe madje të përcaktojnë AI duke përdorur metrikën e “inteligjencës në nivel njerëzor” dhe ka një debat të gjallë rreth asaj se kur mund të presim që AI ta arrijë atë. Kjo metrikë është thellësisht mashtruese. Është si të përcaktosh dhe vlerësosh aeroplanët përmes metrikës së “fluturimit në nivel zogu”. AI nuk po përparon drejt inteligjencës në nivel njerëzor. Ai po evoluon një lloj inteligjence të huaj.

Edhe në momentin e tanishëm, në fazën embrionale të revolucionit të AI, kompjuterët tashmë marrin vendime për ne – nëse do të na japin një hipotekë, do të na punësojnë për një punë, do të na dërgojnë në burg. Ndërkohë, AI-të gjeneruese si GPT-4 tashmë krijojnë poema, tregime dhe imazhe të reja. Ky trend vetëm sa do të rritet dhe përshpejtohet, duke e bërë më të vështirë të kuptojmë jetën tonë. A mund t’u besojmë algoritmeve kompjuterike për të marrë vendime të mençura dhe për të krijuar një botë më të mirë? Ky është një bast shumë më i madh sesa t’i besosh një fshesë të magjepsur për të marrë ujë. Dhe ne po luajmë kumar më shumë se vetëm jetë njerëzore. AI tashmë është në gjendje të prodhojë art dhe të bëjë zbulime shkencore vetë. Në dekadat e ardhshme, do të ketë gjasa të fitojë aftësinë edhe për të krijuar forma të reja jete, qoftë duke shkruar kodin gjenetik ose duke shpikur një kod inorganik që gjallëron entitetet inorganike. Prandaj, AI mund të ndryshojë rrjedhën jo vetëm të historisë së specieve tona, por edhe të evolucionit të të gjitha formave të jetës.

Mustafa Suleyman është një ekspert botëror në temën e AI. Ai është bashkëthemeluesi dhe ish-kreu i DeepMind, një nga ndërmarrjet më të rëndësishme në botë të AI, përgjegjës për zhvillimin e programit AlphaGo, ndër arritjet e tjera. AlphaGo u krijua për të luajtur Go, një lojë strategjike tavoline në të cilën dy lojtarë përpiqen të mposhtin njëri-tjetrin duke rrethuar dhe kapur territor. E shpikur në Kinën e lashtë, loja është shumë më komplekse se shahu. Rrjedhimisht, edhe pasi kompjuterët mposhtën kampionët njerëzorë të botës në shah, ekspertët ende besonin se kompjuterët nuk do të ishin kurrë më të mirë për njerëzimin në Go.

Kjo është arsyeja pse si profesionistët e Go ashtu edhe ekspertët e kompjuterave u mahnitën në mars 2016 kur AlphaGo mundi kampionin e Koresë së Jugut të Go Lee Sedol. Në librin e tij të vitit 2023 The Coming Wave , Suleyman përshkruan një nga momentet më të rëndësishme në ndeshjen e tyre – një moment që ripërcaktoi AI dhe njihet në shumë qarqe akademike dhe qeveritare si një pikë kthese vendimtare në histori. Kjo ndodhi gjatë ndeshjes së dytë në ndeshje, më 10 mars 2016.

“Më pas… erdhi lëvizja numër 37”, shkruan Sulejman. “Nuk kishte kuptim. AlphaGo me sa duket e kishte hedhur në erë atë, duke ndjekur verbërisht një strategji në dukje të humbur që asnjë lojtar profesionist nuk do të ndiqte kurrë. Komentuesit live të ndeshjes, të dy profesionistë të rangut më të lartë, thanë se ishte një ‘lëvizje shumë e çuditshme’ dhe menduan se ishte ‘gabim’. Ishte aq e pazakontë sa Sedolit iu deshën 15 minuta për t’u përgjigjur dhe madje u ngrit nga bordi për të bërë një shëtitje. Ndërsa shikonim nga dhoma jonë e kontrollit, tensioni ishte joreal. Megjithatë, me afrimin e fundit të lojës, ai veprim ‘i gabuar’ doli i rëndësishëm. AlphaGo fitoi sërish. Strategjia Go po rishkruhej para syve tanë. AI ynë kishte zbuluar ide që nuk u kishin ndodhur lojtarëve më të shkëlqyer në mijëra vjet.”

Move 37 është një emblemë e revolucionit të AI për dy arsye. Së pari, ai demonstroi natyrën e huaj të AI. Në Azinë Lindore, Go konsiderohet shumë më tepër se një lojë: është një traditë kulturore e çmuar. Për më shumë se 2500 vjet, dhjetëra miliona njerëz kanë luajtur Go, dhe shkolla të tëra mendimi janë zhvilluar rreth lojës, duke mbështetur strategji dhe filozofi të ndryshme. Megjithatë, gjatë gjithë atyre mijëvjeçarëve, mendjet njerëzore kanë eksploruar vetëm zona të caktuara në peizazhin e Go. Zonat e tjera mbetën të paprekura, sepse mendjet njerëzore thjesht nuk menduan të shkonin atje. AI, duke qenë e lirë nga kufizimet e mendjeve njerëzore, zbuloi dhe eksploroi këto zona të fshehura më parë.

Së dyti, lëvizja 37 demonstroi pakapshmërinë e AI. Edhe pasi AlphaGo luajti për të arritur fitoren, Suleyman dhe ekipi i tij nuk mund të shpjegonin se si AlphaGo vendosi ta luante atë. Edhe nëse një gjykatë do të kishte urdhëruar DeepMind t’i jepte Sedolit një shpjegim, askush nuk mund ta përmbushte atë urdhër. Sulejman shkruan: “Në AI, rrjetet nervore që lëvizin drejt autonomisë janë, aktualisht, të pashpjegueshme. Ju nuk mund të ecni dikë në procesin e vendimmarrjes për të shpjeguar saktësisht pse një algoritëm prodhoi një parashikim specifik. Inxhinierët nuk mund të shikojnë poshtë kapuçit dhe të shpjegojnë lehtësisht në detaje se çfarë shkaktoi diçka. GPT‑4, AlphaGo dhe pjesa tjetër janë kuti të zeza, rezultatet dhe vendimet e tyre bazohen në zinxhirë të errët dhe jashtëzakonisht të ndërlikuar sinjalesh minutësh.”

Rritja e inteligjencës së pamatshme aliene përbën një kërcënim për të gjithë njerëzit dhe përbën një kërcënim të veçantë për demokracinë. Nëse gjithnjë e më shumë vendime për jetën e njerëzve merren në një kuti të zezë, kështu që votuesit nuk mund t’i kuptojnë dhe sfidojnë ato, demokracia pushon së funksionuari. Në veçanti, çfarë ndodh kur vendimet vendimtare jo vetëm për jetët individuale, por edhe për çështje kolektive, si norma e interesit të Rezervës Federale, merren nga algoritme të pakuptueshme? Votuesit njerëzorë mund të vazhdojnë të zgjedhin një president njerëzor, por a nuk do të ishte kjo thjesht një ceremoni boshe?

Edhe sot, vetëm një pjesë e vogël e njerëzimit e kupton me të vërtetë sistemin financiar. Një sondazh i vitit 2014 me deputetët britanikë – të ngarkuar me rregullimin e një prej qendrave më të rëndësishme financiare në botë – zbuloi se vetëm 12% e kuptonin me saktësi se paratë e reja krijohen kur bankat japin kredi. Ky fakt është ndër parimet më themelore të sistemit modern financiar. Siç tregoi kriza financiare 2007-2008, disa pajisje dhe parime komplekse financiare ishin të kuptueshme për vetëm disa magjistarë financiarë. Çfarë ndodh me demokracinë kur AI-të krijojnë pajisje financiare edhe më komplekse dhe kur numri i njerëzve që kuptojnë sistemin financiar bie në zero?

Duke e përkthyer fabulën paralajmëruese të Gëtes në gjuhën e financave moderne, imagjinoni skenarin e mëposhtëm: një nxënës i Wall Street-it i ngopur nga mundimi i punëtorisë financiare krijon një inteligjencë artificiale të quajtur Broomstick, i siguron asaj një milion dollarë në para dhe e urdhëron të bëjë më shumë para. Për AI, financat janë këndi ideal i lojërave, sepse është një fushë thjesht informative dhe matematikore. AI-të ende e kanë të vështirë të drejtojnë në mënyrë autonome një makinë, sepse kjo kërkon lëvizje dhe ndërveprim në botën fizike të çrregullt, ku “suksesi” është i vështirë për t’u përcaktuar. Në të kundërt, për të kryer transaksione financiare, AI duhet të merret vetëm me të dhëna dhe mund ta masë lehtësisht suksesin e saj matematikisht në dollarë, euro ose paund. Më shumë dollarë – misioni u krye.

“Kompjuterët nuk janë ende aq të fuqishëm sa të shkatërrojnë vetë qytetërimin njerëzor. Për sa kohë njerëzimi qëndron i bashkuar, ne mund të ndërtojmë institucione që do të rregullojnë AI”.

Në kërkim të më shumë dollarëve, Broomstick jo vetëm që harton strategji të reja investimi, por vjen me pajisje krejtësisht të reja financiare për të cilat asnjë qenie njerëzore nuk ka menduar ndonjëherë. Për mijëra vjet, mendjet njerëzore kanë eksploruar vetëm fusha të caktuara në peizazhin e financave. Ata shpikën para, çeqe, obligacione, aksione, ETF, CDO dhe pjesë të tjera të magjisë financiare. Por shumë fusha financiare mbetën të paprekura, sepse mendjet njerëzore thjesht nuk menduan të shkonin atje. Broomstick, duke qenë i lirë nga kufizimet e mendjeve njerëzore, zbulon dhe eksploron këto zona të fshehura më parë, duke bërë lëvizje financiare që janë ekuivalente me lëvizjen 37 të AlphaGo.

Për disa vite, ndërsa Broomstick e çon njerëzimin në një territor të virgjër financiar, gjithçka duket e mrekullueshme. Tregjet po rriten, paratë po vërshojnë pa mundim dhe të gjithë janë të lumtur. Pastaj vjen një përplasje më e madhe se viti 1929 apo 2008. Por asnjë qenie njerëzore – qoftë president, bankier apo qytetar – nuk e di se çfarë e ka shkaktuar dhe çfarë mund të bëhet për të. Meqenëse as perëndia dhe as magjistari nuk vijnë për të shpëtuar sistemin financiar, qeveritë e dëshpëruara kërkojnë ndihmë nga i vetmi ent i aftë për të kuptuar atë që po ndodh – Broomstick. UA bën disa rekomandime politikash, shumë më të guximshme sesa lehtësimi sasior – dhe gjithashtu shumë më i errët. Broomstick premton se këto politika do të shpëtojnë ditën, por politikanët njerëzorë – të paaftë për të kuptuar logjikën pas rekomandimeve të Broomstick – kanë frikë se mund të zbërthejnë plotësisht strukturën financiare dhe madje edhe sociale të botës. A duhet të dëgjojnë AI?

Kompjuterët nuk janë ende aq të fuqishëm sa për t’i shpëtuar plotësisht kontrollit tonë ose për të shkatërruar vetë qytetërimin njerëzor. Për sa kohë njerëzimi qëndron i bashkuar, ne mund të ndërtojmë institucione që do të rregullojnë AI, qoftë në fushën e financave apo të luftës. Fatkeqësisht, njerëzimi nuk ka qenë kurrë i bashkuar. Na kanë pllakosur gjithmonë aktorët e këqij, si dhe mosmarrëveshjet mes aktorëve të mirë. Rritja e AI përbën një rrezik ekzistencial për njerëzimin, jo për shkak të keqdashjes së kompjuterëve, por për shkak të mangësive tona.

Kështu, një diktator paranojak mund t’i japë fuqi të pakufizuar një AI të gabueshme, duke përfshirë edhe fuqinë për të nisur sulme bërthamore. Nëse AI më pas bën një gabim, ose fillon të ndjekë një qëllim të papritur, rezultati mund të jetë katastrofik, dhe jo vetëm për atë vend. Në mënyrë të ngjashme, terroristët mund të përdorin AI për të nxitur një pandemi globale. Vetë terroristët mund të kenë pak njohuri për epidemiologjinë, por AI mund të sintetizojë për ta një patogjen të ri, ta porosisë atë nga laboratorët komercialë ose ta printojë në printera biologjikë 3D dhe të krijojë strategjinë më të mirë për ta përhapur atë në mbarë botën, nëpërmjet aeroporteve ose ushqimit. zinxhirët e furnizimit. Po sikur AI të sintetizon një virus që është po aq vdekjeprurës sa Ebola, ngjitës sa Covid-19 dhe me veprim të ngadaltë sa HIV? Në kohën kur viktimat e para fillojnë të vdesin dhe bota është alarmuar për rrezikun, shumica e njerëzve në Tokë mund të jenë infektuar tashmë.

Qytetërimi njerëzor gjithashtu mund të shkatërrohet nga armët e shkatërrimit në masë shoqërore, të tilla si histori që minojnë lidhjet tona shoqërore. Një inteligjencë artificiale e zhvilluar në një vend mund të përdoret për të lëshuar një përmbytje lajmesh të rreme, para të rreme dhe njerëz të rremë, në mënyrë që njerëzit në shumë vende të tjera të humbasin aftësinë për t’i besuar çdo gjëje ose kujtdo.

Shumë shoqëri – si demokraci ashtu edhe diktatura – mund të veprojnë me përgjegjësi për të rregulluar përdorime të tilla të AI, për të shtypur aktorët e këqij dhe për të frenuar ambiciet e rrezikshme të sundimtarëve dhe fanatikëve të tyre. Por nëse edhe një pjesë e vogël e shoqërive nuk arrijnë ta bëjnë këtë, kjo mund të jetë e mjaftueshme për të rrezikuar mbarë njerëzimin. Ndryshimet klimatike mund të shkatërrojnë edhe vendet që miratojnë rregullore të shkëlqyera mjedisore, sepse është një problem global dhe jo kombëtar. AI, gjithashtu, është një problem global. Prandaj, për të kuptuar politikën e re kompjuterike, nuk mjafton të shqyrtohet se si shoqëritë diskrete mund të reagojnë ndaj AI. Ne gjithashtu duhet të konsiderojmë se si AI mund të ndryshojë marrëdhëniet midis shoqërive në një nivel global.

Në shekullin e 16-të, kur pushtuesit spanjollë, portugezë dhe holandezë po ndërtonin perandoritë e para globale në histori, ata erdhën me anije me vela, kuaj dhe barut. Kur britanikët, rusët dhe japonezët bënë ofertat e tyre për hegjemoninë në shekujt 19 dhe 20, ata u mbështetën në anije me avull, lokomotiva dhe mitralozë. Në shekullin e 21-të, për të dominuar një koloni, nuk keni më nevojë të dërgoni varka me armë. Ju duhet të hiqni të dhënat. Disa korporata ose qeveri që mbledhin të dhënat e botës mund të transformojnë pjesën tjetër të globit në koloni të dhënash – territore që ata i kontrollojnë jo me forcë të hapur ushtarake, por me informacion.

Imagjinoni një situatë – në 20 vjet, le të themi – kur dikush në Pekin ose San Francisko posedon të gjithë historinë personale të çdo politikani, gazetari, koloneli dhe CEO në vendin tuaj: çdo tekst që ata kanë dërguar ndonjëherë, çdo kërkim në internet që kanë bërë ndonjëherë, çdo sëmundje. vuajtën, çdo takim seksual që kënaqeshin, çdo shaka që tregonin, çdo ryshfet që merrnin. A do të jetonit ende në një vend të pavarur, apo do të jetonit tani në një koloni të dhënash? Çfarë ndodh kur vendi juaj e gjen veten krejtësisht të varur nga infrastrukturat dixhitale dhe sistemet e fuqizuara nga AI, mbi të cilat nuk ka kontroll efektiv?

Lee Flude. Kujdesi: Sadaf Ahmad Fotografia: David Vintiner/The Guardian

Në një ekonomi globale të drejtuar nga AI, udhëheqësit dixhitalë pretendojnë pjesën më të madhe të fitimeve. Ndërkohë, vlera e punëtorëve të pakualifikuar në vendet e mbetura do të bjerë

Në sferën ekonomike, perandoritë e mëparshme bazoheshin në burime materiale si toka, pambuku dhe nafta. Kjo vendosi një kufi në aftësinë e perandorisë për të përqendruar si pasurinë ekonomike ashtu edhe fuqinë politike në një vend. Fizika dhe gjeologjia nuk lejojnë që e gjithë toka, pambuku apo vaji i botës të zhvendoset në një vend. Ndryshe është me perandoritë e reja të informacionit. Të dhënat mund të lëvizin me shpejtësinë e dritës dhe algoritmet nuk zënë shumë hapësirë. Rrjedhimisht, fuqia algoritmike e botës mund të përqendrohet në një qendër të vetme. Inxhinierët në një vend të vetëm mund të shkruajnë kodin dhe të kontrollojnë çelësat për të gjithë algoritmet vendimtare që drejtojnë të gjithë botën.

Prandaj, AI dhe automatizimi paraqesin një sfidë të veçantë për vendet më të varfra në zhvillim. Në një ekonomi globale të drejtuar nga AI, udhëheqësit dixhitalë pretendojnë pjesën më të madhe të fitimeve dhe mund të përdorin pasurinë e tyre për të ritrajnuar fuqinë e tyre punëtore dhe për të përfituar edhe më shumë. Ndërkohë, vlera e punëtorëve të pakualifikuar në vendet e mbetura do të bjerë, duke bërë që ata të mbeten edhe më mbrapa. Rezultati mund të jetë shumë vende pune të reja dhe pasuri e pamasë në San Francisko dhe Shangai, ndërkohë që shumë pjesë të tjera të botës përballen me shkatërrim ekonomik. Sipas firmës globale të kontabilitetit PricewaterhouseCoopers , AI pritet të shtojë 15.7 trilion dollarë në ekonominë globale deri në vitin 2030. Por nëse tendencat aktuale vazhdojnë, parashikohet që Kina dhe Amerika e Veriut – dy superfuqitë kryesore të AI – do të bashkohen merrni në shtëpi 70% të atyre parave.

DGjatë luftës së ftohtë, perdja e hekurt në shumë vende ishte bërë fjalë për fjalë prej metali: telat me gjemba ndanin një vend nga tjetri. Tani bota ndahet gjithnjë e më shumë nga perdja e silikonit. Kodi në smartphone tuaj përcakton se në cilën anë të perdes së silikonit jetoni, cilët algoritme drejtojnë jetën tuaj, kush kontrollon vëmendjen tuaj dhe ku rrjedhin të dhënat tuaja.

Është duke u bërë e vështirë për të aksesuar informacionin përtej perdes së silikonit, le të themi midis Kinës dhe SHBA-së, ose midis Rusisë dhe BE-së. Për më tepër, të dy palët po drejtohen gjithnjë e më shumë në rrjete të ndryshme dixhitale, duke përdorur kode të ndryshme kompjuterike. Në Kinë, nuk mund të përdorni Google ose Facebook dhe nuk mund të hyni në Wikipedia. Në SHBA, pak njerëz përdorin aplikacione kryesore kineze si WeChat. Më e rëndësishmja, dy sferat dixhitale nuk janë imazhe pasqyruese të njëra-tjetrës. Baidu nuk është Google kinez. Alibaba nuk është Amazona kineze. Ata kanë qëllime të ndryshme, arkitektura të ndryshme dixhitale dhe ndikime të ndryshme në jetën e njerëzve. Këto dallime ndikojnë në pjesën më të madhe të botës, pasi shumica e vendeve mbështeten në softuerin kinez dhe amerikan dhe jo në teknologjinë lokale.

SHBA gjithashtu ushtron presion ndaj aleatëve dhe klientëve të saj që të shmangin pajisjet kineze, siç është infrastruktura 5G e Huawei. Administrata Trump bllokoi një përpjekje të korporatës singaporiane Broadcom për të blerë prodhuesin kryesor amerikan të çipave kompjuterikë, Qualcomm. Ata kishin frikë se të huajt mund të fusnin dyert e pasme në patate të skuqura ose do të pengonin qeverinë amerikane të fuste dyert e saj të pasme atje. Të dy administratat Trump dhe Biden kanë vendosur kufizime të rrepta në tregtinë e çipave kompjuterikë me performancë të lartë të nevojshme për zhvillimin e AI. Kompanitë amerikane tani janë të ndaluara të eksportojnë çipa të tillë në Kinë. Ndërsa në afat të shkurtër kjo e pengon Kinën në garën e AI, në terma afatgjatë e shtyn Kinën të zhvillojë një sferë dixhitale krejtësisht të veçantë që do të jetë e dallueshme nga sfera dixhitale amerikane edhe në ndërtesat e saj më të vogla.

Prandaj, dy sferat dixhitale mund të largohen gjithnjë e më shumë. Për shekuj me radhë, teknologjitë e reja të informacionit nxitën procesin e globalizimit dhe i sollën njerëzit në mbarë botën në kontakt më të ngushtë. Paradoksalisht, teknologjia e informacionit sot është aq e fuqishme sa mund të ndajë potencialisht njerëzimin duke mbyllur njerëz të ndryshëm në fshikëza të veçanta informacioni, duke i dhënë fund idesë së një realiteti të përbashkët njerëzor. Për dekada, metafora mjeshtërore e botës ishte rrjeti. Metafora mjeshtërore e dekadave të ardhshme mund të jetë fshikëza.

Ndërsa Kina dhe SHBA janë aktualisht kryesuesit në garën e AI, ata nuk janë vetëm. Vende ose blloqe të tjera, si BE, India, Brazili dhe Rusia, mund të përpiqen të krijojnë fshikëzat e tyre dixhitale, secili i ndikuar nga tradita të ndryshme politike, kulturore dhe fetare. Në vend që të ndahet mes dy perandorive globale, bota mund të ndahet në një duzinë perandorish.

Sa më shumë që perandoritë e reja të konkurrojnë me njëra-tjetrën, aq më i madh është rreziku i konfliktit të armatosur. Lufta e ftohtë midis SHBA-së dhe BRSS nuk u përshkallëzua kurrë në një konfrontim të drejtpërdrejtë ushtarak, kryesisht falë doktrinës së shkatërrimit të siguruar reciprokisht. Por rreziku i përshkallëzimit në epokën e AI është më i madh, sepse lufta kibernetike është në thelb e ndryshme nga lufta bërthamore.

Armët kibernetike mund të rrëzojnë rrjetin elektrik të një vendi, por ato mund të përdoren gjithashtu për të shkatërruar një strukturë sekrete kërkimore, për të bllokuar një sensor armik, për të ndezur një skandal politik, për të manipuluar zgjedhjet ose për të hakuar një smartphone të vetëm. Dhe ata mund t’i bëjnë të gjitha tinëzisht. Ata nuk e shpallin praninë e tyre me një re kërpudha dhe një stuhi zjarri, as nuk lënë një gjurmë të dukshme nga pika e lëshimit në objektiv. Rrjedhimisht, ndonjëherë është e vështirë të dihet nëse ka ndodhur një sulm ose kush e ka nisur atë. Prandaj tundimi për të nisur një luftë të kufizuar kibernetike është i madh, dhe po ashtu është edhe tundimi për ta përshkallëzuar atë.

Një ndryshim i dytë thelbësor ka të bëjë me parashikueshmërinë. Lufta e Ftohtë ishte si një lojë shahu hiper-racionale dhe siguria e shkatërrimit në rast konflikti bërthamor ishte aq e madhe sa dëshira për të filluar një luftë ishte përkatësisht e vogël. Lufta kibernetike i mungon kjo siguri. Askush nuk e di me siguri se ku secila palë ka vendosur bombat e saj logjike, kuajt e Trojës dhe malware. Askush nuk mund të jetë i sigurt nëse armët e tyre do të funksiononin në të vërtetë kur thirreshin. A do të gjuanin raketat kineze kur të jepej urdhri, apo ndoshta amerikanët do t’i kishin hakuar ato apo zinxhirin komandues? A do të funksiononin aeroplanmbajtëset amerikane siç pritej, apo ndoshta do të mbylleshin në mënyrë misterioze ose do të lundronin në rrathë?

Një pasiguri e tillë minon doktrinën e shkatërrimit të siguruar reciprokisht. Njëra palë mund të bindë veten – me të drejtë ose gabim – se mund të nisë një goditje të parë të suksesshme dhe të shmangë hakmarrjen masive. Akoma më keq, nëse njëra palë mendon se ka një mundësi të tillë, tundimi për të nisur një goditje të parë mund të bëhet i papërmbajtshëm, sepse nuk dihet se sa kohë do të mbetet e hapur dritarja e mundësive. Teoria e lojës parashtron se situata më e rrezikshme në një garë armatimi është kur njëra palë mendon se ka një avantazh, por që ky avantazh po ikën.

Edhe nëse njerëzimi shmang skenarin më të keq të luftës globale, ngritja e perandorive të reja dixhitale mund të rrezikojë ende lirinë dhe prosperitetin e miliarda njerëzve. Perandoritë industriale të shekujve 19 dhe 20 shfrytëzuan dhe shtypën kolonitë e tyre dhe do të ishte e pamend të pritej që perandoritë e reja dixhitale të sillen shumë më mirë. Për më tepër, nëse bota ndahet në perandori rivale, njerëzimi nuk ka gjasa të bashkëpunojë për të kapërcyer krizën ekologjike ose për të rregulluar inteligjencën artificiale dhe teknologji të tjera shkatërruese si bioinxhinieria.

Ndarja e botës në perandori dixhitale rivale përputhet me vizionin politik të shumë liderëve që besojnë se bota është një xhungël, se paqja relative e dekadave të fundit ka qenë një iluzion dhe se e vetmja zgjedhje e vërtetë është nëse do të luajmë rolin. e grabitqarit ose e gjahut.

Duke pasur parasysh një zgjedhje të tillë, shumica e udhëheqësve do të preferonin të hynin në histori si grabitqarë dhe të shtonin emrat e tyre në listën e zymtë të pushtuesve që nxënësit fatkeq janë të dënuar të mësojnë përmendësh për provimet e tyre të historisë. Këtyre udhëheqësve duhet t’u kujtohet, megjithatë, se ekziston një grabitqar i ri alfa në xhungël. Nëse njerëzimi nuk gjen një mënyrë për të bashkëpunuar dhe mbrojtur interesat tona të përbashkëta, ne të gjithë do të jemi pre e lehtë e AI./ The Guardian.

Top Channel