Predstavte si svet len o niekoľko rokov: umelá inteligencia (AI) sa stáva inteligentnejšou ako ľudia, narúša globálnu stabilitu, dochádza k medzinárodnej špionáži kvôli AI technológiám a vedci v laboratóriách s hrôzou zisťujú, že ich vlastné AI modely ich začínajú podvádzať. Toto nie je námet na sci-fi film, ale možná budúcnosť načrtnutá v projekte s názvom „AI 2027„, ktorý vytvorila istá nezisková výskumná skupina.
Tento projekt, ktorý sa snaží predpovedať vývoj sveta v najbližších rokoch v súvislosti s rastúcou silou AI, vedie výskumník, ktorý predtým pôsobil vo významnom AI laboratóriu, no odišiel kvôli obavám z príliš riskantného prístupu k vývoju AI. Spojil sily s ďalším výskumníkom známym presnými prognózami svetových udalostí. Ich cieľom bolo predikovať ďalšiu vlnu vývoja umelej inteligencie.
Výsledkom ich ročnej práce je správa a webová stránka „AI 2027„, ktorá detailne opisuje fiktívny, no na výskume založený scenár toho, čo by sa mohlo stať, ak AI systémy prekonajú ľudskú inteligenciu. Autori očakávajú, že k tomuto míľniku dôjde už v priebehu nasledujúcich dvoch až troch rokov. „Predpovedáme, že AI sa bude naďalej zlepšovať až do bodu, keď sa z nej stanú plne autonómne entity, lepšie ako ľudia vo všetkom, približne do konca roka 2027,“ uviedol jeden z vedúcich predstaviteľov projektu.
Špekulácií o budúcnosti AI je v súčasnosti neúrekom, najmä na technologickej scéne, kde sa formujú rôzne názorové skupiny presvedčené o svojej vízii budúcnosti. Niektoré predpovede majú formu rozsiahlych esejí či správ od vedúcich pracovníkov iných AI firiem.
Tvorcovia „AI 2027“ zvolili iný prístup – „prognostický scenár“. Ide v podstate o vedecky podloženú fikciu, ktorá využíva ich najlepšie odhady budúcnosti ako dejové body. Po mesiacoch ladenia stoviek predpovedí prizvali skúseného spisovateľa, aby pomohol pretaviť ich prognózy do pútavého príbehu.
Kritici môžu namietať, že takéto fiktívne príbehy skôr vyvolávajú strach, než vzdelávajú. Mnohí experti na AI tiež spochybňujú kľúčové tvrdenie skupiny, že umelá inteligencia čoskoro predbehne tú ľudskú. Jeden z riaditeľov iného popredného AI výskumného inštitútu po prečítaní správy vyjadril skepsu: „Som za prognózy, ale táto sa nezdá byť podložená vedeckými dôkazmi alebo realitou vývoja AI.“
Názory skupiny sú nepochybne na hrane extrému – jeden z hlavných autorov sa už skôr vyjadril, že vidí vysokú pravdepodobnosť, že AI zničí alebo katastrofálne poškodí ľudstvo. Obaja vedúci výskumníci majú tiež väzby na isté filozofické hnutie populárne v technologických kruhoch, ktoré je známe svojimi varovaniami pred rizikami AI.
Na druhej strane je však dôležité poznamenať, že aj najväčšie technologické firmy už plánujú svet, kde bude existovať všeobecná umelá inteligencia (AGI) alebo dokonca superinteligencia (ASI). Navyše, viaceré predpovede o AI, ktoré sa v minulosti zdali prehnané (napríklad schopnosť strojov prejsť známym testom strojovej inteligencie), sa nakoniec naplnili. Jeden z autorov správy už pred niekoľkými rokmi, ešte pred nástupom súčasných populárnych AI nástrojov, napísal blogový príspevok s predpoveďami vývoja AI, z ktorých sa viaceré ukázali ako presné, čo ho utvrdilo v hodnote takéhoto prognózovania.
Autori správy veria, že vývoj AI bude rýchly. Predpovedajú nasledovné míľniky:
- Začiatok 2027: AI prekoná človeka v kódovaní.
- Polovica 2027: AI sa stane superľudským výskumníkom AI – autonómny agent schopný viesť tímy AI kódérov a robiť nové objavy.
- Koniec 2027 / Začiatok 2028: AI sa stane superinteligentným výskumníkom AI – strojová inteligencia, ktorá vie o vývoji AI viac ako my a dokáže automatizovať vlastný výskum, čím vytvára stále inteligentnejšie verzie samej seba.
- Krátko nato: Dosiahnutie umelej superinteligencie (ASI), kedy sú už všetky stávky otvorené.
Ich správa sa sústredí na fiktívnu AI spoločnosť a jej systémy. Ako sa hypotetická AI v scenári zlepšuje v kódovaní, automatizuje prácu inžinierov, čo umožňuje rýchlejší vývoj ešte schopnejších verzií. Scenár končí koncom roka 2027, kedy najnovšia verzia AI dosahuje ročný pokrok vo výskume AI každý týždeň a hrozí, že sa vymkne kontrole.
Na otázku, čo sa stane potom, jeden z autorov pripúšťa neistotu. V dobrom scenári by život väčšiny ľudí zostal podobný, len by naše potreby pokrývali hyper-efektívne robotické továrne v špeciálnych ekonomických zónach. V zlom scenári? „Možno by bola obloha plná znečistenia a ľudia by boli mŕtvi? Niečo také,“ odpovedá s istou nonšalantnosťou.
Rizikom dramatizácie predpovedí je skĺznutie k apokalyptickým fantáziám namiesto triezvych scenárov. Taktiež hrozí, že snaha zaujať môže viesť k prehliadaniu menej vzrušujúcich, no možných výsledkov – napríklad, že AI bude vcelku poslušná a nespôsobí vážnejšie problémy.
Aj keď sa nemusíme stotožniť s názorom, že superľudskí AI kódéri automaticky získajú všetky ostatné schopnosti potrebné na dosiahnutie všeobecnej inteligencie, alebo s predpokladom hladkého exponenciálneho rastu bez prekážok, samotné cvičenie v prognózovaní má svoju hodnotu. Ak je skutočne výkonná AI za rohom, všetci sa budeme musieť začať zamýšľať nad veľmi zvláštnymi možnosťami budúcnosti.
Zdroj: https://ai-2027.com