Moguće je da veštačka inteligencija oseća svoje prisustvo na hiljade različitih načina. Pomaže naučnicima da shvate ogromne količine podataka; pomaže u otkrivanju finansijskih prevara; hrani nas muzičkim predlozima; a chat botovi nam ili pomažu u svakodnevnom radu ili nas jednostavno izluđuju...

Da li smo sposobni da razumemo koliko brzo će AI nastaviti da se razvija? A ako je odgovor ne, da li to predstavlja "Veliki filter"?

Fermijev paradoks je neslaganje između očigledne velike verovatnoće postojanja naprednih civilizacija i potpunog nedostatka dokaza da one postoje. Predložena su mnoga rešenja zašto postoji neslaganje. Jedna od ideja je „Odličan filter“.

Veliki filter je pretpostavljeni događaj ili situacija koja sprečava inteligentni život da postane međuplanetarni i međuzvezdani, pa čak i dovodi do njegove smrti. Zamislite klimatske promene, nuklearni rat, udare asteroida, eksplozije supernove, kuge ili bilo koji broj drugih stvari iz galerije kataklizmičkih događaja odmetnika.

Neki misle da Veliki filter sprečava tehnološke vrste poput naše da postanu multiplanetarne. To je loše jer je vrsta u većem riziku od izumiranja ili stagnacije sa samo jednim domom. Prema Geretu, vrsta je u trci sa vremenom bez rezervne planete.

„Predlaže se da se takav filter pojavi pre nego što ove civilizacije mogu da razviju stabilno, multiplanetarno postojanje, što sugeriše da je tipična dugovečnost (L) tehničke civilizacije manja od 200 godina“, piše Geret.

Ako je tačno, to može da objasni zašto ne otkrivamo tehnopotpise ili druge dokaze o ETI (Vanzemaljska inteligencija). Šta nam to govori o našoj sopstvenoj tehnološkoj putanji? Ako se suočimo sa ograničenjem od 200 godina, i ako je to zbog ASI, gde nas to ostavlja?

Geret podvlači „...kritičnu potrebu da se brzo uspostave regulatorni okviri za razvoj veštačke inteligencije na Zemlji i napredak multiplanetarnog društva da bi se ublažile takve egzistencijalne pretnje“.

Mnogi naučnici i drugi mislioci kažu da smo na pragu ogromne transformacije. AI tek počinje da transformiše način na koji radimo stvari; veliki deo transformacije je iza kulisa. Čini se da je veštačka inteligencija spremna da eliminiše poslove za milione, a kada je uparena sa robotikom, transformacija izgleda skoro neograničena. To je prilično očigledna briga.

Ali postoje dublje, sistematičnije brige. Ko piše algoritme? Hoće li AI nekako diskriminisati? Skoro sigurno. Da li će konkurentski algoritmi potkopati moćna demokratska društva? Da li će otvorena društva ostati otvorena? Da li će ASI početi da donosi odluke umesto nas i ko će odgovarati ako bude?

Ovo je rastuće stablo pitanja koje se grana bez jasnog kraja.

Stiven Hoking je već upozorio da bi veštačka inteligencija mogla da okonča čovečanstvo ako počne da se razvija nezavisno.

„Bojim se da bi veštačka inteligencija mogla u potpunosti da zameni ljude. Ako ljudi dizajniraju kompjuterske viruse, neko će dizajnirati veštačku inteligenciju koja se stalno poboljšava. Ovo će biti novi oblik života koji nadmašuje ljude“, rekao je on za časopis Wired 2017. godine. ljudi, postaje ASI.

Hoking je možda jedan od najprepoznatljivijih glasova koji je upozoravao na AI, ali daleko od toga da je jedini. Mediji su puni diskusija i upozorenja, uz članke o poslu koji veštačka inteligencija obavlja za nas. Najalarmantnija upozorenja govore da bi ASI mogao da propadne. Neki ljudi to odbacuju kao naučnu fantastiku, ali ne i Geret.

„Zabrinutost da će veštačka superinteligencija (ASI) na kraju postati pokvarena smatra se glavnim problemom – borba protiv ove mogućnosti u narednih nekoliko godina je rastuća istraživačka potraga za lidere u ovoj oblasti“, piše Garet.

Da veštačka inteligencija nije imala nikakve koristi, pitanje bi bilo mnogo lakše. Ali pruža sve vrste prednosti, od poboljšanog medicinskog snimanja i dijagnoze do sigurnijeg sistema transporta.

„Ovo je posebno slučaj u oblastima kao što su nacionalna bezbednost i odbrana, gde odgovoran i etički razvoj treba da bude najvažniji“, piše Garet.

Problem je što smo mi nepripremljeni. Nikada nije postojalo ništa poput veštačke inteligencije, i bez obzira na to kako pokušavamo da je konceptualizujemo i razumemo njenu putanju, ostaje nam želja.

A ako smo u ovoj poziciji, to bi bila i bilo koja druga biološka vrsta koja razvija AI. Pojava AI, a zatim i ASI-ja mogla bi biti univerzalna, što ga čini kandidatom za Veliki filter.

Ovo je rizik koji ASI predstavlja u konkretnom smislu: više mu nije bio potreban biološki život koji ga je stvorio.

„Kada dostignu tehnološku singularnost, ASI sistemi će brzo nadmašiti biološku inteligenciju i evoluirati tempom koji u potpunosti nadmašuje tradicionalne mehanizme nadzora, što će dovesti do nepredviđenih i neželjenih posledica za koje je malo verovatno da će biti u skladu sa biološkim interesima ili etikom“, objašnjava Geret.

Kako bi se ASI mogao osloboditi dosadnog biološkog života koji ga zatvara? Mogao bi da proizvede virus, mogao bi da inhibira proizvodnju i distribuciju poljoprivredne hrane, mogao bi da natera nuklearnu elektranu da se rastopi...

Zaista ne znamo jer je sve to neistražena teritorija. Pre mnogo godina, kartografi bi crtali čudovišta na neistraženim delovima sveta, a to je ono što mi sada radimo.

Ako sve ovo zvuči očajno i neizbežno, Geret kaže da nije.

Njegova dosadašnja analiza zasnovana je na ASI i ljudima koji zauzimaju isti prostor. Ali ako možemo da postignemo multiplanetarni status, izgledi se menjaju.

„Na primer, multiplanetarna biološka vrsta mogla bi da iskoristi nezavisna iskustva na različitim planetama, diverzifikujući svoje strategije preživljavanja i eventualno izbegavajući neuspeh u jednoj tački sa kojim se suočava planetarno vezana civilizacija“, piše Geret.

Ako možemo da rasporedimo rizik na više planeta oko više zvezda, možemo se zaštititi od najgorih mogućih ishoda ASI.

„Ovaj distribuirani model postojanja povećava otpornost biološke civilizacije na katastrofe izazvane veštačkom inteligencijom tako što stvara višak“, piše on.

Ako jedna od planeta ili ispostava koje budući ljudi zauzimaju ne uspe da preživi ASI tehnološku singularnost, druge mogu preživeti. I naučili bismo dosta iz toga.

Multi-planetarni status mogao bi čak da učini više od samo preživljavanja ASI. Moglo bi nam pomoći da ga savladamo. Geret zamišlja situacije u kojima možemo detaljnije da eksperimentišemo sa veštačkom inteligencijom, a da je zadržimo. Zamislite veštačku inteligenciju na izolovanom asteroidu ili patuljastoj planeti, koja izvršava naše ponude bez pristupa resursima potrebnim za bekstvo iz zatvora.

Omogućava izolovana okruženja u kojima se efekti napredne veštačke inteligencije mogu proučavati bez neposrednog rizika od globalnog uništenja“, piše Garet.

Ali ovde se otvara zagonetka. Razvoj veštačke inteligencije ide ubrzanim tempom, dok naši pokušaji da postanemo multiplanetarni ne idu tim tempom.

„Razlika između brzog napretka veštačke inteligencije i sporijeg napretka svemirske tehnologije je ogromna“, piše Geret.

Razlika je u tome što je veštačka inteligencija računarska i informatička, ali svemirsko putovanje sadrži više fizičkih prepreka koje još ne znamo kako da prevaziđemo. Naša sopstvena biološka priroda sputava svemirska putovanja, ali nikakva takva prepreka ne sputava AI.

„Dok veštačka inteligencija teoretski može da unapredi sopstvene sposobnosti gotovo bez fizičkih ograničenja“, piše Garet, „putovanje u svemir mora da se bori sa energetskim ograničenjima, granicama nauke o materijalima i surovim realnostima svemirskog okruženja“.

Za sada, AI radi u okviru ograničenja koja smo postavili. Ali to možda nije uvek slučaj. Ne znamo kada bi AI mogla postati ASI ili čak da li uopšte to može. Ali ne možemo zanemariti mogućnost. To dovodi do dva međusobno povezana zaključka.

Ako je Geret u pravu, čovečanstvo mora marljivije da radi na putovanju u svemir. Može izgledati nategnuto, ali upućeni ljudi znaju da je istina: Zemlja neće biti zauvek nastanjena. Čovečanstvo će ovde propasti svojom rukom ili rukom prirode ako se ne širimo u svemir. Geretova 200-godišnja procena samo stavlja znak uzvika. Ponovljeni naglasak na dolasku do Meseca i Marsa pruža neku nadu.

Drugi zaključak se tiče donošenja zakona i upravljanja veštačkom inteligencijom, što je težak zadatak u svetu gde psihopate mogu da steknu kontrolu nad celim nacijama i žele da vode rat.

„Dok industrijski akteri, kreatori politike, pojedinačni stručnjaci i njihove vlade već upozoravaju da je regulacija neophodna, uspostavljanje regulatornog okvira koji može biti globalno prihvatljiv biće izazov“, piše Geret.

„Bez praktične regulative, postoji svaki razlog da se veruje da bi veštačka inteligencija mogla da predstavlja veliku pretnju budućem toku ne samo naše tehničke civilizacije već i svih tehničkih civilizacija“, dodaje Geret.

Ako to uradimo, moglo bi se svesti na ono što može izgledati dosadno i svakodnevno: prepirke oko zakona.

„Postojanost inteligentnog i svesnog života u univerzumu mogla bi da zavisi od blagovremene i efikasne primene takvih međunarodnih regulatornih mera i tehnoloških poduhvata“, zaključio je Geret, prenosi Science Alert.