ZNANSTVENIK S OXFORDA UPOZORAVA 'Strojevi stvaraju novu inteligenciju koja bi mogla uništiti čovječanstvo'

Pojava umjetne inteligencije zbog napretka softverske industrije samo je pitanje vremena, a to je vrijeme sve bliže, sudeći po knjizi 'Smarter Than Us: The Rise of Machine Intelligence' dr. Stuarta Armstronga sa Sveučilišta u Oxfordu. On smatra da je potrebno što prije osmisliti planove za sigurnu umjetnu inteligenciju koja neće na koncu uništiti cijelo čovječanstvo.

Dr. Armstrong upozorava kako je moguće već u sljedećih nekoliko desetljeća da strojevi koje pogoni umjetna inteligencija postanu toliko nezamjenjivi da na koncu ljudi postanu nepotrebni. Ljudi upravljaju budućnošću ne zato što smo najjači ili najbrži, već zato što smo najpametniji, ističe Armstrong i dodaje: kada strojevi postanu pametniji od ljudi, predat ćemo im kormilo u ruke.

Njegova vizija moguće budućnosti ne izgleda baš blistavo, barem s ljudskog gledišta. Armstrong predviđa nastanak strojeva tolike računalne snage i brzine neusporedive s ljudskim mozgom, da će na koncu stvoriti globalne mreže međusobnim povezivanjem i komunicirat će međusobno bez uplitanja ljudi. Znanstvenik predviđa da će takav AGI (Artificial General Intelligence - umjetnna opća inteligencija) biti kadar preuzeti kompletne transportne sustave, nacionalne ekonomije, financijska tržišta, zdravstvene sustave i distribuciju roba i dobara.

Hoće li tada čovječanstvo ustvari samo sebi potpisati smrtnu presudu? Dr. Armstrong smatra da u tom trenutku doista AGI može uputu poput "spriječavanja ljudske patnje" logički protumačiti kao naredbu za uništenje cijelog ljudskog roda, čime bi superkompjuter okončao svu ljudsku patnju.

Isto tako, naredba "ljudi moraju biti sigurni i sretni" može se u logičkom sklopu stroja izvesti na način da se svi ljudi strpaju u betonske kovčege i stave na heroinsku infuziju. Iako nam takvi scenariji izgledaju kao iz filmova znanstvene fantastike, dr. Armstrong tvrdi da rizik od takvog razvoja događaja nije toliko mali koliko se na prvi pogled čini.

Razvoj tehnologije toliko je brz da ljudi moraju požuriti sa stvaranjem moralnog koda za "sigurnu" umjetnu inteligneciju. No, to bi doista mogao biti problem, jer ljudi već nekoliko tisuća godina raspravljaju o etici i moralu, ali nisu stvorili jednostavne upute koje bi se mogle primjeniti na sve u svim situacijama. I postojeća literatura nije imala prevelikog efekta na ljude, a teško da bi bila primjenjiva na strojeve koji bi imali dodatnih problema s tumačenjem nijansi ljudskog jezika.

Kako će strojevi razlikovati dobro od zla? Teško da će taj zadatak riješiti isključivo gledajući ljudsko ponašanje.