Newton računalnog doba volio je žongliranje, a njegovu entropiju nitko nije razumio

Ono što je Isac Newton učinio za fiziku, Adam Smith za ekonomiju, to je za suvremenu (matematičku) teoriju informacije učinio američki matematičar i elektroinženjer Claude Shannon. Ovaj je tjedan svijet, osobito onaj informatički i svijet kompjuterske znanosti, počeo obilježavati stotu obljetnicu rođenja (30. travnja 1916. – 24. veljače 2001.) “oca teorije informacije”.

Članak “Matematička teorija komunikacija”, kojim je utemeljio teoriju (prenošenja) informacija objavio je 1948., no kako je znanstvena zajednica uvidjela da je riječ o nečem prijelomnom, a da nije odmah bilo jasno što je tu toliko veliko, već je sljedeće godine članak ponovno otisnut, s predgovorom u kojem je matematičar Warren Weaver nastojao objasniti “filozofske implikacije” Shannonova rada. Zato se često govori o Shannon-Weaverovoj matematičkoj teoriji komunikacija (informacija).

Elementarna čestica

Nekolicina slavnih kompjuterskih znanstvenika Shannona su rutinski uspoređivali s Einsteinom, no profesor s kalifornijskog Instituta za tehnologiju Robert McEliece, sredinom osamdesetih godina prošlog stoljeća izjednačio ga je s Newtonom, kao utemeljiteljem cijele znanosti.

U to je doba znanost o informacijama već prodrla u sva područja ljudske djelatnosti, od lingvistike do biologije. Informacija je postala ono što su u svijetu fizike bile elementarne čestice. Američki fizičar John Wheeler samo je jedan od suvremenih teoretičara koji na svoj način dokazuje da se svijet sastoji ponajprije od informacija, da se sva pitanja o tome što je materija, što energija, svode isključivo na informacije, i to elementarne: postoji – ne postoji. Simpoziji s područja informacija bili su već brojni, a jedan je 1985. organizirao i McEliece.

Iznenada se, priča on, proširio glas da je sijedi čovjek koji se smuca naokolo, ulazi i izlazi iz dvorana za diskusije, “sam Claude Shannon”. Za većinu prisutnih on je bio samo legenda, nisu znali ni je li uopće živ. “Bilo je to kao da se među fizičarima pojavio sam Newton”, rekao je McEliece. No, ustanovilo se da to jest Shannon i organizator ga je pozvao da kaže nekoliko riječi. Shannon nije odbio, ali nakon što je govorio nekoliko minuta zabrinuo se da je postao dosadan, iz džepa je izvadio tri kuglice i počeo žonglirati. Paf!

Pretjerano je Shannona i njegovo ponašanje usporediti s Johnom Nashem, drugim genijalnim matematičarom, kriptografom, nobelovcem za ekonomiju i utemeljiteljem teorije igara, kojeg je u filmu “Genijalni um” nezaboravno utjelovio australski glumac Russell Crowe. Ili s matematičarom i također kriptografom Alanom Turingom, čija je životna drama uprizorena u filmu “Igra oponašanja”, a svijet je stotu obljetnicu njegova rođenja obilježio 2012. No i Shannon, koji se također bavio kriptografijom u vrijeme Drugog svjetskog rata, drugima je bio neobičan kolikogod genijalan bio. Teorijom žongliranja počeo se baviti već sredinom pedesetih godina. U formulu je uračunavao broj loptica, broj ruku (!), vrijeme koje svaka loptica provede u ruci i u zraku te koliko je vremena svaka ruka prazna. Sa žaljenjem je ustanovio da unatoč matematici, i tituli “doktora žongliranja”, nikad nije uspio žonglirati s više od četiri loptice “jer je imao premale ruke”.

Kuća entropije

U kući neobična naziva Kuća entropije, u kojoj je živio, jedna je soba bila ispunjena najrazličitijim mehaničkim napravama od kojih je Shannon neke nabavio, a neke sam napravio. Bio je tu mehanički kompjuter koji računa rimskim brojevima, zatim stroj za šah koji govori. Jako je želio načiniti stroj koji pobjeđuje u šahu. U Laboratoriju Bell, gdje je bio zaposlen, toliko ga je igrao da je zamalo izgubio posao.

“Nije me bilo briga”, rekao je. “Uvijek sam slijedio ono što me zanimalo.”

Ipak, Laboratorij Bell bio je ponosan na Shannona: širom Amerike i u obliku kratkog filma prikazivao je njegova mehaničkog miša koji bi sam naučio naći izlaz iz labirinta.

I taj miš je priča za sebe. Konstruirao ga je 50-ih i nazvao Tezej, po mitskom Tezeju iz Minotaurova labirinta na Kreti. Potkraj sedamdesetih godina časopis američke inženjerske asocijacije IEEE Spectrum pozvao je čitatelje da konstruiraju miša koji može putem pokušaja i pogrešaka pronaći put iz labirinta, iz toga naučiti raspored zidova i prolaza i u sljedećem pokušaju proći kroz labirint bez zapinjanja. Shannonovi kolege nazvali su časopis i inzistirali da je takav miš već napravljen četvrt stoljeća ranije. Urednici su, međutim, tad već znali da tehnologija pedesetih to nije omogućavala. Nazvali su Shannona koji je uz smijeh potvrdio da je varao, i to cijelu Ameriku koju je sa svojim mišem obilazio kao kakav cirkusant. Na Youtubeu se može naći njegov nastup.

Nasumičnost

I sam centralni pojam njegove teorije komunikacija, entropija – da sad prijeđemo na “ozbiljnije” teme - neka je vrsta improvizacije. Pojam izvorno potječe iz termodinamike, a označava nasumičnost (randomness, a ne chance – slučajnost) kretanja čestica u nekom sustavu, iskakanje iz sustava, ono što je suprotno od vjerojatnosti da će se neka čestica naći na nekom mjestu. John von Neuman, veliki matematičar i teoretičar informacija, predložio je Shannonu da u diskusijama i objašnjavanju svoje teorije komunikacija upotrijebi pojam entropija. Argumentirao je da će mu to omogućiti prednost u diskusijama “jer nitko ne zna što je stvarno entropija”. Tome je ostalo tako do dan danas iako je matematički dokazana analognost definicije entropije iz fizike (termodinamike) i iz Shannonove teorije komunikacija. No, matematički dokaz i dalje ništa ne govori o tome što je entropija, premda se tim pojmom danas svi rutinski služe, nego isključivo o njezinoj formi.

U tom kontekstu treba istaknuti da već na prvoj stranici svog čuvenog članka Shannon upozorava kako teorija informacije koju on raspravlja nema veze sa semantičkom teorijom informacija, onom koja se bavi značenjem i smislom informacija. Inženjere, objašnjava Shannon, to uopće ne zanima, nego samo prijenos informacija između mjesta s kojeg se emitiraju do mjesta na kojem se primaju, pri čemu, ometane “bukom”, prolaze kroz nesavršen “kanal”. U svrhu analize tog procesa i informativnosti informacije koja dospije do primatelja, njezine kvalitete, Shannon angažira teoriju vjerojatnosti. Najjednostavnije rečeno (koliko se to uopće može jednostavno objasniti), ako recipijent, uz pomoć teorije vjerojatnosti, unaprijed zna koja je sljedeća informacija koju će dobiti, onda ta informacija nije informativna. Iznenađenje je informativnije od predvidljivosti.

Paradoks

Neizvjesnost je informativnija od izvjesnosti. Postoji tu, međutim, jedan problem, najčešće kad se Shannonova kvantitativna teorija informacija generalizira na informacije kao prenositelje značenja, u semantičku teoriju informacija. Riječ je o tzv. Bar-Hillelovu odnosno Carnapovu paradoksu. Logički zaključujući iz Shannonove teorije, potpuno neznanje je najinformativnije. A to ne izgleda logično.

Već 1956. Shannon je uočio da se njegova teorija, unatoč eksplicitnim upozorenjima, nekritički primjenjuje na sve i sva. U istom onom inženjerskom časopisu IEEE Spectrum napisao je uvodnik (The Bandwagon) u kojem je istaknuo da je informacijska teorija, koja je započela kao tehničko sredstvo za inženjere, stekla nezasluženu popularnost u znanosti. “Dijelom zahvaljujući povezanosti s pomodnim područjima kao što su kompjuteri i kibernetika”, primjenjuje se u lingvistici, psihologiji, ekonomici... Pri tome se, upozorio je, ne razumije matematička priroda njegove teorije koja primjenu do neke mjere omogućava ali i ograničava.

“Upotreba nekoliko uzbudljivih riječi kao što su informacija, entropija, redundancija ne rješava probleme” (u pojedinim znanstvenim područjima).

Danas, šezdesetak godina poslije tog teksta, diskusija između matematičke i semantičke teorije informacija nije ni izbliza okončana. Naprotiv, intenzivira se. Nizozemski filozof Pieter Adriaans uvjeren je da matematička teorija informacija može otkriti i značenje, da računala mogu ustanoviti zašto su neke slike lijepe (o čemu mi je prije nekoliko godina poslao nekoliko svojih tad nedovršenih radova koje – koliko znam – još nije objavio).

Oxfordski Talijan Luciano Floridi (taj me nije primio u jedan workshop, nego me uputio na svoje knjige) dokazuje da je to nemoguće. Los Angeles Review of Books upravo je objavio seriju članaka iz popularnog znanstvenog područja, tzv. digital humanities, u kojem se upotrebljavaju kompjuteri za – na primjer - analizu književnih dijela. Zaista kompjuterska analiza može pomoći u otkrivanju ili dokazivanju spolne pristranosti djela, pisaca, čak i razdoblja.

Invencija

Inženjeri Shannonovu teoriju ističu kao primjer da su i u njihovu području moguća otkrića, kao u znanosti, a ne samo invencije i inovacije. I to je dvojbeno. Ako je svijet informacija koji se razvio nakon objavljivanja Shannonova članka konstrukcija kreirana i prema načelima koja je i on formulirao, onda njegova matematička teorija informacija nije bila otkriće, nego invencija.

On sam svoju je teoriju informacija uglavnom napustio vrlo rano. Vratio se mladalačkoj ljubavi, inženjeringu, u kojem je magistrirao dokazom da se na jedno od pitanja: “Hoće li žarulja svijetliti?” može odgovoriti služeći se matematičkom logikom (Booleova algebra) primijenjenom na strujne krugove. Već je time dokazao svoju genijalnost. Bio je pozvan na godinu dana na Princeton kao gost predavač i ondje susreo Einsteina. Ušao je u predavaonicu u kojoj je Shannon govorio. Pogledao ga je, nešto rekao drugom znanstveniku i izišao. Shannon nije mogao dočekati da završi govor i sazna što je Einstein rekao. “Pitao je gdje ima čaja”, prepričava Shannon. Dvadeseto je stoljeće dalo niz prekrasnih umova, Claude Shannon sigurno je jedan od njih.