Pet knjiga o umjetnoj inteligenciji koje mijenjaju perspektivu

Umjetna inteligencija više nije tema rezervirana za laboratorije, tehnološke konferencije i znanstvenofantastične romane. Ona već oblikuje način na koji tražimo informacije, slušamo glazbu, gledamo fotografije, biramo zaposlenike, procjenjujemo kreditnu sposobnost i razumijemo vlastiti kreativni rad. Upravo zato razgovor o umjetnoj inteligenciji ne može ostati samo tehnički. Potrebni su nam povijesni, politički, etički i kulturni alati za razumijevanje sustava koji se često predstavljaju kao neutralni.

Knjige u nastavku nude različite ulaze u tu raspravu. Neke analiziraju algoritamsku diskriminaciju i koncentraciju moći, druge propituju granice strojnog učenja ili pokušavaju zamisliti kako uskladiti napredne sustave s ljudskim vrijednostima. Zajedno pokazuju da umjetna inteligencija nije udaljena budućnost, nego infrastruktura sadašnjosti, sa stvarnim posljedicama za rad, privatnost, umjetnost i svakodnevni život.

Cathy O’Neil i matematika koja odlučuje o ljudima

Knjiga Weapons of Math Destruction Cathy O’Neil, objavljena 2016. godine, jedna je od najpristupačnijih analiza štete koju mogu proizvesti algoritmi. O’Neil ne piše o apstraktnoj opasnosti, nego o modelima koji se koriste u obrazovanju, zapošljavanju, oglašavanju, bankarstvu i policijskom nadzoru. Njezina je ključna tvrdnja da se matematički model ne smije automatski poistovjetiti s objektivnošću. Modeli ovise o podacima, pretpostavkama i ciljevima onih koji ih izrađuju.

Posebno su problematični sustavi koji se predstavljaju kao neprozirni, a istodobno utječu na živote velikog broja ljudi. Ako algoritam procjenjuje da je netko loš kandidat za posao, nepouzdan zajmoprimac ili potencijalno opasan građanin, osoba često nema način provjeriti kako je do te procjene došlo. O’Neil takve sustave naziva „oružjem matematičkog uništenja” kada su rašireni, štetni i ne mogu se lako osporiti. Knjiga mijenja perspektivu jer nas uči da pitanje nije samo radi li umjetna inteligencija učinkovito, nego kome ta učinkovitost koristi i tko plaća njezinu cijenu.

Ovaj pristup posebno je važan u kulturi. Algoritmi koji preporučuju filmove, pjesme ili knjige ne oblikuju samo ukus, nego i vidljivost autora. Ono što se često naziva personalizacijom može učvrstiti postojeće obrasce popularnosti, dok nepoznatiji, eksperimentalniji ili marginalizirani radovi ostaju izvan glavnog toka. Za širi pogled na način na koji se moć i rodni obrasci čitaju u popularnoj kulturi korisna je i feministička kritika glazbe, osobito kada se njezine metode primijene na digitalne platforme.

Safiya Umoja Noble i algoritamske predrasude

U knjizi Algorithms of Oppression: How Search Engines Reinforce Racism Safiya Umoja Noble proučava tražilice, a posebno načine na koje rezultati pretraživanja reproduciraju rasizam i seksizam. Objavljena 2018. godine, knjiga je danas još relevantnija jer su tražilice i sustavi generativne umjetne inteligencije postali glavni posrednici znanja. Noble pokazuje da rezultati koji se pojavljuju na vrhu nisu jednostavan odraz stvarnosti. Oni su posljedica komercijalnih interesa, popularnosti određenih sadržaja, povijesti interneta i odluka o tome što će se optimizirati.

Njezina analiza odbacuje ideju da je algoritam tek neutralan posrednik između korisnika i informacija. Ako je digitalni prostor izgrađen na nejednakoj distribuciji moći, tada će i njegovi rezultati često pojačavati postojeće stereotipe. Problem nije samo u tome što pojedinačni rezultat može biti uvredljiv ili netočan. Problem je u strukturi koja takav rezultat može učiniti ponavljanim, vidljivim i profitabilnim.

Noble je osobito važna za razumijevanje reprezentacije. Kada umjetna inteligencija generira slike ljudi, klasificira lica ili predlaže sadržaj publici, ona uči iz već postojećih zbirki podataka. Te zbirke nisu nastale izvan povijesti društva; u njima se nalaze tragovi kolonijalizma, rasne hijerarhije, rodne diskriminacije i kulturne nejednakosti. Zato pravedniji sustavi ne nastaju samo dodavanjem „raznolikijih” primjera u bazu podataka. Potrebno je preispitati tko prikuplja podatke, tko određuje kategorije i tko ima pravo odlučiti kako će određena skupina biti prikazana.

Kate Crawford i materijalni život umjetne inteligencije

Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence Kate Crawford jedna je od najvažnijih knjiga za razumijevanje fizičke i političke infrastrukture umjetne inteligencije. Njezin naslov namjerno je ironičan: umjetna inteligencija često se opisuje kao nematerijalna, čista i gotovo čarobna tehnologija, dok Crawford pokazuje da iza nje stoje rudnici, podatkovni centri, električna energija, logistika i rad velikog broja ljudi.

Sustavi strojnog učenja trebaju goleme količine podataka i snažna računala. Njihov razvoj povezan je s vađenjem minerala, potrošnjom vode i energije te globalnim lancima proizvodnje. Istodobno, brojni radnici označavaju slike, filtriraju uznemirujući sadržaj i ispravljaju pogreške modela. Taj se rad često odvija daleko od korisnika i ostaje skriven iza jezika automatizacije. Crawford zato umjetnu inteligenciju ne promatra kao samostalni um, nego kao sustav koji objedinjuje prirodne resurse, ljudski rad i političku moć.

Knjiga je posebno poticajna za čitatelje zainteresirane za fotografiju i vizualnu kulturu. Baze slika koje hrane modele često se stvaraju preuzimanjem tuđih radova bez jasnog pristanka autora, naknade ili konteksta. Fotografija tako postaje sirovina za treniranje sustava, a autorstvo se gubi u statističkoj obradi. Pitanja dokumentiranja, pogleda i odgovornosti dodatno se otvaraju u razgovoru s fotografkinjom, gdje se vidi koliko je ljudska prisutnost važna za razumijevanje slike i svijeta koji ona bilježi.

Crawford nas poziva da prestanemo govoriti o umjetnoj inteligenciji kao o izoliranom softverskom proizvodu. Kada se promatra cijeli lanac, postaje jasno da tehnološki napredak nije besplatan ni nematerijalan. On ima ekološke posljedice, klasne dimenzije i geopolitičke centre moći. To mijenja i pitanje odgovornosti: nije dovoljno pitati je li model pametan, nego i od čega je napravljen, čiji je rad ugrađen u njega i kakav trag ostavlja iza sebe.

Meredith Broussard protiv tehnološkog rješenja za sve

Meredith Broussard u knjizi Artificial Unintelligence: How Computers Misunderstand the World kritizira tehnološki determinizam, odnosno vjerovanje da će računalni sustavi naposljetku riješiti gotovo svaki društveni problem. Njezin ton nije tehnofobičan. Broussard je računalna znanstvenica i dobro poznaje potencijale digitalnih alata, ali upozorava da sposobnost izračunavanja nije isto što i sposobnost razumijevanja.

Računala mogu brzo obraditi goleme količine podataka, pronaći obrasce i automatizirati ponavljajuće zadatke. No društveni problemi često nisu precizno definirani, podaci o njima nisu potpuni, a vrijednosti koje treba uzeti u obzir ne mogu se jednostavno pretvoriti u varijable. Sustav može izračunati tko je najvjerojatniji kandidat za određeni ishod, ali to ne znači da razumije nečiji život, okolnosti ili dostojanstvo.

Broussard stoga razlikuje ono što je tehnički moguće od onoga što je društveno smisleno. U kulturi je ta razlika presudna. Možemo automatizirati preporuke, proizvodnju promotivnih tekstova ili kategorizaciju umjetničkih djela, ali time ne dobivamo nužno bolje iskustvo. Ponekad upravo nepravilnost, sporost, dvojba i osobni izbor čine susret s umjetnošću vrijednim.

Knjiga je korisna i kao obrana od pomodnog jezika koji svaku digitalnu inovaciju predstavlja kao neizbježnu. Kada institucija kaže da mora uvesti umjetnu inteligenciju, treba pitati koji se problem time rješava i tko je taj problem definirao. Broussardin pristup vraća raspravu na razinu stvarnih potreba. Tehnologija može biti alat, ali ne smije postati izgovor za ukidanje odgovornosti, javne rasprave ili ljudske prosudbe.

Brian Christian i potraga za usklađenom inteligencijom

The Alignment Problem: Machine Learning and Human Values Briana Christiana bavi se jednim od središnjih pitanja suvremenog razvoja umjetne inteligencije: kako izgraditi sustave čiji će ciljevi biti usklađeni s ljudskim vrijednostima. Christian prati razvoj strojnog učenja kroz probleme predviđanja, pravednosti, sigurnosti i kontrole. Njegova je knjiga široko napisana, ali ne pojednostavljuje temu do razine popularnog tehnološkog optimizma.

„Problem usklađivanja” zvuči tehnički, no zapravo je duboko politički i filozofski. Čak i kada sustavu zadamo naizgled jasan cilj, on ga može ostvariti na način koji nismo predvidjeli. Ako algoritmu kažemo da treba povećati angažman korisnika, on može poticati bijes, strah i polarizaciju jer su takve reakcije često vrlo učinkovite. Ako sustavu zadamo cilj da smanji rizik, može početi pretjerano kažnjavati sve koji se ne uklapaju u prosječni obrazac.

Christian pokazuje da ljudske vrijednosti nisu popis jednostavnih naredbi. One su često proturječne, kontekstualne i predmet stalnog pregovaranja. Pravednost, sloboda, sigurnost i privatnost ne mogu se uvijek istodobno maksimizirati. Zato pitanje nije samo kako „ubaciti etiku” u kod, nego tko sudjeluje u definiranju etičkih ciljeva, čije se vrijednosti uzimaju kao norma i tko ima pravo ispraviti sustav kada pogriješi.

Ova knjiga otvara prostor i za promišljanje umjetničke inteligencije. Kada generativni model stvara glazbu, književni odlomak ili vizualni rad, nije dovoljno ocijeniti samo konačni rezultat. Treba promatrati proces, izvore podataka, uvjete rada i odnose moći koji stoje iza njega. Christianova analiza ne daje konačan recept, ali nudi važnu intelektualnu disciplinu: svaku tvrdnju o „pametnom” sustavu treba pratiti pitanje prema kojem je cilju pametan i za koga.

Pet knjiga zajedno pomiče fokus s čuđenja prema odgovornosti. Umjetna inteligencija može biti korisna, kreativna i oslobađajuća, ali njezini učinci nisu unaprijed određeni. Oni ovise o zakonima, institucijama, poslovnim modelima, radnim uvjetima i kulturnim vrijednostima koje ugrađujemo u tehnologiju. Čitanje ovih naslova može pomoći da razlikujemo stvarnu inovaciju od marketinga, a automatizaciju od napretka.

Odaberite jednu knjigu, posudite je u knjižnici ili potražite razgovor o njoj u vlastitoj čitateljskoj grupi. Uključite u raspravu umjetnike, programere, istraživače, radnike i sve one na čije živote algoritamske odluke već utječu. Kritičko razumijevanje umjetne inteligencije počinje onda kada tehnologiju prestanemo promatrati kao sudbinu i počnemo je čitati kao društveni izbor.