PISjournal – Centralni argument koji je iznio Edward Said u svojim studijama o orijentalizmu jeste da se Istok transformisao od subjekta sposobnog da se izrazi u objekat koji Zapad predstavlja i interpretira.
Ovaj odnos predstavljanja reprodukovan je u širokom spektru domena, protežući se izvan akademskih tekstova na književnost, politiku, medije i svakodnevni jezik, na kraju formirajući kulturnu hegemoniju. Štaviše, ova hegemonija je toliko moćna da proizvodnja znanja o Istoku često ne može izaći izvan ovog okvira; a čak i kada to učini, teško pronalazi mjesto unutar glavnog toka.
Orijentalistička hegemonija se kontinuirano učvršćuje kroz tehnološki razvoj. Tragovi ove hegemonije jasno su vidljivi na digitalnim platformama koje široko koriste velike populacije. Posebno u oblasti generativne vještačke inteligencije, brzo i široko rasprostranjeno usvajanje modela velikih jezika (LLM) od strane globalne publike transformisalo je orijentalističku retoriku, čineći je znatno moćnijom. Stoga, s porastom generativnih AI tehnologija, čini se da je ovaj režim reprezentacije ušao u novu fazu.
Vještačka inteligencija koristi prethodno proizvedeno znanje kao podatke za obuku (memoriju) i generiše novi sadržaj na osnovu tih skupova podataka. Međutim, ova „memorija“ nije neutralna; već odražava ukorijenjene odnose moći i predrasude unutar društava. Iz tog razloga, vještačka inteligencija ne stvara potpuno novi jezik, već reprodukuje postojeći zajedno s hijerarhijama ugrađenim u njega. Ovo pokazuje da orijentalizam nije samo diskurs prošlosti, već nastavlja opstati u digitalnom dobu u nevidljivijem – ali efikasnijem i moćnijem – obliku.
Reprodukcija orijentalističkih načina reprezentacije putem vještačke inteligencije manifestuje se ne samo na tekstualnom nivou, već i na vizuelnom i konceptualnom nivou. Kao što smo naglasili u našim prethodnim radovima, reprezentacije koje proizvode modeli pretvaranja teksta u sliku – često homogenišući Južnu Aziju, egzotizirajući je i često povezujući je sa siromaštvom – pružaju konkretan primjer ovog fenomena. Umjesto da odražavaju stvarnost, ove reprezentacije recirkulišu perspektive ugrađene u skupove podataka oblikovane zapadnocentričnim pogledom. Slično tome, prikazivanje muslimana pretežno kroz kontekste terorizma, straha i sigurnosti odražava isti obrazac.
Najkritičnije pitanje koje se ovdje pojavljuje je sposobnost umjetne inteligencije da predstavi ove reprezentacije kao prirodno i neutralno znanje. Drugim riječima,
sadržaj koji generiše umjetna inteligencija obično se doživljava kao objektivniji i pouzdaniji upravo zato što je proizveden putem algoritamskog procesa. To, zauzvrat, omogućava da se predrasude dublje ukorijene i teže ih je dovesti u pitanje. Posljedično, epistemološki autoritet koji je nekada konstruisan kroz akademsku zajednicu, kulturne sfere i medije sada se rekonstruiše kroz algoritamske sisteme.
Iz tog razloga, potreba za sveobuhvatnim istraživanjem postojanja, obima i dimenzija problema je očigledna. Međutim, studije u ovom području ostaju ograničene i tek počinju da se pojavljuju. U tom kontekstu, nedavna studija Bakhta Munira projektuje odnos između umjetne inteligencije i islamofobije. Nalazi studije jasno pokazuju da odnos između umjetne inteligencije i društvenih predrasuda nije površan, već dubok i strukturne prirode. Jedan od najznačajnijih doprinosa studije je njen napor da se definiše koncept islamofobne umjetne inteligencije. Ovaj koncept nastoji da sistematizuje polje koje još nije jasno definisano u literaturi, posebno objašnjavajući kako se religijske predrasude manifestuju u kontekstu umjetne inteligencije. Studija pristupa fenomenu islamofobne umjetne inteligencije ne samo kao tehničkom pitanju, već u okviru njenog historijskog, pravnog i društvenog konteksta. Ova perspektiva je posebno vrijedna jer locira izvor predrasuda ne samo u samim algoritmima, već i u ekosistemima podataka koji ih hrane i, šire gledano, u strukturi društva.
Dobro je poznato da su skupovi podataka koji se koriste za obuku modela umjetne inteligencije historijski utemeljeni na vjerskim, rasnim i rodno zasnovanim predrasudama, te da umjetna inteligencija stoga reprodukuje te predrasude. Studija se bavi ovim predrasudama u kontekstu islamofobije kroz teorijske i empirijske primjere. Konkretno, primjeri iz američkog pravnog sistema pokazuju da se predrasude proizvode ne samo na individualnom, već i na institucionalnom i sistemskom nivou. Širok raspon predstavljenih primjera – od Dreda Scotta do Plessy protiv Fergusona, i od zabrana putovanja do politika nadzora – otkriva da skupovi podataka koji formiraju „sjećanje“ umjetne inteligencije nisu neutralni, već su oblikovani historijskim akumulacijama koje dosljedno povezuju muslimane s nedjelima.
Stoga, tendencija AI sistema da povezuju muslimane s nasiljem, terorizmom i sigurnosnim prijetnjama nije tehnička greška; već odgovara kontinuitetu šire historijske akumulacije orijentalističke hegemonije kroz AI tehnologije. To je zato što se AI skupovi podataka hrane širokim spektrom izvora, uključujući medijski diskurs, političke odluke, akademske studije i pravne tekstove. Značajan dio ovih izvora oblikovan je – posebno u periodu nakon 11. septembra – narativima usmjerenim na sigurnost. Odraz elemenata kao što su pravne presude, politike nadzora, diskriminišući zakoni i medijski narativi u skupovima podataka stvara uslove da AI sistematski reprodukuje ove pristranosti. Stoga ne čudi da AI modeli obučeni unutar takvog ekosistema podataka repliciraju slične obrasce. Ono što je ovdje posebno upečatljivo je da ove pristranosti više nisu ograničene na tekstove, već su postale ugrađene i u algoritamske procese donošenja odluka. Ovo pokazuje da je algoritamska pristranost, ustvari, proširenje šire društvene pristranosti.
Nalazi studije također jasno otkrivaju ograničenja pristupa tehničkim rješenjima. Iako se priznaje da različite metode – poput finog podešavanja, učenja iz ljudskih povratnih informacija i metrika pravednosti – mogu biti učinkovite u smanjenju pristranosti, studija naglašava da ove metode ne mogu u potpunosti eliminisati pristranost. Glavni razlog za to je što se implicitne i strukturne pristranosti ugrađene u skupove podataka ne mogu u potpunosti razriješiti samo tehničkim alatima. U ovom trenutku, jedan od najupečatljivijih argumenata članka je da pristranost nije samo tehnički problem, već i društveni. Stoga, transformisanje skupova podataka zahtijeva ne samo poboljšanje algoritama i podataka, već i transformisanje društvenih struktura koje proizvode te podatke. Drugim riječima, ako skupovi podataka odražavaju društvenu stvarnost i ako je stvarnost oblikovana pristrasnostima, onda eliminisanje tih pristranosti zahtijeva više od ispravljanja algoritama – to zahtijeva rješavanje društvenih struktura koje generišu same podatke.
Zaključno, odnos između umjetne inteligencije, orijentalizma i islamofobije – i problema koje ona proizvodi – treba shvatiti ne kao tehnički kvar, već kao tehnološku manifestaciju i nastavak zapadne epistemologije. Umjetna inteligencija nasljeđuje akumulirano naslijeđe orijentalističke misli i reprodukuje ga u mnogo većim razmjerama. To transformiše umjetnu inteligenciju iz pukog alata u pristrasan epistemološki autoritet. Ako se ovi procesi kritički ne ispitaju, umjetna inteligencija ne samo da će reprodukovati postojeće pristranosti, već će ih učiniti i nevidljivijima i znatno moćnijima. Iz tog razloga, ovo pitanje zahtijeva dublje preispitivanje toga kakva se vrsta znanja proizvodi putem ovih alata, kako se proizvodi i u čije ime ovi sistemi u konačnici govore.
