Intelekta

Umetna inteligenca – desna roka velikega brata?

Umetni inteligenci se ne moremo več izogniti. Vprašanje je le, kolikšen del odločanja ji bomo prepustili.

artificial-intelligence-3683774_1920

V zadnjih nekaj letih smo se nenadoma zavedeli, da živimo v časih eksplozivnega razvoja umetne inteligence, da se njena raba hitro širi na nova in nova področja in da marsikje v pomembni meri že spreminja pravila igre. Ogromne količine digitalnih podatkov, ki jih ustvarjamo in v veliki meri tudi prepuščamo ponudnikom spletnih storitev, odpirajo povsem nove možnosti vplivanja na naše odločitve in zdi se, da celo že majejo temelje demokratičnih ureditev. Globokim družbenim spremembam, ki jih ta učinkovita tehnologija sproža, se je posvetil tudi festival kritične misli in elektronske glasbe Grounded, ki je prejšnji teden potekal v Ljubljani.

To je šele začetek

Kamorkoli gremo na svetovnem spletu, umetna inteligenca spremlja in beleži vsak naš klik. S to tehnologijo primerno podprta spletna stran že ob prvem obisku o nas ve ogromno. Kje živimo, na primer, ali imamo otroke, kakšna je naša finančna teža. »Človeka lahko tako rekoč razgalimo. Če lahko k temu dodamo še povezavo z družbenimi omrežji, imamo na dlani še celotno čustveno življenje posameznika,« izpostavlja razpon današnje »vsevedne« inteligence glasnik digitalnih tehnologij Slovenije dr. Marko Grobelnik iz Laboratorija za umetno inteligenco na Institutu »Jožef Stefan«, ki na tem področju aktivno sodeluje z medijsko hišo Bloomberg, algoritme za umeščanje oglasov pa je pripravljal tudi za New York Times.

Naši pametni telefoni poleg tega neprestano javljajo, kje se nahajamo, s kom se družimo oziroma, natančneje, čigavi telefoni se družijo z našim. S kombinacijo dovolj velikega nabora digitalnih podatkov je mogoče z visoko verjetnostjo napovedovati najrazličnejše scenarije in celo usmerjati odločitve. Toda pozor – tehnologije umetne inteligence so šele na začetku, poudarja Grobelnik. Danes so kos izzivom, za katere potrebuje človek par sekund. Problem, ki nam vzame minuto ali več, je za zdaj še zunaj dosega umetne inteligence. Toda razvoj področja je intenziven.

Ko se odloča umetna inteligenca

Zaradi visoke stopnje verjetnosti, s katero umetna inteligenca napoveduje najrazličnejše trende, se jo uporablja na številnih področjih. Tako umetna inteligenca že trguje na borzah, priporoča najprimernejše kandidate za delovno mesto ali za večerni zmenek. Vendar pa ima zanašanje na veliko napovedno moč umetne inteligence lahko nepredvidljive in za družbo zelo problematične posledice. Značilno je področje nadzora kriminala. Danes, denimo, policija in obveščevalne službe umetne inteligence ne uporabljajo zgolj za nadzor kriminalitete, ampak skušajo z njeno pomočjo napovedati, kje se utegne pripetiti neko kriminalno dejanje.

Takšen napovedni model ima lahko usodne posledice, saj krog potencialnih osumljencev razširi na zelo širok krog posameznikov, ki jih je algoritem prepoznal kot potencialno sumljive. Značilni primer sumljivega vedenja pa je lahko celo že plačevanje z gotovino. Nemško ustavno sodišče je na primer razsodilo, da je to protiustavno kršenje človekovih pravic. »Tehnologija ni vsemogočna,« opozarja Pika Šarf, mlada raziskovalka na Inštitutu za kriminologijo pri Pravni fakulteti. »Lahko nam v določeni meri pomaga, vendar to ni orodje, ki bo odpravilo kriminaliteto. Prav tako na sodišča ne prinaša popolne objektivnosti.«

Nasprotno, številne študije že kažejo, da so rezultati, ki jih ponudi umetna inteligenca, lahko celo zelo pristranski. Policijski algoritmi se, denimo, osredotočajo na soseske, kjer je zaradi revščine visoka stopnja kriminala. Podatkov iz takšnih okolij je veliko in služijo umetni inteligenci za izhodiščni model za učenje in napovedi. Takšna raba umetne inteligence tako le poglablja obstoječe družbene neenakosti, saj ne odpravlja vzrokov za takšno stanje. Prav tako ne zmore zaznati finančnega kriminala. Toda marsikje po svetu se pametne tehnologije vse bolj uveljavljajo in zdi se, da obet visoke zanesljivosti umetne inteligence pri tovrstnih napovedih v številnih primerih pomete s pomisleki.

Kje je prostor za človeško presojo?

Kot družba smo torej pred precej zahtevno nalogo. Kako novo tehnologijo uporabljati, ne da bi pri tem žrtvovali ključne civilizacijske pridobitve, ki zagotavljajo določene svoboščine in pravice tako posameznikom kot celotnim družbenim skupinam? Umetna inteligenca lahko pač enako učinkovito (ali še bolj) podpre tudi najbolj totalitarne oblike vladanja in marsikje po svetu gre njena raba prav v smer nadzorovanja celotnih populacij.

»Ker se računalniško moderirana, avtomatizirana izbira širi na vedno več področij, kjer je včasih izbiral človek s svojo osebno moralno odgovornostjo, moramo vendarle premisliti, kje bomo postavili mejo,« opozarja filozof dr. Luka Omladič, tudi član UNESCO-ve svetovne komisije za etiko v znanosti in tehnologiji. »Četudi je tehnologija še tako učinkovita, bi na določenih področjih moralo odločanje ostati v rokah človeka.«

Težava današnjega trenutka je morda predvsem v tem, da je ključni del moči glede rabe umetne inteligence v rokah peščice velikih korporacij, ki obvladujejo podatke. Njihov interes je pač usmerjen v zagotavljanje visokih dobičkov, tržnega deleža in borzne vrednosti podjetja, družbeni napredek, ali pa nazadovanje, je s takšnega gledišča vedno stranskega pomena.