Koga povoziti?

Sliši se grozno, a tako je pokazala raziskava, ki so jo izvedli na MIT, vključeval pa je več kot 2 milijona ljudi iz kar 200 držav. Za kaj gre?

Na področju avtonomnih vozil, torej vozil, ki po cestah vozijo brez voznika, se že nekaj časa govori o etičnem oziroma moralnem vprašanju, kako naj tak avtomobil reagira v situacijah, ko je ogroženo človeško življenje. Naj varuje potnike ali druge udeležence v prometu? V naj zavije in se zaleti v koga drugega, če predenj skoči pešec ali nadaljuje pot?

Gre za različice etičnega problema, imenovanega »problem tramvaja«, ki ga je že leta 1967 predstavila britanska filozofinja Philippa Foot. Gre za miselni etični eksperiment, ki se v svoji splošni različici glasi nekako takole: »Po tirih vozi tramvaj, ki se iz takšnega ali drugačnega razloga ne more ustaviti. Vi stojite pred kretnico, ki tramvaj lahko preusmeri iz glavnega na stranski tir. Na glavnem tiru leži pet ljudi, ki se ne morejo premakniti, na stranskem pa eden. Kaj boste naredili? Pustili kretnico pri miru in ubili pet ljudi ali kretnico premaknili in ubili enega človeka?« Problem ima nato še več pod-različic, recimo ta, da je na stranskem tiru vaš svojec ali prijatelj, na glavnem pa sami neznanci in še kar nekaj drugih.

Na osnovi tega problema so znanstveniki univerze MIT že pred časom ustvarili spletno stran, imenovano Moral Machine, na kateri so izvedli anketo, v kateri je prikazanih 13 različnih scenarijev, na katere bi lahko naleteli avtonomni avtomobil in obiskovalce vprašali, kaj naj avtomobil v takšnem primeru naredi. Scenariji vključujejo avtomobile brez in z potniki, drugi udeleženci so lahko stari in mladi, lahko so živali, lahko gre za enako število žrtev ali različno, žrtve so lahko različno stare… Na anketo je do sedaj odgovorilo več kot 2 milijona ljudi iz vsega sveta in ker je še vedno aktivna, lahko to storite tudi vi. In kaj je pokazala?

Vsi rezultati seveda niso enaki, nek »konsenz« pa je mogoče najti pri treh elementih:

• Človeška življenja imajo prednost pred živalskimi,
• Življenje množice ljudi ima prednost pred življenjem posameznika,
• Življenje mladih ljudi ima prednost pred življenjem starejših.

Seveda se postavlja vprašanje ali so tovrstne etične dileme dejansko nekaj, s čemer se morajo ukvarjati sistemi umetne inteligence. Odgovor ni najbolj preprost, saj je odvisen od konteksta. V primeru avtonomnih vozil je primerjava z ljudmi verjetno do neke mere umestna, odgovor pa niti ne. Ko nam kot vozniku kaj skoči pred avtomobil, ali res imamo čas razmišljati, kaj narediti? Običajno ne, saj reagiramo refleksno in zgodi se, da zato, ker se je izogibal srni na cesti, nekdo zaletel v drevo in umrl. Ali lahko od umetne inteligence pričakujemo kaj več? So reakcije, ki temeljijo na njej, lahko bolj kakovostne kot naše? Očitno si tega želimo, saj bomo v primeru nesreče lahko uperili prst v recimo proizvajalca avtomobila in rekli, da je kriv on, saj je njegov avtomobil sprejel napačno odločitev. Tematika je torej vse prej kot preprosta.

Mogoče pa bi se morali sprijazniti s tem, da se nesreče pač dogajajo in narediti tako, kot je lani poleti v svojem poročilu zapisala etična komisija nemškega Ministrstva za transport in digitalno infrastrukturo. V njem med drugim piše, da je  v primeru neizogibnih nezgodnih situacij vsako razlikovanje med posamezniki, ki temelji na osebnih značilnostih (starost, spol, telesno ali duševno stanje) nedopustno, avtonomni avtomobili pa morajo biti programirani z razumevanjem, da je vsako človeško življenje enakovredno drugemu.

Vir: MIT