Unustage maailmalõpu jutt, tehisintellektiga on palju põletavam probleem: see tegutseb nagu must kast

Pane tähele! Artikkel on ilmunud enam kui 5 aastat tagasi ning kuulub Geeniuse digitaalsesse arhiivi.

Tehisintellekt on nii kuum trendisõna, et lausa säriseb. Selle tehnoloogiate ja rakendustega tegelevad teadlased, alustavad idufirmad ja suurettevõtted, tehisintellekt on tööstuses ja meie igapäevastes tehnikavidinates. Kuigi kogu tehisintellekti mõte on selles, et arvuti suudaks “omal käel” teha inimese eest ära mõne ülesande, saabub sellega üha olulisem probleem – me ei näe, kuidas arvuti ülesande lahenduseni jõuab.

Tehisintellekti rakenduskohti on lõputult. Eriti suured ootused on muidugi ühiskonna ees seisvate kõige keerukamate probleemide lahendamisel või vähemalt nende eest hoiatamisel. USA luurevaldkonna arendusprojektide teenistuse IARPA juht Jason Matheny rääkis augustis Scientific Americanis, kuidas analüütikud püüdsid luua tehisintellekti, mis aitaks ennustada suuri päris-elu sündmusi nagu poliitilised kriisid, relvakatsetused või haiguste puhangud. Isegi kui selline prognoosisüsteem oleks loodud, osutus kõige kriitilisemaks selle selgitamine – kuidas prognoosini jõuti? Kui tehisintellekt oleks analüütikutele öelnud, et Põhja-Korea korraldab lähiajal tuumarelva katsetuse, siis järgmine küsimus kaitseministrilt oleks olnud “Kuidas te seda teate? Kui kindel te andmetes olete?”

Probleem puudutab tehisintellekti valdkonna ühte kõige paljulubavamat tehnoloogiat: tehislikud närvivõrgud.

Selles tehnoloogias analüüsib programm andmeid kihtides. Kõige esimene on sisendkiht, kuhu me paneme andmed, mida me tahame, et tehisintellekt uuriks. Need võivad olla pildid, helid, logifailid, mis iganes tüüpi andmed. Väljundkihis on tulemus probleemile, mida me oleme pannud tehisintellekti lahendama. Kahe kihi vahepeal võib olla üks või sadu vahekihte. Kui vahekihte on väga palju, nimetatakse seda süva-närvivõrkudeks (Deep neural network), ka süvaõppeks.

Allikas: NeuralNetworksandDeepLearning.com

Kõige primitiivsema näitena saab närvivõrkude toimimist selgitada näotuvastusega. Esimeses kihis on sisendiks pikslid, millest koosneb pilt, mida tarkvara analüüsib. Iga kiht teeb pikslite kohta mingi oletuse või seose ja annab tulemuse edasi järgmisele kihile. Viimasesse kihti jõuab otsus: kas antud pikslitest moodustub nägu või ei.

Närvivõrkude tehnoloogiat peetakse üheks kõige efektiivsemaks ja täpsemaks selliste otsuste langetajaks, ent neis on probleem – need toimivad musta kastina ja keegi ei tea, mis täpselt vahekihtides toimub.

Suurepärane näide, mis tõi närvivõrkude probleemi hästi esile, pärineb eelmisest aastast Pittsburghi ülikooli haiglast, kus katsetati tehisintellekti meetodeid järgmise probleemi lahendamiseks. Tarkvara pidi valima, millised kopsupõletikuga patsiendid võivad saada komplikatsioonid ja nad tuleks jätta haiglasse ning millistel on väiksem risk ja nad võib koju saata. Otsusel oleks selge rahaline mõju haigla eelarvele, samas peab valiku tegema väga kindlalt, et mitte saata kõrge riskiga patsienti koju.

Tarkvara arendav meeskond proovis haigla varasemate kopsupõletikuga patsientide andmete põhjal välja õpetada mitme erineva meetodiga tehisintellekti programmi. Muuhulgas prooviti närvivõrke, lisaks aga ka tarkvara enda kirja pandud nii-nimetatud otsustepuud, mis lahendas probleemi selgelt inimesele loetavate otsuste põhjal. Närvivõrgu tehnoloogia andis kõige paremini tulemusi ehk eksis kõige vähem patsiendi riskitaset hinnates ja haiglasse jätmist otsustades. Kui aga arendajad vaatasid otsustepuud, leidsid nad halva üllatuse: ühe kriteeriumina otsustas tarkvara saata koju paranema kopsupõletikus patsiendid, kellel oli ka astma – kuigi astma-haigetel peaks komplikatsioonide tekkeks olema väga suur risk!

Tarkvaramudel tegi täpselt korrektselt seda, mida ta pidi – õppis varasematest andmetest. Nimelt oli astmahaigete riskitase nii kõrge, et nad saadeti kohe intensiivravisse ja seetõttu ei tekkinud neil peaaegu kunagi komplikatsioone. Tarkvara õppis andmetest õigesti, lihtsalt alg-andmetes oli “veidrus”.

Sellest väga heast näitest koorubki närvivõrkude probleem. “Kui inimloetav otsustepuu oli õppinud, et astma vähendab patsiendi riskitaset, siis kindlasti oli seda õppinud ka närvivõrkude programm,” võttis kokku projektis osalenud masinõppe uurija Rich Caruana. Ent närvivõrkude tarkvaras ei ole inimloetavaid “reegleid”, otsuseid, küsimusi või käsklusi, mida inimene saaks inspekteerida, auditeerida, üle kontrollida. Kui Pittsburghi haigla oleks võtnud kasutusele selle muidu äärmiselt efektiivse närvivõrkudel põhineva tehisintellekti tarkvara, poleks saanud kuidagi välja uurida, miks tarkvara soovitab astmahaiged koju saata. Närvivõrkude sisse ei näe, need programmeerivad ennast ise.

Nii on tehisintellekti arendajad ja rakendajad valikute ees, kas see peaks olema võimalikult täpne või võimalikult hästi seletatav. Ameerika kaitseuuringute agentuuri DARPA programmijuht David Gunningu koostatud graafik erinevatest tehisintellekti tehnoloogiatest näitab, et need kipuvad olema vastandlikud soovid. Kõige kõrgema täpsusega meetodid on kõige raskemini seletatavad.

Allikas: DARPA

Valik täpsuse ja seletatavuse vahel kipub kogu tehisintellekti mõtte nullima. Kui tarkvara ei tee täpseid otsuseid, ei usalda me seda oma kriitilistesse süsteemidesse. Autonoomne auto ei saa riskida madala täpsusega otsuste tegemisega, sest kui me sellise sõiduki liiklusesse laseme, peame olema raudkindlad, et see oskab kõigis olukordades õige ehk turvalise valiku teha.

Tehisintellekti läbipaistmatuse puhuks otsitakse lahendusi. Võib proovida kirugi kombel must kast lahti teha ja selle toimimist uurida, ent üksik andmerida, üks side kahe neuroni vahel ei seleta vaatajale midagi. Oregoni ülikooli teadlased eksperimenteerivad võimalust luua põhi-närvivõrgu kõrvale teine närvivõrk, mis esimest uuriks ja katsetaks, andmaks nii aimu, milliste andmete ajel põhi-närvivõrk oma otsuseid kõige rohkem langetab. Startup nimega Bonsai püüab luua programmeerimiskeelt Inkling, mille kaudu närvivõrke treenida ja õpetada, mis peaks suurendama nende läbipaistvust.

Kas ja milline meetod lahenduse toob, näitab aeg. Probleem muutub aga üha põletavamaks, sest närvivõrkude tehnoloogiaid kasutatakse üha laiemalt. Samal ajal on aga Euroopas jõustumas uus andmekaitse üldregulatsioon, milles sisaldub seaduslik õigus nõuda seletust, kuidas algoritm mingi otsuse on teinud. Kes oskaks vastata?

Populaarsed lood mujal Geeniuses

Igal argipäeval

Ära jää ilma päeva põnevamatest lugudest

Saadame sulle igal argipäeval ülevaate tehnoloogia-, auto-, raha- ja meelelahutusportaali olulisematest lugudest.