Uudis

Jaan Tallinn tulevikuohtudest: lased miljon pisikest odavat drooni linna lahti ja nad valivad ise endale sihtmärgid

Foto: Hans Lõugas

Eelmisel nädalal toimus Brüsselis Eesti Euroopa Liidu eesistumist kokku võttev seminar, mille kuluaaridest leidsime Jaan Tallinna, tuntud tehnoloogiainvestori ja Skype’i looja. “Ma tunnen kolme teemat: tehisintellekt, blockchain ja tantsimine,” viskas Tallinn nalja. Tegime neist kahel teemal temaga juttu.

Me oleme siin Brüsseli ametnike ja mõttekodalaste üritusel, teemaks on tehisintellekt ja see ei tundu enam midagi erilist olevat. Tehisintellektile pannakse suuri lootuse majanduse muutmises Eestist, Euroopas ja üle maailma. On selle jutu juures õige kasutada sõna “tehisintellekt”?

Ma arvan, et siin oleks parem kasutada sõna “masinõpe”, see on parem kui öelda AI (artificial intelligence, tehisintellekt), mis on liiga üldine.

Selles vallas eristataksegi kahte suunda, üks on kitsam ja rakenduslikum ning mina ei ole selle viimastes arengutes eriline ekspert. Teine suund on laiem.

Mina tõmban nende kahe puhul joone sinna, et kas on tegu fundamentaalse AI uuringuga või ei. Sellega tegelevad üsna vähesed, peamiselt ülikoolid, aga ka näiteks DeepMind (Jaan Tallinn oli selles briti idufirmas investor, mõni aasta tagasi ostis selle väidetavalt 500 miljoni dollari eest Google – toim) ja mõned teised kommertsettevõtted. Need on rikkad ettevõtted, kes suudavad 100-200 miljonit aastas lihtsalt teadlastele maksta.

Kõik ülejäänu on applied AI (ee rakenduslik tehisintellekt), kus võetakse fundamentaaluuringute tulemused ja treenitakse seda mingi konkreetse valdkonna jaoks. See on ka üks põhjus, miks ma robootikat üldse ei karda: robootika on üks või kaks põlvkonda tagapool tehisintellektist.

Ometi öeldakse, et see AI muudab absoluutselt kõiki valdkondi, alates finantsist, transpordist…

Paljuski sellepärast, et see on lihtsalt moodne. Kogu teema on natuke haip.

Kuna oleme Brüsselis, siis järgmine küsimus on sellest, et mõnede teadlaste arvates tuleb hakata tehisintellekti kasutamist seadustega reguleerima. Näiteks: võtame AI kasutusele politseis, hakkame sellega kuritegusid ennetama ja inimesi juba enne kuriteo sooritamist vahistama. Aga nüüd peaks seadus sundima läbipaistvusele, et kuidas tehisintellekt just seda inimest tulevase pätina näeb. On selline reguleerimine üldse võimalik?

Noh, vähemalt mõtlema peaksime nende teemadele küll, et millised on varjuküljed, eriti pikema perspektiiviga arengutel. Lihtne on intuitiivselt reageerida, et sellist asja ei saa kindlasti teha ja selline asi oleks jälle innovatsioonile pärssiv ja nii edasi.

Üldiselt ma seda rakenduslikku AI-d väga ei karda, kui inimesed mõtlevad sel teemal. See on tehnoloogia nagu ikka.

Foto: Valdek Laur

Ainus erand on militaarvaldkond.

Future of Life Institute, kus ma tegev olen, tegi just hiljuti valmis ühe väga hea video sel teemal. Probleem militaarvaldkonna tehisintellektistamisel on see, et sa võtad inimesed võrrandist välja. Ja tekkinud olukorras pole probleem see, et masin otsustab, kes elab või sureb, vaid hoopis lahutatakse kaks asja: see, kui palju sul rahvast, sellest, kui palju sul militaarvõimekust on.

See loob militaarvaldkonnas dünaamika, et tapvad masinad lähevad väiksemaks, odavamaks ja intelligentsemaks. Selle tõttu tekib olukord, kus viis inimest kahe veoautoga on võimelised hävitama terve linna ilma, et keegi teaks, mis juhtunud on. Nii tekib meil päris maailma sama trend, nagu praegu on küberkaitses. Kuskil on suured rünnakud, me ei tea, kes nende taga on, võib-olla paar inimest, aga mõju on väga suur.

Kas see muudab rahvusvahelise julgeoleku mängureegleid? Tekib asümmeetria sinu sõjalise jõu ja muude ressursside vahel?

Täpselt ja see on väga oluline. See ei ole ka praeguste riikide, praeguste militaarjõudude huvides, et meil tekiks selline “demokratiseerumine” relvastuses.

Äkki annab see vastukaalu väikestele riikidele, et sa ei pea olema USA, Venemaa või Hiina, et olla maailmas oluline militaarjõud?

Probleem ei ole üldse väikeriikides. Probleem on selles, millise jõu saavad need, kellel on ainult 10 miljonit dollarit. See on ideaalne relv terroristidele.

Selles videos, mida mainisin, näidatakse hüpoteetilist olukorda. Sul on paari sentimeetri suurused droonid, mis pannakse parvedesse. Iga droon maksab võib-olla 10 dollarit. Sa miljon sellist drooni linna lahti ja nad valivad ise endale sihtmärgid.

Militaarvaldkonda tehisintellektistamises loome olukorra, kus inimesel pole enam turvaline Maal väljas olla.

Kui aus olla, siis need ei tundugi tehnoloogiliselt nii ulmelised…

Tundub jah, et see on peaaegu võimalik. Asi, millele peaks kindlasti mõtlema, on võimalikud kaitsemeetmed. Militaarvaldkonnas on alati mäng ründe- ja kaitse vahel. Minidroonide parved tunduvad vähemalt intuitiivselt sellised, mille vastu on väga raske end kaitsta.

Selliste ohtude vastu on ainus viis regulatsioon?

Jah, täpselt. See video ongi toetuseks ÜROs käivale kampaaniale, et selline tehisintellekt tuleks keelustada. Oluline on selgeks teha, et AI keelustamine militaaris on militaarjõudude huvides.

Olgu, aga ikkagi see meie igapäevane, rakenduslik tehisintellekt. Ütlesid, et sa sellega väga ei tegele, aga usud sa väiteid, et see muutub meie majanduses, ühiskonnas, igal pool üldlevinuks?

See sõltub väga valdkondadest, mõnes on selline muutus tõesti lihtsam, mõnes palju raskem.

Üldine printsiip on see, et masinõppe kasulikkuse määrab ära vigade hind. Kui kallis on see, kui masinõpe teeb vea.

Ise olen Lingvisti nõukogus, kus rakendame masinõpet keeleõppes. Kui sa seal mingi vea teed, siis saad kiirelt selle kohta tagasiside ja inimene saab ju ümber õppida. Aga kui sa ehitad isejuhtivat autot ning seal masinõpe teeb vea…

Masinõppe süsteemide tase, mis praegu [isejuhtivates] autodes on, on võib-olla paremagi kui keeleõppes. Aga sellegipoolest on keeleõppes masinõpe kasulikum.

Kuna seal on vea hind väiksem? See tundub kui hea kokkuvõte tehisintellekti hindamiseks. Kui näiteks põllumajanduses väetab AI valet ruutmeetrit, siis polegi suurt midagi katki…

Jaa, kusjuures mul just lisandus investeeringuportfelli üks ettevõte Pyka. Nende plaan on teha iselendavaid lennukeid, aga nad alustavad põllumajandusest. See on turvaline valdkond, kus just nimelt vigade hind ei ole nii suur. Kasvõi nii, et kui põldu väetav lennuk alla kukub, siis pole hind nii suur, kui inimesed seal pardal oleks. Nende lõppeesmärk on teha inimesi vedavaid lennukeid ja seal on jällegi küsimus, milline veamäär on.

Foto: Pyka

Räägime ka plokiahelast* ja Bitcoinist, mis on kõikjal maailmas viimasel ajal jututeema. Teadlikkuse levimist peegeldab ka Bitcoini kurss. Kas krüptovaluutad on jõudnud uude ajajärku või kuidas sa seda näed?

No Bitcoinil on Ethereumi ees ainult üks eelis ja see on bränd. Kõigis muudes asjades on Ethereum kõvasti parem, seda nii oma tehnoloogias, oma arendajate kogukonna poolest, oma võimekuselt ja roadmapi poolest.

Nii et see on huvitav eksperiment, et kui palju bränd väärt on.

Mida on vaja selleks, et krüptoraha kitsaskohtadest üle saaks (Bitcoin on nii ülekoormatud, et ülekannete tegemine võtab kümneid minuteid ja ühe ülekande teenustasu on tõusnud 25 dollarini – H.L.)? Bitcoinis räägitakse uuendustest nagu Lightning Network, mis teeks selle tõeliselt kasutatavaks .

Ma ei ole selle Lightning tehnoloogia olemust täpselt vaadanud, aga Ethereumi kontekstis on kaks suunda skaleerumiseks. Üks on sharding, võtad põhi-plokiahela ja lööd selle provintsideks lahti. Teine lahendus on siis plokiahelast väljas maksete tegemine, aga seal tekivad juba uued turvariskid, kus seda Lightning Networki ennast saaks rünnata.

Selle teise lahenduse puhul on põhimõtteliselt skeem nii, et sina ja mina tahame omavahel kiirelt makseid teha ja me mõlemad käime selleks plokiahelasse välja deposiidi. Kui me nüüd omavahel makseid teeme ja sa avastad, et ma olen pettur, siis sa üritad peamisest plokiahelast deposiiti kätte saada. Aga mul võib olla võimalus blokeerida sinu deposiidi väljavõtmist. See on probleem nende kõrval-plokiahelate lahendustega.

Milline üldistus siit teha? Et plokiahelal olevaid tehnoloogiaid saab edasi arendada ja neid ka peaks edasi arendama?

Jah ja nad ongi pidevas arengus.

Ühel konverentsil, kus ma aeg-ajalt Ameerikas käin, palutakse mul teha viie aasta ennustusi. Ja ma pean meenutama, mitu aastat tagasi ma selle tegin, aga ma ennustasin seal, et plokiahela turuväärtus on 1 triljon dollarit. Noh, praeguseks on pool triljonit.

Intervjuu tegemise ajal 14. detsembril oli erinevate plokiahelal olevate instrumentide turuväärtus kokku 507 miljardit dollarit, intervjuu ilmumise ajal 609 miljardit dollarit, coinmarketcap.com andmetel.

Millised krüptovaluutad on tipus, seda ma ei tea. Kindlasti võib iga üksik valuuta kümme korda kukkuda, need on seda varemgi teinud.

Aga et tehnoloogia kokkuvõtlikult oma väärtuse kaotab, et see tehnoloogia tundub vale käik – seda ei juhtu.

Paljude jaoks Bitcoin, mis on esimene sissejuhatav nimi plokiahela maailma, seostub rahaga. Kas sa näed plokiahelal tulevikus väärtust just finantstehnoloogiana või miskis muus?

Ma ise olen uurinud plokiahelat just muudest aspektidest. Üks viis plokiahelat kirjeldada on see, et viimased kaheksa aastat on inimkond olnud sellises režiimis, et üle kogu planeedi on võimalik kokku leppida ühes andmehulgas ilma, et sa peaks usaldama ühtegi autoriteeti. Praegu kasutatakse seda võib-olla just tabelina, kellel on kui palju [raha]. Aga seda on võimalik kasutada muudeks asjadeks.

Mind huvitab näiteks, kas seda on võimalik kasutada… eesti keeles on raske öelda, aga incentive-landscape’i kujundamiseks. See tähendab sisuliselt motivatsioonide kujundamist. Sa saad ehitada süsteemi plokiahela välistele asjadele, kus on probleem motivatsioonidega.

Mänguteoorias tuntakse sellist terminit nagu Nash equilibrium. Kui n hulk inimesi teeb halba asja, siis tulemus on halb, sõltumata ülejäänud tegevusest. Need võivad olla ülekalastamine, metsade hävitamine, globaalne soojenemine. Küsimus on, kas selliste asjade vastu on võimalik võidelda trustless-süsteemidega, mis hoolitseb inimeste motivatsioonide kujundamise eest?

Võtame järgmise näite, mille järgi on põhimõtteliselt võimalik luuga plokiahelaga vilepuhumise süsteem. Hüpoteetiline olukord, et meil on regulatsioon, et ühes majas ei tohi olla võimsamat arvutit kui kümme petaflopi (maailma võimsamate superarvutite võimsus ületab napilt selle piiri – H.L.). Et seda reeglit jõustada, on näiteks inspektorid, kes arvuteid kontrollivad. Kuhu aga inspektorid saata?

Selle küsimuse lahendamiseks võib teha ennustuste turu, kus igaüks võib anonüümselt krüptovaluuta abil panustada, kui mingit organisatsiooni inspekteeritakse. Inimene, kes teab, et tema majas käib seaduserikkumine, võib panustada, et “juhul kui meie organisatsiooni inspekteerida, leitakse rikkumine”. Põhimõtteliselt oleme loonud süsteemi, kus vilepuhumisega saab teenida ja oleme loonud motivatsiooni selle toimimiseks plokiahelaga.

Plokiahela osa oleks siis see, et inimesed saavad vilepuhumiseks anonüümsuse, mis ei sõltu teisest inimesest?

Täpselt! Praegu on väga suur probleem vilepuhujatega, et nad peavad usaldama seda osapoolt, kelle juurde nad lähevad. Plokiahel on asi, mida ei pea usaldama, sa tead, et see toimib. Kui vilepuhumine oleks plokiahela sees, siis see oleks kõva edasiminek enamusele vähemuse diktatuuri vastu.

Mis paneb plokiahelale uusi rakendusi välja mõtlema, on see põnev?

See on põnev, ka väga kasulik, aga samamoodi tuleb hoolitseda selle eest, et mingit jama ei juhtuks.

Just praegu vaidlen paari – mitte ühe, vaid mitme – inimesega, kes tahavad ehitada plokiahelale kontrollimatut AI-d. Ma loodan, et see ei tule neil välja. Võib-olla sellest ei tule midagi paha, aga intuitiivselt tundub see asi, millele tuleks enne kõvasti mõelda.

* Keeleliselt: kuigi Jaan Tallinn kasutas läbivalt ingliskeelset terminit blockchain, on siin see tõlgitud plokiahelaks.

Populaarsed lood mujal Geeniuses

Ära jää ilma päeva põnevamatest lugudest

Telli Geeniuse uudiskiri

Saadame sulle igal argipäeval ülevaate olulisematest Geeniuse teemadest.