Teadus ja tulevik

USA koolid kasutavad tehisintellekti, et leida kriisis õpilasi — ühe nädalaga andis süsteem teada 5000 olukorrast

Tehisintellekti kaasamise eesmärgiks on üles leida need noored, kellel on oht enesevigastamise, langeda kiusamise või vägivalla ohvriks või võib nende vaimne tervis muud moodi ohtu sattuda.Foto: Shutterstock

Rubriiki toetab

Õpilased on läinud tagasi kooli ning USAs on koolide ümbruses kasutusele võetud tehisintellekti programmid, et jälgida õpilaste suhtlust ja veebiotsinguid. USA tehnoloogia ja demokraatia keskus (CDT) ütles oma aruandes, et tehisintellekti kaasamise eesmärgiks on leida üles need noored, kellel on oht enesevigastamise, langeda kiusamise või vägivalla ohvriks või võib nende vaimne tervis muud moodi ohtu sattuda.

Kuigi koolides on sarnased jälgimisprogrammid on laialt levinud, 71% CDT uuringus osalenud õpetajatest ütlesid, et nende koolid kasutasid jälgimistarkvara, arvavad kriitikud, et nende programmide kasutamine võib rikkuda õpilaste eraelu puutumatust ja see võib olla libe tee, kui koolid hakkavad kasutama tehisintellekti distsiplineerimise eesmärgil, mitte noorte tervise hoidmiseks.

Tarkvara otsib kindlaid märksõnu ja fraase

Tarkvara tööpõhimõte on, et seadmetest otsitakse teatud märksõnu ja fraase ning hoiatab administraatorit, kui see leiab neid, teatas The Wall Street Journal. Administraator saab siis ise otsustada, kas hoiatus on usaldusväärne ning kas teavitada vanemaid või sekkuda ise olukorda.

Bark, tarkvarafirma, kelle teenust kasutab 2900 koolipiirkonda, teatas, et avastas ühe nädala jooksul 5000 enesevigastamise või enesetapuga seotud olukorda. 

Ühel juhul teatas tarkvara koolile õpilasest, kes kirjutas Google’i dokumendis peetud päevikus, et soovib surra. Pärast seda teavitas kool lapse vanemaid, kes said seejärel oma lapsele abi.

The Harris Polli uuringu kohaselt on laste vaimne tervis pandeemia vältel halvenenud. Kooliealiste laste vanemad teatasid laste sagedasest meeleolulangusest.

Arvamused jagunevad kahte leeri

Kuigi seireprogrammid äratavad eraelu puutumatuse ja turvalisuse ekspertide hulgas kriitikat, nõustus 66% õpetajatest, et veebipõhisest jälgimisest saadav kasu kaalub üles riskid ja CDT uuringu kohaselt teatas 50% õpilastest, et nende jaoks selline jälgimistarkvara ebamugavust ei põhjusta.

Ameerika Kodanikuvabaduste liidu privaatsusekspert Chad Marlow ütles aga The Guardianile 2019. aastal, et puuduvad tõendid selle kohta, kuidas üliõpilaste käitumisest ülevaate omamine muudab nende elu turvalisemaks. Kuigi paljud õpilaste jälgimise ettevõtted reklaamivad oma programme anekdootlike tõendite ja ise kogutud andmete kaudu, ei ole tehtud sõltumatut analüüsi selle kohta, kas järelevalve vähendab tegelikult õpilaste hulgas vägivalda või enesevigastamist.

Õpilased muutuvad ettevaatlikuks

Laialdane teadlikkus seiretarkvarast on juba muutnud õpilaste käitumist ja muutnud raskemaks märgata käitumist, mida seireprogrammid püüavad tuvastada. CDT aruandes öeldi, et kuus õpilast kümnest ütles, et nad ei jaga oma tõelisi mõtteid veebis, kuna teavad, et neid jälgitakse, ja 80% ütlesid, et nad on oma internetiotsingutes ettevaatlikumad, sest teavad, et nende tegevust monitooritakse.

Ligikaudu 60% CDT uuringus osalenud õpetajatest ja lapsevanematest ütlesid, et jälgimistarkvara võib põhjustada pikaajalist kahju, kui kogutud teavet kasutatakse distsiplineerimiseks või jagatakse kontekstist välja rebituna. Umbes 50% vastanutest ütles, et jälgimine võib põhjustada LGBTQ+ kogukonna üliõpilastele tahtmatult negatiivseid tagajärgi.

“Üldiselt näitavad uuringud, et kui koolide turvameetmed levivad, siis tunnevad õpilased end sageli hoopis vähem turvaliselt,” seisab Brennani keskuse raportis. “Ja üleliigne ja tarbetu jälgimine avaldab tõenäoliselt kahjulikku mõju õpilaste privaatsusele ja vähendab nende võimet ennast väljendada.”

Selles rubriigis vahendame maailma teadusuudiseid, tulevikuvaateid ning oma kõige põnevamaid tegemisi.

Populaarsed lood mujal Geeniuses

Ära jää ilma päeva põnevamatest lugudest

Telli Geeniuse uudiskiri

Saadame sulle igal argipäeval ülevaate olulisematest Geeniuse teemadest.