Luureteenistus selgitas, et katsetas DeepSeek tehisaru ja avastas, et see kogub liiga palju isikuandmeid, mida hoitakse välismaistes serverites, kirjutab Korea JoongAng Daily.
Julgeolekuasutuse sõnutsi kasutab tehisaru kõiki sisestatud andmeid, et keelemudelit edasi treenida ning ühtlasi pidavat see kasutajate isikuandmeid ja teavet jagama reklaamijatele ning ettevõtetele. Peale selle kogub DeepSeek kasutajate klaviatuuri sisestusmustreid, mida võidakse kasutada üksikisiku tuvastamiseks, ning kasutaja kohta kogutud andmeid, sh vestluseid, võidakse saata teatud Hiina serveritesse. NISi sõnutsi osutavad DeepSeeki teenusetingimused sellele, et kasutajate isiku- ja sisendandmed on suure tõenäosusega kättesaadavad Hiina valitsusele.
Ühtlasi leidis luureteenistus, et juturobot annab Hiina-Korea suhete vastuolulistes teemades erinevaid vastuseid olenevalt kasutatud keelest. Näiteks kirjeldab DeepSeek erinevalt poliitilisi küsimusi, aga isegi Lõuna-Korea traditsioonilise toidu kimchi päritolu.
Nõnda on Lõuna-Korea luureteenistus saatnud kõigile valitsusasutustele teate, milles soovitab olla DeepSeeki kasutades ettevaatlik. Paljud Korea ministeeriumid ongi ligipääsu DeepSeekile blokeerinud, misjärel on isikuandmete kaitse komisjon andnud sama soovituse ka kodanikele. Andmekaitse lisas, et asutus analüüsib DeepSeeki kasutamisel saadetavaid andmeid ning kavatseb välja töötada meetmed, et kaitsta isikuandmeid.
DeepSeeki kontrollivad ka lääneriigid, sest tehisaru paistab tsenseerivat teatud Hiina teemasid, näiteks 1989. aasta Tiananmeni väljaku protestide mahasurumist ja Taiwani staatust.
Tehisarud võivad üldiselt kallutatud olla
Hiljuti avaldas mõttekoda meedia ja ajakirjandusuuringute keskus (Media and Journalism Research Centre, MJRC) aruande, milles uuriti sadat ettevõtet, mis on ajakirjanike kõige sagedamini kasutatavate tehisarude taga. Selgus, et vaid 33% puhul on teada, kellele tehisaru kuulub ja kes on rahastaja ning 67% ei avalda asjakohast teavet. Seetõttu on keerukas kindlaks teha, kuidas investorid või sidusrühmad mõjutavad tehisaru ja keda saaks vajaduse korral tööriista eest vastutusele võtta.
Aruandes rõhutatakse, et tarbijad ei pruugi olla teadlikud tehisintellekti abil loodud teabe allikast, mida näiteks ajakirjanikud esitavad faktidena. Samuti ei pruugi tehisaru tööriistad sobida kõigisse kultuuridesse.
Enamik uuringus vaadeldud ettevõtteid on väikeettevõtted või idufirmad, vaid 48 on börsil noteeritud. Uuringus tuuakse esile, et näiteks Y Combinator investorina on seotud kaheksa ettevõttega ja Google neljaga. MJRC aruandes peetakse rahastajat äärmiselt oluliseks, sest nemad võivad kaudselt kujundada tehisaru eelarvamusi ja tulemusi ning mõjutada sedakaudu avalikkuse arusaama.
Kui DeepSeeki tehisaru puhul on kallutatus üsna ilmselt esile tulnud, siis muude tehisarude puhul ei pruugi see niivõrd ilmselge olla. Igal juhul soovitab MJRC aruanne enne tehisaru antud info kasutamist kriitiliselt mõelda, kust teave pärineb, kuidas see teemat mõjutab ning mis võivad tehisaru võimalikud “eelarvamused” olla.
