Suositun tekoälysovelluksen jäljet johtavat Venäjälle – asiantuntija varoittaa käyttäjiä

5 min read Original article ↗

SAN FRANCISCO Ženja Kuyda muutti Venäjältä Yhdysvaltoihin 28-vuotiaana ja vaihtoi nimensä.

Hänen etunimensä olisi tästä lähin amerikkalaisille helpommin lausuttava Eugenia.

Uuden nimen lisäksi hän alkoi luoda itselleen San Franciscossa uutta henkilöbrändiä. Kuyda olisi miesvaltaisessa Piilaaksossa naisjohtajien esitaistelija.

Elettiin vuotta 2015, ja Kuydalla oli myös toinen suunnitelma. Hänen myisi Moskovassa kehitetyn tekoälyteknologian länsimarkkinoille.

Kyseisen teknologian taustalla oli Venäjän presidentin Vladimir Putinin sisäpiiriin kuuluva oligarkki, joka on nykyään Yhdysvaltain pakotelistalla.

Kuyda onnistui suunnitelmassaan. Hänen luomansa tekoälykumppanit keskustelevat nykyään miljoonien ihmisten kanssa.

Tämä juttu kertoo siitä, miten häikäilemättömästi teknologiayhtiöt keräävät käyttäjien dataa.

Kuydan johtama yhtiö Luka on siitä varoittava esimerkki: yritys toimii paperilla Piilaaksossa, mutta todellinen toiminta on hämärän peitossa.

Yle sai selville, että firma toimii hyvin todennäköisesti Venäjältä käsin. Asiantuntijan mukaan tekoälykumppanille kerrotut yksityiset asiat voivat päätyä jopa Venäjän tiedustelupalvelulle asti.

Kuvakaappaus venäläissivustolta.
“Olen todellinen Piilaakson klishee”, Eugenia Kuyda kertoi Venäjän Tatler-lehdelle vuonna 2017. Kuva: Kuvakaappaus Venäjän Tatler-lehdestä.

Eugenia Kuyda, 37, on venäläisen pankkiiriperheen lapsi.

Koulutuksen hän sai maineikkaassa London Business School -kauppakorkeakoulussa 2010-luvun taitteessa.

Valmistumisensa jälkeen Kuyda palasi Moskovaan ja pääsi oligarkki Sergei Adonjevin siipien alle.

Miljardööri Adonjev omisti Yota-puhelinoperaattorin, joka laajensi palveluitaan pankkialalle. Kuydan tehtävänä oli kehittää yhtiölle chattibottia, jonka avulla voisi hoitaa omia pankkiasioita.

Adonjevista tuli Kuydan oppi-isä, joka kehotti häntä lähtemään mukaan tekoälybisnekseen.

Kun Kuyda muutti San Franciscoon, hän antoi yritykselleen nimeksi Luka, oligarkki Adonjevin pojan Luka Adonjevin mukaan.

Piilaaksossa Kuyda ei hiiskaissut länsimedioille taustastaan Adonjevin kanssa.

Sen sijaan Kuyda alkoi markkinoida ideaansa tekoälykumppanista, Replikasta. Se olisi niin ikään chattibotti, mutta pankkipalvelujen sijaan se tarjoaisi seuraa aivan kuin oikea ihminen.

Oligarkki Adonjev pysyi poissa markkinapuheista, mutta yhtäkkiä Kuyda lisäsi yhtiön syntytarinaan kuolleen ystävän traagisen tarinan.

Tässä on Kuydan mukaan hänen ystävänsä Roman Mazurenko.

Mazurenko kuoli liikenne-onnettomuudessa Moskovassa vuonna 2015.

Kuyda on sanonut luoneensa Romanista tekoälyversion, koska hän halusi jatkaa ystävänsä kanssa viestittelyä.

Tämän syntytarinan Replikasta hän on kertonut kymmenille länsimedioille kuten The New York Timesille. (Kuvat: Michael Macor/Getty Images)

Kuydan markkinointipuheet upposivat. Luka-yritys alkoi kerätä Piilaakson pääomasijoittajilta miljoonaluokan rahoitusta.

Kuyda hyödynsi taitavasti mediahuomiota, jota hän sai teknologia-alan harvinaisena naisjohtajana.

The Guardianille antamassaan haastattelussa Kuyda sanoi, että miehet kehittävät tekoälykumppaneita stereotyyppinen nainen mielessään.

Replikan takana ovat puolestaan naiset, hän mainosti.

– On todella tärkeää, että naiset kehittävät näitä tuotteita, Kuyda sanoi lehdelle.

Oligarkki Adonjev ilmestyi yhtiön syntytarinaan vain, jos haastattelu annettiin venäläiselle medialle. Silloin Kuyda muisti kiittää mentoriaan.

– Ilman häntä [Adonjevia] olisin aivan eri ihminen. Hän opetti minulle kaiken ja kertoi minulle tarkalleen mitä tehdä, Kuyda sanoi Tatler Russia -lehdelle vuonna 2017.

San Franciscon katuja Potrero Hillissä
San Franciscossa toimivat teknologiayhtiöt kehittävät parhaillaan voimakkaasti tekoälyä. Kuva Potrero Hillin kaupunginosasta. Kuva: Jani Saikko / Yle

Tekoälyn kehitys jatkui huimaa vauhtia. Lukan uusimmassa sovelluksessa Blushissa käyttäjä voi keskustella jo hyvin realistisen näköisten tekoälyhahmojen kanssa.

Yle kirjoitti aiemmin, kuinka sovelluksessa tekoälydeitit muuttuvat hetkessä käyttäjää mielyttäviksi, seksinhimoisiksi seuralaisiksi. Tutkijan mukaan tällaiset palvelut saattavat vain lisätä yksinäisten ihmisten syrjäytymistä.

Näin siitä huolimatta, että Kuyda lupasi yrityksensä kehittävän tekoälyhahmoja eri arvoilla kuin Piilaakson mieskoodarit.

Kuydan luomus joutui myös murskakritiikin kohteeksi.

Sovellusten tietosuojaa tutkivan Mozilla-säätiön mukaan Replika-sovellus ei täytä edes minimivaatimuksia käyttäjien yksityisyyden osalta. Säätiö totesi vuosi sitten, että Replika on tietosuojaltaan huonoin sovellus, jonka he ovat koskaan arvioineet.

Luka saa haltuunsa kaikki tekoälykumppanille kerrotut intiimitkin asiat. Käyttäjä ei voi olla varma, poistaako yritys pyydettäessä sovellukselle jaetut tiedot, säätiö totesi.

Blush-sovelluksessa käyttäjä keskustelee tekoälyllä luodun hahmon kanssa. Tekoälykumppani saattaa lähettää intiimejä kuvia. Video: Jani Saikko/Yle

Kuydan kytkökset kotimaahansa joutuivat aiempaa tarkempaan syyniin, kun Venäjä hyökkäsi Ukrainaan.

Ukrainalainen avointen lähteiden tiedustelun ryhmä Molfar esitti vuonna 2022 syytöksen, että yritys saattaa pestä rahaa Venäjälle.

Ryhmä ei kuitenkaan esittänyt todisteita syytökselle. Luka on myös ilmoittanut vastustavansa Venäjän sotaa Ukrainassa.

Kuydan käytös silti muuttui. Viime vuosina hän ei ole esiintynyt länsimediassa enää vanhaan tahtiin Piilaakson lupaavana naisjohtajana.

Kuyda tai Luka-yritys eivät myöskään vastanneet Ylen lukuisiin haastattelupyyntöihin.

Tarina alkoi saada yhä oudompia piirteitä, kun Yle selvitti yhtiön toimintaa San Franciscossa.

Tässä kuvassa Eugenia Kuyda poseeraa Luka-yhtiönsä toimistossa San Franciscossa vuonna 2017. (Kuvat: Michael Macor/Getty Images)

Yhtiön ilmoittaa pääkonttorinsa sijainniksi yhä saman osoitteen, mutta rakennus on typötyhjä.

Ikkunalla on suuri vuokrattavana-ilmoitus. Sisäänkäynnin ovikello on poltettu.

Luka-yhtiöllä on myös toinen osoite lähistöllä.

Oven avaa nainen, joka ei tiedä mitään yhtiöstä. Hän sanoo, että firman postia tulee edelleen välillä osoitteeseen.

Useiden yritysten jälkeen Luka-yhtiön puhelinnumeroon vastaa naisääni, joka kertoo toimistolle vielä kolmannen osoitteen.

Kohde on kotitalo, jossa oven avaa kodinhoitaja. Hänen mukaansa talon asukas ei ole paikalla, mutta tämä voi puhua lyhyesti puhelimen välityksellä.

Puhelimessa on Eugenia Kuyda.

Alla oleva video näyttää, miten Kuyda muuttaa tarinaansa jälleen. Kuyda sanoo Ylelle, että yhtiöllä ei ole työntekijöitä San Franciscossa. Hän myös väittää, että ei tunne oppi-isäänsä oligarkki Adonjevia.

Kuydan yrityksen toiminta on Ylen haastattelemien asiantuntijoiden mukaan erittäin epäilyttävää.

Yritys kertoo Blushin ja Replikan tietosuojaselosteissa keräävänsä haltuunsa kaikki tekoälykumppaneille lähetetyt viestit, kuvat ja videot.

Luka-yhtiö ei kerro lainkaan, missä se säilöö tätä dataa ja missä sitä käsitellään.

F-Securen kyberuhkatiedustelupäällikkö Laura Kankaala pitää tätä varoittavana merkkinä.

– Lähtökohtaisesti yritykset, jotka toimivat sääntöjen mukaisesti, noudattavat läpinäkyvyyttä datan käsittelyn osalta, Kankaala sanoo.

Ylen hankkimien tietojen mukaan Luka-yhtiön tuotekehitys tapahtuu todennäköisimmin Venäjällä.

Alla olevalla videolla näkyy, miten yritys kertoo, että sen työntekijöillä on kokemusta maineikkaista venäläisistä yrityksistä ja yliopistoista. Yle käänsi suomeksi otteita Lukan venäjänkielisestä työpaikkailmoituksesta.

Vaaleanvihreä kerrostalo, edessä kulkee ihmisiä toppatakeissa.
Luka-yhtiö ilmoitti tämän talon toimistonsa osoitteeksi Moskovan keskustassa. Yle kävi tutustumassa osoitteeseen, mutta paikan päältä ei löytynyt yrityksen logoa tai toimiston ovikelloa. Video yllä: Harri Vähäkangas/Yle. Kuva alla: Heikki Heiskanen/Yle

Teknologia-alalla on yleistä, että yrityksen tuotekehitys ja markkinointi tapahtuvat eri maissa.

Vaikka käyttäjien tietoja säilytettäisiin esimerkiksi amerikkalaisella palvelimella, yrityksen koodareilla on pääsy dataan, sanoo tietotekniikkaan keskittyvä tietokirjailija Petteri Järvinen.

– Voi sanoa, että tiedot ovat venäläisten käytettävissä, hän arvioi.

Järvinen varoittaa, että käyttäjien henkilötiedot tai tekoälykumppanille kerrotut intiimit yksityiskohdat saattavat Lukan tapauksessa vuotaa koodareilta myös heidän verkostoilleen.

– Koodareiden tausta saattaa liittyä Venäjän tiedusteluun tai armeijaan, joten olisin erityisen varovainen.

EU:n alueella ainoastaan Italian tietosuojaviranomainen on kieltänyt Replikan toiminnan sen puutteellisen tietosuojan takia.

F-Securen Kankaala on samoilla linjoilla Järvisen kanssa.

– En kertoisi sille henkilökohtaisia asioita, joita en olisi valmis paljastamaan koko maailmalle, Kankaala sanoo.

Eugenia Kuyda ei vastannut Ylen lähettämään sähköpostiin San Franciscossa käydyn puhelinkeskustelun jälkeen. Yle lähetti Kuydalle tarkentavia kysymyksiä yrityksen yhteyksistä oligarkki Adonjeviin sekä mahdollisista yhteyksistä Venäjän hallintoon.

Jutun aloitusvideon lähteet: Henkilökuva, Michael Macor/Getty Images. Videot San Franciscosta: Jani Saikko/Yle

Täsmennetty 23.2. klo 16.10 Mozillan arvion ajankohtaa.