Yksityisyys Vaarassa: Meta-älylasien Kyky Paljastaa Henkilötietoja
Kasvontunnistus on löytänyt tiensä ”Metan Google Glass -laseihin”, jotka tunnetaan myös nimellä Ray-Ban Meta Smart Glasses. Se tapahtuu epävirallisena ”kolmannen osapuolen” kokeiluna.
Voisi sanoa, ettei ole viisasta antaa Metalle tällaista ideaa – mutta toisaalta ajatus on jo käynyt jättiläisen mielessä. Teknologia on ollut olemassa jo jonkin aikaa, ja sekä Googlen että Facebookin (Meta) on siteerattu sanoneen, että vuosia sitten he olivat kehittäneet sen, mutta sitten entisen toimitusjohtajan Eric Schmidtin mukaan Google ”pidätteli sitä”.
Teknologia on kaksiteräinen miekka, joka lupaa tehdä elämästämme helpompaa ja samalla teroittaa itseään hiljaa sitä päivää varten, jolloin se iskee meitä selkään. Metan uusin yritys, joka on kehittänyt puettavaa teknologiaa – älykkäät silmälasit, joissa on sisäänrakennettu kasvojentunnistus – saa tekniikan harrastajat kuohumaan suustaan. Meille muille ehdotus herättää kuitenkin huolestuttavan kysymyksen: olemmeko todistamassa teknologisen utopian alkua vai dystooppista kauhusarjaa, jossa jokaisesta julkisesta tilasta tulee digitaalinen panopticon?
Visio mukavuudesta, jossa on mukana orwellistista kauhua
Kuvittele tämä: kuljeskelet kaupungilla, ja Meta-lasit kertovat sinulle, että kulman sushipaikalla on viiden tähden Yelp-arvostelu tai että sinua lähestyvällä tuntemattomalla ihmisellä on kolme yhteistä Facebook-kaveria. Kuulostaa hyvältä, eikö vain? Kunnes huomaat, että samat lasit voivat myös välittömästi paljastaa nimesi, osoitteesi ja viimeisimmän huonosti mietityn twiittisi kenelle tahansa, jolla on lasit ja joka on kiinnostunut niistä. Aivan oikein: elämäsi on digitalisoitu ja ladattavissa reaaliajassa.
Lisätyn todellisuuden lupaus muuttuu ”hyödyllisestä digitaalisesta avustajasta” ”ahdistelijan iloksi” nopeammin kuin ehdit sanoa ”yksityisyyden loukkaus”. George Orwellin dystopiassa Isoveli tarkkaili sinua. Metan versiossa valvontatyökalut annetaan paikallisen kahvilan kavereille.
“Siistiä tekniikkaa” vai valeasussa oleva vakoiluväline?
Toki Meta väittää, että sen aikeet ovat jalot. He esittelevät kasvontunnistukselle käyttötapoja, jotka vetävät sydämen sydämeen: unohtavien vanhusten auttaminen tunnistamaan rakkaansa tai lainvalvontaviranomaisten auttaminen pahojen poikien kiinniottamisessa. Mutta älkää erehtykö – tämä tekniikka ei ole vain Margaret-tädin kasvojen muistamista kiitospäivänä. Kyse on tiedosta, vallasta ja voitosta.
Tämän teknologian niin sanottu ”siisteys” peittää alleen liukkaan tien. Nykyään se on vain kätevä työkalu, jolla voi löytää ystäviä joukosta. Huomenna se on laite, jolla tunnistetaan toisinajattelijoita, profiloidaan ostajia tai luokitellaan sosiaalista luottoluokitustasi. Unohda anonymiteetti julkisella paikalla; kun tämä tekniikka saavuttaa kriittisen massan, jokainen on kävelevä QR-koodi, joka voidaan skannata milloin vain.
Eikä huijata itseämme: ihmiset, jotka hyötyvät tästä eniten, eivät ole muistihäiriöisiä mummoja. Ne ovat yrityksiä ja hallituksia, jotka ovat valmiita keräämään jokaisen pikselin kasvoistasi ja jokaisen tavun tiedoistasi.
Dystooppinen tulevaisuus: Metan johdolla
Jos tarvitset apua kuvitellessasi, mihin tämä kaikki johtaa, mieti tulevaisuutta, jossa jokainen retki on tiedonhakuretki. Silmälasit kirjaavat jokaisen liikkeesi ja vuorovaikutuksesi ja siirtävät kaiken pilveen. Kuka pääsee käsiksi tähän aarreaittaan? Hallitukset, yritykset ja – miksei – hakkerit.
Kuvittele yhteiskunta, jossa anonymiteetti on hävinnyt ja pelkkä ulos astuminen tekee sinusta reilun riistan tuomitsemiselle, valvonnalle ja manipuloinnille. Ehkä sinulta evätään työpaikka, koska silmälasisi ovat kasvonilmeesi perusteella merkinneet sinut ”tilastollisesti riskialttiiksi”. Ehkä mainokset kohdistuvat sinuun, koska päivittäiset kävelysi osoittavat, että olet kiinnostunut joogamatoista. Tai vielä pahempaa, sinut tunnistetaan ”uhkaksi”, koska osallistuit rauhanomaiseen mielenosoitukseen, jonka väärä algoritmi merkitsi ”epäilyttäväksi”.
Maailma ilman luottamusta
Psykologinen hinta olisi huikea. Elämä yhteiskunnassa, jossa jokainen on potentiaalinen tirkistelijä – ja kaikkia tarkkaillaan – tuhoaa luottamuksen rakenteen. Julkisista keskusteluista tulisi varovaisia. Henkilökohtainen ilmaisu kuihtuisi. Julkisen elämän vireys romahtaisi jatkuvan valvonnan painon alla. Lyhyesti sanottuna nämä lasit eivät ehkä vain loukkaa yksityisyyttäsi, vaan ne voivat myös muuttaa sosiaalisen vuorovaikutuksen sääntöjä.
Liitymmekö mukaan vai jäämmekö pois?
Kysymys ei ole siitä, myyvätkö Metan lasit – totta kai myyvät. Kiiltävän uuden teknologian houkutus on aina suurempi kuin epämääräinen pelko yhteiskunnan romahtamisesta. Todellinen kysymys on se, valitsemmeko yhteiskuntana mukavuuden yksityisyyden sijaan ja edistyksen autonomian sijaan. Tai tarkemmin sanottuna, onko tämä valinta edes meidän tehtävissämme, kun tekniikasta tulee jokapäiväistä.
Metan visio tulevaisuudesta voisi olla hyvä scifi-elokuva. Valitettavasti meidän on elettävä siinä. Ja toisin kuin elokuvissa, emme saa onnellista loppua, jossa sankarit poistavat pahat koneet. Sillä tällä kertaa koneet eivät ole vihollinen. Me olemme.
Googlen ”älylasien” epäonnistumisesta on kulunut jo joitakin vuosia, ja tilanne on muuttunut, ei niinkään tiettyjen teknologioiden saatavuuden, vaan pikemminkin halukkuuden käyttää niitä – kuten koneoppimisen (”AI”) mahdollistamien ja hyvin kiisteltyjen biometristen valvontamenetelmien sisällyttäminen yhä useampiin tuotteisiin ja palveluihin.
Kasvontunnistuksen lisääminen tähän tiettyyn Meta-tuotteeseen tapahtui kahden Harvardin opiskelijan ansiosta, jotka sanovat, että heidän hankkeensa (I-XRAY) tärkein ajatus on, että se on ”mielenkiintoinen ja siisti”.
Se on myös vakava varoitus tämänkaltaisen integraation tekemisen vaaroista. 404 Media kutsuu sitä ”automaattiseksi doxxingiksi”.
”Siistin” projektin tulokset ovat melko suoraviivaisia – pahaa-aavistamattomien ihmisten yksityisyyden massiivinen loukkaaminen. Lisäksi se valottaa sitä, mitä tapahtuu, kun kasvojentunnistusta käytetään muissa tilanteissa, kuten hallitusten, lainvalvontaviranomaisten, tapahtumapaikkojen ja rahoituspalvelujen toimesta.
Opiskelijoiden AnhPhu Nguyenin ja Caine Ardayfion muokkaamia Metan ”älylaseja” käyttävä henkilö katsoo tuntematonta henkilöä, jonka kasvot tunnistetaan, minkä jälkeen hänestä saadaan internetistä henkilökohtaisia tietoja, kuten puhelinnumero, kotiosoite ja jopa tietoja perheenjäsenistä.
Opiskelijoiden X-sivustolla julkaiseman demon mukaan ”(…) kun kävelet ihmisten ohi, silmälasit tunnistavat, kun jonkun kasvot ovat kehyksessä. Muutaman sekunnin kuluttua heidän henkilökohtaiset tietonsa ilmestyvät puhelimeesi.”
Räätälöityjen silmälasien tekijät menivät niinkin pitkälle, että he kuvasivat itseään lähestymässä tuntemattomia, joiden henkilötiedot he olivat saaneet käyttöönsä heidän tietämättään, ja väittivät valheellisesti tavanneensa tapahtumassa (muka saatuaan tietää, että henkilö oli paikalla hänen verkkoesiintymisensä perusteella).
Nguyenin mukaan kasvontunnistuksella varustettujen silmälasien käyttö voi vaihdella verkostoitumisesta, kepposista ja hauskoista videoista aina kyttäämiseen asti.
Ardayfio puolestaan kertoi yhden reaktion henkilöltä, joka näki, miten heidän muokkaamansa lasit toimivat. ”Mistä tiedät äitini puhelinnumeron?”, ‘kohde’ kysyi.
Vaikka Google ja Meta ovat aiemmin ilmoittaneet, etteivät ne yhdistäisi kameroita kasvojentunnistukseen, koska se olisi liian pitkälle menevää jopa niiden standardeilla, muut eivät ole olleet yhtä ”ujoja”.
Vaikka yritykset pitävät ohjelmistonsa ja menetelmänsä omana tietonaan, Harvardin opiskelijat sanovat pystyneensä muokkaamaan Metan laseja käyttämällä PimEyesia – julkisesti saatavilla olevaa kasvojen ja käänteisten kuvien hakukonetta.
Sen jälkeen käytetään suurta kielimallia (LLM), jolla kasvot yhdistetään nimeen ja muihin henkilötietoihin, ja lopuksi ”I-XRAY suorittaa haun henkilöhakusivustolla (data brokers)”, kirjoittaa julkaisu.
Raportissa mainitaan paljon keskustelua herättänyt ja kritisoitu Clearview-yritys, joka käyttää suunnilleen samaa polkua rakentaessaan työkaluja, jotka käyttävät biometriikkaa, keräävät ihmisten tietoja internetistä ja vertailevat ja täsmäävät. Ongelmana on, että tässä tapauksessa kyse ei ole ”siististä” kokeilusta, vaan suuresta valvontabisneksestä, jolla on valtion asiakkaita, lähinnä lainvalvontaviranomaisia.
Clearview’n seuraava hanke on myös ”älylasit”, joissa on sisäänrakennettu kasvontunnistustekniikka, ja raportissa kerrotaan, että sitä koskevaan tutkimukseen liittyy sopimus Yhdysvaltain ilmavoimien kanssa.
Metan vastaus kommenttipyyntöön kuulosti hieman ärtyneeltä.
”PimEyesin kasvojentunnistusteknologiaa voitaisiin käyttää MILLAISELLA kameralla, eikö totta?”, sanoo PimEyes. Toisin sanoen tämä ei ole jotain, joka on mahdollista vain Meta Ray-Bansin ansiosta? Jos näin on, se on mielestäni tärkeä huomioida artikkelissa”, tiedottaja vastasi.
Toisin sanoen – ei mitään tunnustusta siitä, että tämä tarkoittaa, että Meta myy tuotetta, joka voidaan helposti muuttaa vaaralliseksi, yksityisyyden suojaan äärimmäisen häiritseväksi työkaluksi.
Yksi syy, kuten artikkelissa todetaan, on se, että Meta Ray Ban 2 näyttää samalta kuin mitkä tahansa muutkin silmälasit (lukuun ottamatta pientä LED-merkkivaloa kuvaamisen aikana), mikä tarkoittaa, että ihmiset eivät todennäköisesti ole tietoisia vaarasta, toisin kuin silloin, kun ”MIKÄ tahansa” muu kamera on suunnattu heidän kasvoihinsa.
Mutta sitten varmasti – Metalla on tiukat käyttöehdot, joilla suojellaan väestöä sen ”älylasien” väärinkäytöltä?
Metan tiedottaja viittasi lasien mukana tulevan sovelluksen, Facebook Viewn, käyttöehtoihin. ”Olet myös vastuussa siitä, että käytät Facebook Viewta turvallisella, laillisella ja kunnioitettavalla tavalla”, käyttöohjeissa sanotaan.