EU:n suunnitelman yksityisen viestinnän skannaamisesta ”laittoman sisällön” varalta uskottiin yleisesti olevan kuollut julkisen paheksunnan ja useiden jäsenvaltioiden vastarinnan jälkeen. Nyt se on palannut – uudelleenbrändätty, uudelleen pakattu ja takaoven kautta ohjattu.

EU:n uutta luonnosta lasten seksuaalista hyväksikäyttöä koskevaksi asetukseksi (CSAR) pidetään ”kompromissina”. Todellisuudessa siinä säilytetään sama ydinajatus: palveluntarjoajat asetetaan vastuuseen ”verkossa tapahtuvan hyväksikäytön” ehkäisemisestä tavalla, jolla voidaan perustella jokaisen yksityisen viestin skannaaminen, ja digitaalinen viestintä sidotaan tiukemmin reaalimaailman identiteettiin.(Patrick Breyer)

Digitaalisten oikeuksien puolestapuhuja ja entinen Euroopan parlamentin jäsen Patrick Breyer kutsuu sitä ”korkeimman luokan poliittiseksi petokseksi” – eikä hän liioittele.(Patrick Breyer)

Tarkastellaanpa, mikä on muuttunut ja mikä ei.

1. Nopea yhteenveto: mitä Chat Controlin piti olla?

Virallisesti ”Chat Control” viittaa EU:n ehdotukseen asetukseksi lasten seksuaalisen hyväksikäytön ehkäisemisestä ja torjumisesta, joka esiteltiin ensimmäisen kerran vuonna 2022. Paperilla tavoitteena on torjua lasten seksuaalista hyväksikäyttöä koskevaa materiaalia (CSAM) ja ”groomingia” verkossa. Käytännössä asetuksella luodaan välineitä mm:

  • yksityisen viestinnän, kuten viestien, kuvien, videoiden ja URL-osoitteiden, skannaaminen.
  • skannataan tunnettujen CSAM:ien lisäksi myös ”tuntematonta” materiaalia ja jopa keskustelumalleja.
  • skannauksen laajentaminen palveluihin, jotka käyttävät päästä päähän -salausmenetelmää (E2EE)(Patrick Breyer).

Tällä hetkellä väliaikainen ”ePrivacy-poikkeus” – lempinimeltään Chat Control 1.0 – antaa alustoille mahdollisuuden skannata vapaaehtoisesti CSAM-tietoja rikkomatta EU:n tietosuojasääntöjä. Kourallinen lähinnä yhdysvaltalaisia palveluja (Gmail, Facebook/Instagram Messenger, Skype, Snapchat, jotkin pilvipalvelut) toimii jo näin.(Patrick Breyer)

Kun komissio yritti siirtyä vapaaehtoisesta skannauksesta pakolliseen skannaukseen (Chat Control 2.0), se törmäsi tiiliseinään:

  • Digitaalisia oikeuksia puolustavat ryhmät varoittivat yleisestä massavalvonnasta ja salausluukuista(European Digital Rights (EDRi)).
  • Tekniset asiantuntijat huomauttivat, että ”asiakaspuolen skannaus” – eli sisällön skannaaminen laitteessa ennen salausta – on toiminnallisesti erottamaton valtion määräämistä vakoiluohjelmista.(TechRadar)
  • Useat hallitukset (Saksa, Alankomaat, Puola, Itävalta, Suomi, Viro, Luxemburg ja Tšekki) ilmoittivat, etteivät ne tukisi summittaista skannausta.(euronews)

Neuvoston puheenjohtajavaltio Tanska vetäytyi sitten alkuperäisestä tekstistä tuen puutteen vuoksi – ja aloitti välittömästi ”kompromissiluonnoksen” työstämisen.(TechRadar)

Tästä ”kompromissista” Breyer ja Reclaim The Net nyt hälyttävät.

2. Mitä uutta ”takaoviversiossa” on?

Tärkein poliittinen temppu on yksinkertainen:

  • Ilmeisin pakollinen skannauskieli on poistettu (vanhat ”havaintomääräykset”).
  • Sen sijaan palveluntarjoajien on toteutettava ”kaikki asianmukaiset riskinhallintatoimenpiteet” estääkseen lasten seksuaalisen hyväksikäytön alustoillaan.(EU Tech Loop)

Päällisin puolin tämä kuulostaa pehmeämmältä ja joustavammalta. Todellisuudessa se voidaan muuttaa tyhjäksi sekiksi:

  • Jos jokin palvelu on luokiteltu ”korkean riskin” palveluksi, viranomaiset voivat väittää, että ainoa ”asianmukainen” tapa vähentää riskiä on skannaus – myös salatuissa palveluissa.(Patrick Breyer)
  • Jos palveluntarjoajat kieltäytyvät, niitä voidaan syyttää lakisääteisten velvollisuuksiensa laiminlyönnistä ja niille voidaan määrätä seuraamuksia.

Breyer tiivistää asian seuraavasti: ”Poistimme pakollisen skannauksen etuoven, mutta asensimme valtavan sivuportin ”riskien lieventämisen” avulla.”(Patrick Breyer)

Selkeän, rehellisesti ilmoitetun toimeksiannon sijaan EU saa siis jotakin, mikä on luultavasti vielä pahempaa: jatkuvaa oikeudellista painostusta tarkkailuun, jonka yksityiskohdat on ulkoistettu byrokraateille, sääntelyviranomaisille ja ”teknisille standardeille”.

3. Neljä pääongelmaa

3.1 Tosiasiallinen yleistetty skannaaminen

Uuden tekstin mukaan palveluntarjoajien on:

  • tehdä riskinarviointeja
  • toteuttaa ”tehokkaita” lieventämistoimenpiteitä
  • osoittaa sääntelyviranomaisille, että niiden toimenpiteet todella vähentävät riskejä(europarl.europa.eu).

Jos lainvalvontaviranomaiset ja komissio päättävät, että skannaaminen on ainoa ”tehokas” toimenpide, kaikki suuret palveluntarjoajat joutuvat skannaamaan:

  • Kuvat ja videot CSAM-hashtietokantoja vastaan.
  • Tekoälyalgoritmeja käyttäväteksti, jossa merkitään ”grooming”, seksuaalinen sisältö tai epäselvät lauseet.
  • Metatiedot (kuka puhuu kenelle, milloin, mistä) kuvioanalyysia varten.(Patrick Breyer)

Breyer huomauttaa, että Saksassa noin puolet nykyisten vapaaehtoisten skannauspalvelujen epäilyttävistä ilmoituksista osoittautuu merkityksettömiksi – vääriksi positiivisiksi ilmoituksiksi tai harmittomaksi sisällöksi.(Patrick Breyer)

Laajenna tämä kuvista kaikkiin chat-viesteihin: sarkasmiin, flirttailuun, roolipeleihin, synkkään huumoriin, terapiakeskusteluihin. Järjestelmä tekee virhetuloksen, ja jokainen virhetulos tarkoittaa:

  • syyttömiä ihmisiä tutkitaan
  • yksityinen aineisto tallennetaan ja jaetaan viranomaisten kanssa
  • todelliset hyväksikäyttäjät piilossa melussa

”Tekoälyn avulla tapahtuva massaskannaus ei ymmärrä kontekstia. Se ei pysty erottamaan flirttailua groomingista. Se pystyy erittäin hyvin tuottamaan valtavia määriä hälytyksiä”, kuten eräässä oikeudellisessa analyysissä sanotaan.(europarl.europa.eu)

3.2 Hyökkäys salausta vastaan asiakaspuolen skannauksen avulla

Loppupäästä päähän -salaus tarkoittaa yleensä sitä, että vain sinä ja vastaanottaja voitte lukea viestin. Edes palveluntarjoaja ei voi nähdä sitä.

Chat Controlin vastaus tähän on asiakaspuolen skannaus:

  • laite skannaa viestejä ja mediaa paikallisesti
  • epäilyttävä sisältö merkitään ennen salausta .
  • merkitty sisältö (ja mahdollisesti yksityiset keskustelusi) lähetetään alustalle ja/tai viranomaisille(Patrick Breyer).

Signal on jo kuvaillut tätä lähestymistapaa haittaohjelmien asentamisen kaltaiseksi: laitteeseen asettuva ja siitä raportoiva valvonta-agentti. Sovellus on sanonut avoimesti, että se mieluummin jättää EU:n kuin ottaa käyttöön tällaisen skannauksen.(TechRadar)

Tarkistetussa tekstissä ei nimenomaisesti edellytetä ”asiakaspuolen skannausta”, mutta sitomalla palveluntarjoajat ”tehokkaisiin lieventämistoimiin” ja mainitsemalla E2EE-palvelut ”korkean riskin palveluina” se luo pohjan juuri tälle.(EU Tech Loop)

Sinulla ei voi olla samanaikaisesti:

  • vankka, luotettava päästä päähän -salaus ja
  • lakisääteinen velvollisuus tarkastaa jokainen viesti.

Yhden niistä on väistyttävä.

3.3 Anonymiteetin loppu: ikä- ja henkilötarkastukset viestien lähettämisessä

Uudessa luonnoksessa mennään skannausta pidemmälle ja siirrytään identiteetin ja pääsynvalvontaan:

  • Ikävarmennus tulee pakolliseksi viestinvälitys- ja sähköpostialustoille pääsyssä.
  • Alustojen on käytettävä virallisia henkilöllisyystodistuksia, digitaalisia henkilöllisyystodistuksia tai biometrisiä tarkistuksia.(Patrick Breyer)

Vaikka laissa ei koskaan avoimesti sanota, että ”passit on skannattava”, yhdistelmä:

  • vastuu siitä, että alaikäiset käyttävät palveluita ”turvattomasti”, ja
  • tiukat ikärajat

luonnollisesti ajaa markkinoita kohti henkilöllisyystodistukseen perustuvaa ikävarmennusta. Iän todentamiseen mittakaavassa on vain rajallinen määrä tapoja.

Breyer kutsuu tätä ”anonyymin verkkoviestinnän tosiasialliseksi lopuksi”, eikä hän ole väärässä.(Patrick Breyer)

Tappiot ovat ennakoitavissa:

  • ilmiantajat
  • toimittajien lähteet
  • poliittiset toisinajattelijat ja aktivistit
  • ihmiset, jotka hakevat apua hyväksikäyttöön, riippuvuuteen, seksuaalisuuteen tai mielenterveyteen liittyvissä asioissa ympäristöissä, joissa he eivät voi olla turvallisesti avoimia.

Komissio puhuu ”turvallisuudesta”, mutta se luo puitteet, joissa lähes jokainen merkityksellinen verkkovuorovaikutus on kytkettävä todennettuun reaalimaailman henkilöllisyyteen.

3.4 Alle 16-vuotiaiden kieltäminen viestialustoilta

Yksi kompromissin hiljaisemmin järkyttävistä elementeistä on säännös, joka estää tehokkaasti alle 16-vuotiaita käyttämästä viestinvälitys- ja chat-pohjaisia sosiaalisia alustoja.(Patrick Breyer)

Logiikka näyttää olevan seuraava:

  • alaikäiset ovat riskiryhmä
  • Siksi turvallisin vaihtoehto on yksinkertaisesti sulkea ne pois suurelta osin verkkoviestinnästä.

Breyer kutsuu tätä ”digitaaliseksi eristämiseksi koulutuksen sijasta”, ja siitä on vaikea kiistää.(Patrick Breyer)

Sen sijaan:

  • digitaalisen lukutaidon opettaminen
  • lasten ja vanhempien voimaannuttaminen
  • parempien raportointi- ja tukijärjestelmien rakentaminen

EU:n ehdotuksessa pyritään ”suojelemaan” lapsia leikkaamalla heidät pois samoista viestintäkanavista, joita heidän ikätoverinsa, koulunsa ja yhteisönsä käyttävät.

4. Poliittinen taistelukenttä: kuka estää tämän?

Neuvoston dynamiikka on sotkuista ja häilyvää, mutta muutama asia on selvä:

  • EU:n puheenjohtajavaltio Tanska ajaa aktiivisesti tätä tarkistettua luonnosta ja on jo esittänyt yli 200-sivuisen kompromissitekstin.(EU Tech Loop)
  • Lainvalvontatyöryhmän (LEWP) kokoukset 5. ja 12. marraskuuta osoittavat, että useat hallitukset ovat lämmenneet uudelle sanamuodolle, koska siinä ei enää sanota avoimesti, että ”skannataan kaikki”.(TechRadar)
  • Kuukausia kestäneen sisäisen kiistan jälkeen Saksa sitoutui lokakuussa julkisesti äänestämään alkuperäistä Chat Control -ehdotusta vastaan perustuslaillisista syistä – mutta tämä tapahtui ennen Tanskan ”kompromissiversiota”.(TechRadar)

Breyerin kehotuksessa nimenomaisesti nimetään:

Saksa, Alankomaat, Puola, Tšekki, Luxemburg, Suomi, Itävalta, Viro, Itävalta ja Saksa.

valtioina, jotka ovat aiemmin vastustaneet massavalvontaa ja joiden on nyt pidettävä linja uudelleen.(Patrick Breyer)

Se, tekevätkö he niin, riippuu seuraavista seikoista:

  • kuinka paljon he pelkäävät, että heidät maalataan ”pehmeiksi lasten hyväksikäytön suhteen”.
  • kuinka huolellisesti he lukevat riskinhallinta- ja ikävarmennuslausekkeet.
  • kuinka paljon painostusta he tuntevat kotimaan yksityisyyden suojan puolustajien ja lainvalvontaviranomaisten eturyhmien taholta.

Jos estävä vähemmistö neuvostossa kaatuu, asetus siirtyy seuraavaan vaiheeseen – ja parlamentti joutuu tällöin neuvottelemaan paljon huonommista lähtökohdista.

5. Miltä tämä näyttäisi käytännössä

Jos tämä paketti hyväksytään nykyisessä muodossaan, EU:n käyttäjien arki voi näyttää seuraavalta:

  1. Viestisovellukseen rekisteröityminen
    • Sinua pyydetään vahvistamaan ikäsi.
    • Tämä voi tarkoittaa henkilöllisyystodistuksen lataamista, kansallisen digitaalisen henkilötunnuksen käyttämistä tai biometrisen tarkistuksen suorittamista kolmannen osapuolen palveluntarjoajan kautta.
  2. Salatun messengerin käyttäminen
    • Kulissien takana sovellus suorittaa asiakaspuolen skannauksen laitteessasi.
    • Kuvat ja videot hakkeroidaan ja niitä verrataan tunnettuihin CSAM-tietokantoihin.
    • Teksti syötetään tekoälymalleille, jotka etsivät ”hoivaavia” malleja.(Patrick Breyer)
  3. Yksityinen, arkaluonteinen keskustelu
    • Musta laatikko -algoritmit analysoivat jatkuvasti keskusteluja kumppanin, lapsen, terapeutin tai tukiryhmän kanssa.
    • Vitsi, roolipeli tai asiayhteyden ulkopuolinen lause voi laukaista lipun.
    • Merkityt keskustelut kopioidaan, tallennetaan ja mahdollisesti tarkistetaan ihmismoderaattoreiden tai lainvalvontaviranomaisten toimesta.
  4. Jos olet alle 16-vuotias
    • Monet valtavirran viestintä- ja sosiaaliset alustat eivät yksinkertaisesti ole käytettävissäsi EU:ssa.
    • Ohituskeinot ja harmaiden markkinoiden sovellukset kukoistavat; lapset menevät sinne, missä valvonta on heikointa ja maltillisuus pahinta.

Sillä välin rikolliset, joilla on vakavia aikomuksia:

  • siirtyminen mukautettuihin asiakkaisiin, maanalaisiin verkostoihin ja erikoistuneisiin työkaluihin.
  • hyödyntää väärien positiivisten tulosten aiheuttamaa kaaosta ja kohinaa.
  • hyötyvät heikentyneestä tietoturvasta (koska hekin voivat käyttää kaikkia takaovia väärin).

Tuloksena on tuttu kaava: tavalliset ihmiset saavat massavalvontaa, saalistajat ja järjestäytynyt rikollisuus mukautuvat.

6. Miltä järkevä vaihtoehto näyttäisi

Breyer ja monet muut eivät kannata sitä, että lasten hyväksikäytölle verkossa ei pitäisi tehdä mitään. He vastustavat koko EU:n muuttamista pysyväksi skannausverkoksi.(Patrick Breyer)

Järkevässä, oikeuksia kunnioittavassa lähestymistavassa keskityttäisiin seuraaviin asioihin:

  • Kohdennetut tutkimukset tiukassa oikeudellisessa valvonnassa, kun on olemassa konkreettinen epäily.
  • Parannetaan poliisin valmiuksia seurata olemassa olevia ilmoituksia (joista suuri osa jää jo nyt tutkimatta).
  • Alustatyökalut, jotka käyttäjät voivat valita vapaaehtoisesti (turvalliset hakutilat, sisällön suodatusvaihtoehdot, lapsilukko).
  • Kansainvälinen yhteistyö tunnettujen väärinkäyttäjien ja rikollisverkostojen jahtaamiseksi eikä vain loputtomien automaattisten hälytysten tuottamiseksi.

Ja ennen kaikkea:

  • Vahvan, katkeamattoman salauksen säilyttäminen tietoturvan perustasona, eikä sen pitäminen ”ongelmana”, joka on ohitettava.
  • Anonyymien kanavien säilyttäminen niille, joiden turvallisuus riippuu niistä – ilmiantajille, toisinajattelijoille ja haavoittuville ryhmille.(Euroopan digitaaliset oikeudet (EDRi))

7. Pohja

Uusi Chat Control -luonnos ei ole kompromissi. Se on poliittista kosmetiikkaa:

  • Poistetaan nimenomainen ”skannataan kaikki” -kohta.
  • lisätään epämääräinen mutta sitova ”riskinhallintavelvoite”.
  • henkilöllisyystarkastuksia ja alle 16-vuotiaiden kieltoja koskeva kerros
  • kutsuvat sitä ”vapaaehtoiseksi”, ”joustavaksi” ja ”lapsikeskeiseksi”.

Teknisestä ja oikeudellisesta näkökulmasta katsottuna tämä merkitsee edelleen seuraavaa:

  • tehokas infrastruktuuri yksityisen viestinnän massavalvontaa varten
  • järjestelmällinen hyökkäys salausta vastaan asiakaspuolen skannauksen ja ”korkean riskin palveluiden” merkinnän avulla.
  • jokapäiväiseen verkkoelämään liitetty tosiasiallinen identiteettijärjestelmä.
  • rakenteellinen hyytävä vaikutus journalismiin, aktivismiin ja kaikkiin, jotka tarvitsevat yksityisyyttä ollakseen turvassa.

Breyerin loppupuheenvuoro Reclaim The Net -artikkelissa on suorasukainen mutta tarkka: ne myyvät turvallisuutta ja toimittavat täydellisen valvontakoneen.(reclaimthenet.org)

Jos EU:n hallitukset hyväksyvät tämän, ne eivät vain äänestä lastensuojelutoimenpiteestä. Ne äänestävät myös siitä, sallitaanko yksityinen keskustelu ja nimetön puhe edelleen Euroopassa.

📚 Lähteet

  • Patrick Breyer – yleiskatsaus Chat Control -järjestelmään ja nykyiseen poikkeukseen (”Chat Control 1.0”).(Patrick Breyer)
  • Patrick Breyer – ”Chat Control 2.0 takaoven kautta” -varoitus Tanskan uudesta kompromissista.(Patrick Breyer)
  • Reclaim The Net – ”EU:n yksityisviestien skannaussuunnitelman naamioitu paluu”.(reclaimthenet.org)
  • EDRi – ”Chat Control: Mitä oikeastaan tapahtuu?” (analyysi CSA-asetuksesta ja neuvoston prosessista).(European Digital Rights (EDRi))
  • TechRadar & Euronews – raportoi Tanskan uudesta luonnoksesta, LEWP-kokouksista ja Saksan kannasta.(TechRadar)
  • Signaali- ja tietoturva-asiantuntijat asiakaspuolen skannauksesta ja salausriskeistä.(TechRadar)
  • Oikeudelliset analyysit CSA-ehdotuksen riskinhallinta- ja skannaussäännöksistä.(europarl.europa.eu)