Vanessa Renner: Hullu AI-ohjelma: Kansalaisia ​​tulee kohdella mahdollisina murhaajina henkilötietojen perusteella

Muistatko elokuvan, jossa Tom Cruise pidätti ihmisiä ennaltaehkäisevästi, koska kolme meediota päätti, että he aikoivat tehdä rikoksen? Inspiraation “Minority Report” -julkaisuun antoi kirjailija Phil K. Dick novellissa vuonna 1956. Isossa-Britanniassa ihmiset ovat nyt päättäneet vihdoin toteuttaa tämän hullun unelman: Organisaatio on tuonut tietoa vastaavasta hallitusohjelmasta . Henkilökohtaisimpien tietojen perusteella algoritmi leimaa ihmiset mahdollisiksi murhaajiksi.

Dystopistiset tarinat näyttävät olevan nykyisten hallitusten ohjekirjoja väestön hallintaan – jotkut pitävät tätä merkkinä siitä, että nykyiset voimakkaat eivät ole millään tavalla huonompia kuin menneisyyden, jotka inspiroivat Dickin kaltaisten kirjailijoiden tuhoisat tulevaisuudennäkymät. The Minority Reportissa Dick maalasi synkän kuvan julmasta ja invasiivisesta valtiosta, joka sulki ihmiset, jotka eivät olleet tehneet mitään. Kysymys ihmisen vapaasta tahdosta ei enää noussut esiin – jos “Precogit”, selvänäkijäkykyiset mutantit syyttivät jotakuta rikollisista aikeista, heidät poistettiin liikenteestä. Samanniminen “vähemmistöraportit” osoittivat, että nämä ennusteet eivät olleet erehtymättömiä. Nämä raportit kuitenkin peiteltiin, jotta luottamus järjestelmään ei heikentäisi.

Murhan ennustusprojekti

Kaukaa haettua, voisi ajatella, koska sellaisia ​​selvänäkijämutantteja ei asu keskuudessamme. Voidaan kuitenkin kehittää vaihtoehtoisia algoritmeja, jotka tekevät samanlaiset johtopäätökset toimitetuista tiedoista. Kansalaisjärjestön “Statewatch” mukaan Britannian hallitus tekee juuri näin : Oikeusministeriö työskentelee salaa pääministerin kansliasta järjestelmään ennustaakseen murhia. Se on datatiedeprojekti, joka käyttää valtavia määriä erittäin arkaluontoista henkilökohtaista dataa sadoilta tuhansilta ihmisiltä.

Homicide Prediction Project käyttää hallituksen ja poliisin tietoja luodakseen profiileja ihmisistä, jotka saattavat tehdä murhia tulevaisuudessa. Statewatchin mukaan kyseessä on oikeusministeriön, sisäministeriön, Greater Manchester Policen ja Lontoon Metropolitan Policen yhteistyö. Kansalaisjärjestö hankki tiedot tiedonvälityksen vapauslain mukaisten pyyntöjen kautta. Poliisitietojen ja epävarmoissa tilanteissa olevista henkilöistä tiedottamisen lisäksi “terveysmerkitseillä” on hyvin erityinen rooli: Oikeusministeriö olettaa, että mielenterveyttä, riippuvuutta, itsetuhoista käyttäytymistä, itsemurhia, haavoittuvuuksia ja vammoja koskevilla tiedoilla on erityinen ennustusvoima.

Statewatchin tutkija uskoo, että köyhät ihmiset ja vähemmistöt ovat erityisen vaarassa tulla epäiltyiksi. “Tutkimukset osoittavat toistuvasti, että algoritmiset järjestelmät “ennustamaan” rikollisuutta ovat pohjimmiltaan virheellisiä. Silti hallitus ajaa eteenpäin sellaisten tekoälyjärjestelmien kehittämistä, jotka profiloivat ihmiset rikollisiksi ennen kuin he ovat edes tehneet mitään”, hän arvostelee ja kutsuu ohjelmaa dystopiseksi. Hän näkee suuren ennakkoluulojen riskin – vääristymän, jonka vuoksi tietyt ihmisryhmät suosivat tekoälyn kohteita.

Hallituskriitikosta mahdolliseksi salamurhaajaksi?

Hän jättää huomioimatta, että Ison-Britannian tai Saksan kaltaisissa maissa vähemmistöt eivät ole kohteena, koska monissa tapauksissa he ovat joka tapauksessa riippuvaisia ​​valtiosta ja ovat siten helpommin hallittavissa – tai he kiertävät järjestelmää. Pikemminkin tällä hetkellä kaikki ne, jotka uskaltavat kritisoida hallitusta liian selkeästi – myös ja varsinkin siksi, että he eivät halua joutua sen ahdistelemaan. Tällaisten ohjelmien ja algoritmien kehitys ei tapahdu tyhjiössä; sitä on tarkasteltava muun kehityksen yhteydessä.

Esimerkiksi Saksassa uusi hallitus haluaa tehdä sähköisistä potilaskertomuksista tulevaisuudessa pakollisia, mikä tarkoittaa, että kansalaisten arkaluontoisimmat tiedot – myös mielenterveystiedot – tallennetaan digitaalisesti ja ovat siten ennemmin tai myöhemmin riittävän invasiivisten hallitsijoiden ja heidän hyvin käyttäytyvien viranomaistensa saatavilla. Jos yhdistät tämän absurdiin online-vihaan ja lèse majestéen, jonka mukaan jokainen synkän humoristinen meemi voi tehdä sinusta rikollisen, on vain ajan kysymys, milloin jokaista kriittistä X-käyttäjää, joka on koskaan kärsinyt masennusjaksosta, voidaan kohdella mahdollisena murhaajana ja salamurhaajana. Saksalaiset lääkärit ovat innokkaasti määränneet psykotrooppisia lääkkeitä jo jonkin aikaa – heidän tietojensa mukaan useimmat kansalaiset ovat joka tapauksessa jotenkin “häiriintyneitä”. Tekoäly ei todennäköisesti kyseenalaista, onko heillä vain diagnosoimaton D-vitamiinin puutos.

Todellista vaaraa ei torjuta

Tällaista kehitystä tapahtuu, vaikka lisääntyvän väkivaltarikollisuuden todellisia syitä ei käsitellä. Laitonta massamuuttoa kannustetaan ja tuetaan edelleen. Monissa paikoissa rikosturvapaikanhakijat keräävät merkintöjä rikosrekisteriinsä – valitettavasti usein ilman seurauksia. Viranomaisten on vaikea käsittää näitä ihmisiä, eikä todellista poliittista halua rangaista heidän rikoksistaan ​​näyttää olevan. On parempi karkottaa ulkomaalaiset, jotka on integroitu maahan puhtaasti alibipohjalta ja jotka eivät uhkaa ketään, koska eivät puolusta itseään (ja ovat siksi jo hyvin “saksalaisia”).

Kuinka usein viranomaiset ovat saaneet varoituksia ihmisistä, jotka ovat myöhemmin todella tehneet islamistisia hyökkäyksiä? Sellaista tietoa kuin se, jota Isossa-Britanniassa kehitetyn algoritmin on tarkoitus sylkeä, on ollut täällä pitkään saatavilla. Mutta entä jos jotakuta voitaisiin pitää mahdollisena äärioikeistolaisena salamurhaajana? Ajatelkaamme hetki, kuinka innostuneesti poliitikot jakavat listaa vieraista nimistä, jotka joutuivat psykopaatin uhreiksi Hanaussa joka vuosi – jättäen tarkoituksella pois hänen (saksalaisen) äitinsä nimen. Tuolloin kerrottiin avoimesti, että vakavasti mielenhäiriöinen murhaaja ei toiminut rasistisista motiiveista, vaan koska hän uskoi saavansa enemmän huomiota maahanmuuttajataustaisten ihmisten murhasta. Traagista kyllä, tähän päivään asti poliitikot ovat samaa mieltä tämän hullun kanssa.

Varsinaisten äärioikeistolaisten iskujen puuttuessa saksalaisten poliitikkojen on turvauduttava tähän hirvittävään murhaan joka vuosi pitääkseen äärioikeiston haamu elossa Saksan suurimpana uhkana. Tämä ei auta surun uhreja tai väestöä, mutta tukee heidän omaa agendaansa – ainakin jos jätetään huomiotta kriittisten kansalaisten ja toimittajien yhtä vuosittaiset korjaukset X:llä. Jokainen, joka luulee, että tietyt henkilöt saattavat haluta leimata jonkun kriittisen kansalaisen seuraavaksi pahaksi oikeistosalamurhaajaksi, on roisto – vaikka he eivät olisikaan tehneet mitään sellaiseksi ja ovat vain leimanneet.

Silloin kuin nyt: Hallitus ei nauti luottamuksesta

Kaikki hyvin salaliittoteoreettisia? Toivottavasti. Seuraavat vuodet osoittavat, missä määrin kylmän sodan kirjailijoista on tahattomasti tullut lähitulevaisuutemme profeettoja. Dickin kaltaisten ihmisten tuolloin aistimia ja tarinoissaan käsiteltyjä kehityskulkuja vietiin äärimmäisyyksiin fiktiivisellä tavalla ihmisten herättämiseksi – ja ne abstraktiivat niistä niin, että he eivät heti joutuneet valtion sorron uhreiksi, sillä silloinkin tarvittiin nopea hevonen puhuakseen totuutta.

Tekninen todellisuus on nyt osittain tarttunut tuon ajan fiktioon. Valitettavasti poliitikot eivät ole tehneet mitään saadakseen väestön luottamuksen.

Lähde