27.5.2024

Publication-X

"in tenebris moderni diei, solum bellum est"

ChatGPT:n kasvojentunnistuspotentiaali saa OpenAI:n hermoilemaan

2 min read
ChatGPT:n kasvojentunnistuspotentiaali saa OpenAI:n hermoilemaan

Pikalinkki tähän artikkeliin: https://publication-x.com/jzj3

ChatGPT, tekoälyyn perustuva suuri kielimalli, voi analysoida kuvia, mukaan lukien ihmisten kasvojen tunnistaminen ja kuvaaminen. Chatbotin takana oleva OpenAI kuitenkin sanoo, että se ei ole valmis ottamaan käyttöön kasvojentunnistus- tai analyysiominaisuuksia julkiseen käyttöön, koska se voi aiheuttaa oikeudellisia ongelmia lainkäyttöalueilla, jotka edellyttävät suostumusta biometristen tietojen käyttöön.

Kuva-analyysiominaisuus on osa GPT-4-nimisen ohjelmiston edistyksellistä versiota, joka julkistettiin jo maaliskuussa. Yrityksen tekoälypolitiikan tutkija Sandhini Agarwal kertoi New York Timesille, että tekniikkaa voidaan käyttää julkisuuden henkilöiden, kuten Wikipedia-sivulla olevien ihmisten tunnistamiseen, mutta se ei täsmää kasvoja Internetistä löytyviin kuviin, kuten Clearview AI:n ja PimEyesin työkalut . . Nämä yritykset ovat pitäneet tiedonkeruukäytäntöjään kuumana, samoin kuin ChatGPT , vaikkakin toistaiseksi ei-biometristen tietojen osalta jälkimmäisen tapauksessa.

Vaikka OpenAI on saanut kohtuullisen osuutensa viranomaisvalvonnasta , yrityksellä on muitakin syitä lykätä kuva-analyysin saatavuutta.

Sen luojat ovat edelleen epävarmoja, voisiko chatbot sanoa sopimattomia asioita ihmisten kasvoista, mukaan lukien heidän sukupuolensa tai tunnetilojen arvioiminen. Yhtiö on myös huolissaan siitä, että ChatGPT:n visuaalinen analyysi voisi mahdollisesti keksiä henkilön nimen tuottamalla niin sanottuja “hallusinaatioita”, harhaanjohtavia tai epätarkkoja tuloksia, jotka on jo tallennettu chatbotiin.

Viime vuoden elokuussa OpenAI havaitsi tietokonenäkömallissaan CLIP (Contrastive Language-Image Pre-training) sukupuoleen ja ikään liittyvää harhaa, mikä viittaa siihen, että se ei sovellu kasvojentunnistukseen ja muihin tehtäviin.

Jotkut käyttäjät ovat kuitenkin onnistuneet kokeilemaan GPT-4:n kuva-analyysiominaisuutta.

Sokea uusiseelantilainen podcaster Jonathan Mosen kokeili chatbotin edistyksellistä versiota yhteistyössä tanskalaisen Be My Eyes -mobiilialustan kanssa, joka yhdistää sokeat ja näkövammaiset näkeviin vapaaehtoisiin ja yrityksiin ja auttaa heitä tunnistamaan esineitä ja selviytymään. jokapäiväisten tilanteiden kanssa. Mosen kuvaili kokemustaan ​​podcastissaan Living Blindfully. 

Microsoftin tekoälyllä toimiva Bing-chatbot tarjosi myös rajoitetun visuaalisen analyysin käyttöönoton tietyille käyttäjille, mutta kasvojen kuvat sumenivat automaattisesti Timesin mukaan. Open AI uskoo, että tulevaisuudessa teknologia voisi auttaa käyttäjiä tunnistamaan ja ratkaisemaan ongelmia pelkästään lataamalla kuvia, mukaan lukien auton moottorin korjaaminen tai ihottuman tunnistaminen.

Agarwal ei mainitse mahdollisia huijaushyökkäyksiä ChatGPT:n tuottaman materiaalin kanssa, mutta tämä mahdollisuus tuodaan esille Jumion digitaalisen identiteetin päällikön Philipp Pointnerin äskettäisessä Biometrisen päivityksen vierasviestissä.

Samaan aikaan jotkut yritykset, kuten Sensory, pyrkivät integroimaan äänikäyttöisen kulutuselektroniikan tekstipohjaiseen ChatGPT:hen.

Lähde: ActivistPost.com