Viimeviikkoinen informaatiovaikuttamisen webinaari SnellmanEDU:lle sai eilen jatkoa. Tällä kertaa aiheena oli valeprofiilien tunnistaminen sosiaalisessa mediassa. Esityksen aiheisiin sisältyy mm. anonyymit, trollit, botit ja varsinaiset valeprofiilit eri keksityt tai toisen nimissä esiintyvät käyttäjätunnukset somepalveluissa.
Yhtenä koulutuksen aiheena oli myös valeprofiilien usein käyttämät tekoälyn avulla luodut feikkiprofiilikuvat. Ne ovat tuttuja etenkin Twitterin trollitunnuksista, joista moni on törmännyt kevään aikana esimerkiksi alla näkyviin tunnuksiin.
Kuvassa olevat tunnukset ovat niin silmiinpistäviä, että herää kysymys, onko ne tarkoituksella tehty näin tökerösti? Niiden tekijällä voi olla taktiikkana tehdä tökeröjä trollitunnuksia, jotta huomiomme kiinnittyisi niihin, emmekä huomaisi hienovaraisemmin toimivia trolli- ja bottitunnuksia.
Koko esitys on tässä:
Esimerkki mahdollisesta valeprofiilista: Elina Hinder / @elinahinder
Tarkastelin yhtenä esimerkkitapauksena Twitter-tunnusta nimeltä Elina Hinder / @elinahinder, jota on epäilty useasti valeprofiiliksi, kuvaa myöten. Tämä on myös peruste käsitellä hänen tunnustaan julkisesti – kenen tahansa sattumanvaraisen henkilön tunnusta en tällä tavalla käyttäisi esimerkkinä. Alla hänen profiilikuvansa lähitarkastelussa.
@elinahinderin profiilikuva on tekoälyn luomaksi onnistunut: esimerkiksi automaattinen Fake Profile Detector ei sitä tunnista. Kuitenkin siinä on useita tyypillisiä viitteitä AI-teknologian käytöstä, kun kuvaa tarkastelee suurennettuna.
Yksi keino on generoida itse vastaavan tyyppisiä (mm. pää suunnilleen samassa asennossa) profiilikuvia This Person Does Not Exists -sivustolla ja verrata niitä tarkastelussa olevaan kuvaan. Näin teinkin:
Kun näitä kuvia vertaa @elinahinderin kuvaan, ovat ne kuin samasta maailmasta. Kaikissa on samoja tekoälyn tuottamia piirteitä:
- Silmät ovat yhtä kaukana kuvan keskilinjasta
- Tausta yksivärinen tai epäselvä
- Vasen korva (kuvassa oikealla) näyttää olevan hieman eri perspektiivistä kuin kasvot
Epäilen, että @elinahinderin kuva on tehty samalla This Person Does Not Exists -sivustolla kuin yllä olevat.
Luonnollisesti pelkkä profiilikuvan tarkastelu ei riitä, kun tunnusta epäillään valeprofiiliksi. Ensimmäisenä tässäkin tapauksessa tarkastin, ettei @elinahinderin profiilikuvaa löytynyt käytettynä muualla netissä sekä mitä hänen nimellään löytyy eri hakukoneista ja muista somepalveluista.
Elina Hinderin tapauksessa kiinnostava yksityiskohta oli, että sekä MV-lehti että Uvmedia-sivusto ovat lainanneet sen twiittejä joissakin artikkeleissaan. Kumpaakin sivustoa voi luonnehtia niin sanotuksi vastamediaksi tai valemediaksi. Tämä voi olla viite siitä, mihin tahoihin @elinahinder-tunnuksen haltijalla on yhteyksiä.
Alla lista, mitä asioita profiilitiedoista kannattaa katsoa tarkemmin läpi.
Merkille pantavaa @elinahinderin tapauksessa on myös se, ettei hän ole tietääkseni kertaakaan kommentoinut epäilyjä siitä, että hänen tunnuksensa olisi valeprofiili. Voisin kuvitella jokaisen tavallisen käyttäjän pyrkivän tyrmäämään moiset epäilyt tai vähintäänkin kommentoivan niitä.
Lähetin itse ennen tämän koulutuksen pitoa @elinahinderille Twitterin yksityisviestinä suoran kysymyksen: Miksi käytät tekoälyllä luotua kuvaa ja salanimeä? Tähän mennessä hän ei ole lukenut saati vastannut kysymykseen. Itse asiassa @elinahinder näyttää lopettaneen Twitterin käytön kokonaan 16.4. jälkeen.
Alla muutkin @elinahinderistä selvittämäni asiat ja johtopäätös.
Pidän melko varmana, että @elinahinder on valeprofiili eli nimi on keksitty ja kuva on todennäköisesti tekoälyn avulla luotu. Sen tekijä jää kuitenkin avoimeksi.
Disclaimer: On periaatteessa mahdollista, että tunnuksen takana on yksittäinen ihminen, joka on omista syistään halunnut toimia keksityllä henkilöllisyydellä. Jos näin on, niin todettakoon, etten väitä @elinahinderin tehneen mitään varsinaisesti kiellettyä, ja kunnioitan jokaisen ihmisen mahdollisuutta toimia somessa myös anonyyminä nimimerkin tai salanimen takaa.
Disclaimer 2: Jos mietit, miten profiilikuvan tekijänoikeudet vaikuttavat siihen, miten sitä saa esimerkiksi tällaisessa yhteydessä käyttää, niin totean käyttäväni @elinahinderin kuvaa kokonaisuudessaan sitaattina osana oman mielipiteeni perustelua, joka liittyy nimenomaisesti ko. kuvaan ja Twitter-tunnukseen. Toiseksi tietokonealgoritmin sattumanvaraisesti luomalla kuvalla (jollainen se käsitykseni mukaan on) ei ole tekijänoikeuksia, koska siihen ei liity tekijänsä luovaa panosta.
Alla vielä muistilista siitä, milloin hälytyskellojen on syytä soida ja tehdä varmistuksia siltä varalta, että sosiaalisessa mediassa vastaan tullut käyttäjätunnus onkin jotain muuta kuin mitä se näyttää tai väittää olevansa.
LEHMÄTKIN LENTÄIS 
Yksi vastaus artikkeliiin “Sosiaalisen median valeprofiilit – miten tunnistaa ja suojautua? (esitys)”