Puhe ja kasvot voidaan väärentää jopa reaaliajassa – näin deepfake muuttaa maailmaa juuri nyt

– Sellaisissa tekoäly tekee helposti enemmän virheitä. Mutta huolellisella työllä ja tarkalla heikosti onnistuneiden versioiden karsinnalla voidaan saada aikaa harrastetasollakin videoita, joita tavallinen ihminen ei epäile väärennöksiksi.

"Onko todellisuudella lainkaan tulevaisuutta?"

Järvinen ja Linturi ilmaisevat huolensa tekoälyn kehittymisen hyödyntämisestä vääriin käyttötarkoituksiin. Rikolliset eivät tarvitse uskottaviin syväväärennöksiin enää juurikaan lähdemateriaalia. 

– Tämä avaa huolestuttavia näkymiä esimerkiksi kiusantekoon ja lavastamiseen, kostopornoon sekä huijauksiin: "Hei äiti, puhelimeni meni rikki, lähetä rahaa uuteen…" tai toimitusjohtajalta tuleva kuvapuhelu, jossa pyydetään talousosastoa maksamaan iso lasku pikaisesti. Hahmoa voidaan animoida ja ohjata reaaliajassa, mikä mahdollistaa kuvapuheluiden väärentämisen.

Myös Linturi nostaa esille uuden ilmiön kehityksessä – reaaliaikaisuuden.

– Puhe ja kasvot voidaan väärentää jopa reaaliajassa siten, että esimerkiksi videoneuvottelussa kasvot ja ääni on väärennetty toisen henkilön kasvoiksi ja ääneksi.

Uudenlainen videotuotanto mahdollistaa paljon, mutta samalla se hämärtää todellisuuden ja tekoälyn luoman maailman rajaa. 

Järvinen huomauttaa, että peliin puuttuvat tämän myötä yhä enemmän myös salaliittoteoriat.

– Joudumme kysymään, onko todellisuudella lainkaan tulevaisuutta? Onko todellisuus jatkossa yhtä henkilökohtainen asia kuin musiikkimaku tai omat luonteenpiirteet?

Elokuvateollisuus murroksessa?

Linturi uskoo, että tekoäly tulee mullistamaan elokuvamaailman. Tällä hetkellä tekoäly kykenee esimerkiksi tekemään käsikirjoituksen ja juontamaan dokumenttielokuvan alusta loppuun. 

Uusimmat välineet kykenevät myös tuottamaan lyhyitä elokuvia. 

– Tuotoksissa on toistaiseksi ongelmia ja puutteita, mutta käyttäjä voi pyytää tekoälyn tekemään ongelmakohdat uudestaan ja esimerkiksi yhden päivän työ saattaa riittää tuottamaan parempaa sisältöä kuin huonoimmat televisiossa nyt esitetyt.

Parin vuoden sisällä kaupallisia elokuvia on jo saatettu tuottaa näillä tekniikoilla. Tämäkin on Linturin mukaan vasta alkua. 

– Viiden vuoden kuluttua ollaan tilanteessa, jossa elokuvastudioita suljetaan, koska tekoäly tuottaa lavasteet, puvusteet, meikit, näyttelijähahmot, äänitteet… Samalla nämä muuttuvat yksilöllisiksi ja jokainen halutessaan voi katsoa elokuvasta itselleen räätälöidyn version.

– Muutama vuosi lisää ja me voimme mennä pelien tavoin elokuviin mukaan. Tavallaanhan seikkailupelit ovat jo nyt tällaisia, mutta pian tekoäly luo hahmot siten, että voimme käydä niiden kanssa luontevasti keskusteluita, joita ei ole valmiiksi ohjelmoitu ja tapahtumat kehittyvät ainutkertaisia ratojaan.

Median rooli kasvaa

Linturi ja Järvinen toivovat tekoälyn kehityksen tuovan mukanaan vastareaktion, jossa videon alkuperään aletaan kiinnittää enemmän huomiota.

Järvinen ehdottaa, että videot voitaisiin esimerkiksi sähköisillä varmenteilla merkitä väärennöksen kestäviksi jo kuvauspaikalla. Hänen mukaansa sellaista analytiikkaa tai tekoälyä, joka pystyisi luotettavasti tunnistamaan syväväärennökset, ei kuitenkaan kannata odottaa.

Linturi on Järvisen kanssa samoilla linjoilla. 

– Luultavasti tulevaisuudessa tärkeät videot tullaan autentikoimaan siten, että ne sinetöidään jonkin tarkistussumman avulla siten, että sisältöä ei voida muuttaa muuttamatta tarkistussummaa. 

– Jos tarkistussummat kirjataan esimerkiksi lohkoketjuun tai luotetun osapuolen tietokantaan, voidaan aitojen videoiden alkuperä osoittaa ja väärennökseltä sitten puuttuu tällainen alkuperätodistus.

Järvinen nostaa esille myös, että perinteisen median rooli on tulevaisuudessa entistä suurempi, kun kaikkea voidaan tekoälyn avulla väärentää. 

– Katsojana emme pysty varmistamaan, mikä netissä näkyvä on aitoa ja mikä ei, mutta luotamme uutistoimituksen ammattilaisiin, että he valitsevat videot luotettavista lähteistä.

Lue myös: Uskoisitko, että nämä videot ovat tekoälyn luomia? Sora-tekoälyn kyvyt hämmentävät

Mitä ihmettä? Ivan Puopolo puhuu videolla sujuvaa kiinaa