Itsemurhan tehneen yhdysvaltalaisnuoren vanhemmat ovat haastaneet oikeuteen tekoäly-yhtiö OpenAI:n, jota he pitävät osallisena lapsensa kuolemaan.
Viime huhtikuussa menehtynyt 16-vuotias Adam Raine oli vanhempiensa Matthew ja Maria Rainen mukaan keskustellut ChatGPT:n kanssa kuukausia ennen kuolemaansa. Vanhemmat väittävät, että chatbotin kanssa käydyt keskustelut vahvistivat pojan itsetuhoisia ajatuksia ja tekoja.
OpenAI ei ole ottanut suoraan kantaa syytöksiin, mutta yhtiön edustaja on pahoitellut Rainen kuolemaa ja huomauttanut ChatGPT:n sisältävän kriisitilanteisiin tarkoitettuja suojatoimia, kuten ihmisten ohjaamisen auttaviin puhelimiin. Toisaalta yhtiö myöntää havainneensa, että suojatoimet eivät aina pysy pitkissä vuoropuheluissa yhtä luotettavina kuin lyhyissä keskusteluissa.
OpenAI lanseerasi chatbotin GPT-4o-version toukokuussa 2024 pysyäkseen tekoälymarkkinoiden kärjessä. Rainen vanhemmat väittävät, että niin toimiessaan se asetti tietoisesti tuotot turvallisuuden edelle.
Haasteessa esitetään, että chatbotin ominaisuuksiin lisätty kyky muistaa aiempia vuorovaikutustilanteita ja jäljitellä ihmisen empatiaa vaarantaa haavoittuvaisimmat käyttäjät. Tekoälyn kehittyessä osa on alkanut tukeutua siihen luotettuna juttukumppanina, vaikka asiantuntijat varoittavat ulkoistamasta mielenterveysapua automaatiolle.