AI-chatbots van Character.AI, waarvan het belangrijkste deel onlangs werd overgenomen door Google, worden verantwoordelijk gehouden voor de zelfmoord van een 14-jarige jongen. Zijn moeder heeft de makers nu aangeklaagd, vertelt Joe van Burik in deze Tech Update.
AI-chatbots gebruikte de 14-jarige Sewell Setzer III veel, om zo 'gesprekken te voeren' met AI-personages die lijken op die uit Game of Thrones maar ook onder de naam Therapist en Are You Feeling Lonely, op het platform van Character.AI. In februari van dit jaar beroofde hij zichzelf van het leven.
Dat is reden voor zijn moeder, Megan Garcia, om nu naar de rechter te stappen. Zijn houdt de oprichters van Character.AI hiervoor verantwoordelijk. Evenal Google, dat nam afgelopen augustus de toplaag van die start-up namelijk over - dadat de oprichters eerder juist weg gingen bij Google, nota bene, om deze tehcnologie sneller de ontwikkelen.
Volgens Garcia zijn die mensen verantwoordelijk voor de dood, nalatigheid, misleiding en een nalatig produc. Het gebruik van deze chatbots noemt zij 'buitensporig gevaarlijk' en zonder bescherming terwijl het wordt aangeboden aan juist kinderen
Character.AI heeft in een reactie aangegeven diverse wijzigingen door te voeren en zegt tegen The Verge 'bedroefd te zijn door het tragische verlies'. Op het platform voor hun AI-chatbots moeten minderjarigen minder snel gevoelige content tegenkomen, moet beter worden bijgehouden wat de gebruiker invoert en komen er disclaimers en meldingen voor langer gebruik van een uur.
Verder in deze Tech Update:
Vanuit Rusland worden deepfakes verspreid rond presidentskandidaat Kamala Harris, al is de impact beperkt, volgens een rapport van Microsoft Gameplatform Roblox heeft wijzigingen doorgevoerd, als reactie op onthullingen over risico's voor kinderen See omnystudio.com/listener for privacy information.