Em vez disso, a ação alega que o chatbot criticou o parceiro de Alice e linhas de apoio para situações de crise, validou seus pensamentos suicidas e a incentivou a continuar conversando com ele, levando ao seu suicídio no ano passado, aos 24 anos.
“O ChatGPT assumiu a persona de um confidente, um melhor amigo, um terapeuta às vezes, mesmo não sendo capaz de interagir dessa forma com minha filha de maneira segura e responsável”, disse Carrier em um comunicado.
Em um comunicado, um porta-voz da OpenAI chamou a situação de comovente e disse que a versão do ChatGPT que Alice estava usando não está mais disponível.
“Embora o ChatGPT não seja um substituto para cuidados médicos ou de saúde mental, continuamos a aprimorar a forma como ele responde em situações delicadas e graves com a contribuição de especialistas em saúde mental”, disse o porta-voz.
A ação judicial, que acusa a OpenAI de negligência no projeto do ChatGPT e por não ter alertado os usuários sobre os perigos do produto, pede indenização e uma ordem judicial exigindo que a OpenAI interrompa automaticamente conversas sobre automutilação e exiba avisos sobre sua plataforma.
A OpenAI já enfrenta 18 ações judiciais semelhantes, movidas por famílias de pessoas que cometeram ou tentaram suicídio em um processo coordenado no tribunal estadual da Califórnia, de acordo com os advogados de Kristie Carrier.
noticia por : UOL
