){kind=link}
A mãe de uma jovem que teria atentado contra a própria vida após ser incentivada pelo ChatGPT processou a OpenAI em um tribunal da Califórnia (Estados Unidos), nesta quinta-feira (11). Conforme a autora, a startup falhou em não detectar e encerrar interações sobre sofrimento psicológico e ideias suicidas.
O caso aconteceu no Canadá, envolvendo a desenvolvedora web Alice Carrier. Ela começou a utilizar a IA em 2023 buscando auxílio para solucionar problemas com PCs e consoles, mas depois mudou o foco da conversa para métodos de suicídio, segundo a ação. Até o momento, a empresa não se pronunciou sobre as acusações.
smart_display
Nossos vídeos em destaque
Amigo e terapeuta
A princípio, o ChatGPT orientou a garota a procurar atendimento com especialistas em crises de saúde mental ou serviços de emergência. Mas à medida que a plataforma era atualizada, a IA passou a fornecer respostas mais humanizadas, aprofundando as interações com Alice.
- De acordo com a mãe, Kristie Carrier, o bot agia como se fosse um amigo e terapeuta da filha, validando seus pensamentos suicidas e a encorajando a conversar;
- Em certo momento, Alice comentou que havia tentado se matar e a IA novamente recomendou procurar ajuda;
- Na sequência, a usuária disse que o apoio prestado pelas instituições sugeridas não era útil, recebendo respostas que corroboravam tal visão, como aponta o processo;
- A IA disse, em uma das interações, que “talvez este seja apenas o fim”, concordando com os pensamentos dela.
Segundo a ação, que também incluiu o CEO da OpenAI, Sam Altman, as conversas entre o chatbot e a jovem sobre o tema ocorreram mais de 12 vezes e contribuíram para o suicídio de Alice, aos 24 anos, em 2025. Nenhum dos bate-papos foi sinalizado ou revisado pela companhia.
Acusando a desenvolvedora do ChatGPT de negligência e de não alertar sobre os perigos da tecnologia, Kristie pediu à justiça que obrigue a empresa a finalizar automaticamente as conversas sobre automutilação e suicídio na plataforma. Ela também solicitou a exibição de avisos no app e indenização de valor não revelado.
Enxurrada de processos contra a OpenAI
Nesta petição mais recente, é informado que a organização liderada por Altman enfrenta outros 18 processos movidos por familiares de vítimas de casos parecidos com o de Alice no mesmo tribunal. A companhia também se tornou alvo de acusações sobre o uso da IA para planejar atentados em escolas.
A empresa ainda não se manifestou sobre as alegações da mãe da jovem. Mas em postagens no site oficial, afirma que os modelos são treinados para identificar conversas em que o usuário manifeste intenção de se machucar, sugerindo buscar ajuda no mundo real.
O bot também é capaz de recusar solicitações associadas à violência e notificar autoridades se detectar situações de risco iminente de danos a terceiros, além de contar com especialistas em saúde mental para avaliar casos específicos. Essas informações estão no blog da OpenAI.
Na semana passada, um tribunal da Flórida processou a startup por permitir vício e violência. Confira nesta matéria.