){kind=link}
Novos processos judiciais acusando a OpenAI de negligência no tiroteio em massa de Tumbler Ridge, no Canadá, foram abertos nas últimas semanas, como noticiou o The Wall Street Journal nesta quarta-feira (2). O caso aconteceu em fevereiro, resultando em oito mortes e mais de 25 pessoas feridas.
Movidas por testemunhas do massacre em uma escola secundária, as ações recentes se somam a outras sete que já haviam sido registradas em abril por familiares das vítimas. Os autores argumentam que a startup não agiu da maneira adequada após identificar indícios de que a autora dos disparos discutia violência e planejava crimes durante interações com o ChatGPT.
smart_display
Nossos vídeos em destaque
A empresa disse que tem se empenhado em identificar sinais de alerta.
OpenAI não alertou autoridades
Uma das autoras das queixas incluídas nesta nova onda de processos contra o laboratório de IA, a professora Deidre Rushlow ajudou a salvar alunos, abrigando-os debaixo de sua mesa durante o tiroteio. Ela afirmou que o massacre deixou lembranças dolorosas.
- “Meus colegas e eu somos assombrados pela lembrança de proteger crianças com nossos próprios corpos enquanto nossos ouvidos zumbiam com o som de tiros contínuos e gritos agudos”, declarou, em comunicado;
- Entre os signatários, também está o aluno identificado como “AC”, de 13 anos, que precisou fingir de morto para não ser atingido;
- Outro estudante, nomeado como “DI” e que passou por cima do corpo de um colega para sair da escola, também processa a OpenAI;
- As famílias das vítimas pedem à empresa que entregue os registros das conversas da suspeita do ataque com o ChatGPT à justiça canadense.
Identificada pela polícia como suspeita do atentado, Jesse Van Rootselaar teria usado o chatbot para planejar a ação violenta ao longo de vários dias, conforme a reportagem. As conversas geraram alertas à desenvolvedora, que chegou a considerar notificar as autoridades locais.
No entanto, isso não aconteceu até depois do tiroteio de Tumbler Ridge, como aponta o relatório. A jovem transgênero de 18 anos, encontrada morta no local dos disparos, teve a conta banida pela startup meses antes, mas passou a utilizar um segundo perfil para interagir com a IA.
Revisão de critérios
Segundo o Diretor de Estratégia da OpenAI, Jason Kwon, a empresa conta com o auxílio de profissionais de saúde mental e comportamento para refinar seus critérios de identificação de sinais de violência grave nas interações. Ao mesmo tempo, ela quer reforçar a privacidade dos dados.
O plano é melhorar o sistema de classificação de conversas, facilitando verificar quando elas se tornam um risco iminente e crível. Mudanças no protocolo de segurança também foram realizadas desde o tiroteio, e a empresa afirma que, hoje, essas atualizações permitiriam enviar rapidamente o perfil da suspeita para a polícia.
Em outro caso, a startup também está sendo processada no Canadá pela suposta influência do ChatGPT na tentativa de suicídio de uma usuária.