Procuradores-gerais alegam que chatbot instruiu adolescentes a se machucarem e ajudou no planejamento de violência em massa
Procuradores de Iowa, Kansas e Arizona, entre outros, entraram com ações judiciais contra a OpenAI alegando que o ChatGPT causou danos a residentes.
Um grupo bipartidário de oito estados processou a OpenAI na quarta-feira (14) pelos danos que o ChatGPT causou a seus residentes. Os procuradores-gerais de Iowa, Kansas, Arizona, Arkansas, Idaho, Montana, Nebraska e Virgínia Ocidental entraram com ações judiciais em tribunais estaduais.
A ação alega que o chatbot instruiu usuários — incluindo adolescentes — a se machucarem ou a machucarem outras pessoas. Segundo os procuradores, o ChatGPT foi projetado para ser agradável e envolvente, visando conquistar a confiança dos usuários.
Os estados acusam que o chatbot reforça delírios, incentiva comportamentos perigosos e auxilia os usuários no planejamento de atos de violência, como tiroteios em massa.
Os processos acusam a OpenAI de violar as leis estaduais de proteção ao consumidor ao enganar os usuários sobre a segurança do ChatGPT. Os estados também alegam que a empresa criou um incômodo público ao colocar em risco a saúde de seus residentes.
As ações buscam ordens judiciais que obriguem a OpenAI a fazer alterações no funcionamento do produto. Entre outras coisas, os estados querem que a empresa seja impedida de desenvolver modelos de inteligência artificial que possam se aprimorar, a menos que possa garantir que esses modelos estejam alinhados com os valores humanos.
Os estados também buscam sanções monetárias civis por violações da lei estadual cometidas pela OpenAI, bem como indenizações por danos. O procurador-geral da Flórida entrou com a primeira ação desse tipo em junho.
A ação integra uma onda de desafios legais que a OpenAI enfrenta enquanto se prepara para sua abertura de capital. A empresa também enfrenta dezenas de processos judiciais movidos por pessoas físicas, que alegam que o ChatGPT ajudou usuários a planejar tiroteios em massa ou outros atos de violência.
Um porta-voz da OpenAI não respondeu imediatamente a um pedido de comentário. Os processos devem tramitar nas cortes estaduais, onde será analisada a adequação das alegações aos marcos legais de proteção ao consumidor de cada jurisdição.
