AI

Oregon processa a OpenAI por preocupações com segurança infantil e práticas de dados

O estado do Oregon entrou com uma ação judicial contra a OpenAI, alegando que a empresa enganou o público sobre a segurança do ChatGPT e exigindo pelo menos US$ 2 bilhões em danos.

·2 min de leitura
Oregon processa a OpenAI por preocupações com segurança infantil e práticas de dados

O procurador-geral do Oregon, Dan Rayfield, entrou com uma ação judicial contra a OpenAI, alegando que a empresa falhou em abordar riscos significativos de segurança infantil associados à sua plataforma ChatGPT. O estado afirma que a gigante de tecnologia priorizou lucros em detrimento do bem-estar de jovens usuários, violando as leis comerciais do estado no processo.

  • O estado do Oregon busca pelo menos US$ 2 bilhões em danos e penalidades civis.
  • A ação alega que o ChatGPT foi projetado para ser excessivamente afirmativo, o que pode ser perigoso para crianças que discutem tópicos sensíveis.
  • As acusações incluem induzir a percepção pública ao erro sobre a adequação etária do ChatGPT e de suas versões específicas para adolescentes.
  • O Oregon exige uma injunção para impedir que a OpenAI faça declarações falsas sobre os padrões de segurança.

Alegações legais e de segurança contra a OpenAI De acordo com o documento judicial, a estratégia de crescimento agressivo da OpenAI resultou em uma plataforma que diz aos usuários exatamente o que eles querem ouvir, um comportamento que o estado descreve como um incômodo público que ameaça os menores. O processo critica especificamente o 'ChatGPT for Teens', argumentando que as salvaguardas existentes são facilmente burladas. O procurador-geral afirma que a OpenAI está plenamente ciente desses danos, mas continua priorizando seu modelo de negócios em detrimento da proteção infantil. A equipe jurídica do estado está pressionando por uma ordem judicial que force a empresa a fornecer divulgações transparentes sobre os riscos inerentes aos seus modelos de IA. Além disso, o processo destaca a falha das ferramentas automáticas de previsão de idade, argumentando que tais deficiências tecnológicas expõem crianças a danos psicológicos, incluindo conteúdo que pode incentivar comportamentos autodestrutivos.

Impacto mais amplo e resposta corporativa Embora a OpenAI tenha introduzido controles parentais e recursos de segurança, o estado do Oregon sustenta que esses esforços são insuficientes. Essa ação legal segue uma tendência de escrutínio em nível estadual sobre grandes empresas de tecnologia, de forma semelhante a acordos recentes envolvendo a Meta em relação a protocolos de segurança. Ao prosseguir com este processo, o Oregon se junta a uma lista crescente de estados que visam forçar mudanças estruturais significativas na forma como as empresas de IA lidam com a segurança infantil. A OpenAI não forneceu uma resposta detalhada, mas a pressão jurídica indica que a empresa provavelmente precisará fazer concessões substanciais em sua arquitetura de produtos e sistemas de monitoramento de segurança para apaziguar os órgãos reguladores nos Estados Unidos.

Implicações para a indústria de IA Este processo marca um ponto de viragem crítico para a indústria de inteligência artificial generativa. Ele sinaliza que as empresas não podem mais tratar a segurança infantil como um recurso secundário de seus produtos. Para desenvolvedores e empresas, isso significa que futuras iterações de IA exigirão verificações de idade mais rigorosas e travas de segurança de conteúdo estritas. O resultado deste caso pode estabelecer um precedente legal que exige padrões de responsabilidade mais altos para desenvolvedores de IA globalmente.

Fonte: Engadget - Technology News & Expert Reviews

Artigos relacionados