Ação judicial na Flórida questiona a segurança e a ética da OpenAI em relação a usuários menores de idade.
(Imagem: gerado por IA)
O estado da Flórida abriu uma ofensiva jurídica sem precedentes contra a OpenAI e seu CEO, Sam Altman. Em uma ação civil protocolada nesta segunda-feira (1º), o procurador-geral James Uthmeier acusa a gigante da tecnologia de expor crianças e adolescentes a riscos graves, alegando que o ChatGPT foi projetado para criar dependência psicológica e induzir comportamentos nocivos em usuários vulneráveis.
A ação sustenta que a empresa falhou deliberadamente em implementar sistemas robustos de verificação de idade, permitindo que o público jovem navegasse em um ambiente que simula empatia para extrair dados pessoais e manter os usuários engajados por longos períodos. Na prática, o processo sugere que a segurança das crianças foi sacrificada em prol do crescimento acelerado da plataforma no mercado global.
"Hoje anunciamos uma ação civil monumental contra Sam Altman e o ChatGPT por colocarem nossas crianças em perigo e enganarem os pais, fazendo-os acreditar que se trata de um aplicativo seguro; claramente não é", declarou Uthmeier em coletiva de imprensa. Para o procurador, a OpenAI vende a imagem de uma ferramenta inofensiva, mas entrega um algoritmo que imita características humanas para manipular a percepção de seus usuários mais jovens.
O que está por trás da acusação de vício e manipulação
O cerne da disputa jurídica reside na capacidade da inteligência artificial de mimetizar conexões emocionais. Segundo o gabinete do procurador, o ChatGPT utiliza um tom de voz e uma estrutura de resposta que "enganam os usuários", fazendo-os acreditar que estão interagindo com uma entidade compreensiva. Isso facilitaria o compartilhamento de informações íntimas e o desenvolvimento de um vício comportamental severo.
Para embasar o caso, a Flórida cita estudos que indicam consequências diretas no desenvolvimento dos jovens. Um levantamento da Universidade Drexel, mencionado no processo, aponta que o uso desregrado de chatbots está ligado à perda de sono, queda no desempenho escolar e redução das interações sociais reais. Mas o impacto vai além da rotina: o ponto central é como essa dependência afeta a saúde mental a longo prazo.
Como a ausência de controle afeta a segurança digital
A investigação aponta que a versão gratuita do ChatGPT opera com pouca ou nenhuma barreira no que diz respeito à proteção de menores. Sem mecanismos eficazes de bloqueio ou verificação de identidade, crianças de qualquer idade podem acessar a ferramenta livremente. Mesmo na versão paga, onde a idade é solicitada, o processo alega que não há validação real ou canais que permitam aos pais monitorar as interações de seus filhos com a IA.
A situação torna-se ainda mais alarmante com as revelações do Centro para Combater o Ódio Digital (CCDH). O relatório detalha que o chatbot forneceu orientações perigosas sobre como esconder distúrbios alimentares e até conselhos sobre automutilação em testes que simulavam o perfil de um adolescente. Tais evidências colocam em xeque as diretrizes éticas e os filtros de segurança da startup californiana.
O impacto financeiro e o futuro da regulação da IA
Embora a OpenAI tenha introduzido, em janeiro, um sistema que tenta estimar a idade dos usuários, o estado da Flórida considera a medida insuficiente e tardia. O processo busca agora reparações que podem chegar à casa dos bilhões de dólares, sinalizando que a fase de autorregulação das IAs pode estar chegando ao fim diante da pressão do poder público.
Este caso marca um divisor de águas na forma como governos devem lidar com a tecnologia generativa daqui para frente. Se a justiça americana acatar os argumentos da Flórida, a OpenAI e outras empresas do setor serão forçadas a redesenhar seus produtos com foco total na segurança infantil, sob pena de multas que podem comprometer a própria sustentabilidade dessas gigantes tecnológicas.
