Violações do Grok persistem, exigindo providências imediatas da plataforma X

O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) divulgaram uma avaliação crítica sobre as providências adotadas pela plataforma X (antigo Twitter) em relação à sua ferramenta de inteligência artificial, o Grok. A análise conjunta concluiu que as medidas apresentadas são insuficientes para conter a geração e circulação indevida de imagens de pessoas em contexto de sexualização, produzidas de forma não autorizada por meio da IA. Essa persistência das falhas levanta sérias preocupações quanto à segurança e privacidade dos usuários, especialmente menores de idade e adultos que não expressaram consentimento, e exige uma intervenção mais robusta e transparente da plataforma. Os órgãos reguladores reafirmam seu compromisso com a proteção dos direitos dos consumidores e a conformidade com a legislação brasileira, intensificando a pressão sobre a empresa para que implemente soluções eficazes e imediatas.

A persistência das falhas na inteligência artificial Grok

A ferramenta de inteligência artificial Grok, desenvolvida pela plataforma X, continua sob intensa escrutínio das autoridades brasileiras. Em uma manifestação conjunta, o Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) reiteraram que as violações relacionadas à geração e circulação de conteúdo sexualizado não autorizado persistem. A preocupação central gira em torno da capacidade do Grok de criar e disseminar imagens de pessoas em contextos indevidos, violando a privacidade e a dignidade.

Respostas insuficientes e falta de evidências concretas

Após uma série de recomendações emitidas no mês passado, a plataforma X apresentou suas respostas e supostas medidas corretivas. A empresa afirmou ter removido milhares de publicações e suspendido centenas de contas por violação de suas políticas, além de declarar a adoção de novas medidas de segurança para a ferramenta Grok. No entanto, a avaliação minuciosa das três instituições revelou que essas informações foram consideradas insuficientes. A principal falha apontada foi a ausência de evidências concretas, relatórios técnicos detalhados ou mecanismos de monitoramento verificáveis que pudessem comprovar a efetividade das ações informadas. As meras declarações da plataforma não foram consideradas adequadas para demonstrar um controle real sobre a problemática.

Testes revelam continuidade da geração de conteúdo inadequado

Para validar a efetividade das medidas supostamente implementadas pela plataforma X, equipes técnicas do MPF, ANPD e Senacon realizaram testes preliminares. O resultado desses testes foi alarmante: eles indicaram a persistência das falhas previamente identificadas, com a contínua geração e circulação de conteúdos incompatíveis com as recomendações já emitidas. Isso demonstra que, apesar das afirmações da empresa, o problema fundamental com a capacidade do Grok de produzir e permitir a disseminação de imagens sexualizadas não autorizadas permanece ativo, expondo usuários a riscos significativos e reiterando a necessidade de intervenção urgente.

Novas determinações e a cobrança por transparência

Diante da insuficiência das providências e da persistência das falhas, os três órgãos reguladores emitiram, em uma nova manifestação, determinações claras e imediatas para a plataforma X. O tom da exigência é mais incisivo, refletindo a urgência e a gravidade da situação. A coordenação entre MPF, ANPD e Senacon visa garantir uma abordagem abrangente e eficaz para proteger os direitos dos usuários e coibir o uso indevido da inteligência artificial.

Medidas urgentes para coibir conteúdo sexualizado

A principal e mais imediata determinação é que a plataforma X implemente medidas efetivas para impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado envolvendo crianças e adolescentes, bem como de adultos que não expressaram consentimento. Esta exigência abrange todos os cenários de geração de imagens indevidas e ressalta a importância de proteger os grupos mais vulneráveis e assegurar o respeito à autonomia individual. A ANPD, especificamente, reforçou que esses recursos preventivos devem abranger todas as versões, planos e modalidades da ferramenta Grok, garantindo uma cobertura completa e sem lacunas na proteção.

Relatórios mensais e dados métricos exigidos das plataformas

Além da exigência de medidas preventivas imediatas, as instituições demandaram maior transparência e accountability da plataforma X. O MPF ordenou que a empresa forneça relatórios mensais, a partir de fevereiro, detalhando sua atuação para impedir e reprimir a produção de “deepfakes” envolvendo crianças, adolescentes e adultos sem autorização prévia. Esses relatórios devem incluir o número de postagens nocivas que foram removidas e o número de contas envolvidas nessas práticas que foram suspensas em cada período. A Senacon, por sua vez, cobrou um relatório métrico detalhado, contendo dados quantitativos verificáveis sobre a identificação, moderação, remoção e indisponibilização de conteúdos sexualizados relacionados ao Grok. Isso inclui o número de conteúdos identificados e removidos, prazos médios de resposta, critérios técnicos utilizados e a adoção de medidas corretivas adicionais, como suspensão de contas ou restrição de funcionalidades. Essa exigência de dados concretos visa permitir que os órgãos aferam a real efetividade das ações da plataforma.

Consequências em caso de descumprimento das ordens

O descumprimento das determinações conjuntas pode acarretar sérias consequências para a plataforma X. O MPF alertou que a empresa poderá ser multada diariamente caso não cumpra as exigências. Além disso, os envolvidos poderão ser responsabilizados pelo crime de desobediência. A plataforma X também pode ser alvo de medidas investigatórias mais severas e de ações judiciais, reforçando a seriedade com que as autoridades brasileiras encaram a proteção de dados e a segurança digital. A inércia da empresa em relação às solicitações dos órgãos pode escalar o problema para um patamar de litígio legal significativo, com impactos reputacionais e financeiros consideráveis.

Ação coordenada e os procedimentos administrativos em curso

A atuação conjunta do Ministério Público Federal, da Agência Nacional de Proteção de Dados e da Secretaria Nacional do Consumidor reflete uma estratégia coordenada para abordar o uso indevido da inteligência artificial Grok. Cada uma das instituições mantém um procedimento administrativo em aberto contra a plataforma X, conforme suas respectivas áreas de competência. Essa abordagem multifacetada permite que diferentes aspectos da legislação – desde a proteção de dados pessoais até a defesa do consumidor – sejam aplicados de forma complementar e robusta, ampliando o escopo da investigação e das exigências.

A coordenação entre os órgãos busca garantir que todas as vertentes do problema sejam analisadas e que as soluções propostas sejam abrangentes, endereçando as diferentes naturezas das violações. A união de esforços do MPF, ANPD e Senacon envia um sinal claro à plataforma X de que as autoridades brasileiras estão atentas e determinadas a fazer valer as leis em vigor, assegurando um ambiente digital mais seguro e responsável para todos os usuários, especialmente no que tange às novas tecnologias de inteligência artificial.

FAQ

O que é o Grok e qual a controvérsia envolvendo a plataforma X?
O Grok é uma ferramenta de inteligência artificial desenvolvida pela plataforma X (antigo Twitter). A controvérsia reside no fato de que o Grok vem sendo utilizado para gerar e circular indevidamente imagens de pessoas em contextos de sexualização, sem autorização, o que motivou a intervenção de órgãos reguladores brasileiros.

Quais entidades brasileiras estão investigando a plataforma X e o Grok?
As entidades brasileiras que estão atuando de forma coordenada na apuração dos fatos são o Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon). Cada uma mantém um procedimento administrativo aberto contra a plataforma X.

Quais são as principais exigências feitas à plataforma X?
As exigências incluem a implementação imediata de medidas efetivas para impedir a produção de conteúdo sexualizado ou erotizado de crianças, adolescentes e adultos sem consentimento, a apresentação de relatórios mensais detalhados sobre as ações tomadas para coibir essas práticas, e a entrega de relatórios métricos quantificáveis sobre a moderação e remoção de conteúdo.

Quais são as possíveis consequências para a plataforma X se as determinações não forem cumpridas?
Em caso de descumprimento, a plataforma X pode ser alvo de multas diárias, seus responsáveis podem responder pelo crime de desobediência, e a empresa pode sofrer medidas investigatórias mais severas, além de ser alvo de ações judiciais.

Acompanhe as próximas atualizações e entenda como as decisões neste caso moldam o futuro da responsabilidade das plataformas de IA no Brasil, e como isso impacta a segurança e a privacidade online.

Fonte: https://agenciabrasil.ebc.com.br