A deputada federal Erika Hilton (PSOL-SP) protocolou representação junto ao MPF e à ANPD solicitando a apuração e eventual suspensão, no Brasil, da ferramenta de inteligência artificial Grok, integrada à rede social X.
A iniciativa decorre de denúncias de que o sistema estaria permitindo a criação e circulação de imagens alteradas de terceiros sem consentimento, inclusive com teor sexualizado envolvendo mulheres e menores de idade.
Como funciona o Grok
O Grok é uma ferramenta de IA generativa capaz de produzir textos e editar imagens a partir de comandos fornecidos por usuários e de conteúdos disponíveis na própria plataforma.
Segundo a representação, não haveria mecanismos eficazes de verificação de consentimento, idade ou finalidade legítima, o que ampliaria o risco de violações de direitos fundamentais.
Pedidos às autoridades
No pedido encaminhado ao MPF, a deputada solicita a abertura de procedimento investigatório, a suspensão imediata da ferramenta no território nacional e a imposição de medidas técnicas obrigatórias.
- Investigação sobre falhas de segurança da ferramenta
- Suspensão do Grok até implementação de salvaguardas
- Requisição de informações técnicas detalhadas
- Fixação de multa diária em caso de descumprimento
Direitos fundamentais em debate
A parlamentar sustenta que termos de uso não afastam a proteção constitucional da intimidade, privacidade e imagem, nem eximem plataformas de responsabilidade por conteúdos ilícitos.
Para Hilton, a geração de imagens sexualizadas de pessoas reais por IA pode configurar violação legal grave, inclusive quando envolve crianças e adolescentes.
Resposta da empresa e debate regulatório
A empresa responsável pelo Grok reconheceu falhas técnicas e informou que revisa os mecanismos de segurança. Relatos indicam pedidos públicos de desculpas após incidentes envolvendo imagens de menores.
O caso se insere no debate global sobre regulação da inteligência artificial, proteção de dados pessoais e responsabilidade das plataformas digitais por conteúdos gerados por sistemas automatizados.
Fonte: Migalhas
