Em janeiro de 2026, a Agência Nacional de Proteção de Dados instaurou processo de fiscalização para apurar possíveis violações à LGPD – Lei Geral de Proteção de Dados relacionadas ao sistema de inteligência artificial generativa Grok, integrado à plataforma X. A investigação decorreu de denúncias sobre a possibilidade da ferramenta manipular imagens reais para gerar conteúdos sintéticos sexualizados, inclusive envolvendo crianças e adolescentes, sem salvaguardas técnicas eficazes.
A nota técnica 1/26 destacou que a funcionalidade criava risco estrutural e previsível, especialmente em ambiente digital marcado por práticas reiteradas de violência sexual e exploração de vulneráveis.
O episódio desloca o debate de conduta individual do usuário para a responsabilidade decorrente do design e da governança do sistema. Afinal, quando a estrutura de um modelo permite a produção reiterada de resultados ilícitos, quem deve responder civilmente pelos danos?
Confira o conteúdo na íntegra: https://www.migalhas.com.br/depeso/450858/arquitetura-algoritmica-e-responsabilidade-civil-o-caso-grok
