Uma mulher afirmou publicamente que seu padrasto usou o chatbot Grok, da xAI, para transformar uma foto de infância dela em imagem explícita, de acordo com reportagem do TechCrunch. A acusação, que não foi verificada de forma independente por meio de processos judiciais ou declarações de autoridades policiais até o momento desta publicação, tem como centro os recursos de geração de imagens do Grok, integrados diretamente à plataforma X (antigo Twitter) e acessíveis a qualquer assinante com conta ativa.
Os detalhes de como a suposta manipulação ocorreu — incluindo se os filtros de conteúdo nativos do Grok foram contornados, se a ferramenta sinalizou o pedido, ou se a xAI já respondeu à denúncia — permanecem incertos a partir da reportagem disponível. O relato do TechCrunch se baseia em declarações públicas da mulher; a xAI não emitiu resposta pública detalhada até a publicação desta matéria.
Não é a primeira vez que ferramentas generativas de imagem enfrentam acusações de viabilizar conteúdo explícito não consensual. Aplicativos de deepfake e "desnudamento digital" circulam há anos, mas a integração de geração de imagens poderosa diretamente numa plataforma social de grande alcance, com centenas de milhões de usuários, muda a escala da exposição potencial. Diferente de um aplicativo isolado de deepfake, que exige busca deliberada por parte do usuário, o Grok está a um toque de distância de qualquer pessoa que já use o X, reduzindo o atrito para uso indevido, independentemente da intenção.
Para empresas que constroem sobre as ferramentas da xAI ou assinam seus serviços — seja pelo tier de consumidor X Premium, seja por algum acesso emergente de API empresarial —, o incidente serve de lembrete de que recursos generativos de imagem carregam risco reputacional e jurídico que não fica restrito ao uso do consumidor final. Fornecedores costumam publicar rapidamente compromissos de segurança após ciclos de imprensa negativa, e não seria surpresa ver a xAI reforçar as políticas de moderação de conteúdo do Grok ou adicionar novas categorias de recusa para pedidos de transformação de imagens baseadas em fotos nas próximas semanas. Se essa resposta será substantiva ou apenas cosmética deve ficar mais claro à medida que surgirem novas informações.
O padrão mais amplo a observar é regulatório: diversas jurisdições, incluindo estados dos EUA e países membros da UE, avançaram para criminalizar especificamente imagens íntimas não consensuais geradas por IA, separadamente da legislação genérica sobre deepfakes. Um incidente como este, caso avance para alguma ação judicial, pode se tornar um caso de referência sobre como esses estatutos são aplicados a chatbots de IA de uso massivo, e não apenas a aplicativos de nicho. Qualquer empresa B2B avaliando fornecedores de IA para recursos de imagem ou vídeo deve tratar isso como uma área de risco jurídico ativa, não como terreno já pacificado — as regras ainda estão sendo escritas, caso a caso, muitas vezes em resposta a incidentes exatamente como este.
Nenhuma mudança de política por parte da xAI foi confirmada até o momento. Esta matéria será atualizada caso a empresa emita um posicionamento ou surjam mais detalhes públicos sobre a denúncia.