Um número alarmante de mulheres foi afetado pelas fotos de nudez não consensual, incluindo modelos e atrizes famosas, além de figuras públicas , vítimas de crimes e até mesmo líderes mundiais.
Um estudo da Copyleaks, publicado em 31 de dezembro, estimou que aproximadamente uma imagem era postada a cada minuto, mas testes posteriores revelaram um número muito maior. Uma amostra coletada entre 5 e 6 de janeiro contabilizou 6.700 imagens por hora ao longo de um período de 24 horas .
Mas, embora figuras públicas de todo o mundo tenham criticado a decisão de lançar o modelo sem salvaguardas, existem poucos mecanismos claros para que os reguladores tentem controlar o novo sistema de manipulação de imagem de Elon Musk. O resultado tornou-se uma lição dolorosa sobre os limites da regulação tecnológica — e um desafio para o futuro dos reguladores que desejam deixar sua marca.
Como era de se esperar, a ação mais agressiva veio da Comissão Europeia, que na quinta-feira ordenou à xAI que retivesse todos os documentos relacionados ao seu chatbot Grok. A medida não significa necessariamente que a Comissão tenha aberto uma nova investigação, mas é um prenúncio comum de tal ação. É particularmente preocupante, considerando reportagens recentes da CNN que sugerem que Elon Musk pode ter intervido pessoalmente para impedir que medidas de segurança fossem implementadas sobre quais imagens poderiam ser geradas pelo Grok.
Não está claro se a X fez alguma alteração técnica no modelo do Grok, embora a aba de mídia pública da conta da X no Grok tenha sido removida. Em um comunicado, a empresa denunciou especificamente o uso de ferramentas de IA para produzir imagens de abuso sexual infantil. “Qualquer pessoa que usar ou incentivar o Grok a produzir conteúdo ilegal sofrerá as mesmas consequências que quem fizer o upload de conteúdo ilegal”, publicou a conta X Safety em 3 de janeiro , ecoando um tweet anterior de Elon Musk.
Entretanto, órgãos reguladores de todo o mundo emitiram alertas severos. A Ofcom, do Reino Unido, divulgou um comunicado na segunda-feira , afirmando estar em contato com a xAI e que “realizará uma avaliação rápida para determinar se existem potenciais problemas de conformidade que justifiquem uma investigação”. Em uma entrevista de rádio na quinta-feira , o primeiro-ministro britânico, Keir Starmer, classificou o fenômeno como “vergonhoso” e “repugnante”, dizendo que “a Ofcom tem nosso total apoio para tomar medidas em relação a isso”.
Em uma publicação no LinkedIn , a Comissária de Segurança Online da Austrália, Julie Inman-Grant, afirmou que seu escritório recebeu mais que o dobro de reclamações relacionadas ao Grok desde o final de 2025. No entanto, Inman-Grant não chegou a tomar medidas contra a xAI, dizendo apenas: “Usaremos todas as ferramentas regulatórias à nossa disposição para investigar e tomar as medidas cabíveis”.
De longe, o maior mercado a ameaçar tomar medidas é a Índia, onde a Grok foi alvo de uma queixa formal de um membro do Parlamento. Em janeiro, o órgão regulador de comunicações da Índia, MeitY, ordenou que a X resolvesse a questão e apresentasse um relatório sobre as medidas tomadas em 72 horas — prazo que foi posteriormente prorrogado por 48 horas. Embora um relatório tenha sido
entregue ao órgão regulador em 7 de janeiro , não está claro se o MeitY ficará satisfeito com a resposta. Caso contrário, a X poderá perder seu status de porto seguro na Índia, uma limitação potencialmente grave à sua capacidade de operar no país.
_______
