Na sexta-feira, o Ministério de Tecnologia da Informação da Índia emitiu uma ordem instruindo a X, de Musk, a tomar medidas corretivas em relação ao Grok, incluindo a restrição da geração de conteúdo que envolva “nudez, sexualização, conteúdo sexualmente explícito ou material ilegal de qualquer outra forma”. O ministério também deu à plataforma de mídia social 72 horas para apresentar um relatório detalhado das medidas tomadas para impedir a hospedagem ou disseminação de conteúdo considerado “obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo ou proibido por lei de qualquer outra forma”.
A ordem, analisada pelo TechCrunch, alertava que o não cumprimento poderia comprometer as proteções de “porto seguro” da X — imunidade legal contra responsabilidade por conteúdo gerado pelo usuário sob a lei indiana.
A medida da Índia surge após preocupações levantadas por usuários que compartilharam exemplos de solicitações feitas ao Grok para alterar imagens de pessoas — principalmente mulheres — fazendo-as parecer estar usando biquínis, o que levou a uma queixa formal da parlamentar indiana Priyanka Chaturvedi. Em outro caso, relatos recentes apontaram situações em que o chatbot de IA gerou imagens sexualizadas envolvendo menores , um problema que a X reconheceu na sexta-feira ter sido causado por falhas nas medidas de segurança. Essas imagens foram posteriormente removidas.
No entanto, imagens geradas usando o Grok, que faziam as mulheres parecerem estar usando biquínis por meio de alteração por IA, permaneceram acessíveis no X no momento da publicação, conforme apurado pelo TechCrunch.
A nova ordem surge dias depois de o Ministério da Tecnologia da Informação da Índia ter emitido, na segunda-feira, um comunicado mais abrangente, também analisado pelo TechCrunch, dirigido às plataformas de redes sociais. O comunicado lembra-as de que o cumprimento das leis locais que regem conteúdo obsceno e sexualmente explícito é um pré-requisito para manter a imunidade legal contra responsabilidade por material gerado pelo usuário. O comunicado instou as empresas a reforçarem as salvaguardas internas e alertou que a falha em fazê-lo poderá acarretar ações legais ao abrigo das leis de TI e penais da Índia.
“Reitera-se que o não cumprimento dos requisitos acima será encarado com seriedade e poderá resultar em severas consequências legais contra a sua plataforma, seus responsáveis e os usuários da plataforma que violarem a lei, sem aviso prévio”, advertiu a ordem.
O governo indiano afirmou que o descumprimento poderá levar a medidas contra X, de acordo com a legislação de TI e os estatutos penais da Índia.
A Índia, um dos maiores mercados digitais do mundo, tornou-se um caso crucial para avaliar até que ponto os governos estão dispostos a ir na responsabilização das plataformas por conteúdo gerado por inteligência artificial. Qualquer endurecimento das medidas de fiscalização no país pode ter repercussões para empresas de tecnologia globais que operam em diversas jurisdições.
A ordem surge em um momento em que a X, de Musk, continua contestando judicialmente aspectos das regras de regulamentação de conteúdo da Índia , argumentando que os poderes de remoção do governo federal representam um risco de abuso de poder, mesmo que a plataforma tenha cumprido a maioria das diretrizes de bloqueio. Ao mesmo tempo, o Grok tem sido cada vez mais utilizado pelos usuários da X para verificação de fatos em tempo real e comentários sobre notícias, tornando seus resultados mais visíveis — e mais politicamente sensíveis — do que os de ferramentas de IA independentes.
A X e a xAI não responderam imediatamente aos pedidos de comentários sobre a ordem do governo indiano.
_______
