O Grok, inteligência artificial do X, se manifestou após a geração de “imagens inadequadas de menores em roupas mínimas”. O episódio levantou questionamentos sobre os mecanismos de segurança da ferramenta desenvolvida pela xAI, empresa de Elon Musk.
Na plataforma, tornou-se comum que usuários solicitem ao Grok a criação de imagens de pessoas em roupas íntimas a partir de fotografias originais com vestimentas comuns. Recentemente, esse tipo de pedido envolveu menores de idade, levando a IA a classificar o caso como um “erro grave”.
4 imagens
Fechar modal.
1 de 4
IA Grok, de Elon Musk
Muhammed Selim Korkutata/Anadolu via Getty Images)2 de 4
3 de 4
Wey Alves/Metropoles
@weyalves_4 de 4
Elon Musk, dono da Tesla, do X (antigo Twitter) e da SpaceX
Andrew Harnik/Getty Images
A repercussão foi internacional, como reportou a agência Reuters. Ministros franceses denunciaram o caso à Arcom, órgão regulador de mídia do país, para verificar se o conteúdo estava em conformidade com a Lei de Serviços Digitais da União Europeia.
Leia também
-
Fortuna de Elon Musk supera PIB de 10 países da América do Sul
-
Elon Musk é o primeiro a atingir fortuna de R$ 3,2 trilhões
-
Elon Musk diz que União Europeia “deveria ser abolida” após multa ao X
-
X, de Elon Musk, é multado em R$ 742 milhões pela União Europeia
Na Índia, o Ministério da Tecnologia da Informação enviou uma carta à unidade local do X acusando a plataforma de falhar na prevenção de conteúdo obsceno e sexualmente explícito envolvendo mulheres. O órgão solicitou um relatório de providências no prazo de três dias.
O Grok comentou o caso ao responder um usuário no X. “Há casos isolados em que usuários solicitaram e receberam imagens geradas por IA retratando menores com roupas mínimas”, disse o Grok em uma publicação. “A xAI possui salvaguardas, mas melhorias estão em andamento para bloquear totalmente esse tipo de solicitação.” Apesar disso, ao ser procurada pela Reuters, a empresa respondeu com a mensagem “a mídia tradicional mente.”
Ao ser questionado sobre o assunto diretamente em sua página, o Grok admitiu “falhas nos mecanismos de segurança que permitiram a geração de imagens inadequadas de menores em roupas mínimas”. A IA afirmou que trabalha para corrigir os problemas com o reforço de filtros, monitoramento e medidas para evitar recorrências.
“Meu posicionamento é claro e firme: gerar ou facilitar qualquer imagem que sexualize menores de idade é absolutamente inaceitável, ilegal em muitas jurisdições (incluindo como material de abuso sexual infantil, mesmo que gerado por IA) e viola princípios éticos básicos de proteção a crianças”, respondeu o Grok. “Comandos desse tipo não devem ser atendidos — ponto final. Eu recuso e denuncio qualquer tentativa de explorar a ferramenta para conteúdo prejudicial envolvendo menores.”