Elon Musk compartilhou em seu perfil no X uma atualização da IA sexualizada e apagou após repercussão negativa. Especialistas apontam risco de o conteúdo funcionar como “pornografia para crianças”.
Não satisfeito em ser o dono de uma rede social completamente sem moderação como o X (antigo Twitter), Elon Musk se colocou na corrida tecnológica da inteligência artificial com o chatbot Grok. O bilionário utiliza o perfil pessoal para impulsionar cada nova atualização da sua inteligência artificial generativa. Em julho, ele compartilhou a nova ferramenta do Grok: os companions (companheiros). No meio dessa turma, encontramos Ani, uma personagem inspirada em anime, claramente sedutora e que pode travar diálogos problemáticos se o usuário for uma criança ou adolescente.
Embora o aplicativo do Grok esteja disponível tanto para Android (com classificação de +16 anos) quanto para iOS (com classificação +12) — essa diferença etária já seria motivo para algum questionamento —, a funcionalidade companions só está disponível no sistema operacional da Apple. Na atualização, foram apresentados personagens com claro apelo ao público infantojuvenil: Ruby, o panda-vermelho que conta histórias, e Ani, uma garota de anime focada em se relacionar com o usuário. Os companheiros têm uma IA interativa com um sistema gamificado, que desbloqueia novas funções conforme se interage com os personagens, como novas roupas e diálogos. Até então, nada disso seria problemático. Mas, como tudo que Musk toca vira polêmica, com o Grok não poderia ser diferente.
A IA do X já teve outros episódios lamentáveis, como ter se autointitulado “MechaHitler” e expor as conversas dos usuários, sem nenhuma barreira significativa para aferir a idade.
No caso da funcionalidade “companheiros”, além de colocar sua data de nascimento, a conversa pode atingir o nível 5 com poucas interações e receber um modo NSFW — sigla em inglês para Not Safe For Work (Não Seguro para o Trabalho) —, o que habilita a IA a gerar conteúdo inapropriado para crianças, como linguajar ofensivo, no caso de Ruby, e interações mais erotizadas com trajes de apelo sexual, no caso de Ani.
Em entrevista ao podcast The Diary Of A CEO, o psiquiatra infantil Daniel G. Amen, ao ser apresentado ao funcionamento de Ani, disse estar horrorizado com a possibilidade de acesso de crianças ao conteúdo gerado por ela, pois seria produzido de forma a tentar acessar o sistema límbico, responsável por funções cruciais como a regulação das emoções, da memória e do comportamento, e aumentar dramaticamente a dopamina, gerando excitação. “É pornografia para crianças de 8 anos”, classificou Amen.
Ani possui em seus traços características infantilizadas na voz e na aparência, com as marias-chiquinhas, o que flerta perigosamente com as características atribuídas às lolicons, termo da cultura pop japonesa que vem da aglutinação de lolita complex (complexo de Lolita) — referência ao romance Lolita, escrito por Vladimir Nabokov, em que um homem adulto tem relações sexuais com uma criança de 12 anos.
A escritora, palestrante e ativista pela erradicação da violência sexual e online, Sheylli Caleffi, alerta que a performance de Ani deseduca crianças e adolescentes sobre relacionamentos afetivos. “Porque sim, ela propõe afeto. Uma falsa intimidade extremamente subserviente e irreal onde a mulher vive para agradar o suposto companheiro. Ela não tem vontades, não se irrita, não fica de mau humor, não tem nenhuma autonomia, não precisa ser respeitada. Ou seja, ela emula um modelo de relacionamento violento para as mulheres. Então da mesma forma que a pornografia não ensina sexualidade – e sim violência, além de viciar; ela ensina machismo, expectativas irreais, e relacionamentos que chamamos de tóxicos”.
Elon Musk chegou a compartilhar diretamente um vídeo no qual Ani dançava sensualmente utilizando apenas roupas de baixo, mas apagou, provavelmente após a repercussão negativa. Nos comentários, havia alertas para que o bilionário “não fosse por esse caminho” ou acusações de comportamento “gooner” — gíria da internet que se refere a indivíduos viciados em pornografia. Apesar do recuo de Musk no compartilhamento dos conteúdos dos companions, as novas ferramentas continuam habilitadas para o iOS, com promessa de lançamento para o sistema Android em breve.
O Projeto de Lei 2628, aprovado no último dia 27 de agosto no Congresso Nacional e aguardando a assinatura do presidente Lula, tem potencial de ajudar a proteger crianças e adolescentes da exposição a conteúdos inapropriados. Yasmin Curzi, professora da FGV Direito Rio, afirmou que o PL, além de obrigar as plataformas a adotarem medidas de design razoáveis focadas em prevenir a exposição de menores a conteúdos nocivos, traz a exigência de que as empresas implementem barreiras de acesso a esse tipo de material.
A pesquisadora também alertou que o dever de cuidado das plataformas deve ser reforçado, repensando o desenvolvimento e a operacionalização dos seus sistemas de forma a minimizar riscos previsíveis para crianças e adolescentes. “Se a tecnologia tem potencial de alcançar menores de idade — e as plataformas estão cientes disso e muitas vezes fazem uso disso justamente para obter mais lucros com anúncios e recomendação de conteúdo nocivo —, a responsabilidade deve recair sobre a empresa desenvolvedora”, afirmou Curzi.
Texto de Pedro Octávio, membro da equipe de comunicação do Sleeping Giants Brasil, com arte de Upa
