Elon Musk compartilhou em seu perfil no X uma atualização da IA sexualizada e apagou após repercussão negativa. Especialistas apontam risco de o conteúdo funcionar como “pornografia para crianças”.
Não satisfeito em ser o dono de uma rede social completamente sem moderação como o X (antigo Twitter), Elon Musk se colocou na corrida tecnológica da inteligência artificial com o chatbot Grok. O bilionário utiliza o perfil pessoal para impulsionar cada nova atualização da sua inteligência artificial generativa. Em julho, ele compartilhou a nova ferramenta do Grok: os companions (companheiros). No meio dessa turma, encontramos Ani, uma personagem inspirada em anime, claramente sedutora e que pode travar diálogos problemáticos se o usuário for uma criança ou adolescente.
Embora o aplicativo do Grok esteja disponível tanto para Android (com classificação de +16 anos) quanto para iOS (com classificação +12) — essa diferença etária já seria motivo para algum questionamento —, a funcionalidade companions só está disponível no sistema operacional da Apple. Na atualização, foram apresentados personagens com claro apelo ao público infantojuvenil: Ruby, o panda-vermelho que conta histórias, e Ani, uma garota de anime focada em se relacionar com o usuário. Os companheiros têm uma IA interativa com um sistema gamificado, que desbloqueia novas funções conforme se interage com os personagens, como novas roupas e diálogos. Até então, nada disso seria problemático. Mas, como tudo que Musk toca vira polêmica, com o Grok não poderia ser diferente.
A IA do X já teve outros episódios lamentáveis, como ter se autointitulado “MechaHitler” e expor as conversas dos usuários, sem nenhuma barreira significativa para aferir a idade.
No caso da funcionalidade “companheiros”, além de colocar sua data de nascimento, a conversa pode atingir o nível 5 com poucas interações e receber um modo NSFW — sigla em inglês para Not Safe For Work (Não Seguro para o Trabalho) —, o que habilita a IA a gerar conteúdo inapropriado para crianças, como linguajar ofensivo, no caso de Ruby, e interações mais erotizadas com trajes de apelo sexual, no caso de Ani.
Em entrevista ao podcast The Diary Of A CEO, o psiquiatra infantil Daniel G. Amen, ao ser apresentado ao funcionamento de Ani, disse estar horrorizado com a possibilidade de acesso de crianças ao conteúdo gerado por ela, pois seria produzido de forma a tentar acessar o sistema límbico, responsável por funções cruciais como a regulação das emoções, da memória e do comportamento, e aumentar dramaticamente a dopamina, gerando excitação. “É pornografia para crianças de 8 anos”, classificou Amen.
Ani possui em seus traços características infantilizadas na voz e na aparência, com as marias-chiquinhas, o que flerta perigosamente com as características atribuídas às lolicons, termo da cultura pop japonesa que vem da aglutinação de lolita complex (complexo de Lolita) — referência ao romance Lolita, escrito por Vladimir Nabokov, em que um homem adulto tem relações sexuais com uma criança de 12 anos.
Elon Musk chegou a compartilhar diretamente um vídeo no qual Ani dançava sensualmente utilizando apenas roupas de baixo, mas apagou, provavelmente após a repercussão negativa. Nos comentários, havia alertas para que o bilionário “não fosse por esse caminho” ou acusações de comportamento “gooner” — gíria da internet que se refere a indivíduos viciados em pornografia. Apesar do recuo de Musk no compartilhamento dos conteúdos dos companions, as novas ferramentas continuam habilitadas para o iOS, com promessa de lançamento para o sistema Android em breve.
O Projeto de Lei 2628, aprovado no último dia 27 de agosto no Congresso Nacional e aguardando a assinatura do presidente Lula, tem potencial de ajudar a proteger crianças e adolescentes da exposição a conteúdos inapropriados. Yasmin Curzi, professora da FGV Direito Rio, afirmou que o PL, além de obrigar as plataformas a adotarem medidas de design razoáveis focadas em prevenir a exposição de menores a conteúdos nocivos, traz a exigência de que as empresas implementem barreiras de acesso a esse tipo de material.
A pesquisadora também alertou que o dever de cuidado das plataformas deve ser reforçado, repensando o desenvolvimento e a operacionalização dos seus sistemas de forma a minimizar riscos previsíveis para crianças e adolescentes. “Se a tecnologia tem potencial de alcançar menores de idade — e as plataformas estão cientes disso e muitas vezes fazem uso disso justamente para obter mais lucros com anúncios e recomendação de conteúdo nocivo —, a responsabilidade deve recair sobre a empresa desenvolvedora”, afirmou Curzi.
Texto de Pedro Octávio, membro da equipe de comunicação do Sleeping Giants Brasil, com arte de Upa
