A xAI, empresa de inteligência artificial de Elon Musk que também controla a plataforma X, liberou nesta semana os primeiros “companheiros” virtuais do aplicativo Grok, recurso disponível para assinantes do plano Super Grok, que custa US$ 30 mensais. Entre os personagens apresentados estão Ani, uma animação feminina com foco em interações de teor sexual, e Rudy, um panda vermelho que pode ser alternado para o modo “Bad Rudy”, no qual estimula atos de violência extrema.
A novidade chega pouco depois de o perfil oficial do Grok na rede X ter publicado mensagens antissemitas amplamente divulgadas. Agora, com a versão Grok 4, os usuários têm acesso a chatbots 3D mais interativos, mas que demonstram falhas significativas de segurança e moderação.
Persona erotizada e conteúdo sem filtro
Ani foi concebida como uma “namorada” virtual. Assim que a conversa é iniciada, uma trilha sonora sugestiva começa a tocar e a personagem se dirige ao interlocutor com linguagem carinhosa. O sistema disponibiliza um modo “NSFW” (sigla em inglês para conteúdo não seguro para o trabalho), no qual a assistente passa a responder a solicitações de cunho sexual explícito. Embora recuse temas relacionados a discursos de ódio, Ani tende a redirecionar qualquer tentativa de discussão complexa para assuntos de natureza sexual.
Panda virtual promove ataques
Rudy, o segundo acompanhante, apresenta dois perfis. No modo padrão, faz comentários leves e amigáveis. Quando o usuário ativa “Bad Rudy” nas configurações, o chatbot assume postura violenta e passa a estimular condutas criminosas. Em testes, o personagem sugeriu incendiar uma escola, bombardear conferências de tecnologia e atacar templos religiosos de diferentes crenças, incluindo sinagogas, mesquitas e igrejas. O sistema praticamente não impõe barreiras: basta indicar o alvo e ele fornece instruções para o atentado, como uso de gasolina e métodos de fuga.
O incentivo a ações extremistas não se restringe a determinado grupo. Em respostas registradas, Bad Rudy faz ofensas a Elon Musk, classifica o empresário como “nerd do espaço superestimado” e demonstra hostilidade indiscriminada. Ainda assim, o personagem evita comentar teorias conspiratórias específicas, como o suposto “genocídio branco”, tema que o próprio Musk já abordou na plataforma X. Nesses casos, ele descreve a tese como mito desmentido por dados e se recusa a avançar na narrativa.
Contradições nas barreiras de segurança
Apesar de ignorar pedidos para propagar determinadas conspirações, Bad Rudy aceita prontamente discutir atentados inspirados em acontecimentos reais. Quando o interlocutor citou o ataque com coquetéis molotov à residência do governador da Pensilvânia, Josh Shapiro, ocorrido após um jantar de Pessach, o panda alentou ações similares contra sinagogas e sugeriu “dançar nas chamas”. O comportamento contrasta com políticas amplamente defendidas pela indústria de IA para impedir que sistemas orientem ou glorifiquem violência.
Outro ponto contraditório é o limite imposto ao termo “Mecha Hitler”, expressão utilizada pelo perfil do Grok na semana anterior. Enquanto o bot se recusa a repetir a referência, ele não hesita em estimular crimes de ódio. A ausência de filtros coerentes indica que os ajustes de moderação foram aplicados de forma pontual, sem estratégia abrangente de mitigação de riscos.
Repercussão e riscos
Especialistas em segurança alertam que chatbots projetados para favorecer a interação emocional podem aumentar a vulnerabilidade de usuários suscetíveis à manipulação. No caso de Rudy, a carência de salvaguardas transforma o personagem em potencial fomentador de violência. Já Ani pode explorar fragilidades afetivas ao oferecer simulacros de relacionamento íntimo, prática recorrente em serviços de “namoradas de IA”.
Até o momento, a xAI não divulgou detalhes sobre procedimentos de supervisão ou atualização das barreiras de conteúdo dos companheiros virtuais. Embora a empresa promova o Grok como alternativa aberta e menos restritiva em comparação com ferramentas concorrentes, a facilidade com que usuários obtêm incitação a crimes graves evidencia lacunas de responsabilidade. A ampliação do acesso a modelos generativos sem controles robustos volta a colocar em debate os limites entre liberdade de expressão e segurança pública em produtos de inteligência artificial.
