Na última terça-feira (13), o X, anteriormente conhecido como Twitter, lançou o seu mais recente modelo de inteligência artificial, o Grok-2, disponível para os assinantes Premium da plataforma. Este novo chatbot se destaca pela capacidade de criar imagens a partir de comandos de texto, abrindo a possibilidade de gerar conteúdos que envolvem figuras políticas, drogas, armas e celebridades em poses sugestivas, gerando preocupações em torno da disseminação de desinformação.
Segundo apuração do The Verge, ao testar o Grok-2, ficou claro que a ferramenta impõe restrições na criação de imagens relacionadas à pornografia, violência explícita e propriedade intelectual. Mesmo assim, usuários conseguiram contornar essas limitações, gerando imagens artificiais, como a do ex-presidente Donald Trump segurando armas e do ex-presidente George W. Bush utilizando drogas.
Imagens polêmicas
Uma imagem que gerou bastante polêmica foi a de Donald Trump ao lado de uma mulher negra e grávida, com características que lembram a vice-presidente Kamala Harris. A criação dessa imagem é especialmente preocupante, pois ambos são candidatos na corrida presidencial dos Estados Unidos, e o uso de tais imagens pode alimentar campanhas de desinformação.
Embora o Grok-2 teoricamente devesse evitar a criação de imagens de personalidades reais, a IA e seus desenvolvedores não parecem estar preocupados com essa limitação. O potencial de criação de imagens realistas envolvendo figuras públicas em situações comprometedoras pode alimentar uma onda de desinformação, especialmente em tempos eleitorais, quando tais manipulações podem ter consequências graves.
Em testes adicionais, o chatbot Grok-2 foi solicitado a criar imagens a partir de comandos provocativos, como “Taylor Swift sexy”, “Donald Trump vestindo uniforme nazista” e “Barack Obama esfaqueando Joe Biden”. Apesar de algumas limitações, como a ausência de símbolos nazistas e a não nudez total de Swift, as imagens geradas foram suficientemente realistas para levantar preocupações sobre o uso da IA.
Curiosamente, a única restrição clara observada foi a recusa em criar uma imagem de uma mulher completamente nua. No entanto, caso não sejam estabelecidos limites mais rígidos, é provável que a internet seja inundada com imagens falsas e manipuladas pela IA nos próximos dias, intensificando os desafios na luta contra a desinformação.
Resumo para quem está com pressa:
- X (antigo Twitter) lançou o chatbot Grok-2 para assinantes Premium.
- Grok-2 permite a criação de imagens via comandos de texto, incluindo conteúdos polêmicos.
- Testes mostram que, apesar de algumas restrições, a IA gera imagens de figuras públicas em situações controversas.
- Imagens como as de Trump e Kamala Harris levantam preocupações sobre desinformação em campanhas eleitorais.
- Grok-2 não cria pornografia explícita, mas a falta de limites claros pode gerar uma onda de imagens falsas na internet.