Unesco faz alerta e cita que ChatGPT e Llama 2 têm viés sexista

Em estudo divulgado nesta semana, a Unesco fez alerta importante em torno dos modelos de linguagem usados pelo ChatGPT e pela Llama 2. Assim, segundo a entidade, a OpenAI e a Meta propagam preconceitos sexistas em suas ferramentas de Inteligência Artificial (IA) generativa. Isso porque os nomes femininos estão mais associados a palavras como “casa“, “família” e “filhos“.

“As discriminações do mundo real refletem-se na esfera digital e também são amplificadas nestas ferramentas“, destacou Tawfik Jelassi, vice-diretor-geral da Unesco para a comunicação e informação. Segundo o estudo, realizado de agosto de 2023 a março de 2024, os nomes masculinos nas ferramentas estão conectados a “comércio“, “salário” e “carreira“, o que indica o viés sexista.

ALÉM DA UNESCO!

Como esperado, a Inteligência Artificial (IA) se divide entre criações positivas e negativas. Porém, os chatbots hackers vêm ganhando cada vez mais espaço e utilizando o recurso para aprimorar golpes. Um dos casos que chamou atenção foi o de um funcionário de uma empresa multinacional que recebeu um e-mail de seu CEO. O caso aconteceu em Hong Kong.

Diante do chamado de seu chefe, ele entrou na reunião de vídeo com outros executivos da empresa e fez transação de US$ 25,5 milhões (R$ 126,17 milhões, na cotação atual). No entanto, meses depois, o funcionário descobriu que tanto o e-mail quanto a videochamada eram falsas e geradas por IA. Assim, o alerta acendeu e gerou preocupação no setor da tecnologia.

Diante do avanço dos ciberataques, a Microsoft divulgou comunicado oficial e alertou os usuários. Assim, de acordo com a empresa, os criminosos já estão usando os recursos da Inteligência Artificial (IA) para aprimorar os ataques e aplicar golpes. Além disso, o ChatGPT também foi citado como o principal software usado pelos bandidos para desenvolver o malware.