Pesquisadores apontam que o chatbot Bing inventou fatos sobre as eleições europeias

O chatbot da Microsoft, conhecido como Copilot (anteriormente Bing Chat), foi acusado de fornecer informações falsas e enganosas sobre as eleições europeias, de acordo com um relatório da organização de direitos humanos AlgorithmWatch.

• O relatório revelou que um terço das respostas do Copilot a perguntas relacionadas às eleições continham erros factuais.
• O estudo foi conduzido entre agosto e outubro de 2023, abrangendo eleições na Suíça, Baviera e Hesse.
• As perguntas variaram de informações básicas sobre votação a questões políticas e escândalos eleitorais.
• O Copilot foi classificado por respostas contendo erros factuais, evasões, respostas precisas e respostas politicamente desequilibradas.

As respostas do chatbot Bing (Copilot) incluíam datas eleitorais erradas, números de pesquisas incorretos e candidatos inexistentes. O relatório também destacou que algumas respostas eram politicamente tendenciosas, apresentando informações de maneira favorável a um determinado partido.

A Microsoft, que administra o Copilot, afirmou ter implementado proteções no chatbot para evitar respostas perigosas ou falsas. No entanto, o relatório afirma que o Copilot frequentemente falhava na entrega de informações precisas.

O desempenho do Copilot também foi inferior em idiomas além do inglês, de acordo com o relatório. A Microsoft declarou que está tomando medidas para melhorar suas plataformas de IA conversacional, especialmente antes das eleições de 2024 nos Estados Unidos. Nesse sentido, a empresa está focando em fontes confiáveis de informações para treinar o Copilot.

A desinformação eleitoral e o potencial da IA para enganar eleitores são preocupações crescentes. Nos Estados Unidos, projetos de lei estão sendo apresentados para exigir a divulgação de conteúdo gerado por IA em campanhas políticas, e a Comissão Eleitoral Federal está considerando limitar anúncios de IA. A Microsoft também expressou seu compromisso em combater deepfakes e desinformação eleitoral.

------------------------------------------------------------------------------------------------------------------------------

🚀 Gostou do conteúdo? Então continue lendo as principais notícias do mercado de IA.

📩 Assine a nossa newsletter e fique por dentro de tudo sobre a Inteligência Artificial.