Google pausa geração de imagens da Gemini após erros de diversidade e contexto histórico
Ao proteger a ferramenta em questões ética e raciais, as tentativas do Google de subverter os estereótipos raciais e de gênero criaram novos problemas.
O Google anunciou a suspensão temporária da funcionalidade de geração de imagens do seu modelo de inteligência artificial Gemini, devido a críticas relacionadas à precisão e à diversidade nas imagens geradas. A decisão foi tomada após o compartilhamento de exemplos nas redes sociais que mostravam figuras históricas representadas de maneira imprecisa.
Resposta do Google às Críticas
A BigTech afirmou que está trabalhando ativamente para solucionar os problemas identificados com o recurso de geração de imagens do Gemini e planeja relançar uma versão melhorada em breve. Jack Krawczyk, diretor sênior da equipe Gemini, reconheceu a necessidade de ajustes e prometeu melhorias na representação das imagens.
Preconceito e Precisão em IA
Os exemplos compartilhados mostraram figuras históricas, como soldados alemães da Segunda Guerra Mundial, além de outros casos envolvendo viking, papas e os pais fundadores dos EUA retratados em várias etnias e gêneros. Tais representações levantaram questões sobre a precisão e o preconceito nas imagens geradas por IA.
Imagem: Google Gemini
Esforços para Melhorar a Representação
O Google busca refletir sua base global de usuários enquanto ajusta as respostas a solicitações com um viés histórico. A empresa se comprometeu a fazer ajustes imediatos para melhorar a representação nas gerações de imagem, abordando as preocupações levantadas pela comunidade e especialistas.
Desafios de Preconceito na IA
A questão do preconceito na IA tem sido um problema persistente, com investigações revelando tendências discriminatórias e sexismo em geradores de imagens. Especialistas apontam para a complexidade em mitigar preconceitos em aprendizado profundo e IA generativa, mas permanecem otimistas quanto a melhorias futuras.
Nesse sentido, a decisão do Google de pausar e revisar seu modelo Gemini destaca a importância de abordar questões de preconceito e precisão na IA. À medida que a tecnologia continua a evoluir, espera-se que as empresas implementem medidas para garantir representações justas e precisas em suas ferramentas de IA.
------------------------------------------------------------------------------------------------------------------------------
🚀 Gostou do conteúdo? Então continue lendo as principais notícias do mercado de IA.
📩 Assine a nossa newsletter e fique por dentro de tudo sobre a Inteligência Artificial.
Foto: Screenshot Google