OpenAI lança nova ferramenta pra identificar imagens geradas por IA

A OpenA lançou uma nova ferramenta capaz de determinar com 98% de precisão se uma imagem foi gerada por inteligência artificial (IA). A empresa destaca que a ferramenta é eficaz, porém alterações mínimas na imagem podem reduzir sua precisão.

Combatendo o Desafio das Imagens Falsas

Este desenvolvimento surge como uma resposta ao crescente problema de imagens falsas e conteúdos gerados por IA, que têm causado confusão sobre a autenticidade do conteúdo digital e influenciado esferas importantes da sociedade como as campanhas eleitorais. A ferramenta é parte de um esforço maior para mitigar os riscos associados ao uso de tecnologia de geração de IA, que inclui parcerias com gigantes da tecnologia como Microsoft e Adobe para estabelecer credenciais de conteúdo para imagens online.

Funcionamento da Ferramenta

A nova ferramenta da OpenAI exibe uma alta taxa de precisão na identificação de imagens criadas pelo DALL-E 3, a menos que estas sejam alteradas, como por recortes ou capturas de tela. Alterações na cor das imagens também podem afetar a eficácia da ferramenta, segundo Sandhini Agarwal, pesquisadora da OpenAI, em entrevista ao The Wall Street Journal. Apesar de sua alta precisão, a ferramenta ainda enfrenta desafios ao avaliar imagens geradas por IA de outras empresas, o que pode induzir a erros de identificação.

Além disso, identificar conteúdos gerados pela IA pode ser mais difícil do que parece. Em 2023 a OpenAI lançou uma ferramenta para identificar textos gerados pela inteligência artificial, porém a ferramenta falhou em 75% dos testes realizados. No começo da IA generativa de texto e imagem era mais fácil para os humanos encontrarem falhas nos conteúdos, mas com a rápida evolução da IA generativa a tendência é que seja cada vez mais necessário o uso de ferramentas inteligentes para separar os conteúdos reais dos gerados pela inteligência artificial.

Investimento em Educação e Desenvolvimento Contínuo

Além do desenvolvimento da ferramenta, a OpenAI e a Microsoft também anunciaram a criação de um fundo de US$ 2 milhões para apoiar a educação sobre IA, visando aumentar a conscientização e o entendimento sobre as capacidades e limitações dessa tecnologia. A OpenAI planeja abrir o acesso à ferramenta para pesquisadores externos, buscando aprimorá-la continuamente e expandir sua aplicabilidade.

Por enquanto a ferramenta não está disponível ao público, o acesso é permitido somente para pesquisadores após cadastro feito no site da OpenAI.

------------------------------------------------------------------------------------------------------------------------------

🚀 Gostou do conteúdo? Então continue lendo as principais notícias do mercado de IA.

📩 Assine a nossa newsletter e fique por dentro de tudo sobre a Inteligência Artificial.

Foto: Omar Marques / SOPA Images / LightRocket via Getty Images