Meta irá rotular conteúdos postados em suas redes sociais criados com a IA
A Meta vai começar a colocar marcas d'água em mídias geradas com IA em suas redes sociais. E irá punir usuários que enviam vídeos realistas de IA sem explicitá-los.
De acordo com o portal The Verge, a Meta, empresa responsável por plataformas como Facebook, Instagram e Threads, anunciou que começará a rotular conteúdos gerados por inteligência artificial (IA) enviados para suas plataformas nos próximos meses, especialmente à medida que as campanhas eleitorais nos EUA ganham força globalmente. A empresa também adotará medidas punitivas contra usuários que não revelarem o uso de IA em vídeos ou áudios realistas.
Detecção e Marcação de Conteúdo com IA
A Meta está desenvolvendo ferramentas para identificar mídias sintéticas (mídias criadas com uso da IA), mesmo que seus metadados tenham sido alterados para ocultar a influência da IA. Nesse caso, a empresa já utiliza a marca d'água "Imagined with AI" em imagens criadas pelo seu próprio gerador de IA, Imagine AI, e expandirá a prática para fotos geradas por IA de outras ferramentas populares como Google, OpenAI e Microsoft.
Além disso, a empresa trabalha com parceiros como a Partnership on AI para desenvolver padrões de autenticidade de conteúdo, enquanto gigantes da tecnologia como Adobe e Google já implementaram sistemas de rastreamento de proveniência, para identificar a origem da criação do conteúdo.
Penalidades para Não Divulgação
Usuários da Meta serão obrigados a divulgar o uso de IA em postagens realistas de vídeo ou áudio. Aqueles que não cumprirem enfrentarão penalidades variadas, de advertências à remoção do conteúdo.
Além disso, a Meta está testando o uso de grandes modelos de linguagem (LLMs) treinados em seus Padrões da Comunidade como ferramenta de triagem para moderadores humanos, buscando eficiência e precisão na identificação de conteúdos que requerem atenção especial.
Transparência e Responsabilidade na Era da IA
As novas políticas da Meta visam promover uma maior transparência e responsabilidade no uso de IA, garantindo que os usuários estejam cientes da origem sintética do conteúdo que consomem, ao mesmo tempo em que protege a integridade da informação no cenário digital.
------------------------------------------------------------------------------------------------------------------------------
🚀 Gostou do conteúdo? Então continue lendo as principais notícias do mercado de IA.
📩 Assine a nossa newsletter e fique por dentro de tudo sobre a Inteligência Artificial.
Foto: Meta