Gigantes da tecnologia criam fórum para desenvolvimento seguro da IA

O avanço da Inteligência Artificial (IA) gerou progressos significativos em diversos setores. No entanto, junto a esse progresso emergem riscos de segurança que precisam ser devidamente endereçados. Embora os governos estejam trabalhando para regulamentar a segurança da IA, a responsabilidade recai sobre as empresas líderes no campo da tecnologia de IA. Neste contexto, surge uma iniciativa inovadora das gigantes Anthropic, Google, Microsoft e OpenAI: o Frontier Model Forum.

O que é o Frontier Model Forum?

O Frontier Model Forum é um consórcio liderado pela indústria com o objetivo de promover o desenvolvimento seguro e responsável de IA, especialmente em relação aos modelos de fronteira. Estes últimos são modelos de aprendizado de máquina em larga escala que ultrapassam as capacidades atuais e possuem uma vasta gama de habilidades, tornando-se ferramentas poderosas com grande potencial de impacto social. Os "modelos de fronteira" em Inteligência Artificial (IA) representam o estado da arte na tecnologia, combinando avanços recentes em pesquisa e desenvolvimento. Esses modelos, como o ChatGPT da OpenAI, trazem desempenho superior em tarefas complexas, tais como compreensão de texto, tradução automática e análise de sentimentos. Entretanto, apesar de seus notáveis avanços, também surgem desafios, como questões éticas e de privacidade ligadas ao uso de grandes volumes de dados. Para atingir seus objetivos, o Fórum planeja estabelecer um comitê consultivo, um estatuto e garantir financiamento. Seu trabalho será baseado em quatro pilares:

Pesquisa avançada de segurança de IA

O Fórum pretende contribuir para a pesquisa em segurança de IA. Dessa forma, promovendo a colaboração e o compartilhamento de conhecimento entre os membros, a ideia é identificar e abordar possíveis vulnerabilidades de segurança em modelos de fronteira.

Estabelecimento de melhores práticas

Desenvolver um conjunto padronizado de melhores práticas é crucial para a implementação responsável de modelos de fronteira. O Fórum trabalhará para estabelecer diretrizes que as empresas de IA possam seguir para assegurar o uso seguro e ético dessas ferramentas. Esse é um ponto extremamente relevante, já que pesquisas apontaram que texto gerado pelo ChatGPT pode ser confundido com texto humano. E dessa forma, diante das eleições americanas em 2024, há preocupação extrema de como a IA pode e vai atuar durante as eleições.

Envolvimento com stakeholders

A colaboração é fundamental para criar um ambiente seguro e benéfico para IA. Sendo assim, o Fórum pretende trabalhar de perto com formuladores de políticas, acadêmicos, sociedade civil e outras empresas para coordenar esforços e enfrentar os desafios complexos apresentados pelo desenvolvimento da IA. No entanto, o encontro de representantes das BIG TECHS na Casa Branca, previamente à criação do Fórum, foi altamente criticado pela ausência de representantes da sociedade civil.

Abordagem de desafios sociais

O Fórum busca fomentar o desenvolvimento de tecnologias de IA que possam enfrentar os maiores desafios da sociedade. Nesse caso, com uma IA segura e responsável, os possíveis impactos positivos em áreas como saúde, mudança climática e educação podem ser aproveitados para um bem maior.

Próximos passos do Frontier Model Forum

Os membros do Fórum estão comprometidos a dedicar o próximo ano em focar nos três primeiros objetivos. No anúncio da iniciativa, os critérios de adesão foram delineados, destacando a importância de um histórico de produção de modelos de fronteira e um forte compromisso com a segurança. O Fórum acredita firmemente que as empresas de IA devem ter um papel ativo no enfrentamento dos desafios que a tecnologia apresenta.

---

🚀Gostou do conteúdo? Continue lendo as principais notícias do mercado de IA. 📩Assine a nossa newsletter e fique por dentro de tudo sobre a Inteligência Artificial. Imagem: Unshared News