Jan Leike, ex-OpenAI, assume liderança de nova equipe na Anthropic
Após críticas à abordagem da OpenAI sobre segurança de IA, Leike se junta à Anthropic para liderar esforços focados em supervisão escalável e pesquisa automatizada de alinhamento.
Novos ares
Jan Leike, renomado pesquisador de inteligência artificial, que recentemente deixou a OpenAI e criticou publicamente sua abordagem em relação à segurança da IA, agora faz parte da Anthropic. Ele liderará uma nova equipe dedicada ao "superalignment". Em um post na rede social X, Leike declarou que sua equipe focará em diversos aspectos da segurança e segurança da IA, incluindo supervisão escalável, generalização fraca para forte e pesquisa automatizada de alinhamento.
Clique aqui para ver a declaração na rede social "X".
Reestruturação, expectativa e rivalidade
Além disso, Leike responderá diretamente ao diretor científico da Anthropic, Jared Kaplan. Pesquisadores da Anthropic que trabalham em supervisão escalável serão reestruturados para se reportar a Leike, à medida que sua nova equipe começa a operar. Esta reestruturação visa aprimorar técnicas para controlar o comportamento de IA em grande escala de maneiras previsíveis e desejáveis.
A equipe de Leike na Anthropic reflete a missão da recentemente dissolvida equipe Superalignment da OpenAI, que ele co-liderou. A equipe Superalignment da OpenAI tinha como objetivo resolver os principais desafios técnicos de controle de IA superinteligente dentro de quatro anos, mas enfrentou limitações devido à liderança da OpenAI. A Anthropic, liderada pelo CEO Dario Amodei, se posiciona como mais focada em segurança em comparação com a OpenAI. Amodei, que se separou da OpenAI por discordâncias em relação ao foco comercial da empresa, fundou a Anthropic com vários ex-funcionários da OpenAI, incluindo o ex-líder de políticas Jack Clark.
Agora na empresa rival, Jan Leike parece ter encontrado um novo lar para continuar operando nos projetos de inteligência artificial, principalmente focado na segurança, área de grande preocupação do pesquisador. Assim, resta aguardar para saber se a polêmica parceria resultará no sucesso Anthropic ou em uma hegemonia da OpenAI.
Fonte: CNBC
------------------------------------------------------------------------------------------------------------------------------
🚀 Gostou do conteúdo? Então continue lendo as principais notícias do mercado de IA.
📩 Assine a nossa newsletter e fique por dentro de tudo sobre a Inteligência Artificial.
Foto: Jan Leike (@janleike no X)