Instituto britânico testará sistemas avançados, como o Gemini 4 Argon, em parceria com os Estados Unidos e grandes empresas de tecnologia
O Instituto de Segurança de IA do Reino Unido teve acesso aos modelos mais avançados de IA e está trabalhando com o governo dos Estados Unidos e grandes desenvolvedoras, incluindo o Google, para avaliar sua segurança, disse o ministro da IA, Kanishka Narayan, nesta segunda-feira (12).
O Reino Unido, que não tem nenhuma grande empresa desenvolvedora de IA, busca um papel de liderança nos esforços para avaliar e gerenciar os riscos representados por sistemas cada vez mais poderosos.
O escrutínio da segurança da IA se intensificou depois que desenvolvedoras, incluindo a Anthropic e a OpenAI, divulgaram casos de comportamento inadequado ou indesejado por parte de seus agentes.
Algumas figuras do setor alertaram que a tecnologia pode representar uma ameaça existencial para a humanidade.
O anúncio de segunda-feira, que não especificou todos os modelos que o instituto está avaliando, surge após relatos do mês passado de que a Casa Branca pediu à OpenAI e à Anthropic que retivessem novos modelos de testadores britânicos até que uma revisão dos EUA fosse concluída.
“Posso confirmar que os cientistas de IA do Instituto de Segurança de IA estão agora conduzindo avaliações rigorosas da última geração de modelos, incluindo o Gemini 4 Argon, para identificar riscos precocemente, testar salvaguardas robustas e ajudar a manter as pessoas seguras”, disse Narayan.
Por meio de acordos voluntários com as principais desenvolvedoras, o instituto recebe acesso aos modelos antes da implementação. Isso permite avaliar suas capacidades e riscos, e contribuir para os padrões internacionais de segurança emergentes.
O presidente da Microsoft, Brad Smith, afirmou em entrevista publicada pela BBC na segunda-feira que o Reino Unido está em uma posição privilegiada para liderar o trabalho em diretrizes de segurança para inteligência artificial.
Em uma carta publicada em setembro, o AISI afirmou que a Anthropic deixou claro que nenhuma organização fora dos EUA tinha acesso ao seu modelo Mythos 5.1.
Questionado sobre o acesso a sistemas de IA de ponta algo que os ministros nunca confirmaram que o instituto tenha perdido em uma escala mais ampla Narayan disse que o governo tinha um relacionamento de longa data com os EUA, construído sobre a confiança.
“Quando você depende da tecnologia de terceiros, precisa ter uma visão realista sobre a permanência de qualquer resultado. Mas estou muito confiante de que, como consequência das conversas que tivemos, seremos capazes de testar a última geração de modelos”, disse ele.
Fonte: www.cnnbrasil.com.br