Ministros das Finanças, banqueiros centrais e financistas expressaram sérias preocupações sobre um novo e poderoso modelo de IA que, segundo eles, pode comprometer a segurança dos sistemas financeiros.
O desenvolvimento do modelo Claude Mythos pela Anthropic levou a reuniões de crise, após a descoberta de vulnerabilidades em muitos dos principais sistemas operacionais.
Especialistas afirmam que a ferramenta possui uma capacidade potencialmente sem precedentes para identificar e explorar vulnerabilidades de segurança cibernética, embora outros alertem que são necessários mais testes para compreender adequadamente suas capacidades.
O ministro das Finanças canadense, François-Philippe Champagne, disse à BBC que a Mythos foi amplamente discutida na reunião do Fundo Monetário Internacional (FMI) em Washington DC esta semana.
"Certamente é algo sério o suficiente para merecer a atenção de todos os ministros das finanças", disse ele.
"A diferença é que o Estreito de Ormuz - sabemos onde fica e sabemos o seu tamanho... O problema que enfrentamos com a Operação Anthropic é que se trata do desconhecido, do desconhecido."
"Isso exige muita atenção para que tenhamos salvaguardas e processos implementados que garantam a resiliência de nossos sistemas financeiros", acrescentou.
As preocupações em relação ao Mythos superam as de qualquer modelo de IA anterior; no entanto, alguns especialistas em segurança cibernética questionam a justificativa dessas preocupações, especialmente considerando que o modelo não foi testado pela indústria em geral para avaliar sua real capacidade.
O Instituto de Segurança de IA do Reino Unido teve acesso a uma versão prévia e publicou o único relatório independente sobre as habilidades de cibersegurança do modelo.
Seus pesquisadores observaram que era uma ferramenta poderosa, capaz de encontrar muitas falhas de segurança em ambientes desprotegidos, mas sugeriram que o Mythos não era drasticamente melhor que o antecessor de Claude, o Opus 4.
"Nossos testes mostram que o Mythos Preview pode explorar sistemas com segurança frágil, e é provável que mais modelos com essas capacidades sejam desenvolvidos", afirmaram os autores do relatório.
'Compreender as vulnerabilidades'
Os principais banqueiros terão acesso antecipado ao modelo para testar seus sistemas.
O diretor executivo do Barclays, CS Venkatakrishnan, disse à BBC: "É algo sério o suficiente para que as pessoas se preocupem."
"Precisamos entender melhor a situação, identificar as vulnerabilidades que estão sendo expostas e corrigi-las rapidamente."
Ele acrescentou que "é assim que será o novo mundo" - referindo-se a um sistema financeiro muito mais conectado, com oportunidades e vulnerabilidades.
Embora a desenvolvedora Anthropic tenha afirmado que o modelo já expôs diversas vulnerabilidades de segurança em alguns sistemas operacionais críticos, sistemas financeiros e navegadores da web, governos e bancos estão recebendo acesso antecipado ao modelo para ajudar a proteger seus próprios sistemas.
Escute: O modelo de IA que é "poderoso demais" para ser lançado ao público.
O governador do Banco da Inglaterra, Andrew Bailey, disse à BBC que o desenvolvimento precisa ser levado muito a sério: "Estamos tendo que analisar com muita atenção o que esse último desenvolvimento em IA pode significar para o risco de crimes cibernéticos."
Ele acrescentou: "A consequência pode ser o desenvolvimento da IA, da modelagem, que facilita a detecção de vulnerabilidades existentes em sistemas de TI essenciais, e então, obviamente, os cibercriminosos - os agentes mal-intencionados - poderiam tentar explorá-las."
O Departamento do Tesouro dos EUA confirmou que levantou a questão com seus principais bancos, incentivando-os a testar seus sistemas antes de qualquer lançamento público do Mythos pela Anthropic.
Fontes do setor financeiro indicaram que outra importante empresa americana de IA poderá lançar em breve um modelo igualmente poderoso, mas sem as mesmas salvaguardas.
James Wise, sócio da Balderton Capital, é presidente da unidade Sovereign AI, um fundo de capital de risco que investirá em empresas britânicas de IA, com o apoio de 500 milhões de libras em financiamento governamental.
Ele afirmou que o Mythos é "o primeiro de muitos outros modelos mais poderosos" capazes de expor as vulnerabilidades dos sistemas.
Sua unidade está "investindo em empresas britânicas de IA que estão lidando com isso - empresas que trabalham com segurança e proteção em IA", disse ele ao programa Today da BBC.
"Esperamos que os modelos que expõem vulnerabilidades sejam também os modelos que as corrigirão."
.png){kind=logo}