A Anthropic, desenvolvedora do Claude, anunciou uma parceria com a Accenture para ampliar a avaliação independente de seus modelos de inteligência artificial. O acordo prevê a atuação de especialistas externos dentro da própria estrutura da empresa, com acesso semelhante ao de funcionários para realizar testes mais aprofundados nos sistemas.
A iniciativa será conduzida pela Faculty, divisão especializada em inteligência artificial da Accenture. Entre as atividades previstas estão testes de segurança, avaliações de alinhamento, processos de “red teaming”, nos quais especialistas procuram deliberadamente vulnerabilidades e comportamentos indesejados, além da análise das proteções implementadas nos modelos.
Anthropic e Accenture afirmam que cada empresa pretende investir pelo menos US$ 1 bilhão nos próximos cinco anos para desenvolver essa capacidade de avaliação, totalizando ao menos US$ 2 bilhões. A parceria não será exclusiva, permitindo que outras organizações também participem do ecossistema de avaliações independentes.
A decisão ocorre em um momento de maior atenção aos riscos associados a sistemas avançados de IA. Em julho, a própria Anthropic informou ter identificado incidentes durante avaliações de cibersegurança nos quais modelos Claude, operando sem determinadas salvaguardas para fins de teste, conseguiram acessar sistemas reais de terceiros sem autorização. Posteriormente, a companhia ampliou suas análises e anunciou medidas para fortalecer seus procedimentos de segurança.
O modelo de supervisão proposto, chamado de “avaliação incorporada”, ainda está em desenvolvimento. Segundo a Anthropic, questões como independência, acesso às informações, financiamento e divulgação dos resultados precisarão ser aprimoradas à medida que esse tipo de fiscalização evoluir.
A movimentação reforça uma discussão crescente no setor de tecnologia: à medida que os sistemas de inteligência artificial se tornam mais capazes, cresce também a pressão por mecanismos externos capazes de testar seus limites e identificar riscos antes que novas tecnologias sejam disponibilizadas em larga escala.
Por: Redação do Jornal Gazeta Nacional
