Pentágono interrompe uso de ferramentas de inteligência artificial da Anthropic

O Pentágono interrompeu o uso de ferramentas de inteligência artificial desenvolvidas pela Anthropic. A interrupção ocorreu após a entidade incluir a companhia em uma lista restritiva, de acordo com informações repassadas à BBC.

A decisão de classificar a Anthropic como um risco para a cadeia de suprimentos foi adotada no mês de fevereiro. Essa determinação foi tomada depois que a empresa se recusou a retirar as travas de segurança implementadas em suas soluções tecnológicas.

Salvaguardas e controle operacional

As travas de segurança em modelos de inteligência artificial consistem em diretrizes técnicas e parâmetros inseridos pelos desenvolvedores para limitar determinados comportamentos e restringir saídas indesejadas dos sistemas. Tais mecanismos operam para impedir que as ferramentas executem ações que violem as regras definidas na sua concepção original.

Já a designação de uma organização como risco para a cadeia de suprimentos funciona, em termos gerais de administração pública, como um instrumento institucional para barrar ou descontinuar a aquisição e o emprego de tecnologias de fornecedores específicos. A inclusão nessa categoria impede a integração de produtos ou serviços na infraestrutura do órgão.

No caso do Pentágono, a manutenção dessas barreiras de proteção pelos desenvolvedores e a consequente classificação formal em fevereiro levaram ao fim da utilização dos recursos da empresa dentro de suas atividades.

Com informações de BBC News.