El Pentágono suspende el uso de herramientas de inteligencia artificial de Anthropic

El Pentágono ha suspendido el uso de herramientas de inteligencia artificial desarrolladas por Anthropic. La interrupción se produjo después de que la entidad incluyera a la compañía en una lista restrictiva, según información proporcionada a la BBC.

La decisión de clasificar a Anthropic como un riesgo para la cadena de suministro se adoptó en el mes de febrero. Esta determinación se tomó después de que la empresa se negara a retirar las restricciones de seguridad implementadas en sus soluciones tecnológicas.

Salvaguardias y control operativo

Las restricciones de seguridad en modelos de inteligencia artificial consisten en directrices técnicas y parámetros insertados por los desarrolladores para limitar ciertos comportamientos y restringir salidas no deseadas de los sistemas. Dichos mecanismos operan para impedir que las herramientas ejecuten acciones que violen las reglas definidas en su concepción original.

Por otro lado, la designación de una organización como riesgo para la cadena de suministro funciona, en términos generales de administración pública, como un instrumento institucional para bloquear o descontinuar la adquisición y el empleo de tecnologías de proveedores específicos. La inclusión en esta categoría impide la integración de productos o servicios en la infraestructura del organismo.

En el caso del Pentágono, el mantenimiento de estas barreras de protección por parte de los desarrolladores y la consecuente clasificación formal en febrero llevaron al fin de la utilización de los recursos de la empresa dentro de sus actividades.

Con información de BBC News.