Una célula yemení ha utilizado a Claude, la inteligencia artificial (IA) de Anthropic, para intentar desarrollar armas teledirigidas, anunció el jueves la empresa estadounidense, en un momento en que los rebeldes hutíes llevan a cabo una ofensiva de gran envergadura en Yemen. Anthropic no revela la identidad de la célula, pero es probable que se trate de estos insurgentes proiraníes que controlan gran parte del norte de Yemen, incluida la capital, Saná.

“Hemos identificado una célula de actores maliciosos basada en el norte de Yemen que llevaba a cabo tres programas de desarrollo de armas”, indicó Anthropic en un informe que explica cómo detuvo operaciones ilegales provenientes de varios países.

Estos programas incluían “un cohete guiado utilizando un calculador de vuelo tipo smartphone con autoguiado”, un misil balístico con un objetivo de alcance de más de 2.000 km y un proyectil con un “tipo de planeador hipersónico”, según el informe.

La célula utilizó a Claude para sustituir a un equipo de ingenieros especializados en la creación de software de guiado, navegación y control de armas. “No disponemos de elementos que indiquen que han logrado desplegar un dispositivo operativo”, subrayó Anthropic.

Según la compañía, la célula ha realizado un lanzamiento de prueba de un cohete guiado pero fracasó. La start-up estadounidense asegura haber prohibido sus cuentas en cuanto identificó estas actividades ilegales y compartido la información para “reducir los riesgos que representan estos individuos”.

Yemen volvió a sumirse en la guerra en julio, tras más de cuatro años de tregua entre los hutíes y el gobierno yemenita, apoyado por Arabia Saudita.

Este viernes los hutíes tomaron una isla de gran valor estratégico en el estrecho de Bab el Mandeb y controlan este paso que da acceso al mar Rojo desde el océano Índico.

Anthropic anunció el jueves que cerró varias operaciones de vigilancia patrocinadas por Estados que utilizaban sus modelos de inteligencia artificial (IA), y advirtió que gobiernos y actores alineados con ellos recurren cada vez más a la IA para espiar a minorías y disidentes.

Los incidentes se originaron en China, Irán y el occidente de África, y fueron detectados e interrumpidos entre enero y julio, según informó la compañía en un reporte sobre el uso indebido de sus modelos.

Estas campañas de vigilancia “apuntaban a las mismas comunidades de la diáspora y disidentes que estos regímenes han perseguido históricamente”, apuntó el reporte.

De acuerdo con Anthropic, entre estos grupos había figuras prodemocracia de Hong Kong, comunidades tibetanas, y minorías y opositores al régimen iraní en el exterior.

En uno de los casos, actores iraníes desarrollaron un método para identificar a personas a través de sus cuentas en redes sociales.

En otro, un contratista que trabajaba para las autoridades de seguridad nacional de Mali utilizó Claude “para diseñar el software subyacente que permitió la recopilación de inteligencia”.

Anthropic también frustró intentos de usuarios de diseñar armas, realizar investigaciones biológicas cuestionables y crear estafas románticas en línea.

La empresa con sede en San Francisco también acusó a desarrolladores chinos de utilizar engañosamente a Claude para generar respuestas a las consultas de los usuarios mientras, de forma simultánea, “destilaban” esos datos para mejorar sus propios modelos.

La destilación es un término del sector que se refiere a un proceso en el que se emplea un modelo de IA para entrenar otro. Anteriormente, se ha acusado a desarrolladores chinos de usar esta técnica sin permiso.

En cuanto a las investigaciones relacionadas con armas biológicas que Anthropic detectó y bloqueó, la intención de los actores era menos clara y el laboratorio de IA no los identificó.

“Las personas implicadas en estos estudios de caso son científicos. No afirmamos que tuvieran intención de causar daño. Identificarlos a ellos o a sus laboratorios podría exponerlos a peligros”, señaló el informe.

La investigación científica en esos casos se centró en trabajos relacionados con el virus chikungunya, transmitido por mosquitos, una cepa “altamente patógena” de gripe aviar, una familia de virus que incluye la viruela y el mpox, así como venenos y otras toxinas.

Fuente: AFP.