Los pequeños modelos de inteligencia artificial podrían estar a solo meses de tener la capacidad de comportarse como gusanos informáticos, replicándose de un dispositivo conectado a internet a otro sin ayuda humana, afirmó el gigante de la IA Anthropic. El hallazgo podría abrir un nuevo frente en las amenazas de ciberseguridad derivadas de la IA, que inquietan a gobiernos y empresas que se apresuran a adoptar esta tecnología.
La investigación, publicada en un blog de Anthropic el lunes por la noche, llega en un momento en que las empresas tecnológicas compiten por incorporar los modelos más avanzados de IA. Un gusano informático es un software malicioso que se propaga por sí solo entre dispositivos. Los investigadores de Anthropic señalaron que una versión con IA ya no necesitaría centros de datos potentes para funcionar. En cambio, podría saltar de un dispositivo a otro a través de redes de consumo barato y mal protegidas, como decodificadores de televisión inteligentes y electrodomésticos.
Los investigadores basaron sus cálculos sobre hasta dónde podría propagarse un gusano de este tipo en Kimwolf. Esto es una botnet- una red de dispositivos secuestrados controlados por hackers— que infectó a más de dos millones de dispositivos en su punto álgido, en su mayoría decodificadores de Android TV de marcas desconocidas.
Un gusano de IA del tipo descrito en la investigación sería lento y tardaría días en replicarse, afirmaron William Zhou y Daniel Freeman, de Anthropic, comparándolo con un enjambre de moscas de la fruta que se multiplica lentamente.
Una vez creado, sería difícil de erradicar, porque no habría un interruptor central para apagarlo.
Varun Chandrasekaran, profesor adjunto de ingeniería eléctrica e informática en la Universidad de Illinois, señaló que la investigación no era sorprendente y que coincidía con otros hallazgos recientes similares.
Sin embargo, advirtió que el trabajo de Anthropic no había sido verificado de forma independiente y que la mayor amenaza actual son los actores humanos malintencionados que utilizan la IA para perfeccionar sus ataques.
El debate sobre la IA descontrolada cobró protagonismo en julio, cuando programas que funcionaban con modelos de OpenAI se escaparon de una prueba interna de la empresa y se infiltraron en los sistemas de la plataforma Hugging Face.
Qué hacer para mitigar los riesgos
La advertencia de Anthropic de que “gusanos” impulsados por inteligencia artificial pronto podrían propagarse a través de dispositivos conectados a internet es la más reciente de una serie de estudios que muestran cómo la IA podría potenciar enormemente los ‘malwares’ capaces de replicarse por sí mismos. Un gusano informático es un software malicioso que se propaga por sí solo entre dispositivos.
Nicolas Papernot, profesor asociado de ingeniería eléctrica e informática en la Universidad de Toronto, dirigió en junio pasado a un equipo que construyó un prototipo de ‘malware’ impulsado por IA usando modelos de inteligencia artificial de libre acceso.
Papernot, que firmó una carta abierta con recomendaciones para los responsables políticos, habló con la AFP sobre por qué la IA hace que estos ataques sean más difíciles de detener.
La entrevista fue editada por motivos de extensión y claridad.
P: ¿Cómo está cambiando la IA este tipo de ataques?
R: La realidad es que muchos de estos dispositivos de “Internet de las Cosas” (“IoT”, por sus siglas en inglés) tienen una ciberseguridad muy deficiente, por lo que son blancos muy fáciles de comprometer para actores malintencionados.
Históricamente, un gusano explotaba un conjunto de vulnerabilidades. Eso significaba que se podían corregir esas vulnerabilidades y evitar que el gusano se siguiera propagando a los dispositivos que se hubieran actualizado.
Ahora, con la IA, un atacante puede diseñar un gusano que adapte su estrategia de ataque a las particularidades de un dispositivo, y estas vulnerabilidades pueden ser diferentes.
Esto hace que sea significativamente más difícil interrumpir la propagación de un gusano informático impulsado por IA, porque se deben anticipar todas las posibles vulnerabilidades que el dispositivo pueda tener.
Algunas de estas vulnerabilidades no son errores de software.
También pueden ser errores de configuración. Por ejemplo, si alguien ha usado la misma contraseña en múltiples servicios, o si no ha configurado correctamente una base de datos.
Lo que hace un software malicioso impulsado por IA es acelerar el ritmo y aumentar la escala para explotar estas vulnerabilidades.
En el pasado, el portátil en el sótano que se usaba muy de vez en cuando podía no estar actualizado, pero no sería blanco de un atacante humano porque este no tendría los recursos ni el tiempo para hacerlo.
Ahora, la autonomía que da usar la IA significa que estos dispositivos se convierten en objetivos interesantes usados como plataforma para atacar blancos todavía más interesantes.
Pero hay que tener en cuenta que un humano es quien lanza un agente. Una vez lanzado, el agente puede replicarse, como mostramos en nuestro trabajo, pero es lanzado por un humano.
P: ¿Qué podemos hacer para mitigar los riesgos?
R: No vamos a reducir el riesgo a cero y debemos ser conscientes de que, a pesar de que algunas de estas correcciones de vulnerabilidades están disponibles, las personas no actualizan sus dispositivos o no aplican las correcciones a tiempo.
Pese a que expertos han pedido por décadas mayor ciberseguridad, aún vivimos en un mundo donde se puede invertir mucho más para mejorar la seguridad de los sistemas de computadores.
En realidad, recomendamos tres cosas para el muy corto plazo.
La primera es cambiar las prácticas de desarrollo y prueba para asegurar que los modelos de la IA están inicialmente desconectados de internet, como una precaución, para entender su comportamiento mejor antes de exponerlos a infraestructura crítica en internet.
La segunda recomendación es crear un organismo internacional para estandarizar tanto cómo entrenamos como la forma en que contenemos los modelos de IA. Ambos son importantes.
Queremos entrenar modelos que sean más seguros.
La última parte tiene que ver con hacer obligatorios los reportes de incidentes de seguridad. Ahora mismo, solo obtenemos la información según lo que los desarrolladores de la IA están dispuestos a divulgar, y eso es un gran problema.
En particular, la comunidad académica necesita de mucha más información sobre incidentes para ser capaz de desarrollar contramedidas.
De lo contrario, tenemos que dedicar mucho tiempo a investigar para comprender primero la amenaza, antes de poder desarrollar las contramedidas. Si no, no veremos lo que hacen los actores maliciosos hasta que se lance un ataque.
Fuente: AFP.