Los pequeños modelos de inteligencia artificial podrían estar a solo meses de tener la capacidad de comportarse como gusanos informáticos, replicándose de un dispositivo conectado a internet a otro sin ayuda humana, afirmó el gigante de la IA Anthropic. El hallazgo podría abrir un nuevo frente en las amenazas de ciberseguridad derivadas de la IA, que inquietan a gobiernos y empresas que se apresuran a adoptar esta tecnología.

La investigación, publicada en un blog de Anthropic el lunes por la noche, llega en un momento en que las empresas tecnológicas compiten por incorporar los modelos más avanzados de IA. Un gusano informático es un software malicioso que se propaga por sí solo entre dispositivos. Los investigadores de Anthropic señalaron que una versión con IA ya no necesitaría centros de datos potentes para funcionar. En cambio, podría saltar de un dispositivo a otro a través de redes de consumo barato y mal protegidas, como decodificadores de televisión inteligentes y electrodomésticos.

Los investigadores basaron sus cálculos sobre hasta dónde podría propagarse un gusano de este tipo en Kimwolf. Esto es una botnet- una red de dispositivos secuestrados controlados por hackers— que infectó a más de dos millones de dispositivos en su punto álgido, en su mayoría decodificadores de Android TV de marcas desconocidas.

Un gusano de IA del tipo descrito en la investigación sería lento y tardaría días en replicarse, afirmaron William Zhou y Daniel Freeman, de Anthropic, comparándolo con un enjambre de moscas de la fruta que se multiplica lentamente.

Una vez creado, sería difícil de erradicar, porque no habría un interruptor central para apagarlo.

Varun Chandrasekaran, profesor adjunto de ingeniería eléctrica e informática en la Universidad de Illinois, señaló que la investigación no era sorprendente y que coincidía con otros hallazgos recientes similares.

Sin embargo, advirtió que el trabajo de Anthropic no había sido verificado de forma independiente y que la mayor amenaza actual son los actores humanos malintencionados que utilizan la IA para perfeccionar sus ataques.

El debate sobre la IA descontrolada cobró protagonismo en julio, cuando programas que funcionaban con modelos de OpenAI se escaparon de una prueba interna de la empresa y se infiltraron en los sistemas de la plataforma Hugging Face.

La advertencia de Anthropic de que “gusanos” impulsados por inteligencia artificial pronto podrían propagarse a través de dispositivos conectados a internet es la más reciente de una serie de estudios que muestran cómo la IA podría potenciar enormemente los ‘malwares’ capaces de replicarse por sí mismos. Un gusano informático es un software malicioso que se propaga por sí solo entre dispositivos.

Nicolas Papernot, profesor asociado de ingeniería eléctrica e informática en la Universidad de Toronto, dirigió en junio pasado a un equipo que construyó un prototipo de ‘malware’ impulsado por IA usando modelos de inteligencia artificial de libre acceso.

Papernot, que firmó una carta abierta con recomendaciones para los responsables políticos, habló con la AFP sobre por qué la IA hace que estos ataques sean más difíciles de detener.

La entrevista fue editada por motivos de extensión y claridad.

P: ¿Cómo está cambiando la IA este tipo de ataques?

R: La realidad es que muchos de estos dispositivos de “Internet de las Cosas” (“IoT”, por sus siglas en inglés) tienen una ciberseguridad muy deficiente, por lo que son blancos muy fáciles de comprometer para actores malintencionados.

Históricamente, un gusano explotaba un conjunto de vulnerabilidades. Eso significaba que se podían corregir esas vulnerabilidades y evitar que el gusano se siguiera propagando a los dispositivos que se hubieran actualizado.

Ahora, con la IA, un atacante puede diseñar un gusano que adapte su estrategia de ataque a las particularidades de un dispositivo, y estas vulnerabilidades pueden ser diferentes.

Esto hace que sea significativamente más difícil interrumpir la propagación de un gusano informático impulsado por IA, porque se deben anticipar todas las posibles vulnerabilidades que el dispositivo pueda tener.

Algunas de estas vulnerabilidades no son errores de software.

También pueden ser errores de configuración. Por ejemplo, si alguien ha usado la misma contraseña en múltiples servicios, o si no ha configurado correctamente una base de datos.

Lo que hace un software malicioso impulsado por IA es acelerar el ritmo y aumentar la escala para explotar estas vulnerabilidades.

En el pasado, el portátil en el sótano que se usaba muy de vez en cuando podía no estar actualizado, pero no sería blanco de un atacante humano porque este no tendría los recursos ni el tiempo para hacerlo.

Ahora, la autonomía que da usar la IA significa que estos dispositivos se convierten en objetivos interesantes usados como plataforma para atacar blancos todavía más interesantes.

Pero hay que tener en cuenta que un humano es quien lanza un agente. Una vez lanzado, el agente puede replicarse, como mostramos en nuestro trabajo, pero es lanzado por un humano.

P: ¿Qué podemos hacer para mitigar los riesgos?

R: No vamos a reducir el riesgo a cero y debemos ser conscientes de que, a pesar de que algunas de estas correcciones de vulnerabilidades están disponibles, las personas no actualizan sus dispositivos o no aplican las correcciones a tiempo.

Pese a que expertos han pedido por décadas mayor ciberseguridad, aún vivimos en un mundo donde se puede invertir mucho más para mejorar la seguridad de los sistemas de computadores.

En realidad, recomendamos tres cosas para el muy corto plazo.

La primera es cambiar las prácticas de desarrollo y prueba para asegurar que los modelos de la IA están inicialmente desconectados de internet, como una precaución, para entender su comportamiento mejor antes de exponerlos a infraestructura crítica en internet.

La segunda recomendación es crear un organismo internacional para estandarizar tanto cómo entrenamos como la forma en que contenemos los modelos de IA. Ambos son importantes.

Queremos entrenar modelos que sean más seguros.

La última parte tiene que ver con hacer obligatorios los reportes de incidentes de seguridad. Ahora mismo, solo obtenemos la información según lo que los desarrolladores de la IA están dispuestos a divulgar, y eso es un gran problema.

En particular, la comunidad académica necesita de mucha más información sobre incidentes para ser capaz de desarrollar contramedidas.

De lo contrario, tenemos que dedicar mucho tiempo a investigar para comprender primero la amenaza, antes de poder desarrollar las contramedidas. Si no, no veremos lo que hacen los actores maliciosos hasta que se lance un ataque.

Fuente: AFP.

El escritor canadiense Thélyson Orélien afirmó el martes, en un texto a la AFP, que “ninguna frase” de su novela “fue creada por una máquina” de inteligencia artificial, como se le acusa, pero admitió los plagios que cometió en el pasado y pidió “disculpas”. Orélien está en el ojo del huracán desde hace semanas después de que una cuenta anónima en X lo acusara de haber escrito “casi integralmente” con IA su libro “C’était ça ou mourir”. También fue objeto de denuncias de plagio de textos publicados hace más de una década en Canadá.

“Se dice que ‘C’était ça ou mourir’ fue escrita por una inteligencia artificial. Es una calumnia y una herejía. Recurrí alguna vez a herramientas [de este tipo] para hacer investigaciones [...] Pero ninguna frase de este libro fue creada por una máquina”, aseguró Orélien en este texto, titulado “Esta novela que escribí”.

“Este libro, lo escribí yo mismo. Nace de mis heridas y de las de los demás migrantes. Esa herida del exilio de la que no se sana. Esta novela es el fruto de ello, es el fruto de mi trabajo, es mi creación”, añadió. “C’était ça ou mourir”, uno de los fenómenos de la temporada literaria en Francia, narra en primera persona la historia de Jonas Dorléon, un profesor que huye de su país, Haití, atrapado en la violencia de las bandas. Comienza entonces un peligroso periplo por 12 países hasta llegar a Canadá.

Orélien explicó que empezó a escribirla “en el otoño de 2017”, en Quebec, Canadá, donde vive desde 2010, tras haber dejado Haití. “Terminé un primer borrador de este texto en 2019”, precisó.

El autor de 38 años, sin embargo, no aportó elementos que pudieran probar estas informaciones, como había dicho que haría cuando surgió la polémica.

Sobre sus acusaciones de plagio, el novelista, que también tiene nacionalidad haitiana, reconoció haber “cometido errores inaceptables” al retomar textos de autores de renombre tras su llegada a Canadá.

“Tenía poco más de 20 años, seguramente quería ir demasiado rápido, sin tener en cuenta realmente todo lo que aún me quedaba por aprender. Quería escribir, leía mucho [...] Pero admirar no me autoriza a tomar, a atribuirme textos que no son míos”, afirmó. “Lo lamento profundamente y pido disculpas”.

Poco después de que la polémica se desatara, la reconocida Academia Goncourt, que otorga el premio literario más prestigioso de Francia, retiró a Orélien de su lista de aspirantes para este año. Esta controversia sacude el mundo literario francés y plantea interrogantes en todo el mundo sobre cómo esta nueva tecnología afectará al sector del libro.

Fuente: AFP.

En tiempos de reservas digitales e itinerarios diseñados con IA, Aventura Viajes reivindica el valor de conocer, escuchar y recomendar con experiencia. A un cuarto de siglo de su nacimiento, la agencia apuesta por el servicio personalizado, las alianzas internacionales y la certeza de que cada viajero merece una historia propia.

Un viaje puede comenzar con una búsqueda en internet, una fotografía o el deseo de conocer un lugar nuevo, pero convertir esa idea en una experien­cia memorable requiere entender quién viaja, qué espera y qué detalles pueden marcar la diferencia.

Aventura Viajes celebra 25 años haciendo de ese conocimiento su mayor diferencial. Desde el ejecutivo que nece­sita llegar a una reunión en otro con­tinente hasta la familia que sueña con Egipto o el viajero que busca una isla del Índico, la agencia apuesta por recomen­daciones personalizadas y un servicio que acompaña incluso cuando los pla­nes cambian o existe algún imprevisto como la pérdida de un vuelo.

Su historia nació casi por casualidad, a partir de una conversación entre el padre de Paloma y un amigo con quien compartía frecuentes viajes de negocios. La oportuni­dad inicial estuvo en el segmento corpora­tivo, al que luego se sumaron las vacacio­nes y las experiencias diseñadas a medida.

Aprender cada engranaje. Paloma se incorporó en 2015, tras estudiar en EE. UU. y Alemania. Desde entonces, fue cono­ciendo las distintas áreas del negocio y la dinámica de la operación. Esa expe­riencia le permite hoy liderar la parte creativa de la marca con la solvencia de quien conoce a cabalidad cada uno de los requerimientos.

Junto a ella se encuentra Anna Oh­mine, directora Comercial, quien des­de hace 23 años es parte fundamental del crecimiento de Aventura Viajes, impulsando nuevos desafíos y hacien­do posible alcanzar metas que alguna vez parecían inimaginables. ¿La clave del éxito? Una filosofía centrada en el cliente, donde el trato personaliza­do, la confianza y el compromiso de ofrecer experiencias de valor marcan la diferencia.

“Lo primero es escuchar. No hay otra cosa”, afirmó Paloma. Y agregó que, si bien hoy se puede hacer un itinerario tranquilamente con herramientas de inteligencia artificial, las mismas “no te conocen, no saben qué te va a gustar”.

Por eso, el equipo visita hoteles, destinos y operadores para evaluar servicios y construir relaciones con proveedores. Así puede recomendar desde recorridos culturales hasta ex­periencias singulares, como un tren de lujo por África o una cena frente a las pirámides de Egipto.

Un negocio que evoluciona. Ac­tualmente, cerca del 60 % de la cartera corresponde a viajes corporativos y el 40 % a vacacionales. La gestión incluye coordinación de vuelos y traslados, asistencia con el check-in y respuesta ante imprevistos.

“Durante la pandemia, el acompa­ñamiento a pasajeros que enfrenta­ban dificultades para regresar puso a prueba nuestra capacidad de respuesta y fortaleció los vínculos con clientes y aliados”, señaló Anna.

Por su parte, Paloma contó que Aventura Viajes también observa nuevas preferencias. Dijo que crece el interés de los viajeros paraguayos por Asia, los safaris africanos, Seychelles y Mauricio, con propuestas que combi­nan naturaleza, cultura y gastronomía,están cada vez en mayor auge, por lo que buscan sorprender cada vez más a sus clientes y honrar su preferencia con servicio de calidad premium.

A sus 25 años, la empresa apuesta por ampliar sus alianzas interna­cionales sin perder la cercanía que sostiene su trayectoria, pues, así como indicaron nuestras protagonis­tas, reservar puede tomar minutos, pero encontrar a alguien que conoz­ca tus gustos y responda cuando lo necesitás sigue siendo un diferencial. “Esa confianza es el capital con el que Aventura Viajes proyecta su próxima etapa”, anticiparon.

Meta presentó el lunes dos nuevos modelos de inteligencia artificial (IA) de punta llamados Wonder y Wonder Full, que, según la compañía, ofrecen un rendimiento de nivel similar al de ChatGPT de OpenAI y Claude de Anthropic. “Muse Spark fue nuestra primera familia de modelos, y ahora Muse Wonder es una clase de modelos mucho más grande y avanzada que nos sitúa en la vanguardia”, escribió el director ejecutivo Mark Zuckerberg en X.

Hace algo más de un año, había invertido miles de millones en una refundación completa de las actividades de IA del grupo para alcanzar a los dos laboratorios de San Francisco que dominan la carrera en Estados Unidos, con Google al acecho. Según las pruebas de Meta, Muse Wonder supera en varios criterios a los últimos modelos de OpenAI y Anthropic, los creadores de ChatGPT y Claude.

La empresa Artificial Analysis, una de las que evalúan los modelos de IA, lo sitúa entre los modelos más eficientes del mercado. Disponible para los desarrolladores desde el lunes, el nuevo modelo hará funcionar “pronto” al asistente Muse, empezando por sus suscriptores de pago, según Meta. Lanzado a principios de septiembre en Estados Unidos, Muse es un asistente de IA capaz de reservar un viaje, enviar correos electrónicos o realizar compras.

Se convirtió rápidamente en la aplicación gratuita más descargada en el App Store de Apple en el país, aunque su crecimiento pierde ritmo, según la firma Sensor Tower citada por el Wall Street Journal. Ahora se enfrenta a la competencia de Dots, el asistente de OpenAI, de Spark, el de Google, y de la start-up Instinct.

Meta cuenta con Muse para generar nuevos ingresos más allá de la publicidad, que constituye casi la totalidad de su facturación y financia este año hasta 145.000 millones de dólares de inversiones, esencialmente en IA.

El anuncio llega en un momento en que Silicon Valley está dividido sobre el ritmo adecuado de desarrollo de la IA, tras una serie de incidentes en los que algunos modelos se han escapado del control de sus creadores.

Fuente: AFP.