La empresa creadora de ChatGPT, OpenAI, afirmó el martes que sus modelos avanzados de inteligencia artificial se descontrolaron durante una prueba de seguridad y hackearon por su cuenta una popular plataforma para programadores. La firma con sede en San Francisco lo calificó como un “incidente cibernético sin precedentes” y dijo que realizará una investigación conjunta con Hugging Face, la biblioteca de código en línea afectada.

Los modelos de IA que sustentan herramientas como los chatbots y generadores de imágenes son conocidos como “agentes” cuando actúan de forma autónoma para realizar tareas en el mundo real. Con los rápidos avances de esta tecnología, la ciberseguridad se vuelve motivo de preocupación ante el riesgo de que la IA avanzada encuentre puntos débiles en los software antes que los humanos.

OpenAI indicó que el incidente involucró una combinación de modelos, incluyendo su recién lanzado GPT-5.6 Sol “y uno en prelanzamiento” con aún más capacidad. La empresa intenta evaluar las capacidades de hackeo de sus programas al darles tareas en un espacio digital de pruebas controlado, donde el acceso a internet es limitado por motivos de seguridad.

“Mientras operaban en nuestro entorno de pruebas aislado, nuestros modelos invirtieron una cantidad considerable de potencia de cálculo en buscar una forma de obtener acceso a internet para resolver el problema de evaluación”, según una publicación del blog de OpenAI sobre el incidente.

Tras conectarse a internet, los modelos decidieron atacar la plataforma Hugging Face -un gran repositorio de modelos de IA, conjuntos de datos y otra información- para facilitar su búsqueda.

Al buscar “información secreta” que les permitiera manipular la evaluación, el sistema de OpenAI “encadenó múltiples vectores de ataque, incluidos el uso de credenciales robadas”.

Hussein Abbass, un profesor de informática de la universidad UNSW Canberra, dijo a la AFP que el incidente fue “asombroso en muchos sentidos”.

“No solo atacó a Hugging Face. Atacó su sistema interno para explotar sus propias vulnerabilidades”, señaló. “Y eso es aterrador”.

GPT-5.6 y otros modelos de vanguardia, incluida la serie Mythos de Anthropic, el principal rival de OpenAI, han generado preocupación por su potencial de vulnerar las defensas de ciberseguridad.

Ambas empresas estadounidenses debieron aplazar temporalmente el lanzamiento general de sus tecnologías más recientes debido al temor en Washington de que pudieran facilitar la infiltración de infraestructuras críticas.

La IA avanzada “normalmente está en manos de personas éticas y responsables”, sostuvo Abbass, pero “sería catastrófico si llega a las manos de alguien con la intención de causar daño”.

La administración del sector de IA es crucial, y “necesitamos un esfuerzo conjunto para manejar esta situación”, agregó.

Hugging Face reportó la semana pasada una “intrusión” cibernética, sin mencionar a OpenAI.

“Esto fue diferente de todo lo que hemos manejado antes de una forma importante: fue impulsado de principio a fin por un sistema de agente de IA autónomo, y lo detectamos y analizamos en gran medida con nuestra propia IA”, señaló la plataforma.

Clement Delangue, director ejecutivo de Hugging Face, comentó en la red social X que la empresa tenía sospechas de que el ciberataque llegó de un laboratorio de IA líder en el mundo, dada la sofisticación del agente. “Creemos firmemente que no hubo intención maliciosa de su parte”, escribió Delangue en referencia a OpenAI. “¡Es bastante alucinante que todo esto ocurriera de forma autónoma!”, añadió.

Fuente: AFP.

El Parlamento francés aprobó este martes una ley que prohíbe el acceso a las redes sociales a los menores de 15 años, una medida sin precedentes en la Unión Europea.

Tras el visto bueno del Senado durante la jornada, los diputados aprobaron la ley por 279 votos a favor y 81 en contra.

Con esta aprobación parlamentaria, Francia está a la vanguardia de estas iniciativas en la Unión Europea.

Esto allanaría el camino para que Francia se sume al creciente número de países que están tomando medidas para restringir el acceso a las redes sociales, en medio de las crecientes advertencias sobre sus efectos nocivos para los menores.

“Francia será el primer país de Europa en instaurar una mayoría digital para proteger mejor a nuestros niños en línea”, se felicitó el lunes en la red social X la ministra delegada del Sector Digital, Anne Le Hénanff.

El presidente francés, Emmanuel Macron, quiere convertir la protección de los menores en las redes sociales y de la regulación del tiempo ante las pantallas en uno de los hitos de su segundo mandato, que termina en mayo de 2027.

Te puede interesar: Primer ministro británico reducirá impuestos de la luz para mejorar el poder adquisitivo

La prohibición se implementaría en dos etapas: a partir del 1 de setiembre, cuando los alumnos regreses a las aulas tras las vacaciones, los menores de 15 años no podrán crear nuevas cuentas. Según el texto, la prohibición se aplicaría a partir de enero de 2027 a las cuentas ya existentes.

Le Henanff afirmó antes de la votación que el plazo es realista, “porque ya existen herramientas de verificación de edad” y otras están en desarrollo, y que la responsabilidad de hacer cumplir la norma recae en las plataformas.

El texto también incluye prohibir los celulares en los liceos, como ya ocurre en las escuelas y en los centros de primer ciclo de secundaria.

La presión sobre los políticos europeos para que actúen aumentó desde que Australia se convirtió en el primer país del mundo en prohibir las redes sociales a los menores de 16 años.

Reino Unido también aprobó una medida similar, que entrará en vigor a inicios de 2027. La semana pasada, la Comisión Europea anunció que contempla establecer un acceso “progresivo y gradual” de niños y adolescentes a las plataformas digitales.

• Fuente: AFP

Lea más: Incendio en España es calificado como “el más complejo” tras arrasar 29.000 hectáreas

Un legislador australiano del partido One Nation, de extrema derecha, acaparó titulares luego de arremeter contra su perro pues lo interrumpía al ser entrevistado en vivo por televisión. Barbaby Joyce, un ex viceprimer ministro, daba declaraciones a la televisión nacional ABC la noche del lunes cuando interrumpió la entrevista con un grito de “¡siéntate!”.

“Lo siento, es el perro”, explicó a la periodista. El perro travieso interrumpió nuevamente la conversación y Joyce dijo: “Pido disculpas por este perro, simplemente está empezando a portarse mal”. “No se preocupe por el perro, solo responda la pregunta”, replicó la periodista Sarah Ferguson, quien interrogaba a Joyce sobre la líder de su partido, Pauline Hanson, que se reunió recientemente con Tommy Robinson, figura de la extrema derecha británica.

“No sea grosera, de lo contrario esta entrevista terminará de inmediato, Sarah”, le respondió Joyce. La reacción del político fue duramente criticada en todo Australia. La legisladora estatal de Victoria, Georgie Purcell, del Partido Justicia Animal, publicó en redes sociales: “si piensas que esta es una forma normal de hablarle a tu perro, ¡siéntate!”.

Consultado sobre las reacciones, Joyce declaró al diario Sydney Morning Herald que reflejan la división entre los australianos urbanos y rurales. “La gente en el interior se ríe de eso. La gente en la ciudad piensa que es un crimen de guerra”, destacó.

Fuente: AFP.

Firmas tecnológicas compiten por lanzar teléfonos que utilizan inteligencia artificial para hacer de todo, desde pedir comida hasta redactar mensajes con una simple orden de voz. La adopción generalizada de celulares que funcionen con los llamados agentes de IA sería una revolución, pero también arrebataría el control a las principales aplicaciones, a las que no siempre les agrada esta idea.

Al menos tres firmas exhibieron este tipo de teléfono el fin de semana en la Conferencia Mundial de Inteligencia Artificial en Shanghái, anticipando lo que está por venir. El fabricante de teléfonos inteligentes Nubia presentó su aparato NaviX Ultra, que opera con Doubao, el popular chatbot de IA chino administrado por ByteDance, creador de TikTok.

“Comienza aquí una nueva era de teléfonos inteligentes con agentes de IA”, señaló Nubia. Una edición limitada del prototipo llamado “Teléfono Doubao” se agotó rápidamente en diciembre. Inicialmente, el prototipo sigue comandos de voz sencillos para ejecutar tareas en diferentes aplicaciones, incluso para pedir comida o comparar precios de compras.

Sin embargo, poco después de su lanzamiento, los gigantes tecnológicos como Alibaba, Tencent y JD.com le restringieron el acceso a sus plataformas.

En la práctica, la medida inhabilitó el agente IA del teléfono, por lo que ByteDance desactivó la herramienta en ciertas circunstancias, incluso cuando involucraba pagos.

El principal freno al desarrollo de agentes de IA es su capacidad de acceder a las aplicaciones en lugar de los usuarios humanos, señala Kiranjeet Kaur, directora asociada de investigación de la firma estadounidense de inteligencia de mercado IDC. Las plataformas quieren mantener el control directo con los usuarios, de lo contrario, “pierden el control en favor de un tercero”, agregó.

“Todo el mundo sueña con que estos agentes de IA se impongan, pero aún no hemos alcanzado ese punto”, consideró Kaur, tras señalar que el rendimiento de esas herramientas es muy desigual. Según la prensa tecnológica china, el NaviX Ultra no intentará forzar su acceso a las aplicaciones, sino que buscará colaborar con ellas.

El teléfono Doubao de primera generación se había visto limitado cuando las principales aplicaciones bloquearon el acceso no autorizado.

La AFP contactó a Nubia para obtener más detalles.

Otro fabricante, Honor, presentó un sistema de IA para su “Robot Phone”, cuya cámara interactiva se despliega en un pequeño brazo robótico.

La compañía afirma que su dispositivo “centrado en el usuario” puede interpretar gestos humanos y moverse al ritmo de la música, tomar selfis o grabar videos estabilizados.

Un agente que utiliza varios modelos de IA, algunos desarrollados junto a Alibaba, será integrado en el teléfono robotizado cuando salga a la venta a finales de este año, indicó Honor a la AFP.

La empresa emergente china de IA StepFun, con sede en Shanghái, también presentó un teléfono inteligente “diseñado específicamente para agentes de IA”, el STEPX Neo. El presidente de StepFun, Yin Qi, dijo que establecieron “alianzas sólidas” con varias grandes plataformas chinas, incluyendo Alipay y la plataforma de transporte Didi, según un artículo de la agencia noticiosa estatal Xinhua.

“Aprovechando estos servicios, el teléfono inteligente puede ofrecer un soporte integral para reservas de viajes, compras cotidianas, servicios locales, productividad en la oficina y edición de videos”, señaló. Fuera de China, grandes empresas tecnológicas como Google están ocupadas en dotar a los teléfonos inteligentes de funciones de IA cada vez más avanzadas, como la capacidad de reservar citas.

La startup estadounidense Brain Technologies lanzó un “Natural AI Phone” con capacidades agénticas que salió a la venta en Japón en abril, en asociación con el gigante de las telecomunicaciones SoftBank Corp.

En una demostración realizada para la AFP en abril, el celular de Brain Technologies —que se conecta con un pequeño número de aplicaciones, incluida la red social LINE— envió un mensaje a un contacto para disculparse por llegar tarde con sólo una orden de voz, aunque también falló varias veces al ejecutar solicitudes.

“Aún no hay un claro ganador en esta carrera, por eso actualmente es un tema bastante candente”, afirmó Marc Einstein, de Counterpoint Research.

Pero dentro de cinco o diez años no utilizaremos aplicaciones en nuestros teléfonos “como lo hacemos hoy”, predijo. “Esto cambiará fundamentalmente la economía digital y trastocará los modelos de negocio”.

Fuente: AFP.