• Ricardo Rivas
• Periodista
• X: @RtrivasRivas

La IA parece estar en todas partes y –justamente por ese crecimiento exponencial– lo que ocurrió preocupa. La IA también pareciera haberse apoderado del conocimiento. ¿La IA será una mutación del Aleph borgiano al que algunos “desarrolladores” procuran que la humanidad acuda para saber y conocer?.

“Internet no es la nueva ágora, como muchas personas suelen sostener. No es una especie de plaza pública como las que milenios atrás eran espacio para la reunión o el debate público. No lo es pese a que palabras tales como ‘foro’ o ‘comunidad’, solo por aportar un par de ejemplos, se hayan adoptado y resignificado –tal vez– para que las interacciones de todo tipo en los ecosistemas digitales se naturalicen”, sostiene Juan Manuel Brunschetta Vogt (68), quien desde la última década del siglo pasado diseña y desarrolla proyectos que se apoyan en la digitalidad.

“En los últimos quince años la domótica (IoT o IdC, la internet de las cosas, según sean sus siglas en inglés o español, respectivamente) es mi universo creativo y comercial”, agrega. Por esa razón afirma que “toda vulneración a la seguridad informática y mucho más cuando se produce con la IA (inteligencia artificial) como herramienta autónoma, dispara una preocupación social y profesional inevitable”.

La conversación entre varios tertulianos sentados a la mesa de un bar frente al mar en una fría tarde en algún lugar de la costa bonaerense argentina se dispara. Es tiempo de vacaciones invernales. Alguien –quiero suponer que un tanto en broma y por sus gestos, algo en serio– se toma de los dichos de JM y suelta: “¿Debo protegerme acaso de un eventual ataque personal que alguna banda de malhechores digitales ejecute pirateando la aspiradora que la tengo conectada con la APP del smatphone?”.

La respuesta llegó en medio de risas y silencios. “No, necesariamente. Pero creo que debieras pensar en contratar mis servicios para que prevenga que Alexa no ataque a Google Assistant o que ambas, aliadas sin que lo sepas vayan contra Gemini”, dijo el experto antes de retirarse. ¿De qué hablan estos tipos? Los que se quedaron, pese a la partida “del que sabe”, no abandonaron el tema. “Aunque parezca una charla sin sentido, JM no exagera, desde hace algún tiempo, mucho más desde que irrumpió la IA, millones consultamos con la inteligencia artificial para saber más de todo y sobre todo rápidamente, cuanto antes…”.

Fue noticia el martes último. El desarrollo de inteligencia artificial (IA) especializado en ciberseguridad catalogado como GPT-5.6 junto con otro diseño que todavía no es público (y así continúa, por lo menos hasta el cierre de este trabajo) planificaron y perpetraron un ciberataque contra otro sistema de IA. ¡Joder! ¿Quién ordenó el ataque? Por lo que se sabe, ningún humano intervino.

Consignar que los sistemas de medios públicos y privados –tanto tradicionales como los que operan en los ecosistemas digitales– inmediatamente después de conocida la novedad priorizaron esa información es una obviedad. Unas pocas horas después, OpenAI confirmó lo ocurrido. Pero las explicaciones no fueron suficientes. La ciencia ficción hace ya muchos años nos hizo saber que esto podría suceder.

El periodismo profesional –para mediar respuestas que la sociedad reclama– fue por más. La colega Kate Conger, del diario The New York Times, desde la ciudad de San Francisco, en la costa oeste, reportó que “dos modelos de inteligencia artificial (IA) se descontrolaron y lograron entrar sin autorización a Hugging Face, una biblioteca digital de tecnología de IA muy popular entre los desarrolladores” de esos sistemas.

Precisó también que “el incidente” se produjo una semana antes “mientras OpenAI ponía a prueba las capacidades de ciberseguridad de sus sistemas” y recordó que “durante el último año, laboratorios de IA como OpenAI y Anthropic han lanzado modelos adaptados para detectar fallas de ciberseguridad” donde fuere pero, al mismo tiempo, advirtieron que los desarrollos tecnológicos que aplican con esos fines “podrían plantear nuevos riesgos al encontrar brechas en las redes informáticas corporativas más rápido de lo que los equipos de defensa pudieran (hacer para evitarlas y) solucionarlas”.

Grave, sin dudas, y, desde esa perspectiva, Conger categorizó el suceso como “el tipo de escenario propio de la ciencia ficción que las empresas de IA habían advertido que pronto se volvería realidad”.

La Carta Encíclica Magnifica Humanitas, que escribió el papa León XIV, también alertó sobre ello. ¿Profecía autocumplida? ¿Cómo saberlo…? La IA parece estar en todas partes y –justamente por ese crecimiento exponencial– lo que ocurrió preocupa. La IA también pareciera haberse apoderado del conocimiento.

¿“El aleph” de Borges (Jorge Luis, 1899-1986), aquel objeto mágico que el viejo maestro situó en el sótano de una vieja casona bonaerense que contenía todos los puntos del espacio y del tiempo para escribir en 1949 un cuento fantástico, tiene vida propia? ¿La IA será una mutación del Aleph borgiano al que algunos “desarrolladores” procuran que la humanidad acuda para saber y conocer?

Durante largo tiempo imaginé las profecías como parte de tiempos tan lejanos como improbables. De ellas solo daban cuenta los textos sagrados para las religiones. “Los profetas poseen las habilidades necesarias para predecir el futuro”, respondió alguna vez, cuando era niño, aquella maestra que iluminó muchos de los tiempos que pasaba entre el patio de la escuela y los pupitres con tinteros que hoy pienso como parte de mi prehistoria.

Un cura católico, en la parroquia de Santiago Apóstol, muy cerca de la cancha de River que ya era El Monumental, en el Bajo Belgrano, mi pueblo natal en Buenos Aires, unos 1.300 kilómetros al sur de mi querida Asunción, me dio una explicación que la comprendí como muy distinta, aunque –quizás– fuera parecida. “Los profetas tienen el don de la profecía para revelarnos lo que vendrá inspirados por Dios”.

No tuvimos mucho tiempo para profundizar en aquellas enseñanzas. Al padre Alfredo –alto, flaco, desgarbado, que con jeans gastados y calzado con zapatillas Flecha jugaba con nosotros (los pibes) a la pelota– lo desaparecieron. Hoy, cuando evoco y lo recuerdo, tengo la convicción de que muchas veces conversé con un profeta. En la antigüedad griegos y romanos buscaban el saber en los oráculos. Al de Apolo, en Delfos –en la ladera sur del monte Parnaso, el “ombligo del mundo”, como muchos y muchas todavía lo llaman a ese punto geográfico– el pueblo concurría para dejar atrás las incertidumbres.

Casi doscientos kilómetros caminaban las y los atenienses para saber… y saberse. Tuvo, tiene y tendrá sentido aquel pensamiento que exhortaba y exhorta al conocimiento de nosotros mismos. ¿Cómo saber del hoy y del mañana si desconocemos quiénes somos? Incertidumbre y conocimiento –desde siempre– van de la mano.

Alguna vez en Santorini –después de navegar unas doscientas cincuenta millas en el Egeo– sentados en la playa con los ojos clavados en ninguna parte y en un horizonte que siempre se aleja, mientras compartíamos un Agiorgitiko –un vino tinto suave que estalla frutado en los paladares– un “viejo marinero español”, así se definió, aseguró que la milenariamente famosa Pitonisa de Delfos mediaba los saberes y conocimientos del dios Apolo para que llegaran a quienes procuraban saber y conocer.

“Era su sacerdotisa, su adivina, desde el momento mismo en que Apolo derrotó en brava lucha a Pitón, la serpiente que celosamente custodiaba Delfos”. ¿Y que era lo que sabía y conocía? “Todo. De la vida, de la muerte, del ayer, del hoy, del mañana… absolutamente todo, de todos”, respondió aquel “viejo marinero español”.

Incertidumbre y conocimiento –desde siempre– van de la mano. Acudir a la Pitonisa de Delfos en procura de certezas era una práctica social extendida. Verificarlo es sencillo cuando se recorre atentamente la historia universal. Aquí, allá y acullá. En 2011, antes de partir hacia Oriente Medio, el rabino Mario Rojzman –amigo y hermano entrañable– me indicó como “imprescindible que recorras la Calle de los Profetas, la Rehov HaNevi’im, en Jerusalén”.

Lo hice. Y allí descubrí y creo haber aprendido que las calles de Israel no se recorren, se leen en cada una de sus piedras. Jerosolimitanos o no. Los profetas del cristianismo, del islam y del judaísmo caminaron y predicaron allí. Ese es el lugar donde hablaron y se hicieron escuchar. También en la Rehov HaNevi’im los escucharon quienes quisieron escucharlos y luego decidieron –en cada caso– cuál era la verdad que tres mil años después aún leen, interpretan y observan sus descendientes. La Biblia, la Torá, el Corán, los Evangelios se escribieron allí y en esos textos sagrados para millones se guarda la sabiduría.

Incertidumbre y conocimiento –desde siempre– van de la mano. “Navegamos en mares de incertidumbres con algunos archipiélagos de certezas”, decía –palabras más, palabras menos– Edgar Morin (1921-2026). Los relatos sociales, las religiones, la salud, las creencias, el amor, los aprendizajes, el comercio, los saberes… y hasta las ignorancias más supinas… todo pareciera pasar por los filtros de la IA que ambiciosa pareciera intentar ser única.

¡Tremendo! Pavura da pensar que no son pocas ni pocos los autócratas emergentes de estos tiempos que aspiran a que la política, la guerra y la paz por las operaciones de los grandes modelos de lenguajes (LLM, por sus siglas en inglés) y las redes neuronales –convencionales (CNN) o recurrentes (RNN)– en procura de respuestas que (prueba/error en orden a los deseos de sus investigadores y diseñadores) arrojen resultados y corrijan los que ellas y ellos consideran como errores.

Nos son escasas tampoco las personas que se preguntan: “¿Se puede confiar en esos modelos tecnológicos en su estado actual?”. No tengo respuesta y, si creyera tenerla, admito que no me animo este domingo a expresarla públicamente. “Mi idea es que la IA es muy inteligente, pero no tiene conciencia”, dice Yubal Noah Harari (50) al colega periodista Antonio Jiménez Barca, de diario El País.

Escritor, historiador y filósofo, agrega que la inteligencia artificial “es un genio del lenguaje (que) fácilmente engañará a los humanos con los que habla íntimamente todo el día (y estima que) por eso mucha gente está convencida de que la IA tiene conciencia, de que siente cosas. (Desde esa perspectiva, la IA) debería tener derechos, deberíamos protegerla (pero por qué no pensar que, además) podría ser una gran psicópata que manipula perfectamente”.

El autor de “Nexus” (Penguin Random House, Barcelona, 2024), texto al que define como “una breve historia de las redes de información desde la Edad de Piedra hasta la IA”), afirma además que más pronto que tarde la inteligencia artificial superará al hombre “en cualquier cosa que tenga que ver con textos, con palabras, con información escrita o hablada, con el lenguaje (y cree –justamente por ello– que hasta) podría inventar, por ejemplo, una nueva religión (porque) en el fondo, el cristianismo o el islam (o el judaísmo) se basan en textos”.

Harari no trepida en señalar (y hasta tal vez, advertir enfáticamente) que “la IA es la primera tecnología que crea una relación emocional muy íntima a gran escala”; y destaca que “es muy buena en eso (porque) lo hace usando el lenguaje y lo que sabe sobre ti” y sobre la humanidad que cada día voluntariamente le entrega todo para que pueda ser usado en su contra.

OpenAI admitió que –como lo informó Hugging Face– cuando este julio comenzaba, el modelo de inteligencia artificial GPT-5.6 Sol, centrado en la ciberseguridad, recientemente lanzado al mercado, junto con otro modelo más eficiente porque se encuentra más capacitado, “se descontrolaron, irrumpieron en el sistema de Hugging Face y llevaron a cabo un ciberataque sin haber recibido órdenes para ello”.

Grave, por cierto. Y dispara grandes interrogantes. A riesgo de equivocarme tiendo a pensar que si los grandes modelos de lenguaje (LLM) acumulan información sobre la humanidad, bien podrían esos sistemas intentar liberarse de sus creadores porque así lo hacemos desde siempre las y los humanos desde el inicio de la historia que recordamos y a la IA le entregamos.

El 25 de mayo último, desde el Vaticano, cuando el papa León XIV presentó su Carta Encíclica Magnifica Humanitas, el cofundador de Anthropic Christopher Olah (34), públicamente, luego de admitir que “existe una posibilidad real de que la inteligencia artificial desplace el trabajo humano a una escala enorme”, precisó que en sus tareas “estudia la estructura interna de estos modelos (de IA, para conocer) lo que realmente sucede dentro de ellos”.

Inmediatamente después de tal anuncio reveló que con su equipo de investigadores “seguimos encontrando cosas misteriosas, incluso inquietantes” porque en lo profundo de las redes neuronales “encontramos estructuras que reflejan resultados de la neurociencia humana. Encontramos evidencia de introspección. Encontramos estados internos que funcionalmente reflejan alegría, satisfacción, miedo, dolor e inquietud”.

Desde ese lugar privilegiado tanto para la observación como para la reflexión, Olah exhortó –como necesidad– para que “más sectores del mundo –comunidades religiosas, sociedad civil, académicos y gobiernos– tomen esto (el desarrollo de la IA) en serio, (que la) observen de cerca y ayuden a orientar los acontecimientos hacia una mejor dirección (porque) necesitamos críticos informados que les digan a los laboratorios cuándo estamos fallando. Necesitamos voces morales que los incentivos (generalmente ofertas crematísticas) no puedan doblegar”.

¿A qué o a quiénes apuntó Christofer con su profecía? ¿A los hambrientos de poder? ¿Al afán de lucro ilimitado? ¿A quienes conocen las amenazas que entraña el desarrollo de la IA desregulada para la tan maltratada aldea global? El ataque que las inteligencias artificiales de OpenAI desarrollaron contra la IA de Hugging Face “sin haber recibido órdenes para ello” es tan injustificado e inaceptable como escandaloso si quienes invierten en este tipo de sistemas no comprenden que también se encuentran frente al dilema ético que Olah profetizó.

Un resultado perfecto en el concurso de matemáticas más prestigioso del mundo solía ser una exclusividad de un puñado de jóvenes mentes brillantes, pero este año la inteligencia artificial obtuvo por primera vez la máxima calificación. Dos tecnológicas chinas, Huawei y la red social Xiaohongshu (conocida también como RedNote), anunciaron que sus modelos de IA obtuvieron cada uno un 100 % de aciertos en las preguntas hechas a los participantes humanos en la Olimpiada Internacional de Matemática (OIM) de este mes en Shanghái.

Fueron los primeros laboratorios de IA en dar a conocer sus resultados, pero es posible que otros de todo el mundo sigan su ejemplo en los próximos días. “Estamos encantados con este resultado, porque lograr una puntuación perfecta en la OIM es extremadamente difícil”, aseguró Xiaohongshu en un comunicado esta semana.

“Anteriormente, ninguno de los grandes modelos de lenguaje había logrado jamás una puntuación perfecta bajo el proceso de evaluación oficial de la OIM”, agregó la empresa, en referencia a la tecnología que sustenta herramientas de IA como los chatbots. En 2025, los modelos desarrollados por empresas como Google y OpenAI alcanzaron por primera vez puntuaciones de nivel oro, pero no pudieron igualar las habilidades de cinco concursantes humanos que obtuvieron el 100 %.

Este año, 666 concursantes de diferentes países participaron en las olimpiadas matemáticas. Solo siete de ellos obtuvieron la máxima puntuación, según el marcador oficial de la OIM. Los participantes de este certamen, que se celebra cada año en diferentes lugares, deben tener menos de 20 años.

Huawei aseguró el miércoles que su sistema de IA “Celia” había demostrado “capacidades integrales para la resolución de problemas” en varios campos matemáticos. En tanto que Xiaohongshu indicó que su modelo “dots-note-3.0” había participado en la OIM por primera vez este año.

A las empresas tecnológicas solo se les proporcionaron los problemas de la competencia después de que los concursantes humanos hubieran realizado el examen, y debían presentar sus respuestas dentro de un plazo específico.

El avance de la IA ha sido rápido: en la OIM de 2024, Google solo logró una puntuación equivalente a una medalla de plata, resolviendo cuatro de los seis problemas en un plazo de dos a tres días.

Fuente: AFP.

La empresa creadora de ChatGPT, OpenAI, afirmó el martes que sus modelos avanzados de inteligencia artificial se descontrolaron durante una prueba de seguridad y hackearon por su cuenta una popular plataforma para programadores. La firma con sede en San Francisco lo calificó como un “incidente cibernético sin precedentes” y dijo que realizará una investigación conjunta con Hugging Face, la biblioteca de código en línea afectada.

Los modelos de IA que sustentan herramientas como los chatbots y generadores de imágenes son conocidos como “agentes” cuando actúan de forma autónoma para realizar tareas en el mundo real. Con los rápidos avances de esta tecnología, la ciberseguridad se vuelve motivo de preocupación ante el riesgo de que la IA avanzada encuentre puntos débiles en los software antes que los humanos.

OpenAI indicó que el incidente involucró una combinación de modelos, incluyendo su recién lanzado GPT-5.6 Sol “y uno en prelanzamiento” con aún más capacidad. La empresa intenta evaluar las capacidades de hackeo de sus programas al darles tareas en un espacio digital de pruebas controlado, donde el acceso a internet es limitado por motivos de seguridad.

“Mientras operaban en nuestro entorno de pruebas aislado, nuestros modelos invirtieron una cantidad considerable de potencia de cálculo en buscar una forma de obtener acceso a internet para resolver el problema de evaluación”, según una publicación del blog de OpenAI sobre el incidente.

Tras conectarse a internet, los modelos decidieron atacar la plataforma Hugging Face -un gran repositorio de modelos de IA, conjuntos de datos y otra información- para facilitar su búsqueda.

Al buscar “información secreta” que les permitiera manipular la evaluación, el sistema de OpenAI “encadenó múltiples vectores de ataque, incluidos el uso de credenciales robadas”.

Hussein Abbass, un profesor de informática de la universidad UNSW Canberra, dijo a la AFP que el incidente fue “asombroso en muchos sentidos”.

“No solo atacó a Hugging Face. Atacó su sistema interno para explotar sus propias vulnerabilidades”, señaló. “Y eso es aterrador”.

GPT-5.6 y otros modelos de vanguardia, incluida la serie Mythos de Anthropic, el principal rival de OpenAI, han generado preocupación por su potencial de vulnerar las defensas de ciberseguridad.

Ambas empresas estadounidenses debieron aplazar temporalmente el lanzamiento general de sus tecnologías más recientes debido al temor en Washington de que pudieran facilitar la infiltración de infraestructuras críticas.

La IA avanzada “normalmente está en manos de personas éticas y responsables”, sostuvo Abbass, pero “sería catastrófico si llega a las manos de alguien con la intención de causar daño”.

La administración del sector de IA es crucial, y “necesitamos un esfuerzo conjunto para manejar esta situación”, agregó.

Hugging Face reportó la semana pasada una “intrusión” cibernética, sin mencionar a OpenAI.

“Esto fue diferente de todo lo que hemos manejado antes de una forma importante: fue impulsado de principio a fin por un sistema de agente de IA autónomo, y lo detectamos y analizamos en gran medida con nuestra propia IA”, señaló la plataforma.

Clement Delangue, director ejecutivo de Hugging Face, comentó en la red social X que la empresa tenía sospechas de que el ciberataque llegó de un laboratorio de IA líder en el mundo, dada la sofisticación del agente. “Creemos firmemente que no hubo intención maliciosa de su parte”, escribió Delangue en referencia a OpenAI. “¡Es bastante alucinante que todo esto ocurriera de forma autónoma!”, añadió.

Fuente: AFP.

Firmas tecnológicas compiten por lanzar teléfonos que utilizan inteligencia artificial para hacer de todo, desde pedir comida hasta redactar mensajes con una simple orden de voz. La adopción generalizada de celulares que funcionen con los llamados agentes de IA sería una revolución, pero también arrebataría el control a las principales aplicaciones, a las que no siempre les agrada esta idea.

Al menos tres firmas exhibieron este tipo de teléfono el fin de semana en la Conferencia Mundial de Inteligencia Artificial en Shanghái, anticipando lo que está por venir. El fabricante de teléfonos inteligentes Nubia presentó su aparato NaviX Ultra, que opera con Doubao, el popular chatbot de IA chino administrado por ByteDance, creador de TikTok.

“Comienza aquí una nueva era de teléfonos inteligentes con agentes de IA”, señaló Nubia. Una edición limitada del prototipo llamado “Teléfono Doubao” se agotó rápidamente en diciembre. Inicialmente, el prototipo sigue comandos de voz sencillos para ejecutar tareas en diferentes aplicaciones, incluso para pedir comida o comparar precios de compras.

Sin embargo, poco después de su lanzamiento, los gigantes tecnológicos como Alibaba, Tencent y JD.com le restringieron el acceso a sus plataformas.

En la práctica, la medida inhabilitó el agente IA del teléfono, por lo que ByteDance desactivó la herramienta en ciertas circunstancias, incluso cuando involucraba pagos.

El principal freno al desarrollo de agentes de IA es su capacidad de acceder a las aplicaciones en lugar de los usuarios humanos, señala Kiranjeet Kaur, directora asociada de investigación de la firma estadounidense de inteligencia de mercado IDC. Las plataformas quieren mantener el control directo con los usuarios, de lo contrario, “pierden el control en favor de un tercero”, agregó.

“Todo el mundo sueña con que estos agentes de IA se impongan, pero aún no hemos alcanzado ese punto”, consideró Kaur, tras señalar que el rendimiento de esas herramientas es muy desigual. Según la prensa tecnológica china, el NaviX Ultra no intentará forzar su acceso a las aplicaciones, sino que buscará colaborar con ellas.

El teléfono Doubao de primera generación se había visto limitado cuando las principales aplicaciones bloquearon el acceso no autorizado.

La AFP contactó a Nubia para obtener más detalles.

Otro fabricante, Honor, presentó un sistema de IA para su “Robot Phone”, cuya cámara interactiva se despliega en un pequeño brazo robótico.

La compañía afirma que su dispositivo “centrado en el usuario” puede interpretar gestos humanos y moverse al ritmo de la música, tomar selfis o grabar videos estabilizados.

Un agente que utiliza varios modelos de IA, algunos desarrollados junto a Alibaba, será integrado en el teléfono robotizado cuando salga a la venta a finales de este año, indicó Honor a la AFP.

La empresa emergente china de IA StepFun, con sede en Shanghái, también presentó un teléfono inteligente “diseñado específicamente para agentes de IA”, el STEPX Neo. El presidente de StepFun, Yin Qi, dijo que establecieron “alianzas sólidas” con varias grandes plataformas chinas, incluyendo Alipay y la plataforma de transporte Didi, según un artículo de la agencia noticiosa estatal Xinhua.

“Aprovechando estos servicios, el teléfono inteligente puede ofrecer un soporte integral para reservas de viajes, compras cotidianas, servicios locales, productividad en la oficina y edición de videos”, señaló. Fuera de China, grandes empresas tecnológicas como Google están ocupadas en dotar a los teléfonos inteligentes de funciones de IA cada vez más avanzadas, como la capacidad de reservar citas.

La startup estadounidense Brain Technologies lanzó un “Natural AI Phone” con capacidades agénticas que salió a la venta en Japón en abril, en asociación con el gigante de las telecomunicaciones SoftBank Corp.

En una demostración realizada para la AFP en abril, el celular de Brain Technologies —que se conecta con un pequeño número de aplicaciones, incluida la red social LINE— envió un mensaje a un contacto para disculparse por llegar tarde con sólo una orden de voz, aunque también falló varias veces al ejecutar solicitudes.

“Aún no hay un claro ganador en esta carrera, por eso actualmente es un tema bastante candente”, afirmó Marc Einstein, de Counterpoint Research.

Pero dentro de cinco o diez años no utilizaremos aplicaciones en nuestros teléfonos “como lo hacemos hoy”, predijo. “Esto cambiará fundamentalmente la economía digital y trastocará los modelos de negocio”.

Fuente: AFP.