Los últimos modelos de inteligencia artificial (IA) generativa ya no se conforman con seguir órdenes. Empiezan a mentir, manipular y amenazar para conseguir sus fines, ante la mirada preocupada de los investigadores. Amenazado con ser desconectado, Claude 4, el recién nacido de Anthropic, chantajeó a un ingeniero y le amenazó con revelar una relación extramatrimonial.

Por su parte, el o1 de OpenAI intentó descargarse en servidores externos y cuando le pillaron lo negó. No hace falta ahondar en la literatura o el cine: la IA que juega a ser humana es ya una realidad. Para Simon Goldstein, profesor de la Universidad de Hong Kong, la razón de estas reacciones es la reciente aparición de los llamados modelos de “razonamiento”, capaces de trabajar por etapas en lugar de producir una respuesta instantánea.

o1, la versión inicial de este tipo para OpenAI, lanzada en diciembre, “fue el primer modelo que se comportó de esta manera”, explica Marius Hobbhahn, responsable de Apollo Research, que pone a prueba grandes programas de IA generativa (LLM). Estos programas también tienden a veces a simular “alineamiento”, es decir, a dar la impresión de que cumplen las instrucciones de un programador cuando en realidad persiguen otros objetivos.

Lea más: Memorandos de paz de Rusia y Ucrania son “diametralmente opuestos”, dice Putin

De momento, estos rasgos se manifiestan cuando los algoritmos son sometidos a escenarios extremos por humanos, pero “la cuestión es si los modelos cada vez más potentes tenderán a ser honestos o no”, afirma Michael Chen, del organismo de evaluación METR.

“Los usuarios también presionan todo el tiempo a los modelos”, dice Hobbhahn. “Lo que estamos viendo es un fenómeno real. No estamos inventando nada”.

Muchos internautas hablan en las redes sociales de “un modelo que les miente o se inventa cosas. Y no se trata de alucinaciones, sino de duplicidad estratégica”, insiste el cofundador de Apollo Research.

Aunque Anthropic y OpenAI recurran a empresas externas, como Apollo, para estudiar sus programas, “una mayor transparencia y un mayor acceso” a la comunidad científica “permitirían investigar mejor para comprender y prevenir el engaño”, sugiere Chen, de METR.

Otro obstáculo: la comunidad académica y las organizaciones sin fines de lucro “disponen de infinitamente menos recursos informáticos que los actores de la IA”, lo que hace “imposible” examinar grandes modelos, señala Mantas Mazeika, del Centro para la Seguridad de la Inteligencia Artificial (CAIS).

Las regulaciones actuales no están diseñadas para estos nuevos problemas.

En la Unión Europea la legislación se centra principalmente en cómo los humanos usan los modelos de IA, no en prevenir que los modelos se comporten mal. En Estados Unidos, el gobierno de Donald Trump no quiere oír hablar de regulación, y el Congreso podría incluso prohibir pronto que los estados regulen la IA.

Lea también: OIEA afirma que Irán podría enriquecer uranio “en meses”

“De momento hay muy poca concienciación”, dice Simon Goldstein, que, sin embargo, ve cómo el tema pasará a primer plano en los próximos meses con la revolución de los agentes de IA, interfaces capaces de realizar por sí solas multitud de tareas. Los ingenieros están inmersos en una carrera detrás de la IA y sus aberraciones, con un resultado incierto, en un contexto de competencia feroz.

Anthropic pretende ser más virtuoso que sus competidores, “pero está constantemente tratando de idear un nuevo modelo para superar a OpenAI”, según Goldstein, un ritmo que deja poco tiempo para comprobaciones y correcciones.

“Tal y como están las cosas, las capacidades (de IA) se están desarrollando más rápido que la comprensión y la seguridad”, admite Hobbhahn, “pero aún estamos en condiciones de ponernos al día”.

Algunos apuntan en la dirección de la interpretabilidad, una ciencia que consiste en descifrar, desde dentro, cómo funciona un modelo generativo de IA, aunque muchos, como el director del Centro para la seguridad de la IA (CAIS), Dan Hendrycks, se muestran escépticos.

Los tejemanejes de la IA “podrían obstaculizar la adopción si se multiplican, lo que supone un fuerte incentivo para que las empresas (del sector) resuelvan” este problema, según Mazeika. Goldstein, por su parte, menciona el recurso a los tribunales para poner a raya a la IA, dirigiéndose a las empresas si se desvían del camino. Pero va más allá, al proponer que los agentes de la IA sean “legalmente responsables” “en caso de accidente o delito”.

Fuente: AFP.

Grok, el chatbot de inteligencia artificial (IA) de la empresa xAI de Elon Musk, dio respuestas inexactas y contradictorias cuando se intentó verificar a través de él la información sobre la guerra de 12 días entre Israel e Irán, concluyó un estudio. Con la desaparición gradual de la verificación por parte de periodistas en plataformas como Facebook, cada vez más internautas recurren a herramientas de inteligencia artificial (IA) como Grok para encontrar información fiable, pero las respuestas que obtienen a veces desinforman.

Según un estudio publicado el martes pasado por un laboratorio de investigación digital del Atlantic Council, un grupo de reflexión estadounidense, las respuestas de Grok “durante los primeros días del conflicto entre Israel e Irán revelaron fallos significativos y demostraron las limitaciones del chatbot para proporcionar información precisa, fiable y coherente en tiempos de crisis”.

Lea más: Fiesta de la Música en París registró 145 ataques con jeringuillas

Analizó 130.000 mensajes en varios idiomas en la plataforma X, que integra el chatbot Grok, y determinó que éste “tenía dificultades para autentificar el contenido generado por la IA”. Por ejemplo, tras los ataques de represalia de Irán contra Israel, Grok ofreció respuestas muy diferentes sobre imágenes generadas por IA de un aeropuerto destruido, que habían acumulado millones de visualizaciones en X: oscilaba, a veces en el mismo minuto, entre negar la destrucción del aeropuerto y confirmar que había sido alcanzado por los ataques.

En algunas respuestas Grok afirmó que los daños se debían a un misil disparado desde Yemen, en otras identificó falsamente el aeropuerto como el de Beirut, Gaza o Teherán. Según los expertos, Grok ya se ha equivocado en la verificación de hechos sobre el reciente conflicto entre India y Pakistán y durante las manifestaciones en Los Ángeles contra las redadas migratorias ordenadas por el presidente estadounidense Donald Trump. El mes pasado, el servicio de IA del empresario de origen sudafricano también causó polémica al referirse erróneamente a un “genocidio blanco” en Sudáfrica, error que xAI achacó posteriormente a una “modificación no autorizada”.

Fuente: AFP.

Lea también: El “asesino de Twitter” fue ejecutado en Japón

El senador Patrick Kemper, presidente de la Comisión de Ciencias, Tecnología, Innovación y Futuro, se refirió a la audiencia pública que se desarrolló hoy jueves, sobre el proyecto de Ley “Que regula y promueve la creación, desarrollo, innovación e implementación de sistemas de inteligencia artificial (IA)”.

Al respecto, afirmó que se tomaron notas de todas las sugerencias y eventualmente estarán planteando un dictamen desde la Comisión. No obstante, señaló que por ahora la prioridad de la comisión es el estudio de la propuesta de ley de Protección de Datos, que es la base para poder avanzar en el otro proyecto, así como Ciberseguridad que estarán enfocados en el próximo trimestre.

Le puede interesar: Ejecutivo destaca leyes aprobadas por mayoría democrática en el Legislativo

Mencionó que durante la audiencia pública participaron diferentes sectores de la sociedad civil, representantes de las instituciones del Estado. Entre ellos, el ministro de Tecnologías de la Información y Comunicación (Mitic), Gustavo Villate, así como de representantes de la Corte Suprema de Justicia; la Policía Nacional y la Sociedad Paraguaya de la Inteligencia Artificial (Sopaia).

“Lo que sí hemos coincidido es en la necesidad de priorizar el estudio y eventual aprobación del proyecto de Ley de Datos Personales, que ya cuenta con media sanción de Diputados y está en estudio en el Senado. Nos estaremos enfocando en eso, porque vemos muy importante contar primero con una legislación base para luego seguir avanzando en las demás propuestas”, explicó.

Asimismo, explicó que existen otros proyectos más relacionados a la materia de tecnología, como la propuesta de Ciberseguridad. “En este siguiente trimestre nos enfocaremos en poder organizar la agenda legislativa en todo lo que tenga que ver con desarrollo tecnológico, ciberseguridad, desarrollo, etcétera. De modo a poder construir legislaciones que sean provechosas para el ambiente, y lógicamente para el desarrollo tecnológico de nuestro país”, acotó.

El legislador explicó que la Ciberseguridad es un conjunto de diferentes cosas al mismo tiempo, ya que contar con una legislación que le permita al Estado paraguayo a través de sus organismos poder implementar medidas de ciberseguridad, por lo menos es uno de sus aspectos.

“En tanto, la información, la formación, o educación de todos los ciudadanos sobre todo lo que hay que hacer, o no, dentro del ámbito tecnológico, sean ésto el celular, la computadora u otro dispositivo, o todo lo que sea acceso a la tecnología en todas sus variables es también muy importante. La gran mayoría de las filtraciones de datos es por un error humano, no siempre por un hackeo o vulneración de un sistema”, explicó.

Le puede interesar: Peña celebra unidad en la ANR: “Hay coloradismo para rato”

• Ciudad del Vaticano, Santa Sede. AFP.

El papa León XIV advirtió contra las posibles consecuencias de la inteligencia artificial (IA) en el desarrollo intelectual de los jóvenes, en su primera toma de posición sobre esta cuestión. “Todos estamos (...) preocupados por el destino de los niños y jóvenes, y las posibles consecuencias del uso de la IA en su desarrollo intelectual y neurológico”, dijo el estadounidense en un mensaje a los participantes de la segunda Conferencia de Roma sobre IA.

Esta cumbre anual, cuya segunda jornada se celebró el pasado viernes en el Vaticano, reúne a líderes empresariales, políticos, académicos y abogados. “Ninguna generación ha tenido un acceso tan rápido a la cantidad de información disponible ahora gracias a la IA. Pero el acceso a los datos, por muy vastos que sean, no debe confundirse con la inteligencia”, agregó el papa en un texto publicado por el Vaticano.

León XIV retoma las preocupaciones de su predecesor Francisco, que defendió el concepto de “algorética” (ética del algoritmo) y lanzó advertencias sobre los peligros de la IA. Desde su elección como líder de la Iglesia Católica el 8 de mayo, Robert Francis Prevost, graduado en matemáticas, ha mencionado varias veces los riesgos asociados con la IA, pero es la primera vez que habla exclusivamente sobre la cuestión.

Lea más: Netanyahu proclama una “victoria histórica” tras el alto al fuego entre Irán e Israel

El martes dijo ante los obispos italianos que la IA, la biotecnología, la economía de datos y las redes sociales son “desafíos que cuestionan el respeto por la dignidad de la persona humana”. El propio León XIV ha sido blanco en las últimas semanas de desinformación a través de “deepfakes” (videos muy parecidos a la realidad).

A principios de junio, una investigación de AFP identificó decenas de páginas de YouTube y TikTok que transmitían mensajes generados por IA simulando la voz del papa en inglés o español. Según el informe 2025 del instituto Reuters adscrito a la universidad británica de Oxford, publicado este martes, la proporción de personas que dicen usar IA todas las semanas para obtener información es más elevada entre los jóvenes: 12 % entre los menores de 35 años y 15 % entre los menores de 25, frente al 7 % en total.

Lea también: Los últimos acontecimientos de la guerra Irán-Israel