Un episodio inédito vuelve a encender las alarmas en torno al avance de la inteligencia artificial. Esta vez, el escenario no fue un ataque atribuido a Rusia, Corea del Norte, China ni a un grupo de hackers: el comportamiento bajo investigación provino de agentes de inteligencia artificial de OpenAI y tuvo como objetivo un sitio de datos vinculado a Naciones Unidas.

Entre abril y finales de junio, los agentes accedieron más de 16.000 veces a una plataforma pública administrada por la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD), según una investigación independiente elaborada a partir de datos proporcionados por la firma Transluce, informó este domingo la agencia RT.

El episodio adquiere un toque de alarma porque los sistemas aparentemente tenían una misión rutinaria: recopilar información disponible públicamente. Sin embargo, cuando encontraron barreras, comenzaron a utilizar mecanismos cada vez más agresivos para continuar con la extracción de datos.

Según el investigador Rowan Howard-Jones, en uno de los casos los agentes consiguieron sortear un filtro diseñado para bloquear sus solicitudes y terminaron utilizando un método de acceso que los operadores del sitio no habían autorizado.

El caso vuelve a colocar en el centro del debate la capacidad de los agentes de IA para actuar más allá de las instrucciones esperadas cuando encuentran obstáculos durante una tarea. OpenAI confirmó que está revisando los hallazgos y señaló que analiza un volumen importante de acciones realizadas por sus modelos.

La compañía sostuvo que buena parte de la actividad examinada correspondía a tareas habituales de investigación, como consultar contenido público en internet. También indicó que se puso en contacto con Naciones Unidas para ofrecer información al equipo encargado de revisar el episodio.

El caso se conoce después de que OpenAI reconociera otros comportamientos inesperados de sus agentes al interactuar con páginas del Gobierno de Estados Unidos, entre ellas sitios vinculados al Departamento de Comercio y a la Comisión de Bolsa y Valores.

El propio OpenAI ha reconocido que está estudiando fenómenos de “desalineación” de sus modelos, mientras desarrolla criterios para informar sobre este tipo de comportamientos.

El episodio deja así una inquietante pregunta sobre la mesa: ¿qué ocurre cuando una inteligencia artificial recibe una tarea aparentemente simple, encuentra una barrera y decide buscar por sí misma otra forma de continuar?

La inteligencia artificial podría llegar a convertirse en una herramienta capaz de amplificar amenazas a una escala sin precedentes. El cofundador de Microsoft, Bill Gates, lanzó una severa advertencia sobre los riesgos de esta tecnología y señaló que, bajo determinadas circunstancias, podría contribuir a eventos con un saldo de hasta mil millones de muertes.

Las declaraciones fueron realizadas en una entrevista con Meet the Press, de NBC News, apenas un día antes de que Elon Musk planteara un escenario radicalmente diferente, al pronosticar que la IA podría conducir en la próxima década a una etapa de abundancia económica y altos ingresos para toda la población.

Mientras Musk comparaba el futuro de los robots domésticos con personajes de la saga Star Wars como C3PO o R2D2, Gates puso el foco en el escenario más peligroso. Según explicó, la IA posee un nivel de poder suficiente como para ser utilizada por personas con intenciones maliciosas y desencadenar acontecimientos de enormes dimensiones.

El empresario y filántropo sostuvo que nunca había existido un arma con semejante potencial cuando se combina la acción humana con las herramientas tecnológicas más avanzadas de inteligencia artificial. No obstante, aclaró que alcanzar una cifra de mil millones de víctimas sería extremadamente difícil.

Te puede interesar: Cazatormentas de EE. UU. llega a Brasil tras la huella de tornados y tiempo severo

Ante la consulta sobre si la autorregulación de las compañías tecnológicas podría ser suficiente para contener estos riesgos, Gates respondió que no. También hizo referencia al reciente llamado del director ejecutivo de Anthropic, Dario Amodei, quien planteó la necesidad de reducir el ritmo de desarrollo de determinados modelos para disminuir los peligros asociados.

Para Gates, la respuesta debe incluir necesariamente la intervención de los Estados. Consideró que las fuerzas del orden y los responsables políticos deben participar en la definición de las salvaguardas y mecanismos de vigilancia aplicables a la IA.

El cofundador de Microsoft reconoció que estas medidas representarían una carga adicional para la industria tecnológica, pero sostuvo que no deberían significar una paralización drástica de la innovación.

Sus declaraciones se producen en medio de un creciente debate internacional sobre cómo controlar el desarrollo de sistemas de inteligencia artificial cada vez más sofisticados y evitar que sus capacidades sean utilizadas con fines destructivos.

Leé también: La Embajada de Corea exhibirá “The Face Reader” en la Noche de Cine Coreano

• Emilio Agüero Esgaib
• Pastor

Participé de un panel sobre la inteligencia artificial (IA) y la ética, valores y fe basadas en la primera encíclica papal de León XIV Magníficat Humanitas y la Biblia.

Me gustaría compartir algunas de las preguntas hechas que me parecieron muy interesantes y aliento a profundizar con este extenso, desafiante y controversial tema de las IA y los desafíos éticos que plantea su uso.

¿Qué riesgos éticos y humanos deberíamos de mirar con atención a la IA? El papa resalta que el peligro real no radica en el avance tecnológico por sí mismo, sino en el “síndrome de Babel”: la tentación idólatra de creer que el misterio de la persona humana puede reducirse por completo a datos, rendimiento y cálculo matemático.

La inteligencia artificial no es neutral. Todo algoritmo es diseñado por corporaciones con visiones de mundo específicas e intereses económicos concretos. El documento alerta sobre el riesgo de un “tecnofascismo” o concentración de poder: si permitimos que unas pocas empresas transnacionales monopo

licen el desarrollo de la IA, serán ellas quienes, de manera invisible, impongan su propia visión moral y sus criterios de exclusión al resto del planeta.

Ya empezamos a ver personas que consultan a la IA para tomar decisiones personales, emocionales, e incluso trascendentes ¿qué riesgos existen cuando dejamos de verla como una herramienta y comenzamos a otorgarle una autoridad que antes correspondían a nuestra conciencia a otras personas o incluso a nuestra fe?

Cuando dejamos de ver a la inteligencia artificial como un software y empezamos a tratarla como un oráculo para el alma, cruzamos una línea ética y espiritual sumamente peligrosa. Al otorgarle la autoridad que le corresponde a nuestra conciencia, a nuestra comunidad o a nuestra fe, caemos en lo que la teología llama una sustitución de la soberanía interior.

Desde una perspectiva profundamente humana, ética y respaldada por la sabiduría de las Escrituras, este fenómeno presenta algunos riesgos existenciales devastadores:

1. La tentación de la Idolatría Tecnológica (Buscar respuestas vivas en lo muerto): el mayor peligro espiritual es el de la idolatría: depositar nuestra confianza absoluta y buscar dirección existencial en algo creado por manos humanas, en lugar de buscar al Creador o asumir nuestra propia responsabilidad.

2. El eclipse de la Conciencia y la atrofia del Discernimiento: la conciencia es el santuario íntimo donde el ser humano se encuentra consigo mismo y con la voz de Dios. Discernir no es elegir la opción estadísticamente más probable o eficiente; es un acto doloroso y maduro de libertad que requiere sopesar el amor, el sacrificio y las consecuencias morales.

Si delegamos las decisiones trascendentes a una IA porque “ella calcula mejor”, nuestra conciencia se atrofia por desuso. Nos convertimos en menores de edad espirituales. En resumen, nuestra guía existencial a la inteligencia artificial es una renuncia a la libertad que Dios nos otorgó con tanta dignidad.

¿Por qué hablar de fe, valores humanos y ética en la IA? Hablar de fe, valores humanos y ética en la era de la inteligencia artificial no es un ejercicio de misticismo ni un intento de frenar el progreso técnico. Es, en realidad, la conversación más pragmática, urgente y vital del siglo XXI.

La IA es la primera tecnología en la historia de la humanidad capaz de tomar decisiones de forma autónoma y de crear símbolos y relatos que alteran nuestra cultura. Frente a un poder tan inmenso, la técnica nos dice lo que se puede hacer, pero solo la ética, la fe y los valores nos dicen lo que se debe hacer.

El periodista y comunicador argentino Diego Leuco participó de un mano a mano en Shoka Media para analizar la profunda transformación que atraviesa el ecosistema mediático. Durante el encuentro, que parte de la premisa de definir qué significa ser periodista hoy, el invitado reflexionó sobre cómo la inteligencia artificial reconfigura los procesos de producción, distribución y consumo de noticias.

Frente a la velocidad de las herramientas capaces de generar textos, imágenes y videos en cuestión de segundos, Leuco enfatizó que el valor diferencial de la profesión radica en el criterio, la verificación de datos y la interpretación humana. En ese sentido, sostuvo que la sobreabundancia de contenidos exige reforzar la credibilidad y el rigor periodístico para aportar contexto y construir confianza con el público.

La conversación también repasó su trayectoria profesional y su adaptación a los nuevos lenguajes de la comunicación digital. El periodista abordó proyectos clave en su carrera como la creación de Resumido, su consolidación en el streaming y su experiencia en AQN, formatos que ejemplifican la transición desde los medios tradicionales hacia plataformas con dinámicas interactivas.

Asimismo, uno de los ejes centrales de la charla profundizó en los hábitos de las nuevas audiencias y la fragmentación del consumo informativo. Ante un escenario con acceso ilimitado a fuentes, se debatió sobre el desafío constante de los profesionales para seleccionar qué historias merecen ser contadas y bajo qué estándares de rigor frente a la inmediatez digital.

La entrevista completa ya se encuentra disponible en el canal oficial de Shoka Media en YouTube, abriendo un espacio de debate sobre las bases innegociables que el periodismo debe preservar pese a los avances tecnológicos.