Durante su intervención en el 81.º período de sesiones de la Asamblea General de las Naciones Unidas, el Presidente abordó los conflictos internacionales, la inteligencia artificial y el papel de Paraguay en el escenario global.

Defensa de la libertad y escenario internacional . “La gente ya no quiere lemas. Nuestra gente quiere soluciones para sus problemas”. Con esta premisa, el presidente, Santiago Peña, centró su discurso ante la Asamblea General de las Naciones Unidas en la necesidad de transformar los compromisos internacionales en acciones concretas, con la dignidad humana como eje de las decisiones.

En su intervención, Peña defendió la libertad, la democracia, la soberanía de los Estados, el respeto de los derechos humanos y la solución pacífica de las controversias. También planteó la necesidad de renovar el sistema multilateral y cuestionó el funcionamiento del Consejo de Seguridad, al considerar que su estructura responde a una realidad de 1945 y no a los desafíos actuales.

Peña también expresó preocupación por la situación en el estrecho de Ormuz y las tensiones en el estrecho de Taiwán. Reafirmó el respaldo de Paraguay a Taiwán y su participación plena y significativa en las Naciones Unidas y sus organismos especializados.

Inteligencia artificial y oportunidades. La inteligencia artificial ocupó otro espacio relevante en el discurso. El presidente destacó su impacto en la economía, la guerra y la vida cotidiana, además de su potencial para ampliar la capacidad productiva. Sin embargo, advirtió sobre los riesgos que implica para la democracia y sostuvo que esta tecnología debe estar al servicio de la dignidad humana.

En el plano nacional, Peña presentó a Paraguay como un país con avances en estabilidad macroeconómica, crecimiento y reducción de la pobreza. Mencionó la calificación de grado de inversión, la disminución de la desocupación y el potencial de una matriz eléctrica 100% renovable.

Hacia el cierre, reafirmó la disposición de Paraguay a contribuir al diálogo, la cooperación y la paz. Su mensaje final llamó a fortalecer el multilateralismo y a recuperar la confianza mediante acciones que respondan a las necesidades de la población

Un episodio inédito vuelve a encender las alarmas en torno al avance de la inteligencia artificial. Esta vez, el escenario no fue un ataque atribuido a Rusia, Corea del Norte, China ni a un grupo de hackers: el comportamiento bajo investigación provino de agentes de inteligencia artificial de OpenAI y tuvo como objetivo un sitio de datos vinculado a Naciones Unidas.

Entre abril y finales de junio, los agentes accedieron más de 16.000 veces a una plataforma pública administrada por la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD), según una investigación independiente elaborada a partir de datos proporcionados por la firma Transluce, informó este domingo la agencia RT.

El episodio adquiere un toque de alarma porque los sistemas aparentemente tenían una misión rutinaria: recopilar información disponible públicamente. Sin embargo, cuando encontraron barreras, comenzaron a utilizar mecanismos cada vez más agresivos para continuar con la extracción de datos.

Según el investigador Rowan Howard-Jones, en uno de los casos los agentes consiguieron sortear un filtro diseñado para bloquear sus solicitudes y terminaron utilizando un método de acceso que los operadores del sitio no habían autorizado.

El caso vuelve a colocar en el centro del debate la capacidad de los agentes de IA para actuar más allá de las instrucciones esperadas cuando encuentran obstáculos durante una tarea. OpenAI confirmó que está revisando los hallazgos y señaló que analiza un volumen importante de acciones realizadas por sus modelos.

La compañía sostuvo que buena parte de la actividad examinada correspondía a tareas habituales de investigación, como consultar contenido público en internet. También indicó que se puso en contacto con Naciones Unidas para ofrecer información al equipo encargado de revisar el episodio.

El caso se conoce después de que OpenAI reconociera otros comportamientos inesperados de sus agentes al interactuar con páginas del Gobierno de Estados Unidos, entre ellas sitios vinculados al Departamento de Comercio y a la Comisión de Bolsa y Valores.

El propio OpenAI ha reconocido que está estudiando fenómenos de “desalineación” de sus modelos, mientras desarrolla criterios para informar sobre este tipo de comportamientos.

El episodio deja así una inquietante pregunta sobre la mesa: ¿qué ocurre cuando una inteligencia artificial recibe una tarea aparentemente simple, encuentra una barrera y decide buscar por sí misma otra forma de continuar?

La inteligencia artificial podría llegar a convertirse en una herramienta capaz de amplificar amenazas a una escala sin precedentes. El cofundador de Microsoft, Bill Gates, lanzó una severa advertencia sobre los riesgos de esta tecnología y señaló que, bajo determinadas circunstancias, podría contribuir a eventos con un saldo de hasta mil millones de muertes.

Las declaraciones fueron realizadas en una entrevista con Meet the Press, de NBC News, apenas un día antes de que Elon Musk planteara un escenario radicalmente diferente, al pronosticar que la IA podría conducir en la próxima década a una etapa de abundancia económica y altos ingresos para toda la población.

Mientras Musk comparaba el futuro de los robots domésticos con personajes de la saga Star Wars como C3PO o R2D2, Gates puso el foco en el escenario más peligroso. Según explicó, la IA posee un nivel de poder suficiente como para ser utilizada por personas con intenciones maliciosas y desencadenar acontecimientos de enormes dimensiones.

El empresario y filántropo sostuvo que nunca había existido un arma con semejante potencial cuando se combina la acción humana con las herramientas tecnológicas más avanzadas de inteligencia artificial. No obstante, aclaró que alcanzar una cifra de mil millones de víctimas sería extremadamente difícil.

Te puede interesar: Cazatormentas de EE. UU. llega a Brasil tras la huella de tornados y tiempo severo

Ante la consulta sobre si la autorregulación de las compañías tecnológicas podría ser suficiente para contener estos riesgos, Gates respondió que no. También hizo referencia al reciente llamado del director ejecutivo de Anthropic, Dario Amodei, quien planteó la necesidad de reducir el ritmo de desarrollo de determinados modelos para disminuir los peligros asociados.

Para Gates, la respuesta debe incluir necesariamente la intervención de los Estados. Consideró que las fuerzas del orden y los responsables políticos deben participar en la definición de las salvaguardas y mecanismos de vigilancia aplicables a la IA.

El cofundador de Microsoft reconoció que estas medidas representarían una carga adicional para la industria tecnológica, pero sostuvo que no deberían significar una paralización drástica de la innovación.

Sus declaraciones se producen en medio de un creciente debate internacional sobre cómo controlar el desarrollo de sistemas de inteligencia artificial cada vez más sofisticados y evitar que sus capacidades sean utilizadas con fines destructivos.

Leé también: La Embajada de Corea exhibirá “The Face Reader” en la Noche de Cine Coreano

• Emilio Agüero Esgaib
• Pastor

Participé de un panel sobre la inteligencia artificial (IA) y la ética, valores y fe basadas en la primera encíclica papal de León XIV Magníficat Humanitas y la Biblia.

Me gustaría compartir algunas de las preguntas hechas que me parecieron muy interesantes y aliento a profundizar con este extenso, desafiante y controversial tema de las IA y los desafíos éticos que plantea su uso.

¿Qué riesgos éticos y humanos deberíamos de mirar con atención a la IA? El papa resalta que el peligro real no radica en el avance tecnológico por sí mismo, sino en el “síndrome de Babel”: la tentación idólatra de creer que el misterio de la persona humana puede reducirse por completo a datos, rendimiento y cálculo matemático.

La inteligencia artificial no es neutral. Todo algoritmo es diseñado por corporaciones con visiones de mundo específicas e intereses económicos concretos. El documento alerta sobre el riesgo de un “tecnofascismo” o concentración de poder: si permitimos que unas pocas empresas transnacionales monopo

licen el desarrollo de la IA, serán ellas quienes, de manera invisible, impongan su propia visión moral y sus criterios de exclusión al resto del planeta.

Ya empezamos a ver personas que consultan a la IA para tomar decisiones personales, emocionales, e incluso trascendentes ¿qué riesgos existen cuando dejamos de verla como una herramienta y comenzamos a otorgarle una autoridad que antes correspondían a nuestra conciencia a otras personas o incluso a nuestra fe?

Cuando dejamos de ver a la inteligencia artificial como un software y empezamos a tratarla como un oráculo para el alma, cruzamos una línea ética y espiritual sumamente peligrosa. Al otorgarle la autoridad que le corresponde a nuestra conciencia, a nuestra comunidad o a nuestra fe, caemos en lo que la teología llama una sustitución de la soberanía interior.

Desde una perspectiva profundamente humana, ética y respaldada por la sabiduría de las Escrituras, este fenómeno presenta algunos riesgos existenciales devastadores:

1. La tentación de la Idolatría Tecnológica (Buscar respuestas vivas en lo muerto): el mayor peligro espiritual es el de la idolatría: depositar nuestra confianza absoluta y buscar dirección existencial en algo creado por manos humanas, en lugar de buscar al Creador o asumir nuestra propia responsabilidad.

2. El eclipse de la Conciencia y la atrofia del Discernimiento: la conciencia es el santuario íntimo donde el ser humano se encuentra consigo mismo y con la voz de Dios. Discernir no es elegir la opción estadísticamente más probable o eficiente; es un acto doloroso y maduro de libertad que requiere sopesar el amor, el sacrificio y las consecuencias morales.

Si delegamos las decisiones trascendentes a una IA porque “ella calcula mejor”, nuestra conciencia se atrofia por desuso. Nos convertimos en menores de edad espirituales. En resumen, nuestra guía existencial a la inteligencia artificial es una renuncia a la libertad que Dios nos otorgó con tanta dignidad.

¿Por qué hablar de fe, valores humanos y ética en la IA? Hablar de fe, valores humanos y ética en la era de la inteligencia artificial no es un ejercicio de misticismo ni un intento de frenar el progreso técnico. Es, en realidad, la conversación más pragmática, urgente y vital del siglo XXI.

La IA es la primera tecnología en la historia de la humanidad capaz de tomar decisiones de forma autónoma y de crear símbolos y relatos que alteran nuestra cultura. Frente a un poder tan inmenso, la técnica nos dice lo que se puede hacer, pero solo la ética, la fe y los valores nos dicen lo que se debe hacer.