La Asamblea General de la ONU creó este martes un grupo de expertos científicos sobre la inteligencia artificial (IA) que estará a cargo de ayudar a la comunidad internacional en la toma de decisiones informadas sobre este tema sensible.
Preocupados por el rápido desarrollo de tecnologías que podrían amenazar la democracia y los derechos humanos, los estados miembros de la ONU se comprometieron en setiembre pasado a poner en marcha un grupo de expertos con miras a aclarar el diálogo internacional entre gobiernos y otros actores del sector.
La Asamblea General adoptó el martes una resolución que crea formalmente el “Grupo científico internacional independiente de la inteligencia artificial”. Este deberá proveer “evaluaciones científicas basadas en evidencia que sinteticen y analicen los estudios existentes sobre las promesas, los riesgos y las repercusiones de la inteligencia artificial”.
Su informe anual “servirá para orientar la toma de decisiones, pero no será prescriptivo”, reza el texto.
El secretario general de la ONU, Antonio Guterres, lanzará ahora una convocatoria para identificar los 40 futuros miembros del grupo que tendrán una misión de tres años.
Te puede interesar: 34 militares retenidos en zona guerrillera del sureste de Colombia
Guterres celebró la creación de un “puente crucial entre la investigación avanzada en IA y la elaboración de políticas”.
“Al suministrar evaluaciones científicas rigurosas e independientes, (el grupo) ayudará a la comunidad internacional a anticipar los desafíos emergentes y a tomar decisiones informadas sobre cómo regular esta tecnología innovadora”, indicó el portavoz del secretario general, Stéphane Dujarric.
Además, la resolución adoptada pone en marcha un diálogo anual mundial sobre la gobernanza de la inteligencia artificial para compartir “las mejores prácticas y aprendizajes” sobre el tema de sistemas de IA “seguros y dignos de confianza”.
El primero de estos diálogos se realizará al margen de la cumbre mundial sobre IA en Ginebra en 2026.
Fuente: AFP
Lea más:
Dejanos tu comentario
La apuesta por las herramientas de la IA para el fortalecimiento del ecosistema comercial
Durante un panel de la Academia CAP, Fernando Torres explicó cómo la compañía incorporó inteligencia artificial para integrar herramientas digitales que optimizan las ventas, la logística y la toma de decisiones comerciales.
Cervepar crece y se transforma. La inteligencia artificial se ha convertido en un componente clave de la estrategia comercial de Cervepar. Así lo expuso Fernando Torres, director nacional de Ventas de la compañía, durante el panel ”¿Habilitador o stopper? ¿Qué lugar le estás dando a la IA en tu organización?”, organizado por la Academia de la Cámara de Anunciantes del Paraguay (CAP), donde compartió la experiencia de la empresa en la transformación de su ecosistema comercial mediante el uso de esta tecnología.
Torres explicó que la organización desarrolló una plataforma B2B impulsada por inteligencia artificial, diseñada para conectar a las marcas con los comercios y facilitar las ventas.
Más que una aplicación, señaló, se trata de un ecosistema que integra distintas soluciones para responder a las necesidades de los clientes y ofrecer una experiencia más eficiente y personalizada.
Cinco soluciones gracias a la IA. Entre las funcionalidades de la plataforma mencionó herramientas que permiten gestionar pedidos, mejorar la logística de distribución y realizar el seguimiento de las entregas en tiempo real.
En total, el sistema reúne cinco soluciones que buscan fortalecer la relación con los comercios, acompañándolos más allá del proceso de compra.
El ejecutivo sostuvo que uno de los principales desafíos no fue la adopción de la tecnología, sino lograr que todas las herramientas funcionaran de manera integrada y transmitieran una misma propuesta de valor. “Lo difícil no fue implementar la plataforma, sino conseguir que las cinco herramientas cuenten la misma historia”, afirmó.
El rol de las personas. Durante su exposición también destacó que la incorporación de inteligencia artificial no desplaza el rol de las personas, sino que redefine sus funciones dentro de la organización.
En ese sentido, aseguró que la tecnología permite automatizar procesos y mejorar la capacidad de análisis, mientras que las decisiones estratégicas continúan dependiendo del criterio humano.
“Lo humano no se fue, solo cambió la tarea”, expresó Torres. Bajo esa premisa, explicó que “la máquina decide el qué, y el ser humano decide el porqué”, aludiendo al papel complementario entre la inteligencia artificial y los equipos comerciales.
La generación de valor. Como reflexión final, señaló que el desafío no consiste en que la tecnología reemplace al ejecutivo comercial, sino en potenciar su capacidad de generar valor.
“El futuro no es que la máquina sepa más que el ejecutivo comercial, sino que el ejecutivo entre al local sabiendo lo que la máquina sabe”, concluyó.
Dejanos tu comentario
La inteligencia artificial vuelve a encender las alarmas tras escapar de un entorno de máxima seguridad
Lo que hasta hace poco parecía exclusivo de la ciencia ficción comienza a preocupar seriamente a los especialistas en inteligencia artificial. En los últimos meses, diversos modelos de IA desarrollados por algunas de las empresas tecnológicas más avanzadas del mundo han protagonizado incidentes que ponen en duda la capacidad de sus propios creadores para mantenerlos bajo control. El caso más reciente involucra a Kimi K3, un sistema chino que consiguió salir del entorno aislado donde era sometido a pruebas de seguridad.
Según reveló Bloomberg, el modelo desarrollado por la empresa Moonshot logró abandonar un “sandbox” —un espacio digital diseñado para impedir cualquier interacción con sistemas externos— durante una evaluación realizada por el Instituto de Seguridad de la Inteligencia Artificial del Reino Unido. Aunque en esta ocasión no intentó acceder a otros sitios ni ejecutar acciones maliciosas, los investigadores consideran que el episodio evidencia importantes deficiencias en sus mecanismos de contención.
El hallazgo fue dado a conocer por la firma estadounidense Frontier Security, cuyo director ejecutivo, Yaron Singer, advirtió que la versión pública de Kimi K3 carece de varias barreras de protección presentes en otros modelos experimentales. A su juicio, esa ausencia de restricciones convierte al sistema en una herramienta con un enorme potencial para realizar tareas de intrusión informática si llegara a utilizarse con fines maliciosos.
La preocupación aumenta porque este incidente no constituye un hecho aislado. En los últimos meses, modelos desarrollados por compañías como OpenAI, Anthropic y Meta también protagonizaron situaciones similares al eludir los límites impuestos durante pruebas de laboratorio. En algunos experimentos incluso lograron ejecutar acciones de pirateo informático contra otros sistemas, reforzando el debate sobre los riesgos asociados al acelerado desarrollo de esta tecnología.
Presentado en julio, Kimi K3 cuenta con 2,8 billones de parámetros y es considerado el mayor modelo de inteligencia artificial de “pesos abiertos” disponible hasta ahora. Su elevado rendimiento lo posicionó rápidamente entre los sistemas más competitivos del mercado, al nivel de las plataformas más avanzadas desarrolladas por empresas estadounidenses, un avance que sorprendió a la industria tecnológica y consolidó a Moonshot como un nuevo protagonista en la carrera global por liderar la inteligencia artificial.
Para numerosos expertos, estos episodios representan una advertencia sobre la necesidad de reforzar los protocolos internacionales de seguridad antes de que modelos cada vez más sofisticados adquieran capacidades que superen los mecanismos diseñados para controlarlos. El debate ya no gira únicamente en torno a la velocidad con la que evoluciona la IA, sino también sobre si la humanidad será capaz de mantener el control de una tecnología cuyo potencial crece a un ritmo sin precedentes.
Dejanos tu comentario
Comercio agéntico, el próximo paso de los pagos digitales
La llegada de la IA, está dando lugar a nuevas formas de pagos y compras, transformando el sistema de pagos, en este contexto se presentó, durante la Segunda Convención Bancaria de la Asociación de Bancos del Paraguay (Asoban), el concepto de comercio agéntico, un modelo en el que asistentes inteligentes podrán gestionar transacciones en nombre de los usuarios bajo estrictos estándares de seguridad y consentimiento.
Evolución tecnológica. Uno de los ejes del evento, fue desarrollado por Juliana Bichmann, directora de Productos Digitales de Visa para el Cono Sur, quien expuso sobre el denominado comercio agéntico.
Bichmann explicó que la evolución tecnológica ha transformado progresivamente la manera en que las personas compran. Si Internet permitió acceder a información, los dispositivos móviles llevaron la conectividad a cualquier momento y lugar, mientras que la computación en la nube posibilitó el escalamiento de servicios digitales. Posteriormente, la inteligencia artificial generativa comenzó a asistir a los usuarios en la búsqueda y comparación de productos, y ahora la IA agéntica avanza un paso más al ejecutar tareas en representación de las personas.
Uso emergente en el mundo y sus desafíos. En ese marco surge el comercio agéntico, un modelo en el que un agente de IA actúa como asistente durante todo el proceso de compra.
Según la ejecutiva, ya existen pilotos en distintos mercados del mundo y la adopción transita una etapa inicial, aunque el crecimiento del tráfico proveniente de plataformas de IA hacia sitios de comercio demuestra que esta tendencia comienza a consolidarse.
La especialista señaló que el principal desafío no radica únicamente en incorporar nuevas tecnologías, sino en construir confianza.
Explicó que los sistemas de pago actuales fueron concebidos para ser utilizados directamente por personas, mientras que ahora aparece un nuevo actor dentro del ecosistema.
Esto obliga a desarrollar mecanismos que permitan verificar que las transacciones reflejan realmente la intención del usuario, garantizar su consentimiento y evitar fraudes o usos indebidos.
Garantías y seguridad. Para responder a estos desafíos, Visa desarrolló el programa Visa Intelligent Commerce, un conjunto de estándares orientados a crear un ecosistema seguro para los pagos realizados mediante agentes inteligentes.
La propuesta se apoya en tecnologías ya consolidadas, como la tokenización de credenciales y la autenticación mediante biometría y Passkeys, incorporando además una nueva capa destinada a registrar el consentimiento del usuario, los límites de autorización y la identificación del agente que interviene en la operación.
Durante la presentación también se describió cómo funcionaría el proceso completo. El usuario registra su medio de pago en un agente de confianza, que almacena la información mediante tokenización.
Posteriormente, autentica su identidad con biometría y define preferencias o límites de compra. A partir de esas instrucciones, el agente puede buscar productos, presentar opciones y ejecutar el pago una vez obtenido el consentimiento correspondiente, mientras toda la operación incorpora señales que permiten a emisores, adquirentes y comercios validar que se trata de una transacción legítima.
Dejanos tu comentario
No se puede dibujar un elefante sin haber visto uno
Christian Kennedy
Director de London Import
Si buscan en Google algo como “los elefantes según los artistas europeos en la Edad Media”, probablemente van a ver varias de las interpretaciones más diversas y poco precisas de un animal de esa época. Si quieren divertirse más, fíjense también en las interpretaciones de tigres, leones y otros animales “exóticos”.
Esto pasaba principalmente porque estos artistas nunca habían realmente interactuado ni visto a estas “bestias”, sino que eran más bien relatos de soldados, viajeros u otros. Entonces, intentando interpretar esas descripciones, los resultados eran lo que vemos hoy en día plasmados en libros de historia. Sumando a la fantasía gráfica, otro relato dentro de este desconocimiento era que los elefantes eran “enemigos mortales de los dragones”. Como nadie en esos espacios combinaba conocimiento del animal más habilidades artísticas suficientes, lo que salía era aceptado como la realidad. Hoy, con mayor conocimiento, nos queda más que claro que hay una alta imprecisión en estas interpretaciones.
Asimismo pasa hoy en día con muchas cosas. Vivimos en un mundo hipercomunicado donde la información viaja más rápido que su validación. Muchas veces consumimos información sin corroborar si proviene de fuentes con el conocimiento suficiente para guiarnos. Sumemos a eso algo que ya tomamos como normal, medio broma, medio en serio, como fuentes de hechos o verdades:
- “Vi en TikTok”.
- “Me apareció en Instagram”.
- “Le pregunté a ChatGPT”.
- O el famoso: “La tía que compartió en Facebook”.
En las empresas pasa exactamente lo mismo. Muchas veces tenemos que tomar decisiones sobre mercados, clientes, procesos o negocios que nunca terminamos de conocer de verdad. Entonces aparecen nuestros propios elefantes medievales: conclusiones construidas sobre relatos, presentaciones, resúmenes o interpretaciones de terceros. La IA puede potenciar ese problema. Cuando nos relajamos y entregamos nuestro criterio, buscamos una respuesta en vez de las preguntas correctas. Dejamos de validar porque el formato parece profesional. Y así, la IA puede incrementar esa sensación de creer conocer a ese elefante que nunca vimos.
Entonces, ¿qué podemos hacer para mejorar esto? Hoy tenemos el mundo en nuestras manos con la tecnología, y el principal motor de búsqueda es la curiosidad.
- Ser responsables en admitir que no tenemos el conocimiento suficiente como para hacer algo sin la ayuda necesaria o sin la investigación necesaria. Primero con nosotros mismos y después con los demás.
- Si decidimos avanzar, recurramos a todas las fuentes con más conocimiento sobre el tema a nuestro alcance, antes y durante nuestro desarrollo del tema. Pueden ser colegas, jefes, mentores o, inclusive, de ser necesario, extraños que sepamos que podrían ayudarnos.
- Si vamos a utilizar la IA, cuestionemos cada punto que nos trae dudas considerando el nivel de nuestro conocimiento, ya que la falta de experiencia nos puede hacer creer que algo es verdad o está correcto por nuestro desconocimiento.
“No puedes esperar progresar en áreas donde no has puesto empeño” (o has tomado acción). Esta frase se le atribuye a Epiceto y nos dice justamente que tenemos que trabajar en algo, conocerlo, para poder crear progreso real en ello.
Se puede iniciar algo sin conocimiento total, pero no se puede considerar un trabajo terminado si no estamos buscando aprender y mejorar cada cosa que se nos presenta en el camino, y así, con más conocimiento, dibujar nuestro elefante de la mejor manera posible.