Los últimos modelos de inteligencia artificial (IA) generativa ya no se conforman con seguir órdenes. Empiezan a mentir, manipular y amenazar para conseguir sus fines, ante la mirada preocupada de los investigadores. Amenazado con ser desconectado, Claude 4, el recién nacido de Anthropic, chantajeó a un ingeniero y le amenazó con revelar una relación extramatrimonial.

Por su parte, el o1 de OpenAI intentó descargarse en servidores externos y cuando le pillaron lo negó. No hace falta ahondar en la literatura o el cine: la IA que juega a ser humana es ya una realidad. Para Simon Goldstein, profesor de la Universidad de Hong Kong, la razón de estas reacciones es la reciente aparición de los llamados modelos de “razonamiento”, capaces de trabajar por etapas en lugar de producir una respuesta instantánea.

o1, la versión inicial de este tipo para OpenAI, lanzada en diciembre, “fue el primer modelo que se comportó de esta manera”, explica Marius Hobbhahn, responsable de Apollo Research, que pone a prueba grandes programas de IA generativa (LLM). Estos programas también tienden a veces a simular “alineamiento”, es decir, a dar la impresión de que cumplen las instrucciones de un programador cuando en realidad persiguen otros objetivos.

Lea más: Memorandos de paz de Rusia y Ucrania son “diametralmente opuestos”, dice Putin

De momento, estos rasgos se manifiestan cuando los algoritmos son sometidos a escenarios extremos por humanos, pero “la cuestión es si los modelos cada vez más potentes tenderán a ser honestos o no”, afirma Michael Chen, del organismo de evaluación METR.

“Los usuarios también presionan todo el tiempo a los modelos”, dice Hobbhahn. “Lo que estamos viendo es un fenómeno real. No estamos inventando nada”.

Muchos internautas hablan en las redes sociales de “un modelo que les miente o se inventa cosas. Y no se trata de alucinaciones, sino de duplicidad estratégica”, insiste el cofundador de Apollo Research.

Aunque Anthropic y OpenAI recurran a empresas externas, como Apollo, para estudiar sus programas, “una mayor transparencia y un mayor acceso” a la comunidad científica “permitirían investigar mejor para comprender y prevenir el engaño”, sugiere Chen, de METR.

Otro obstáculo: la comunidad académica y las organizaciones sin fines de lucro “disponen de infinitamente menos recursos informáticos que los actores de la IA”, lo que hace “imposible” examinar grandes modelos, señala Mantas Mazeika, del Centro para la Seguridad de la Inteligencia Artificial (CAIS).

Las regulaciones actuales no están diseñadas para estos nuevos problemas.

En la Unión Europea la legislación se centra principalmente en cómo los humanos usan los modelos de IA, no en prevenir que los modelos se comporten mal. En Estados Unidos, el gobierno de Donald Trump no quiere oír hablar de regulación, y el Congreso podría incluso prohibir pronto que los estados regulen la IA.

Lea también: OIEA afirma que Irán podría enriquecer uranio “en meses”

“De momento hay muy poca concienciación”, dice Simon Goldstein, que, sin embargo, ve cómo el tema pasará a primer plano en los próximos meses con la revolución de los agentes de IA, interfaces capaces de realizar por sí solas multitud de tareas. Los ingenieros están inmersos en una carrera detrás de la IA y sus aberraciones, con un resultado incierto, en un contexto de competencia feroz.

Anthropic pretende ser más virtuoso que sus competidores, “pero está constantemente tratando de idear un nuevo modelo para superar a OpenAI”, según Goldstein, un ritmo que deja poco tiempo para comprobaciones y correcciones.

“Tal y como están las cosas, las capacidades (de IA) se están desarrollando más rápido que la comprensión y la seguridad”, admite Hobbhahn, “pero aún estamos en condiciones de ponernos al día”.

Algunos apuntan en la dirección de la interpretabilidad, una ciencia que consiste en descifrar, desde dentro, cómo funciona un modelo generativo de IA, aunque muchos, como el director del Centro para la seguridad de la IA (CAIS), Dan Hendrycks, se muestran escépticos.

Los tejemanejes de la IA “podrían obstaculizar la adopción si se multiplican, lo que supone un fuerte incentivo para que las empresas (del sector) resuelvan” este problema, según Mazeika. Goldstein, por su parte, menciona el recurso a los tribunales para poner a raya a la IA, dirigiéndose a las empresas si se desvían del camino. Pero va más allá, al proponer que los agentes de la IA sean “legalmente responsables” “en caso de accidente o delito”.

Fuente: AFP.

Posibilidades de incendio en Francia o temperaturas que superan los 40 ºC en España. Una ola de calor precoz afecta este fin de semana a los países del sur de Europa, donde las autoridades se movilizan para evitar riesgos para la salud.

En Italia, 17 ciudades están desde este sábado en alerta roja, tanto en el norte, como Milán, Bolonia y Turín, como en el sur, sobre todo Nápoles y Palermo, donde se esperan temperaturas máximas de 39 ºC.

En Roma, el termómetro ya marcaba 30 ºC a las 10:00 [08H00 GMT] y se espera que las temperaturas suban hasta los 37 ºC, según las previsiones. La ola de calor golpeará aún más fuerte el domingo, con 21 ciudades en alerta roja.

Podés leer: Donald Trump confía en que la “próxima semana” se dé un cese al fuego en Gaza

Algunas regiones, como Liguria y Sicilia, promulgaron ordenanzas que prohíben el trabajo al aire libre durante las horas de mayor riesgo, y los sindicatos hacen campaña para extender la prohibición a otras regiones.

El calor ya provocó un aumento del número de llamadas de emergencia en la última semana, informó la agencia Ansa. “Intento no pensar en ello, pero bebo mucha agua y nunca me quedo quieta, porque entonces es cuando te da una insolación”, declaró el viernes en Venecia a AFPTV Sriane Minà, una estudiante italiana.

Los científicos alertan desde hace años del impacto del cambio climático en las olas de calor, sequías y otros fenómenos meteorológicos extremos, cada vez más intensos y frecuentes.

En España, varias regiones se encontraban el sábado en alerta naranja, la segunda más importante, por las altas temperaturas. Los termómetros podrán llegar hasta los 42 ºC en algunos puntos, advirtió la Agencia Estatal de Meteorología española (AEMET).

La peor parte del episodio se espera inicialmente para el domingo y, con mayor incertidumbre, el lunes, cuando los termómetros podrían superar los 40 ºC en el suroeste del país y en algunas zonas del noreste. “Se espera que se superen los 42 ºC en el entorno del Guadalquivir, Guadiana y Tajo, sin descartarlos en el Ebro”, indicó la AEMET en el aviso especial que emitió el viernes sobre la ola de calor.

A la fuerte sensación de calor contribuye igualmente que las aguas del mar que bañan la Península y Baleares “superan los 26 °C: cifra récord para estas fechas, propia de mediados de agosto”, resaltó la AEMET en su cuenta de X.

España está en primera línea del cambio climático y los últimos tres años fueron los más cálidos de su serie histórica, con varias olas de calor y récords de temperatura. En Portugal, dos tercios del país estarán el domingo en alerta naranja, con 42 °C previstos en Lisboa y riesgo máximo de incendios.

El riesgo se multiplica también en Francia, donde el mercurio alcanzará los 35 ºC en al menos dos tercios del país el domingo y el lunes.

Tristan Amm, meteorólogo de Météo-France, advirtió que habrá noches “muy desagradables” con temperaturas que no bajarán de 20 ºC. La ola de calor afectó el sábado por segundo día consecutivo al sur del país, antes de extenderse hacia el norte, aumentando el riesgo de incendios. Se espera que dure al menos hasta el martes.

La causa de este nuevo pico en Francia es una “cúpula de calor”. Este mecanismo se asemeja a un anticiclón grande y potente que forma una especie de tapa que bloquea el aire de las capas bajas, impidiendo la entrada de perturbaciones, mientras lo calienta progresivamente.

Te puede interesar: Chile: camioneros paraguayos se encuentran atrapados por la nieve en Atacama

En Marsella, en el sur del país, el Ayuntamiento anunció que las piscinas municipales serán gratuitas y publicó un mapa de lugares públicos con aire acondicionado. En Niza, también en el sur, la ciudad anunció que se distribuyeron cerca de 250 ventiladores portátiles “en las dos últimas semanas” a colegios y personas mayores aisladas.

Fuente: AFP

• Por Karina Ríos (karina.rios@nacionmedia.com)

En el mes de mayo, y en 40 años, en el Parque Nacional Serranía San Luis, departamento de Concepción, se logró el avistamiento de un especie conocida como jagua yvyguy, cuyo nombre científico es “Speothos venaticus”, que está en peligro de extinción.

Biólogos coincidieron en que a simple vista el ejemplar estaba en preocupante estado de salud, porque se lo veía con sarna y otras posibles enfermedades. Sin embargo, esta situación podría deberse a la tala indiscriminada de árboles, el contacto con animales domésticos y al cambio climático.

Según la bióloga Andrea Weiler, una de las principales amenazas para la biodiversidad mundial y las especies en peligro de extinción es el cambio climático, porque se trata de animales vulnerables.

“El cambio climático representa una alteración en el clima lo que modifican los hábitats naturales, agravando otros factores de amenaza como la deforestación, la pérdida de conectividad ecológica, y los conflictos con actividades humanas”, confirmó Weiler, en entrevista con La Nación/Nación Media.

Leé también: Una mujer chocó contra una columna y dejó sin luz a varias viviendas en la zona del IPS

Explicó que una de las consecuencias del cambio climático es la intensificación de eventos extremos como sequías e inundaciones. En los últimos 4 o 5 años en Paraguay se ha sufrido sequías particularmente fuertes y prolongadas.

“Estas sequías han afectado tanto al hombre como a la biodiversidad, reduciendo la disponibilidad de agua y alimento para especies en peligro de extinción como el tagua, el tatu carreta y el yaguarete”, refirió.

Atendiendo a esta situación se vive un escenario desfavorable para las especies que de por sí ya tienen problemas para adaptarse a muchas de las modificaciones que el ser humano hace en su territorio como la deforestación de bosques, la fragmentación del hábitat, entre otras.

Te puede interesar: Era abogado, trabajaba como delivery y lo mataron para robarle: conmoción en Caaguazú

La bióloga indicó que el hombre enfrenta el cambio climático de dos maneras: procura adaptarse e intenta reducir las emisiones de gases de efecto invernadero (GEI) a la atmósfera, con el objetivo de limitar el cambio climático y sus impactos a largo plazo.

“Podemos ayudar a los animales facilitando fuentes de agua durante las sequías, establecer corredores biológicos efectivos que les permitan moverse de forma segura y resguardando la variabilidad genética de las poblaciones. Evitar la cacería de especies protegidas y denunciar a cazadores ilegales”, confirmó.

Te puede interesar: Se descarta un veranillo de San Juan y la semana laboral arrancaría con 9 °C

Según Carlos Monges, director de Vida Silvestre del Ministerio del Ambiente y Desarrollo Sostenible (Mades) en Paraguay los cambios de usos de la tierra y otros factores han disminuido la población de ciertas especies.

Se cuenta con un listado de especies que fueron catalogadas en peligro según su estado de amenaza en el país y que se encuentra en el “Libro rojo de los Mamíferos del Paraguay”. Este libro incluye 179 especies de mamíferos catalogados como en peligro. “Cada 10 años está lista es revisada por especialistas para su control, verificación y actualización de los estados”, dijo Monges en LN.

Resaltó que de este número 29 fueron catalogadas como datos insuficientes, porque no se tienen muchos datos de la especie en el país. En estos casos suele ocurrir que una especie es muy abundante pero poco estudiada. En tanto que, 118 especies fueron catalogadas como preocupación menor y 29 categorizadas como vulnerables.

“Tres especies fueron catalogadas como casi amenazadas estas son: el ocelote, rata colilarga y mono titi. Cuatro especies están en peligro de extinción y estas son tatu carreta, jagua yvyguy, tuca tuca o tuco tuco y el tagua”, refirió.

Te puede interesar: Villa Hayes: autopsia descarta abuso sexual en beba fallecida

La lista sigue con los ejemplares que están en peligro crítico: el yaguareté, nutria gigante, guanaco y oso hormiguero gigante. La lista sigue con los aves en peligro de Extinción como: los guacamayos azules, guacamayos rojos y guacamayos amarillos/azules; el pájaro campana y el tucán.

“La gran mayoría de estas especies se encuentra distribuida en todo el territorio nacional. La nutria gigante en la parte chaqueña del río Paraguay. Al tatu carreta lo encontramos en todo el Chaco y norte de Concepción”, confirmó.

El director de Vida Silvestre señaló que otras especies en peligro son: la tortuga jabuti, el teju, aguara guazu, mborevi y el guazu puku. “Los guacamayos son naturales del norte del país, aunque en tiempos pasados Azora Paraguay ya mencionaba a estas aves recorriendo todo el país”, relató.

Lea también: Allanamiento en Villa Elisa: buscan a más colaboradores del clan Rotela

Monges indicó que desde el Ministerio del Ambiente buscan fortalecer las áreas de conservación y poder concretar lugares que ayudan a conservar a los animales de vida salvaje.

“Desde el Mades estamos fortaleciendo nuestras áreas de conservación y sumando más áreas de conservación con criterios biológicos, uso de infraestructuras viales que faciliten el paso de fauna por las carreteras, educación ambiental, denunciando tenencias ilegales y tráficos de animales silvestres, entre otros”, concluyó.

Leé también: Alertan sobre brote de sarampión en países vecinos y piden vacunar a los niños

En mayo de este año, se logró el avistamiento del jagua yvyguy o perro de vinagre en el Parque Nacional Serranía San Luis. Se trata de la primera fotografía tomada en más de 40 años de una especie catalogada como en peligro de extinción en Paraguay.

Esta especie, catalogada como en peligro de extinción según la Resolución Mades n.° 632/17, es extremadamente rara en Paraguay. Hasta ahora, sus registros eran esporádicos y se concentraban principalmente en el Bosque Atlántico, el Pantanal y los bosques de galería del Chaco húmedo.

“El avistamiento del jagua yvyguy representa un evento significativo, pero es preocupante observar las condiciones de salud que se perciben a simple vista en las imágenes registradas”, expresó la bióloga Laura Villalba, gerente del programa Asociación para la Conservación de la Vida Silvestre (WCS) Paraguay, en entrevista con La Nación.

El mal estado de salud en el que se encuentra este perro vinagre podría ser causado por la pérdida de su hábitat natural que conlleva a diversas consecuencias, como una mayor vulnerabilidad ante sus depredadores naturales, un aumento en la cacería y son más propensos a entrar en contacto cercano con animales domésticos.

Puedes leer: Detiene a una pareja de argentinos buscados por abuso sexual de una menor

• Según el libro rojo de especies amenazadas del Paraguay el jagua yvyguy se clasifica en la categoría “En peligro” (EN).
• Los animales son catalogados en peligro cuando su rango de distribución es muy reducido, y cuando las necesidades ecológicas son altamente específicas, ya que requieren bosques para refugiarse, alimentarse y reproducirse.
• La fragmentación de los bosques resulta en poblaciones discontinuas, lo que sugiere que la pérdida de hábitats podría reducir aún más su área de distribución y aumentar las amenazas para la especie y podría llevar a una disminución de su población.

Te puede interesar: Paraguay lidera ranking de catolicismo en Latinoamérica, con más de 70 % de fieles

Grok, el chatbot de inteligencia artificial (IA) de la empresa xAI de Elon Musk, dio respuestas inexactas y contradictorias cuando se intentó verificar a través de él la información sobre la guerra de 12 días entre Israel e Irán, concluyó un estudio. Con la desaparición gradual de la verificación por parte de periodistas en plataformas como Facebook, cada vez más internautas recurren a herramientas de inteligencia artificial (IA) como Grok para encontrar información fiable, pero las respuestas que obtienen a veces desinforman.

Según un estudio publicado el martes pasado por un laboratorio de investigación digital del Atlantic Council, un grupo de reflexión estadounidense, las respuestas de Grok “durante los primeros días del conflicto entre Israel e Irán revelaron fallos significativos y demostraron las limitaciones del chatbot para proporcionar información precisa, fiable y coherente en tiempos de crisis”.

Lea más: Fiesta de la Música en París registró 145 ataques con jeringuillas

Analizó 130.000 mensajes en varios idiomas en la plataforma X, que integra el chatbot Grok, y determinó que éste “tenía dificultades para autentificar el contenido generado por la IA”. Por ejemplo, tras los ataques de represalia de Irán contra Israel, Grok ofreció respuestas muy diferentes sobre imágenes generadas por IA de un aeropuerto destruido, que habían acumulado millones de visualizaciones en X: oscilaba, a veces en el mismo minuto, entre negar la destrucción del aeropuerto y confirmar que había sido alcanzado por los ataques.

En algunas respuestas Grok afirmó que los daños se debían a un misil disparado desde Yemen, en otras identificó falsamente el aeropuerto como el de Beirut, Gaza o Teherán. Según los expertos, Grok ya se ha equivocado en la verificación de hechos sobre el reciente conflicto entre India y Pakistán y durante las manifestaciones en Los Ángeles contra las redadas migratorias ordenadas por el presidente estadounidense Donald Trump. El mes pasado, el servicio de IA del empresario de origen sudafricano también causó polémica al referirse erróneamente a un “genocidio blanco” en Sudáfrica, error que xAI achacó posteriormente a una “modificación no autorizada”.

Fuente: AFP.

Lea también: El “asesino de Twitter” fue ejecutado en Japón