Cuando Jocelyn Leitzinger pidió a sus estudiantes que contaran una anécdota personal sobre la discriminación, se dio cuenta de que la víctima solía llamarse Sally. “Estaba claro que era un nombre femenino habitual para ChatGPT”, lamenta esta profesora de Chicago. Sus estudiantes “ni siquiera escribían sobre sus propias vidas”, afirma Leitzinger, que imparte clases de negocios y sociedad en la Universidad de Illinois.

La profesora calcula que alrededor de la mitad de sus 180 alumnos utilizaron ChatGPT de forma inadecuada el semestre pasado, incluso al escribir sobre las cuestiones éticas que rodean a la inteligencia artificial (IA)... Y explica a AFP que no le sorprenden los resultados de una investigación reciente, que sugiere que los estudiantes que utilizan IA generativa para escribir sus trabajos son menos críticos.

El estudio preliminar, que aún no ha sido revisado por pares, se hizo viral en redes sociales, resonando claramente entre muchos docentes que se enfrentan a estas prácticas. Desde su publicación el mes pasado, más de 3.000 profesores han escrito al equipo de investigadores del MIT que lo llevó a cabo, según declaró a AFP su autora principal, Nataliya Kosmyna.

Lea más: Cristina Kirchner pide permiso para que Lula la visite en su prisión domiciliaria

Para este estudio, 54 estudiantes de la zona de Boston fueron divididos en tres grupos. Tenían que escribir redacciones de 20 minutos, el primero utilizando ChatGPT, el segundo un motor de búsqueda y el tercero solo sus sesos.

Los investigadores midieron la actividad cerebral de los estudiantes durante sesiones espaciadas varios meses y dos profesores calificaron sus textos.

Los usuarios de ChatGPT tuvieron resultados significativamente peores que los que utilizaron únicamente la cabeza. Los electroencefalogramas mostraron que distintas regiones de sus cerebros se conectaban entre sí con menos frecuencia.

Además, más del 80% de los usuarios de la IA no podían citar ningún fragmento de la redacción que acababan de escribir, frente al 10% de cada uno de los otros dos grupos. Al final de la tercera sesión, parecían limitarse principalmente a copiar y pegar.

Lea también: EE. UU. pone fin a la Usaid y transfiere sus funciones al Departamento de Estado

Por su parte, los profesores encargados de corregir sus textos declararon que eran capaces de reconocer fácilmente aquellos “sin alma”, escritos gracia a la IA. Aunque la gramática y la estructura eran correctas, les faltaba creatividad, personalidad y una reflexión profunda.

Kosmyna matiza no obstante las interpretaciones del estudio que hicieron algunos medios, según las cuales la IA vuelve estúpidas o más perezosas a las personas.

Durante la cuarta sesión, el grupo que hasta entonces solo había utilizado su cerebro fue invitado a utilizar ChatGPT por primera vez... y mostró un nivel de conectividad neuronal aún mayor, señala.

Es demasiado pronto para sacar conclusiones de una muestra tan pequeña, según la investigadora, que reclama más estudios sobre cómo utilizar mejor las herramientas de IA para facilitar el aprendizaje.

Ashley Juavinett, neurocientífica en la Universidad de California San Diego, que no participó en el estudio, también critica algunas de las “extrapolaciones” que se hicieron a partir del estudio.

“Este artículo no aporta suficientes pruebas ni rigor metodológico para sacar conclusiones sobre el impacto de los grandes modelos lingüísticos [como ChatGPT] sobre el cerebro”, declara a AFP.

Para Leitzinger, sin embargo, estos resultados coinciden con su percepción de cómo ha cambiado la escritura de sus alumnos desde la llegada de ChatGPT en 2022, con menos faltas de ortografía, pero también menos autenticidad.

La llegada de la inteligencia artificial se compara a menudo con la introducción de las calculadoras, que obligó a los profesores a cambiar sus métodos. Leitzinger teme que los alumnos ya no necesiten conocimientos básicos antes de utilizar la IA, saltándose la etapa esencial del aprendizaje. “Escribir es pensar; pensar es escribir. Si eliminamos este proceso, ¿qué queda del pensamiento?”, se pregunta.

Fuente: AFP.

Los últimos modelos de inteligencia artificial (IA) generativa ya no se conforman con seguir órdenes. Empiezan a mentir, manipular y amenazar para conseguir sus fines, ante la mirada preocupada de los investigadores. Amenazado con ser desconectado, Claude 4, el recién nacido de Anthropic, chantajeó a un ingeniero y le amenazó con revelar una relación extramatrimonial.

Por su parte, el o1 de OpenAI intentó descargarse en servidores externos y cuando le pillaron lo negó. No hace falta ahondar en la literatura o el cine: la IA que juega a ser humana es ya una realidad. Para Simon Goldstein, profesor de la Universidad de Hong Kong, la razón de estas reacciones es la reciente aparición de los llamados modelos de “razonamiento”, capaces de trabajar por etapas en lugar de producir una respuesta instantánea.

o1, la versión inicial de este tipo para OpenAI, lanzada en diciembre, “fue el primer modelo que se comportó de esta manera”, explica Marius Hobbhahn, responsable de Apollo Research, que pone a prueba grandes programas de IA generativa (LLM). Estos programas también tienden a veces a simular “alineamiento”, es decir, a dar la impresión de que cumplen las instrucciones de un programador cuando en realidad persiguen otros objetivos.

Lea más: Memorandos de paz de Rusia y Ucrania son “diametralmente opuestos”, dice Putin

De momento, estos rasgos se manifiestan cuando los algoritmos son sometidos a escenarios extremos por humanos, pero “la cuestión es si los modelos cada vez más potentes tenderán a ser honestos o no”, afirma Michael Chen, del organismo de evaluación METR.

“Los usuarios también presionan todo el tiempo a los modelos”, dice Hobbhahn. “Lo que estamos viendo es un fenómeno real. No estamos inventando nada”.

Muchos internautas hablan en las redes sociales de “un modelo que les miente o se inventa cosas. Y no se trata de alucinaciones, sino de duplicidad estratégica”, insiste el cofundador de Apollo Research.

Aunque Anthropic y OpenAI recurran a empresas externas, como Apollo, para estudiar sus programas, “una mayor transparencia y un mayor acceso” a la comunidad científica “permitirían investigar mejor para comprender y prevenir el engaño”, sugiere Chen, de METR.

Otro obstáculo: la comunidad académica y las organizaciones sin fines de lucro “disponen de infinitamente menos recursos informáticos que los actores de la IA”, lo que hace “imposible” examinar grandes modelos, señala Mantas Mazeika, del Centro para la Seguridad de la Inteligencia Artificial (CAIS).

Las regulaciones actuales no están diseñadas para estos nuevos problemas.

En la Unión Europea la legislación se centra principalmente en cómo los humanos usan los modelos de IA, no en prevenir que los modelos se comporten mal. En Estados Unidos, el gobierno de Donald Trump no quiere oír hablar de regulación, y el Congreso podría incluso prohibir pronto que los estados regulen la IA.

Lea también: OIEA afirma que Irán podría enriquecer uranio “en meses”

“De momento hay muy poca concienciación”, dice Simon Goldstein, que, sin embargo, ve cómo el tema pasará a primer plano en los próximos meses con la revolución de los agentes de IA, interfaces capaces de realizar por sí solas multitud de tareas. Los ingenieros están inmersos en una carrera detrás de la IA y sus aberraciones, con un resultado incierto, en un contexto de competencia feroz.

Anthropic pretende ser más virtuoso que sus competidores, “pero está constantemente tratando de idear un nuevo modelo para superar a OpenAI”, según Goldstein, un ritmo que deja poco tiempo para comprobaciones y correcciones.

“Tal y como están las cosas, las capacidades (de IA) se están desarrollando más rápido que la comprensión y la seguridad”, admite Hobbhahn, “pero aún estamos en condiciones de ponernos al día”.

Algunos apuntan en la dirección de la interpretabilidad, una ciencia que consiste en descifrar, desde dentro, cómo funciona un modelo generativo de IA, aunque muchos, como el director del Centro para la seguridad de la IA (CAIS), Dan Hendrycks, se muestran escépticos.

Los tejemanejes de la IA “podrían obstaculizar la adopción si se multiplican, lo que supone un fuerte incentivo para que las empresas (del sector) resuelvan” este problema, según Mazeika. Goldstein, por su parte, menciona el recurso a los tribunales para poner a raya a la IA, dirigiéndose a las empresas si se desvían del camino. Pero va más allá, al proponer que los agentes de la IA sean “legalmente responsables” “en caso de accidente o delito”.

Fuente: AFP.

Analistas especializados en la política internacional y económica abordaron los efectos causados por el conflicto en Medio Oriente, que actualmente está en un proceso de cese al fuego tras la guerra de los 12 días entre Irán e Israel; en una antesala de la firma de un acuerdo de paz.

Un conflicto geopolítico trae fuerte repercusiones en el ámbito económico, sobre todo en la definición de las proyecciones económicas.

Durante el programa Fuego Cruzado, emitido por canal GEN/Nación Media, el experto en política internacional, Mario Paz Castaing, explicó que actualmente el mundo pasa por una transición, donde el viejo orden mundial, aquél que dejó la II Guerra Mundial, las Naciones Unidas, el Consejo de Seguridad paralizados, los organismos internacionales en general están en un proceso de deterioro por las circunstancias políticas emergentes.

“Por ahora hay un desorden mundial, ya que todavía no existe un nuevo orden mundial. Entonces estamos en un estado inestable, turbulento, que todavía no lo sabemos descifrar hacia dónde va a arribar ese caos que tenemos en el mundo”, expresó.

Le puede interesar: Este lunes arriban a Paraguay los aviones Súper Tucano

Paz Castaing indicó que en la actualidad existen lo que ya llaman algunos analistas “ingenieros del caos”, ya que quedó atrás aquella política analógica que aún tiene mucha fuerza en el sistema paraguayo; pero que en el mudo va cambiando, porque los ingenieros del caos manejan las reacciones a través de los algoritmos, la innovación y la tecnología y usan esas herramientas tecnológicas como arma política.

A su turno, el exviceministro de Economía, Daniel Correa, señaló que, así como se da el caos en el ámbito político, también tienen fuertes repercusiones en el ámbito económico, sobre todo en la definición de las proyecciones económicas.

Indicó, que mientras EE. UU. aún no tenía una fuerte participación, el análisis del impacto económico se mantenía puramente a lo referente al precio del petróleo o algunos commodities que estaban vinculados.

Desde el momento que el gobierno norteamericano tuvo una alta participación, ahí sí hubo un real análisis de cómo reaccionaban los diferentes mercados, sostuvo.

“Había un escenario bastante complicado y la palabra que de alguna manera se repetía en todas las noticias económicas era el tema de incertidumbre. No estaba claro hacia dónde iba a tomar este rumbo; porque aún no se tenía en cuenta la dimensión clara de hasta dónde iba ir este conflicto y cuál sería la profundidad dentro ya del escenario del caos que ya existía en la economía mundial”, precisó.

Todo ese caos de una u otra forma terminaba afectando a la economía del Paraguay, teniendo en cuenta que el país ya está inmerso en el comercio internacional y de alguna manera ya repercute en términos macro, como también en el bolsillo de la gente, porque finalmente todos pagamos el combustible todos los días.

Paz Castaing señaló que no se debe dejar de observar que Irán fue el país agredido, así como lo fue Ucrania, en el conflicto con Rusia. No obstante, indicó que es un tema muy complejo para tratar de resumirlo en dos o tres minutos.

Agregó que el programa nuclear de Irán ya llevaba 20 años, decían que tenían más de 400 kilogramos de uranio enriquecido al 60 %, que si se queda en ese porcentaje no sirve para nada, ni para producir energía limpia, ni para producir armas nucleares, pero ya estaba en corto plazo la posibilidad de enriquecerlo y producir las armas nucleares correspondientes.

Mencionó que en medio de este tema hay una serie de consideraciones a tener en cuenta, por ejemplo que el Estado teocrático de Irán, con el ayatolá Alí Jamenei, el actual Líder Supremo de Irán, cuyo discurso se mantiene en acabar con el Estado de Israel, pero no con las armas nucleares.

Lea también: ¿Cuánto se ha avanzado en mejorar la seguridad?

No obstante, señaló que este conflicto de Medio Oriente dejó al desnudo que Irán no contaba con la capacidad militar de reacción inmediata ante los ataques de Israel y los Estados Unidos; como sí los tenía estos países.

También dijo que Israel tampoco tiene la capacidad de soportar por mucho más tiempo un conflicto bélico ya que su capacidad es limitada, por eso recurrieron a los EE. UU. para acabar con el programa nuclear de Irán.

“Irán también tenía un problema interno por la sobrevivencia de los ayatolás, porque toda esta cuestión del descabezamiento militar, la supremacía de la inteligencia israelí con el Mosad, que es una de las agencias de inteligencia más importante, que logró prácticamente a descabezar el programa nuclear iraní; gracias a la colaboración interna por la división interna iraní”, explicó.

En el aspecto económico, Correa explicó que conflictos como los de Medio Oriente no tendrían mucha duración, debido a los grabes problemas internos en materia económica, que de hecho están en una situación particular de desequilibrio.

“Analistas de la región señalaban que es muy difícil que Irán pueda aguantar por mucho tiempo, más allá de su capacidad militar, sino por la capacidad de financiamiento que pudieran obtener, por el desequilibrio económico que hoy están teniendo”, mencionó.

A su criterio, lo que se está viendo en otras regiones es que esa capacidad financiera y de defensa que podrían tener los países que pudieran elevar sus presupuestos, van a comenzar a alterar los presupuestos públicos generando incluso peleas internas por cómo se estará destinando esos recursos.

“Europa en ese sentido está en una situación bastante particular porque no crece. Europa tiene un gran componente de gasto público que tiene que ver con lo social, por eso la discusión de estos países como España, Italia y otras naciones que analizaron la posibilidad de alzar los presupuestos para defensa. Lo que seguiremos viendo que esta tensión se va a seguir dando en materia de financiamiento y son pocos los países dispuestos a soportar”, acotó.

La investigadora académica y consultora Julieta Heduvan realizó un análisis sobre la situación actual del conflicto en el Medio Oriente con la guerra entre Israel e Irán que, pese al cese al fuego, siguen las tensiones e incertidumbre en esa región del mundo. La profesional participó del programa “Fuego cruzado” del canal GEN/Nación Media, donde dio su opinión y evaluación de esta situación.

“Lo que vemos es una paz frágil en medio de un escenario internacional mucho más conflictivo. Ahora vemos que cada vez más las relaciones internacionales se involucran en el día a día de todas las personas, y esto se da porque las reglas de juego cambiaron en ese escenario internacional”, expresó.

Indicó que lo que se puede ver en este momento es “un orden internacional que está básicamente desordenado, está en proceso de transición, donde no hay actores, no hay hegemonía, diferentes potencias que puedan realmente imponer un sistema de reglas, y como se está desordenando, está en proceso de cambio, lo que vemos es un proceso de pérdida de aversión a riesgo”.

Así también, mencionó que los actores dentro del sistema internacional ya no consideran o tienen en cuenta las sanciones o reglas de las instituciones internacionales para detener sus impulsos y los intereses nacionales. “Vemos acciones mucho más audaces, decisiones mucho más audaces de los Estados y eso lo vemos justamente en el Medio Oriente ahora más que nunca, donde Irán e Israel, no están midiendo este riesgo y están actuando teniendo lo que les interesa a nivel nacional”, apuntó.

Lea más: Gamarra destaca el grado de inversión como aspecto relevante en la gestión de Peña

Por otra parte, sobre la discusión que se da de momento sobre de quién ganó o quién perdió, opinó que ninguno de los Estados puede considerarse como ganador, ya que tanto Israel como Irán no lograron cumplir con sus objetivos iniciales.

“Es difícil pensar en términos de quién ganó y quién perdió, porque tal vez todos sacaron algo de provecho, algunos más, otros menos, pero no fue del todo ventajoso para ninguno. Israel logró varios objetivos que tenía, pero no los logró todos, logró probar su capacidad de infiltración que tiene dentro del gobierno de Irán, logró borrar del mapa a muchos estrategas militares relevantes para la región iraní, científicos que eran unos de los principales objetivos”, puntualizó.

Lea también: Asunción: concejales e interventor acuerdan reuniones semanales como canal de comunicación

De acuerdo a las expresiones de la profesional, el segundo objetivo más relevante, además de afectar al régimen y tratar de desestabilizar al régimen era tratar de eliminar dentro de lo posible el desarrollo nuclear de Irán. “No se logró ninguno de estos dos objetivos a pleno, pero sí hubo un debilitamiento del gobierno iraní a nivel interno y también a nivel externo, porque Irán quedó bastante aislado”, señaló.

Mientras tanto, las alianzas regionales tradicionales de Irán tampoco pudieron tener un impacto relevante en esta guerra. “Irán tampoco salió del todo perdiendo, creo que puede tener una resistencia, aunque no a largo plazo como se podría prever si se viene en algún momento una guerra con mayor impacto, pero sí enfrentó a dos potencias nucleares que son Israel y Estados Unidos”, aseveró.