OpenAI sacudió el hermético mundo de las matemáticas al resolver una ecuación de siglos mediante su modelo de inteligencia artificial (IA). ¿Qué papel jugarán los matemáticos en la investigación científica? Me siento “completamente trastornado por una crisis existencial en mi campo”, dice a la AFP Terence Tao, medalla Fields (equivalente al Nobel en matemáticas) en 2006 y una de las voces más influyentes del campo.

En menos de cuatro días, a comienzos de septiembre, una IA de vanguardia de OpenAI resolvió la llamada ecuación de Navier-Stokes, formulada en 1845, a la que se habían enfrentado generaciones de matemáticos. Desde principios de año, las principales figuras de la inteligencia artificial ya habían logrado invalidar varias proposiciones matemáticas célebres, pero este avance removió todos los cimientos.

“Si deciden estudiar las cuestiones que nos interesan para nuestras investigaciones, podrían resolver estos problemas fácilmente”, estima Steven Strogatz, profesor en la Universidad Cornell. Antonio Auffinger, profesor de Matemáticas de la Universidad Northwestern, recuerda que hace apenas un año los modelos de IA, incluso los más avanzados, alucinaban todo el tiempo en sus razonamientos.

“Hoy la IA puede elaborar largas cadenas de argumentos” sin divagar, añade.

Aunque los investigadores emplean desde hace tiempo esta tecnología, el enfoque de OpenAI se diferencia porque le entrega el control a la IA.

En enero, Elon Musk anticipó que las matemáticas serían “aplastadas” por la inteligencia artificial en el plazo de un año.

“Las matemáticas se convertirán en algo extremadamente banal para la IA”, afirmó el jefe de xAI, que pasó a llamarse SpaceXAI.

Benjamin Antieau, profesor de matemáticas en la Universidad Northwestern, se declara “impactado y atónito”. Sin embargo, subraya que la IA de OpenAI no partió de una hoja en blanco, sino que “siguió los pasos de otros matemáticos que desarrollaban este enfoque del problema desde hacía años”.

Se trata de españoles que también inspiraron a Tristan Buckmaster y Levent Alpöge, matemáticos que aseguran haberse aproximado a la solución de la ecuación de Navier-Stokes antes que OpenAI.

Incluso han planteado un posible plagio de sus trabajos, lo que la start-up californiana desmiente.

Mohammed Abouzaid, profesor en la Universidad Stanford, considera que la IA “amplía el espectro” de lo que se puede demostrar.

“Pero no aumenta la amplitud de las ideas que podemos explorar”, sostiene. “No se aprecia un salto de creatividad que aporte novedades a las matemáticas”.

Anima Anandkumar, profesora de Caltech, logró junto con su equipo resolver una forma simplificada de Navier-Stokes —denominada Euler— mediante un modelo de IA que no se apoyaba en trabajos previos.

Este modelo se diferencia del de ChatGPT o Claude. Llamado PINN (physics informed neural network), mezcla datos con leyes de la física.

“Podría decirse que OpenAI se apoyó más en los humanos que nosotros”, explica Anandkumar.

Con todo, “hubo que diseñar” el modelo, “hacer que funcionara (...) Eso requiere mucha creatividad humana”, matiza.

En el futuro, añade, “la IA podría ganar en matices, pero los humanos seguirán teniendo un campo de posibilidades al que la inteligencia artificial no podría acceder...”.

El viernes, 25 laureados con la medalla Fields alertaron sobre un posible “efecto destructivo” de la IA en la investigación en matemáticas.

En la red social Mastodon, Terence Tao abogó por una IA al servicio de los matemáticos, en vez de intentar sustituir a estos por la tecnología de vanguardia.

Para un modelo solo importa el objetivo, escribió.

“La meta se alcanza; el problema se resuelve, pero faltan las enseñanzas, las nuevas perspectivas, las colaboraciones y la identificación de nuevos objetivos”, añadió Tao.

Antonio Auffinger cree que los matemáticos seguirán “teniendo un papel importante” incluso si la “IA pudiera responder a todas las preguntas”. “Porque no se trata de saber cómo ir del punto A al punto B, sino de formular las preguntas que van a ayudar a toda la sociedad”, enfatiza.

Fuente: AFP.

El papa León XIV volvió a advertir el miércoles contra la tentación de delegar en los algoritmos decisiones que competen únicamente a la responsabilidad humana, en un contexto de creciente inquietud por las derivas de la inteligencia artificial (IA). El pontífice estadounidense dedicó en mayo su primera encíclica, “Magnifica Humanitas” (Magnífica humanidad), a la IA con un llamamiento a “desarmar” esta tecnología para “impedirle el dominio sobre lo humano”.

La preocupación en torno a esta cuestión creció en las últimas semanas, debido a varios incidentes de seguridad y a la nueva propensión de los modelos de inteligencia artificial a mejorar por sí mismos, sin intervención humana. El debate se centra hoy también en la capacidad del sector para autorregularse después de que los grandes ejecutivos de OpenAI, xAI y Anthropic instaran a pisar el freno.

“El desarrollo tecnológico, la difusión de los medios de comunicación de masas y de las redes sociales, el recurso cada vez mayor a la inteligencia artificial abren nuevas posibilidades, al derribar las barreras y las distancias”, declaró el papa estadounidense durante su audiencia general semanal en el Vaticano. “Por otra parte, las relaciones tienden a volverse cada vez menos personales, cada vez más virtuales, y corremos el riesgo de acostumbrarnos a delegar en los algoritmos decisiones que solo competen a la conciencia humana”, advirtió ante los miles de fieles congregados en la plaza de San Pedro.

“Velar para que las relaciones sociales tengan una verdadera consistencia y una profundidad personal es, en este sentido, la contribución que la comunidad cristiana se propone ofrecer”, añadió León XIV.

La Santa Sede también ha multiplicado en estos últimos meses las intervenciones e iniciativas a favor de una gobernanza internacional de la IA basada en la dignidad humana, especialmente en los ámbitos nuclear, cultural y de la creación artística.

El auge de la inteligencia artificial (IA) podría acentuar las desigualdades de género en el mercado laboral, advirtieron el miércoles responsables del Foro Económico Mundial (WEF) y de LinkedIn en Londres.

“Lo que hemos constatado es que los tipos de puestos que están siendo afectados por la IA tienden a ser aquellos en los que hay una especial concentración de mujeres”, explicó Saadia Zahidi, miembro del comité ejecutivo del WEF, durante la presentación de un informe anual sobre las desigualdades entre hombres y mujeres.

Se trata principalmente de “empleos de oficina calificados que han atraído a muchas mujeres y les han proporcionado muy buenos medios de subsistencia durante las últimas décadas, y (...) que están siendo transformados” por la llegada de la IA, precisó.

En las empresas de IA la situación es aún más evidente. Las mujeres están considerablemente menos representadas que en compañías comparables que no se especializan en ese campo, y esto ocurre en todos los niveles, según el informe.

“Las mujeres ocupan solo uno de cada cinco puestos en ingeniería de IA”, explicó Sue Duke, ejecutiva de LinkedIn.

Sin una mayor presencia de mujeres en las áreas científicas y en los nuevos empleos relacionados con la IA, las oportunidades económicas creadas por esta tecnología podrían beneficiar principalmente a los hombres.

Para evitar un aumento de las desigualdades, es crucial que los gobiernos y las empresas inviertan “desde el principio para incorporar a las mujeres a estas áreas de formación, a estas funciones, y luego que inviertan en cada etapa de sus carreras”, consideró Duke.

El Foro Económico Mundial publica anualmente un informe sobre las desigualdades entre hombres y mujeres.

Si bien muestra que las desigualdades de género han disminuido en el mundo durante los últimos 20 años, también indica que la tendencia hacia la reducción de estas desigualdades se desaceleró desde 2016, en comparación con la década anterior, de 2006 a 2016.

Fuente: AFP.

OpenAI, Anthropic y Google DeepMind trabajan en la creación de un organismo de supervisión de los riesgos asociados a la inteligencia artificial, indicó OpenAI a la AFP el martes, en medio de crecientes llamados a mejorar los controles de esta tecnología. Las preocupaciones sobre la seguridad de la IA se han intensificado en las últimas semanas.

Dos trabajadores renunciaron a importantes desarrolladoras de IA al advertir la amenaza contra la humanidad que implica esta industria. La idea de una entidad de supervisión surgió de una propuesta de Demis Hassabis, de Google DeepMind, para crear un organismo inspirado en la Autoridad Reguladora de la Industria Financiera (FINRA), que supervisa a los corredores y firmas de inversión en Estados Unidos.

En julio, Hassabis pidió a Estados Unidos que creara una organización que probara los sistemas de IA más potentes antes de que se pusieran a disposición del público. “La financiación tendría que ser sustancial y probablemente provenir en su mayor parte de la industria”, escribió Hassabis.

El martes, Sam Altman, director ejecutivo de OpenAI, creador del ChatGPT, expresó su apoyo a la colaboración en todo el sector y reconoció el temor público de que la competencia entre empresas y países pueda dejar la seguridad en un segundo plano.

“Me parece estupendo que nuestro sector diga que queremos unirnos, queremos poder coordinarnos y asegurarnos de que tenemos tiempo suficiente para hacer esto de forma segura”, afirmó Altman en una conferencia organizada por Salesforce en San Francisco.

El gobierno de Estados Unidos puso en marcha en agosto un proceso de evaluación de los nuevos modelos de IA, aunque este es voluntario y su metodología no se ha hecho pública.

Luego de los llamados a desacelerar el desarrollo de la IA que lanzó el sábado Dario Amodei, jefe de Anthropic, desarrolladora del chatbot Claude, el presidente estadounidense, Donald Trump, rechazó limitar el sector.

Que la IA tome el control del mundo, destruya a la humanidad y todas esas cosas malas, es una PATRAÑA", escribió Trump en su plataforma Truth Social el lunes.

El mandatario y miembros de su gobierno han reiterado que no buscan limitar la IA por temor a que China tome la delantera.

Las empresas de IA están “jugando con nuestras vidas”, advirtió la semana pasada Jacob Coxon al dejar su cargo de desarrollador en Anthropic.

El lunes, el exinvestigador de Google DeepMind Bilal Chughtai se hizo eco de las preocupaciones planteadas por Coxon y otros.

“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace”, declaró en redes sociales.

La creación de un organismo propio de supervisión requerirá probablemente una ley, en particular para evitar que la industria de la IA sea acusada de connivencia y de infringir las normas de competencia.

Además de expertos independientes, esta estructura debería contar con representantes del ecosistema abierto, según la propuesta de Hassabis.

Este ecosistema está compuesto por desarrolladores de IA abierta, es decir, de acceso gratuito, descargable y modificable, a diferencia de los modelos cerrados como los de OpenAI o Anthropic.

Una vez creada la estructura de supervisión, las empresas más avanzadas en IA deberían someter sus nuevos modelos a un examen, centrado en particular en la seguridad, antes de poder comercializarlos.

“No creo que un pequeño grupo de empresas de IA deba definir las reglas para todo el mundo”, dijo al canal CNBC Aidan Gomez, director de la empresa canadiense Cohere, que desarrolla su propia IA.

“Hay gran cantidad de partes interesadas que deben ser consultadas”, añadió

Este nuevo organismo también podría impulsar una ralentización coordinada del desarrollo de la IA, en caso de que la compresión de los riesgos no vaya al ritmo del progreso de la tecnología.

“Cuando está en juego el futuro de la humanidad, necesitamos normas internacionales vinculantes, no estándares voluntarios de la industria”, dijo el martes el senador demócrata Bernie Sanders durante el evento Pro-Human AI en Washington.

Varios observadores, en particular del lado republicano, han acusado a los grandes nombres de la IA de querer definir su propia regulación y ponerse de acuerdo para proteger especialmente su ventaja competitiva, en detrimento de los competidores y de los consumidores.

Davis Sacks, influyente consejero de Trump, ha agitado el fantasma de un cartel de la IA.

En ese sentido, ha instado a cada empresa a actuar de forma unilateral, aunque ello suponga ralentizar su ritmo de desarrollo, un escenario improbable a la vista de las inversiones comprometidas en los buques insignia del sector.

Fuente: AFP.

Mark Zuckerberg, el jefe de Meta, rechazó el martes los crecientes llamados a suspender o ralentizar el desarrollo de la inteligencia artificial (IA), al considerar que los mecanismos de mercado y el riesgo de demandas judiciales constituyen los mejores contrapesos frente a esta tecnología. La preocupación sobre la IA aumentó en las últimas semanas debido a varios incidentes de seguridad y a la nueva capacidad de los modelos de inteligencia artificial para mejorar por sí mismos, sin intervención humana.

“La gente no querrá utilizar agentes que no estén alineados con sus intereses y que no hagan lo que se les pide. Los laboratorios tienen, por tanto, un fuerte incentivo natural para hacer que sus modelos estén más alineados”, escribió Zuckerberg en X. El “alineamiento” hace referencia a los esfuerzos destinados a conseguir que los modelos se comporten tal y como lo desean los humanos. “Todo laboratorio que no se centre en el alineamiento se quedará atrás”, añadió.

El debate gira ahora también en torno a la capacidad del sector para autorregularse. Actores como OpenAI, Anthropic y Google estudian la creación de un organismo común encargado de elaborar normas. Zuckerberg sostuvo, sin embargo, que la amenaza de demandas judiciales ya obliga a los laboratorios a actuar de “manera responsable”.

Citó como ejemplo la decisión de Meta de posponer varios meses el lanzamiento de su sistema Muse AI, dotado de agentes personalizados, con el fin de reforzar sus mecanismos de seguridad y protección.

También se manifestó a favor de evaluaciones independientes de los sistemas de IA, subrayando que Meta Superintelligence Labs, la división de IA del grupo, ya recurre a expertos externos.

Y pidió la creación de un “ecosistema más amplio y más diverso de evaluadores” en el sector.

Meta, que este año invertirá hasta 145.000 millones de dólares en sus infraestructuras de IA, lucha contra cualquier regulación que pudiera frenarla.

Ninguna norma debería retrasar la salida de los modelos estadounidenses, “ni siquiera un mes”, defendió el empresario a comienzos de agosto.

Fuente: AFP.