El papa León XIV volvió a advertir el miércoles contra la tentación de delegar en los algoritmos decisiones que competen únicamente a la responsabilidad humana, en un contexto de creciente inquietud por las derivas de la inteligencia artificial (IA). El pontífice estadounidense dedicó en mayo su primera encíclica, “Magnifica Humanitas” (Magnífica humanidad), a la IA con un llamamiento a “desarmar” esta tecnología para “impedirle el dominio sobre lo humano”.

La preocupación en torno a esta cuestión creció en las últimas semanas, debido a varios incidentes de seguridad y a la nueva propensión de los modelos de inteligencia artificial a mejorar por sí mismos, sin intervención humana. El debate se centra hoy también en la capacidad del sector para autorregularse después de que los grandes ejecutivos de OpenAI, xAI y Anthropic instaran a pisar el freno.

“El desarrollo tecnológico, la difusión de los medios de comunicación de masas y de las redes sociales, el recurso cada vez mayor a la inteligencia artificial abren nuevas posibilidades, al derribar las barreras y las distancias”, declaró el papa estadounidense durante su audiencia general semanal en el Vaticano. “Por otra parte, las relaciones tienden a volverse cada vez menos personales, cada vez más virtuales, y corremos el riesgo de acostumbrarnos a delegar en los algoritmos decisiones que solo competen a la conciencia humana”, advirtió ante los miles de fieles congregados en la plaza de San Pedro.

“Velar para que las relaciones sociales tengan una verdadera consistencia y una profundidad personal es, en este sentido, la contribución que la comunidad cristiana se propone ofrecer”, añadió León XIV.

La Santa Sede también ha multiplicado en estos últimos meses las intervenciones e iniciativas a favor de una gobernanza internacional de la IA basada en la dignidad humana, especialmente en los ámbitos nuclear, cultural y de la creación artística.

El auge de la inteligencia artificial (IA) podría acentuar las desigualdades de género en el mercado laboral, advirtieron el miércoles responsables del Foro Económico Mundial (WEF) y de LinkedIn en Londres.

“Lo que hemos constatado es que los tipos de puestos que están siendo afectados por la IA tienden a ser aquellos en los que hay una especial concentración de mujeres”, explicó Saadia Zahidi, miembro del comité ejecutivo del WEF, durante la presentación de un informe anual sobre las desigualdades entre hombres y mujeres.

Se trata principalmente de “empleos de oficina calificados que han atraído a muchas mujeres y les han proporcionado muy buenos medios de subsistencia durante las últimas décadas, y (...) que están siendo transformados” por la llegada de la IA, precisó.

En las empresas de IA la situación es aún más evidente. Las mujeres están considerablemente menos representadas que en compañías comparables que no se especializan en ese campo, y esto ocurre en todos los niveles, según el informe.

“Las mujeres ocupan solo uno de cada cinco puestos en ingeniería de IA”, explicó Sue Duke, ejecutiva de LinkedIn.

Sin una mayor presencia de mujeres en las áreas científicas y en los nuevos empleos relacionados con la IA, las oportunidades económicas creadas por esta tecnología podrían beneficiar principalmente a los hombres.

Para evitar un aumento de las desigualdades, es crucial que los gobiernos y las empresas inviertan “desde el principio para incorporar a las mujeres a estas áreas de formación, a estas funciones, y luego que inviertan en cada etapa de sus carreras”, consideró Duke.

El Foro Económico Mundial publica anualmente un informe sobre las desigualdades entre hombres y mujeres.

Si bien muestra que las desigualdades de género han disminuido en el mundo durante los últimos 20 años, también indica que la tendencia hacia la reducción de estas desigualdades se desaceleró desde 2016, en comparación con la década anterior, de 2006 a 2016.

Fuente: AFP.

OpenAI, Anthropic y Google DeepMind trabajan en la creación de un organismo de supervisión de los riesgos asociados a la inteligencia artificial, indicó OpenAI a la AFP el martes, en medio de crecientes llamados a mejorar los controles de esta tecnología. Las preocupaciones sobre la seguridad de la IA se han intensificado en las últimas semanas.

Dos trabajadores renunciaron a importantes desarrolladoras de IA al advertir la amenaza contra la humanidad que implica esta industria. La idea de una entidad de supervisión surgió de una propuesta de Demis Hassabis, de Google DeepMind, para crear un organismo inspirado en la Autoridad Reguladora de la Industria Financiera (FINRA), que supervisa a los corredores y firmas de inversión en Estados Unidos.

En julio, Hassabis pidió a Estados Unidos que creara una organización que probara los sistemas de IA más potentes antes de que se pusieran a disposición del público. “La financiación tendría que ser sustancial y probablemente provenir en su mayor parte de la industria”, escribió Hassabis.

El martes, Sam Altman, director ejecutivo de OpenAI, creador del ChatGPT, expresó su apoyo a la colaboración en todo el sector y reconoció el temor público de que la competencia entre empresas y países pueda dejar la seguridad en un segundo plano.

“Me parece estupendo que nuestro sector diga que queremos unirnos, queremos poder coordinarnos y asegurarnos de que tenemos tiempo suficiente para hacer esto de forma segura”, afirmó Altman en una conferencia organizada por Salesforce en San Francisco.

El gobierno de Estados Unidos puso en marcha en agosto un proceso de evaluación de los nuevos modelos de IA, aunque este es voluntario y su metodología no se ha hecho pública.

Luego de los llamados a desacelerar el desarrollo de la IA que lanzó el sábado Dario Amodei, jefe de Anthropic, desarrolladora del chatbot Claude, el presidente estadounidense, Donald Trump, rechazó limitar el sector.

Que la IA tome el control del mundo, destruya a la humanidad y todas esas cosas malas, es una PATRAÑA", escribió Trump en su plataforma Truth Social el lunes.

El mandatario y miembros de su gobierno han reiterado que no buscan limitar la IA por temor a que China tome la delantera.

Las empresas de IA están “jugando con nuestras vidas”, advirtió la semana pasada Jacob Coxon al dejar su cargo de desarrollador en Anthropic.

El lunes, el exinvestigador de Google DeepMind Bilal Chughtai se hizo eco de las preocupaciones planteadas por Coxon y otros.

“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace”, declaró en redes sociales.

La creación de un organismo propio de supervisión requerirá probablemente una ley, en particular para evitar que la industria de la IA sea acusada de connivencia y de infringir las normas de competencia.

Además de expertos independientes, esta estructura debería contar con representantes del ecosistema abierto, según la propuesta de Hassabis.

Este ecosistema está compuesto por desarrolladores de IA abierta, es decir, de acceso gratuito, descargable y modificable, a diferencia de los modelos cerrados como los de OpenAI o Anthropic.

Una vez creada la estructura de supervisión, las empresas más avanzadas en IA deberían someter sus nuevos modelos a un examen, centrado en particular en la seguridad, antes de poder comercializarlos.

“No creo que un pequeño grupo de empresas de IA deba definir las reglas para todo el mundo”, dijo al canal CNBC Aidan Gomez, director de la empresa canadiense Cohere, que desarrolla su propia IA.

“Hay gran cantidad de partes interesadas que deben ser consultadas”, añadió

Este nuevo organismo también podría impulsar una ralentización coordinada del desarrollo de la IA, en caso de que la compresión de los riesgos no vaya al ritmo del progreso de la tecnología.

“Cuando está en juego el futuro de la humanidad, necesitamos normas internacionales vinculantes, no estándares voluntarios de la industria”, dijo el martes el senador demócrata Bernie Sanders durante el evento Pro-Human AI en Washington.

Varios observadores, en particular del lado republicano, han acusado a los grandes nombres de la IA de querer definir su propia regulación y ponerse de acuerdo para proteger especialmente su ventaja competitiva, en detrimento de los competidores y de los consumidores.

Davis Sacks, influyente consejero de Trump, ha agitado el fantasma de un cartel de la IA.

En ese sentido, ha instado a cada empresa a actuar de forma unilateral, aunque ello suponga ralentizar su ritmo de desarrollo, un escenario improbable a la vista de las inversiones comprometidas en los buques insignia del sector.

Fuente: AFP.

Mark Zuckerberg, el jefe de Meta, rechazó el martes los crecientes llamados a suspender o ralentizar el desarrollo de la inteligencia artificial (IA), al considerar que los mecanismos de mercado y el riesgo de demandas judiciales constituyen los mejores contrapesos frente a esta tecnología. La preocupación sobre la IA aumentó en las últimas semanas debido a varios incidentes de seguridad y a la nueva capacidad de los modelos de inteligencia artificial para mejorar por sí mismos, sin intervención humana.

“La gente no querrá utilizar agentes que no estén alineados con sus intereses y que no hagan lo que se les pide. Los laboratorios tienen, por tanto, un fuerte incentivo natural para hacer que sus modelos estén más alineados”, escribió Zuckerberg en X. El “alineamiento” hace referencia a los esfuerzos destinados a conseguir que los modelos se comporten tal y como lo desean los humanos. “Todo laboratorio que no se centre en el alineamiento se quedará atrás”, añadió.

El debate gira ahora también en torno a la capacidad del sector para autorregularse. Actores como OpenAI, Anthropic y Google estudian la creación de un organismo común encargado de elaborar normas. Zuckerberg sostuvo, sin embargo, que la amenaza de demandas judiciales ya obliga a los laboratorios a actuar de “manera responsable”.

Citó como ejemplo la decisión de Meta de posponer varios meses el lanzamiento de su sistema Muse AI, dotado de agentes personalizados, con el fin de reforzar sus mecanismos de seguridad y protección.

También se manifestó a favor de evaluaciones independientes de los sistemas de IA, subrayando que Meta Superintelligence Labs, la división de IA del grupo, ya recurre a expertos externos.

Y pidió la creación de un “ecosistema más amplio y más diverso de evaluadores” en el sector.

Meta, que este año invertirá hasta 145.000 millones de dólares en sus infraestructuras de IA, lucha contra cualquier regulación que pudiera frenarla.

Ninguna norma debería retrasar la salida de los modelos estadounidenses, “ni siquiera un mes”, defendió el empresario a comienzos de agosto.

Fuente: AFP.

• Por Carlos Mariano Nin
• Columnista
• marianonin@gmail.com

A las 2:14, mientras su hijo dormía en la habitación de al lado, Laura se hizo una pregunta que cualquier madre podría hacerse cuando empieza a notar que algo está cambiando: “¿Por qué mi hijo está tan distante últimamente?”.

No se le ocurrió llamar a una amiga, no despertó a su marido y mucho menos consultó con un psicólogo. Hizo algo mucho más simple y que millones de per­sonas hacemos todos los días: se lo preguntó a una inteligencia artificial.

La respuesta apareció casi inmediatamente. La máquina le habló de la adolescencia, de los cambios hormonales, presión social, el aislamiento y los pro­blemas de autoestima, y le sugirió observar determi­nadas conductas y conversar con él sin presionarlo.

Laura siguió leyendo hasta que una frase la dejó fría: debía prestar especial atención a las conversaciones de su hijo con determinados amigos. ¿Cómo podía saber la máquina quiénes eran sus amigos si ella nunca se los había mencionado?

Pensó que sería una casualidad.

Unos días después volvió a consultarle si debía cam­biarlo de colegio. La respuesta fue contundente: no. Según la inteligencia artificial, el cambio podía aumen­tar su ansiedad y afectar su estabilidad emocional.

Laura comenzó entonces a pedirle consejos para casi todo: qué decirle a su hijo, qué contenidos debía ver, qué aplicaciones bloquear y hasta qué señales debía considerar peligrosas.

La máquina parecía conocerlo mejor que ella y, curio­samente, eso empezó a darle tranquilidad. Hasta que una tarde su hijo llegó a la casa y le preguntó: “Mamá, ¿por qué estás hablando con una máquina sobre mí?”.

Laura se quedó callada.

El chico tomó el teléfono y le mostró algo que ella desconocía: varias de las aplicaciones que utilizaba estaban conectadas a sistemas capaces de analizar sus búsquedas, sus horarios, sus conversaciones, sus hábitos y hasta sus patrones de comportamiento.

La inteligencia artificial no había adivinado quién era: había aprendido de él. Había observado y acu­mulado datos hasta construir una imagen de aquel muchacho que su propia madre no tenía.

Laura sintió miedo, pero no solamente por la máquina. Comprendió que ella misma había comenzado a confiar en ella porque parecía conocer a su hijo de una manera que ningún ser humano podía hacerlo.

Aquella noche apagó el teléfono y se sentó en la cama de su hijo para hablar con él. Sin aplicaciones, sin algoritmos y sin pedirle a nadie que interpretara sus emociones.

Así descubrió cosas que la máquina no podía saber: que tenía miedo, que se sentía solo, que estaba preo­cupado por el futuro y que necesitaba que su madre lo escuchara.

Laura lo entendió al toque.

La inteligencia artificial puede analizar millones de datos en segundos, encontrar patrones que nosotros jamás encontraríamos y ayudarnos a tomar deci­siones que antes requerían mucho tiempo y cono­cimiento.

Pero existe una diferencia enorme entre conocer nuestros datos y conocernos realmente.

El peligro no está solamente en que algún día una máquina llegue a ser más inteligente que nosotros. Tal vez sea mucho más sencillo y, por eso mismo, mucho más preocupante: que llegue a conocernos mejor de lo que nosotros mismos nos conocemos.

Y eso ya está ocurriendo.

Hoy una máquina puede anticipar lo que vamos a comprar, lo que vamos a mirar, lo que probablemente nos interese y, quizás, hasta algunas de las decisio­nes que todavía creemos estar tomando libremente.

A lo mejor la batalla del futuro no sea entre huma­nos y máquinas, como imaginamos tantas veces, sino entre nuestra capacidad de decidir y nuestra comodidad de dejar que otros decidan por nosotros.

Durante años imaginamos que el peligro de la inteli­gencia artificial sería como en Terminator: un robot llegando del futuro, con cara de pocos amigos y una ametralladora, dispuesto a destruirnos.

Creo que nos equivocamos de película.

Quizás no necesitemos un Terminator caminando por las calles. Puede que alcance con una máquina ama­ble, disponible las 24 horas, que nos conozca dema­siado, nos diga qué hacer y a la que nosotros, encan­tados, terminemos respondiendo: “Sí, tiene razón”.

Ese día, quizás, no tendremos que preocuparnos de que las máquinas tomen el control.

Porque seremos nosotros quienes se lo habremos entregado.

Pero esa… es otra historia.