El papa León XIV volvió a advertir el miércoles contra la tentación de delegar en los algoritmos decisiones que competen únicamente a la responsabilidad humana, en un contexto de creciente inquietud por las derivas de la inteligencia artificial (IA). El pontífice estadounidense dedicó en mayo su primera encíclica, “Magnifica Humanitas” (Magnífica humanidad), a la IA con un llamamiento a “desarmar” esta tecnología para “impedirle el dominio sobre lo humano”.

La preocupación en torno a esta cuestión creció en las últimas semanas, debido a varios incidentes de seguridad y a la nueva propensión de los modelos de inteligencia artificial a mejorar por sí mismos, sin intervención humana. El debate se centra hoy también en la capacidad del sector para autorregularse después de que los grandes ejecutivos de OpenAI, xAI y Anthropic instaran a pisar el freno.

“El desarrollo tecnológico, la difusión de los medios de comunicación de masas y de las redes sociales, el recurso cada vez mayor a la inteligencia artificial abren nuevas posibilidades, al derribar las barreras y las distancias”, declaró el papa estadounidense durante su audiencia general semanal en el Vaticano. “Por otra parte, las relaciones tienden a volverse cada vez menos personales, cada vez más virtuales, y corremos el riesgo de acostumbrarnos a delegar en los algoritmos decisiones que solo competen a la conciencia humana”, advirtió ante los miles de fieles congregados en la plaza de San Pedro.

“Velar para que las relaciones sociales tengan una verdadera consistencia y una profundidad personal es, en este sentido, la contribución que la comunidad cristiana se propone ofrecer”, añadió León XIV.

La Santa Sede también ha multiplicado en estos últimos meses las intervenciones e iniciativas a favor de una gobernanza internacional de la IA basada en la dignidad humana, especialmente en los ámbitos nuclear, cultural y de la creación artística.

El auge de la inteligencia artificial (IA) podría acentuar las desigualdades de género en el mercado laboral, advirtieron el miércoles responsables del Foro Económico Mundial (WEF) y de LinkedIn en Londres.

“Lo que hemos constatado es que los tipos de puestos que están siendo afectados por la IA tienden a ser aquellos en los que hay una especial concentración de mujeres”, explicó Saadia Zahidi, miembro del comité ejecutivo del WEF, durante la presentación de un informe anual sobre las desigualdades entre hombres y mujeres.

Se trata principalmente de “empleos de oficina calificados que han atraído a muchas mujeres y les han proporcionado muy buenos medios de subsistencia durante las últimas décadas, y (...) que están siendo transformados” por la llegada de la IA, precisó.

En las empresas de IA la situación es aún más evidente. Las mujeres están considerablemente menos representadas que en compañías comparables que no se especializan en ese campo, y esto ocurre en todos los niveles, según el informe.

“Las mujeres ocupan solo uno de cada cinco puestos en ingeniería de IA”, explicó Sue Duke, ejecutiva de LinkedIn.

Sin una mayor presencia de mujeres en las áreas científicas y en los nuevos empleos relacionados con la IA, las oportunidades económicas creadas por esta tecnología podrían beneficiar principalmente a los hombres.

Para evitar un aumento de las desigualdades, es crucial que los gobiernos y las empresas inviertan “desde el principio para incorporar a las mujeres a estas áreas de formación, a estas funciones, y luego que inviertan en cada etapa de sus carreras”, consideró Duke.

El Foro Económico Mundial publica anualmente un informe sobre las desigualdades entre hombres y mujeres.

Si bien muestra que las desigualdades de género han disminuido en el mundo durante los últimos 20 años, también indica que la tendencia hacia la reducción de estas desigualdades se desaceleró desde 2016, en comparación con la década anterior, de 2006 a 2016.

Fuente: AFP.

La Unión Europea prohibirá las redes sociales para los menores de 13 años y solo permitirá un acceso limitado y supervisado hasta los 15, según un plan presentado este miércoles por la jefa de la UE, Ursula von der Leyen. Una reacción global contra las redes sociales puso contra las cuerdas a dirigentes políticos y legisladores en distintos países, al revelarse una serie de estudios, pruebas y testimonios que muestran los impactos negativos en la salud física y mental de los niños.

“Llegó el momento de que Europa actúe”, dijo von der Leyen durante su discurso anual ante el Parlamento Europeo. “Somos nosotros quienes decidimos nuestras reglas, no las grandes tecnológicas”, advirtió. Australia se convirtió el año pasado en el primer país en prohibir las redes sociales para menores de 16 años, lo que desencadenó medidas similares en otros lugares del mundo, pero la presidenta de la Comisión Europea señaló que el bloque de 27 países adoptará un enfoque más “gradual”.

“Nada de redes sociales antes de los 13 años” y “nada de cuentas personales antes de los 15 años”, declaró la presidenta del Ejecutivo comunitario en un discurso en el Parlamento. “De este modo, los niños de entre 13 y 15 años solo dispondrán de minicuentas, instaladas y supervisadas por sus padres, con funciones restringidas y un tiempo de uso limitado”.

“Y para los jóvenes de entre 15 y 18 años, las plataformas estarán obligadas a adoptar un diseño seguro”, añadió.

Antes de exponer el plan de la UE, Von der Leyen rindió homenaje a una adolescente de 14 años en Bélgica, llamada Olea, que se suicidó hace un mes tras sufrir acoso, y citó a su madre: “Estoy convencida de que sin estas redes omnipresentes, mi hija aún estaría aquí”.

Von der Leyen no hizo ninguna referencia a los juegos en línea ni a los chatbots de IA, pero según documentos consultados por la AFP, el proyecto de ley se aplicará tanto a las redes sociales como a los asistentes de inteligencia artificial, los robots conversacionales (chatbots) y los juegos en línea.

La presidenta de la Comisión y responsable de tecnología, Henna Virkkunen, presentará formalmente el jueves la propuesta “KIDS Act”, que incluye los límites de edad escalonados y que requiere la aprobación del Parlamento Europeo y de los 27 países de la UE.

Las organizaciones de defensa de los derechos de los niños y de padres acogieron con satisfacción las medidas para hacer que las plataformas digitales sean más seguras.

“El diablo, por supuesto, está en los detalles. La propuesta de mañana debe ser coherente, exhaustiva, preparada para el futuro y de aplicación sólida”, destacó Leanda Barrington Leach, del grupo de defensa 5Rights Foundation.

“Por fin Europa envía una señal clara. Llegó el momento de actuar contra el diseño dañino de las plataformas para proteger a nuestros hijos de algoritmos y funciones tóxicas”, indicó Arnaud Ducoin, miembro de un grupo de familias francesas que presentó una denuncia contra TikTok por casos de autolesiones y suicidios entre adolescentes.

La nueva legislación de la UE también prohibirá funciones de diseño “adictivas”, como el llamado desplazamiento ilimitado de contenidos y recomendaciones ultrapersonalizadas, cuando se trate de menores, según un documento borrador.

Las propuestas se inspiran en un informe de expertos en protección de la infancia, científicos y psiquiatras infantiles presentado en julio.

Las restricciones de edad, válidas en toda la UE, irán acompañadas de nuevas obligaciones para los operadores si quieren que sus servicios sigan siendo accesibles a los menores. Las multas podrían alcanzar hasta el 6 % de su facturación mundial en caso de incumplimiento.

“No tenemos por qué aceptar funciones adictivas”, advirtió Von der Leyen, señalando que “las plataformas tendrán que demostrar que son seguras”.

El “riesgo” no se limita a los menores, señaló. “El diseño adictivo, por ejemplo, está perjudicando a todo el mundo”, subrayó.

Simeon de Brouwer, del grupo de derechos digitales EDRi, coincidió en declaraciones a la AFP: “Si el diseño es dañino a los 13 años, no se vuelve mágicamente seguro en su 15º o 18º cumpleaños”, sostuvo.

Fuente: AFP.

OpenAI, Anthropic y Google DeepMind trabajan en la creación de un organismo de supervisión de los riesgos asociados a la inteligencia artificial, indicó OpenAI a la AFP el martes, en medio de crecientes llamados a mejorar los controles de esta tecnología. Las preocupaciones sobre la seguridad de la IA se han intensificado en las últimas semanas.

Dos trabajadores renunciaron a importantes desarrolladoras de IA al advertir la amenaza contra la humanidad que implica esta industria. La idea de una entidad de supervisión surgió de una propuesta de Demis Hassabis, de Google DeepMind, para crear un organismo inspirado en la Autoridad Reguladora de la Industria Financiera (FINRA), que supervisa a los corredores y firmas de inversión en Estados Unidos.

En julio, Hassabis pidió a Estados Unidos que creara una organización que probara los sistemas de IA más potentes antes de que se pusieran a disposición del público. “La financiación tendría que ser sustancial y probablemente provenir en su mayor parte de la industria”, escribió Hassabis.

El martes, Sam Altman, director ejecutivo de OpenAI, creador del ChatGPT, expresó su apoyo a la colaboración en todo el sector y reconoció el temor público de que la competencia entre empresas y países pueda dejar la seguridad en un segundo plano.

“Me parece estupendo que nuestro sector diga que queremos unirnos, queremos poder coordinarnos y asegurarnos de que tenemos tiempo suficiente para hacer esto de forma segura”, afirmó Altman en una conferencia organizada por Salesforce en San Francisco.

El gobierno de Estados Unidos puso en marcha en agosto un proceso de evaluación de los nuevos modelos de IA, aunque este es voluntario y su metodología no se ha hecho pública.

Luego de los llamados a desacelerar el desarrollo de la IA que lanzó el sábado Dario Amodei, jefe de Anthropic, desarrolladora del chatbot Claude, el presidente estadounidense, Donald Trump, rechazó limitar el sector.

Que la IA tome el control del mundo, destruya a la humanidad y todas esas cosas malas, es una PATRAÑA", escribió Trump en su plataforma Truth Social el lunes.

El mandatario y miembros de su gobierno han reiterado que no buscan limitar la IA por temor a que China tome la delantera.

Las empresas de IA están “jugando con nuestras vidas”, advirtió la semana pasada Jacob Coxon al dejar su cargo de desarrollador en Anthropic.

El lunes, el exinvestigador de Google DeepMind Bilal Chughtai se hizo eco de las preocupaciones planteadas por Coxon y otros.

“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace”, declaró en redes sociales.

La creación de un organismo propio de supervisión requerirá probablemente una ley, en particular para evitar que la industria de la IA sea acusada de connivencia y de infringir las normas de competencia.

Además de expertos independientes, esta estructura debería contar con representantes del ecosistema abierto, según la propuesta de Hassabis.

Este ecosistema está compuesto por desarrolladores de IA abierta, es decir, de acceso gratuito, descargable y modificable, a diferencia de los modelos cerrados como los de OpenAI o Anthropic.

Una vez creada la estructura de supervisión, las empresas más avanzadas en IA deberían someter sus nuevos modelos a un examen, centrado en particular en la seguridad, antes de poder comercializarlos.

“No creo que un pequeño grupo de empresas de IA deba definir las reglas para todo el mundo”, dijo al canal CNBC Aidan Gomez, director de la empresa canadiense Cohere, que desarrolla su propia IA.

“Hay gran cantidad de partes interesadas que deben ser consultadas”, añadió

Este nuevo organismo también podría impulsar una ralentización coordinada del desarrollo de la IA, en caso de que la compresión de los riesgos no vaya al ritmo del progreso de la tecnología.

“Cuando está en juego el futuro de la humanidad, necesitamos normas internacionales vinculantes, no estándares voluntarios de la industria”, dijo el martes el senador demócrata Bernie Sanders durante el evento Pro-Human AI en Washington.

Varios observadores, en particular del lado republicano, han acusado a los grandes nombres de la IA de querer definir su propia regulación y ponerse de acuerdo para proteger especialmente su ventaja competitiva, en detrimento de los competidores y de los consumidores.

Davis Sacks, influyente consejero de Trump, ha agitado el fantasma de un cartel de la IA.

En ese sentido, ha instado a cada empresa a actuar de forma unilateral, aunque ello suponga ralentizar su ritmo de desarrollo, un escenario improbable a la vista de las inversiones comprometidas en los buques insignia del sector.

Fuente: AFP.

Mark Zuckerberg, el jefe de Meta, rechazó el martes los crecientes llamados a suspender o ralentizar el desarrollo de la inteligencia artificial (IA), al considerar que los mecanismos de mercado y el riesgo de demandas judiciales constituyen los mejores contrapesos frente a esta tecnología. La preocupación sobre la IA aumentó en las últimas semanas debido a varios incidentes de seguridad y a la nueva capacidad de los modelos de inteligencia artificial para mejorar por sí mismos, sin intervención humana.

“La gente no querrá utilizar agentes que no estén alineados con sus intereses y que no hagan lo que se les pide. Los laboratorios tienen, por tanto, un fuerte incentivo natural para hacer que sus modelos estén más alineados”, escribió Zuckerberg en X. El “alineamiento” hace referencia a los esfuerzos destinados a conseguir que los modelos se comporten tal y como lo desean los humanos. “Todo laboratorio que no se centre en el alineamiento se quedará atrás”, añadió.

El debate gira ahora también en torno a la capacidad del sector para autorregularse. Actores como OpenAI, Anthropic y Google estudian la creación de un organismo común encargado de elaborar normas. Zuckerberg sostuvo, sin embargo, que la amenaza de demandas judiciales ya obliga a los laboratorios a actuar de “manera responsable”.

Citó como ejemplo la decisión de Meta de posponer varios meses el lanzamiento de su sistema Muse AI, dotado de agentes personalizados, con el fin de reforzar sus mecanismos de seguridad y protección.

También se manifestó a favor de evaluaciones independientes de los sistemas de IA, subrayando que Meta Superintelligence Labs, la división de IA del grupo, ya recurre a expertos externos.

Y pidió la creación de un “ecosistema más amplio y más diverso de evaluadores” en el sector.

Meta, que este año invertirá hasta 145.000 millones de dólares en sus infraestructuras de IA, lucha contra cualquier regulación que pudiera frenarla.

Ninguna norma debería retrasar la salida de los modelos estadounidenses, “ni siquiera un mes”, defendió el empresario a comienzos de agosto.

Fuente: AFP.