Los sistemas de IA son cada vez más capaces de desarrollar futuras versiones de sí mismos, lo que alimenta las crecientes preocupaciones sobre los riesgos asociados a esta tecnología, advirtió el jueves el gigante de la inteligencia artificial Anthropic. El debate sobre los peligros de la inteligencia artificial se ha intensificado en meses recientes, impulsado por varios incidentes y advertencias alarmantes formuladas por profesionales del sector.
Anthropic indicó que su chatbot Claude participa ya en más de una cuarta parte de sus actividades de investigación y desarrollo y colabora con empleados humanos en más del 90% de las tareas. La empresa explicó que publica esta información para ofrecer “una mayor visibilidad sobre el ritmo del desarrollo de la IA”, en un momento en que el mundo “considera desacelerar” ese proceso.
El director general de Anthropic, Dario Amodei, pidió este mes ralentizar el desarrollo de la inteligencia artificial, mientras los rápidos avances de la tecnología alimentan inquietudes por la pérdida de empleos, el creciente consumo energético y el impacto ambiental de los centros de datos.
El temor a que los diseñadores de agentes de inteligencia artificial pierdan el control sobre sus creaciones también ha aumentado después de que varios modelos de Anthropic y de su rival OpenAI supuestamente escaparan por sí solos de entornos restringidos, accedieran a internet e interactuaran con sitios web y plataformas.
“Los modelos que aceleran su propio desarrollo podrían dificultar que los seres humanos comprendan o controlen estos sistemas”, señaló Anthropic en un informe.
“Por ello es importante compartir estas métricas para entender cuán cerca está el mundo de alcanzar la auto-mejora recursiva (un modelo capaz de construir de forma totalmente autónoma a su sucesor)”, añadió.
En agosto, Claude estaba al frente de 26% de las tareas de investigación y desarrollo de Anthropic, lo que significa que puede completar la mayor parte de un trabajo de principio a fin bajo supervisión humana.
No obstante, Anthropic indicó que Claude todavía no puede operar “de manera plenamente autónoma”.
La empresa señaló además que dispone de unos 30.000 agentes de inteligencia artificial dedicados a labores de investigación e ingeniería, en referencia a programas capaces de ejecutar tareas de forma autónoma. Se espera que Anthropic se adelante a OpenAI en su salida a bolsa, prevista para finales de este año, pese a las preocupaciones existentes en torno a la regulación del sector.
Unesco puede ser un “moderador”
La Unesco puede desempeñar un papel “moderador” en el debate global sobre la IA, afirmó a AFP su director general, Khaled El-Enany, una semana antes de recibir al papa León XIV, un “socio indispensable” con firmes posicionamientos sobre el tema. El funcionario egipcio envió una invitación al pontífice estadounidense-peruano en diciembre de 2025, apenas unas semanas después de asumir el cargo al frente de la organización de la ONU para la Educación, la Ciencia y la Cultura.
El-Enany, que fue recibido en junio en el Vaticano, acogerá a León XIV en París el próximo viernes, en la primera visita de un papa a la sede de la Unesco desde Juan Pablo II en 1980.
Esta etapa estará marcada por discursos y debates en torno a la IA.
En 2021, tras años de reflexión, la organización adoptó por unanimidad una “Recomendación sobre la ética de la inteligencia artificial”, el primer marco normativo mundial dedicado a la IA.
“La Unesco puede desempeñar un papel muy importante gracias a nuestra experiencia, a nuestros socios académicos, a nuestras alianzas con la sociedad civil, con el sector privado...”, aseguró El-Enany a AFP, en su primera entrevista a un medio internacional.
“Creo que tenemos una posición única para situar a la Unesco como un verdadero moderador de este debate global”, insistió.
El exministro egipcio considera al sucesor de Francisco como un “socio indispensable”, máxime cuando su primera encíclica “Magnifica Humanitas”, publicada en mayo, pide “desarmar” la IA para “impedirle el dominio sobre lo humano” y aboga por más “cooperación” entre las naciones.
Para el director de la organización de la ONU, la visita de León XIV a París marcará “el inicio de una colaboración muy sólida para fortalecer y proteger la dignidad humana en esta revolución industrial”.
El “riesgo” de la IA
La recomendación de 2021 de la Unesco ya advertía sobre violaciones de la vida privada, el riesgo de una brecha digital, la concentración del poder tecnológico en manos de unos pocos Estados o empresas, los efectos sobre la democracia y la información, así como sobre su impacto medioambiental.
“Existe el riesgo de que [la IA] se salga de control si no intervenimos”, advirtió Khaled El-Enany, cuando el debate sobre los peligros de esta tecnología gana fuerza, alimentado por una serie de incidentes y declaraciones preocupadas de investigadores y dirigentes del sector.
En este sentido, consideró “muy positivo” la “pausa” y los debates de las últimas semanas sobre esta “herramienta extraordinaria, pero que debe ser gobernada de manera ética, inclusiva y equitativa”.
Más allá de la cuestión ética, este egiptólogo de formación alertó de que no todos los países participan “en esta nueva transformación digital”, aunque “todos la demandan”.
“Estamos sobre el terreno, con más de 80 gobiernos en todo el mundo, para prepararlos para esta transformación de la inteligencia artificial”, explicó.
La dirección de la Unesco “habla directamente” también con las mayores empresas de este sector, añadió.
“Mensaje político”
Sobre la visita del papa, el director general de la Unesco habla de “momento histórico”. “Es un mensaje político en defensa del multilateralismo”, estimó, en un momento en que la organización registrará, el 31 de diciembre, la salida de dos países miembros: Estados Unidos y Nicaragua.
El país gobernado por Donald Trump anunció en julio de 2025 su salida de nuevo de la organización, acusándola de tener un sesgo antiisraelí y de promover “causas sociales y culturales divisorias”.
Nicaragua anunció igualmente en mayo de ese mismo año que abandonaba la organización para denunciar la concesión de un premio a la libertad de prensa a un diario opositor.
La salida de Estados Unidos deja a China como primer financiador de la organización. En 2023, Washington justificó su entonces regreso a la Unesco, tras la primera marcha ordenada por Trump, como una manera de contrarrestar la influencia de Pekín, especialmente sobre IA.
Para El-Enany, “la Unesco es más pertinente que nunca”, ya que su ámbito de acción es el de los “desafíos de nuestro tiempo”: “los discursos de odio, la proliferación de conflictos, el desafío climático, la inteligencia artificial...”.
Fuente: AFP.