La verificación con IA genera desinformación, según estudio
Compartir en redes
Washington, Estados Unidos. AFP.
Cuando la desinformación se disparó durante los cuatro días de conflicto entre India y Pakistán, los usuarios de redes sociales recurrieron a un chatbot de inteligencia artificial (IA) para verificar los hechos, pero se encontraron con más falsedades, lo que subraya su poca fiabilidad como herramienta de verificación de datos. Con la reducción de verificadores humanos en las plataformas tecnológicas, los usuarios recurren cada vez más a los chatbots basados en IA -como Grok, de xAI, ChatGPT, de OpenAI, y Gemini, de Google- en busca de información fiable.
“Hola @Grok, ¿esto es verdad?”, se ha convertido en una pregunta habitual en la plataforma X de Elon Musk, donde el asistente de IA está integrado, lo que refleja la creciente tendencia a buscar desmentidos al instante en las redes sociales. Pero las respuestas suelen estar plagadas de desinformación.
Grok, ahora bajo un nuevo escrutinio por insertar “genocidio blanco”, una teoría conspirativa de extrema derecha, en consultas que no están relacionadas con ello, identificó erróneamente un antiguo video del aeropuerto de Jartum, en Sudán, como un ataque con misiles contra la base aérea Nur Khan de Pakistán durante el reciente conflicto de ese país con India.
Las grabaciones de un edificio en llamas en Nepal se identificaron erróneamente como que “probablemente” fueran la respuesta militar de Pakistán a los ataques indios. “La creciente confianza en Grok como verificador de datos se produce cuando X y otras grandes empresas tecnológicas han reducido sus inversiones en verificadores de datos humanos”, declaró a la AFP McKenzie Sadeghi, investigadora del organismo de vigilancia de la desinformación NewsGuard. “Nuestras investigaciones han demostrado repetidamente que los chatbots de IA no son fuentes fiables de noticias e información, especialmente cuando se trata de noticias de actualidad”, advirtió.
La investigación de NewsGuard reveló que 10 de los principales chatbots eran propensos a repetir falsedades, incluidas narrativas de desinformación rusa. En un estudio reciente de ocho herramientas de búsqueda con IA, el Centro Tow para el Periodismo Digital de la Universidad de Columbia descubrió que los chatbots eran “generalmente malos para declinar preguntas que no podían responder con precisión, ofreciendo en su lugar respuestas incorrectas o especulativas”.
Cuando los verificadores digitales de la AFP en Uruguay preguntaron a Gemini sobre una imagen de una mujer generada por IA, no solo confirmó su autenticidad, sino que inventó detalles sobre su identidad y el lugar donde probablemente se tomó la imagen.
Hace poco, Grok calificó de “auténtico” un supuesto video de una anaconda gigante nadando en el río Amazonas, citando incluso expediciones científicas que parecían creíbles para apoyar su falsa afirmación.
En realidad, el video fue generado por IA, reportaron los verificadores de la AFP en América Latina, que señalaron que muchos usuarios citaron la evaluación de Grok como prueba de que el clip era real.
Estos hallazgos han suscitado preocupación, ya que las encuestas muestran que los usuarios están cambiando cada vez más los motores de búsqueda tradicionales por chatbots de IA para recopilar y verificar información.
Este cambio también coincide con el anuncio de Meta, a principios de este año, de poner fin al programa de verificación digital externo en Estados Unidos, y trasladó la tarea de desmentir las falsedades a los usuarios mediante las llamadas “notas de la comunidad”, un mecanismo popularizado por X.
La verificación digital realizada por personas ha sido durante mucho tiempo un punto álgido en un clima político hiperpolarizado, particularmente en Estados Unidos, donde los grupos conservadores sostienen que suprime la libertad de expresión y censura el contenido de derecha, algo que los verificadores profesionales rechazan con vehemencia.
AFP trabaja actualmente en 26 idiomas con el programa de verificación de datos de Facebook, incluyendo Asia, Latinoamérica y la Unión Europea.
La calidad y la precisión de los chatbots de IA pueden variar, dependiendo de cómo se entrenan y programan, lo que genera preocupación de que sus resultados puedan estar sujetos a influencia o control político.
xAI, de Musk, atribuyó a una “modificación no autorizada” la generación de publicaciones no solicitadas por Grok que hacían referencia al “genocidio blanco” en Sudáfrica.
Cuando el experto en IA David Caswell le preguntó a Grok quién podría haber modificado su sistema, el chatbot señaló a Musk como el culpable “más probable”.
Musk, el multimillonario sudafricano partidario del presidente Donald Trump, ya había afirmado previamente que los líderes de Sudáfrica estaban “incitando abiertamente al genocidio” de la población blanca.
“Hemos visto cómo los asistentes de inteligencia artificial pueden falsificar resultados o dar respuestas sesgadas después de que programadores humanos modifiquen específicamente sus instrucciones”, declaró a la AFP Angie Holan, directora de la Red Internacional de Verificación de Datos. “Me preocupa especialmente la forma en que Grok ha gestionado incorrectamente solicitudes sobre asuntos muy sensibles tras recibir instrucciones para proporcionar respuestas preautorizadas”.
La Organización Internacional del Trabajo (OIT) considera que las ganancias generadas por la IA deben beneficiar a los trabajadores. Foto: Ilustrativa.
Las ganancias de la IA deben beneficiar a los trabajadores, dice jefe de la OIT
Compartir en redes
Las ganancias generadas por la inteligencia artificial (IA) deben beneficiar a los trabajadores y hacerlo de manera justa, defendió este lunes el director general de la Organización Internacional del Trabajo (OIT).
Durante la Conferencia Internacional del Trabajo, en Ginebra, Gilbert Houngbo dijo que la IA está transformando el mercado laboral, al cambiar la forma en que se crea valor y cómo se toman decisiones.
“Los trabajadores deben poder compartir las ganancias de productividad generadas por la IA. Esas ganancias deben distribuirse de manera justa mediante mejores salarios, una mayor protección laboral y un crecimiento más inclusivo”, afirmó.
La mayoría de las instituciones económicas, incluido el Banco Central Europeo, sostienen que la IA ha tenido hasta ahora únicamente efectos menores sobre el empleo.
Si bien la tecnología de IA está en pleno auge, Houngbo señaló que “el futuro del trabajo no estará determinado únicamente por la tecnología, sino por las políticas, las instituciones y el diálogo social que la orienten”.
Por eso, acotó, “las decisiones que tomemos hoy determinarán si la IA amplía las oportunidades y la prosperidad compartida o si profundiza la desigualdad y la inseguridad”.
Entre las opciones disponibles figuran invertir en competencias, reforzar la protección laboral y social, apoyar a las micro, pequeñas y medianas empresas, y respetar los principios y derechos fundamentales en el trabajo, indicó.
“En última instancia, se trata de una elección social y política sobre el futuro que queremos”, afirmó Houngbo.
La OIT es única en el sistema de las Naciones Unidas, ya que sus 187 Estados miembros están representados de manera equitativa por gobiernos, trabajadores y trabajadores.
Esos representantes se reúnen en la sede de la ONU en Ginebra del 1 al 12 de junio para debatir cuestiones relacionadas con el mundo del trabajo.
Los miembros de la OIT esperan concluir las negociaciones sobre un nuevo tratado internacional para los trabajadores de plataformas digitales.
Se trata de “un paso importante para responder a las nuevas formas de trabajo y cerrar las brechas en materia de protección e innovación”, dijo Houngbo.
Aunque controlan en gran medida las tareas y la remuneración, las plataformas clasifican a estos trabajadores como contratistas independientes y no como empleados.
Esa calificación les permite eludir las obligaciones relacionadas con el salario mínimo, la seguridad en el lugar de trabajo y el acceso a la seguridad social, según la ONG Human Rights Watch.
La IA se encarece y las empresas ajustan su uso, tras boom inicial
Compartir en redes
La inteligencia artificial (IA) se encarece cada vez más, y las empresas empiezan a replantearse su entusiasmo por esta tecnología disruptiva. Tras la irrupción del ChatGPT, las empresas del sector adoptaron una estrategia habitual en Silicon Valley: cobrar precios muy bajos para enganchar a los clientes. Kevin Simback, de la incubadora de start-ups Delphi Labs, lo llama la era de la “inteligencia subvencionada”, una etapa en que los inversionistas asumían básicamente el costo para que las empresas pudieran ofrecer IA a precios reducidos.
“Pero eso está cambiando”, advirtió Simback. Ha comenzado una era en la que las grandes empresas de IA necesitan realmente ser rentables. De hecho, compañías líderes como OpenAI y Anthropic buscan salir a bolsa a finales de este año. Los precios están subiendo en todos los segmentos, y uno de los grandes motivos son los agentes de IA.
A diferencia de un chatbot que solo responde preguntas, los agentes realizan tareas específicas: reservan citas, escriben código o gestionan archivos. Y son caros de ejecutar, porque una única tarea puede activar a decenas de agentes que trabajan a la vez, y cada uno suma costos. Esos cargos se miden en “tokens”, la unidad básica que usan las empresas de IA para facturar a los clientes. Una sola tarea impulsada por agentes puede consumir decenas de veces más tokens que un simple mensaje de chat.
Mientras tanto, los chips informáticos y los centros de datos necesarios para respaldar toda esta IA no dan abasto con la demanda, lo que provoca escasez de capacidad de cómputo y añade aún más incertidumbre a un sector incipiente. “El costo de uso de la IA para la programación ha aumentado de forma exponencial”, señaló Mark Barton, de la consultora tecnológica Omniux.
Ante este nuevo paradigma, algunos cuestionan el despliegue a mansalva de la IA.
“En algunos casos, se está viendo que el coste de los tokens supera el coste del empleado en uno o dos meses, simplemente porque la usan demasiado”, señaló Jack Gold, analista de J.Gold Associates.
Un gasto más inteligente
Incluso Meta —que a principios de este año animaba a los empleados a usar tantos tokens como fuera posible como medida de productividad— ha revisado su postura.
“Nadie debería usar herramientas de IA solo por el hecho de usarlas”, escribió el director de tecnología, Andrew Bosworth, en un memorando al personal citado por The Wall Street Journal.
El director de operaciones de Uber fue más allá esta semana y dijo que todo este gasto en IA no muestra ningún aumento apreciable de productividad.
Para recortar costos, algunas empresas optan por modelos de IA gratuitos y de código abierto que cualquiera puede descargar. No son tan potentes como el ChatGPt de OpenAI o el Claude de Anthropic, pero son suficientes para muchas tareas.
Otras eligen modelos más pequeños y especializados (los SLM, Small Language Models), diseñados para sectores concretos como el inmobiliario o las finanzas, en lugar de los grandes modelos de propósito general (los LLM, Large Language Models), base del ChatGPT, Claude o Gemini.
La diferencia de precio puede ser abismal.
“El gran modelo monolítico cuesta 15 dólares por millón de tokens, pero uno puede reducirlo a unos cinco centavos si usa el modelo más pequeño”, explicó Adrian Balfour, de la consultora Enverso.
Todo apunta a que la IA tenderá a convertirse en un insumo básico, donde el modelo específico pesará menos que su costo y su adecuación a cada uso. Pero no conviene descartar todavía a los modelos de última generación de los grandes actores. “Los usuarios más avanzados” siempre estarán dispuestos a pagar por lo mejor, aseguró John Belton, de Gabelli Funds. “La tarta es cada vez más grande”, agregó.
Una imagen de células corticales e hipocampales en una placa de cultivo celular en el laboratorio de Cortical Labs en Melbourne. Foto: William West/AFP
Chip con neuronas humanas aprende a jugar el popular videojuego “Doom”
Compartir en redes
Investigadores australianos han logrado que neuronas humanas cultivadas en laboratorio e integradas en un chip de silicio aprendan a jugar a ‘Doom’, una muestra del potencial de estos “ordenadores biológicos”. Los expertos de Cortical Labs crearon una tecnología que aprovecha el funcionamiento del sistema de redes del cerebro.
Cada uno de estos denominados “ordenadores biológicos” contiene alrededor de 200.000 células cerebrales humanas vivas, cultivadas a partir de células madre obtenidas de donaciones de sangre. Tras dominar Pong, un videojuego donde una paleta se mueve arriba y abajo para golpear una pelota y enviarla al otro lado de la pantalla, las células cerebrales pasaron a retos más complejos.
Al principio, las neuronas estaban “al nivel de un principiante que nunca ha jugado a un videojuego”, explica la AFP Alon Loeffler, el científico principal de aplicaciones de Cortical Labs. ‘Doom’, lanzado en los años 1990 y convertido en uno de los videojuegos más populares de la historia, transcurre en un mundo caótico en 3D donde el jugador debe explorar el entorno y eliminar enemigos, una tarea nada sencilla para un grupo de células.
“Chocaban mucho contra las paredes, disparaban a las paredes, se daban la vuelta, hacían cosas raras como esas”, relató Loeffler. “Y, finalmente, empezaron a apuntar a los enemigos con más regularidad y precisión”. Aunque la ejecución no es perfecta, la investigación revolucionaria demuestra que las neuronas pueden adaptarse a estímulos en tiempo real y completar tareas de aprendizaje orientadas a objetivos, según Cortical Labs.
Inteligencia más “sostenible” que la IA
Los investigadores convirtieron el entorno digital de ‘Doom’ en patrones de señales eléctricas que las neuronas del chip pueden entender. Cuando aparece un enemigo, unos electrodos específicos estimulan las neuronas en el chip especial, llamado CL1, lo que provoca una reacción. Cada patrón de actividad neuronal produce respuestas concretas, como disparar, moverse a la izquierda o a la derecha.
Los investigadores supervisan la actividad eléctrica de las neuronas desde una pantalla conectada al CL1, representada por miles de pequeños puntos. A partir de estos datos, el equipo ajusta sus entradas para influir y entrenar la actividad de las neuronas. El CL1 no se limita a los videojuegos: el chip puede programarse para todo tipo de aplicaciones, desde el cribado de fármacos hasta el aprendizaje automático similar a la inteligencia artificial.
“Apenas estamos empezando a vislumbrar lo que estos cultivos neuronales pueden llegar a lograr cuando se integran en sistemas como nuestro CL1”, afirma Brett Kagan, director científico y de operaciones, y describe el chip CL1 como “una forma de inteligencia más sostenible y potente”.
El cerebro humano funciona con una potencia estimada de 20 vatios, un nivel de eficiencia que la computación de silicio y la inteligencia artificial aún no han logrado igualar.
Aunque no está “destinado a reemplazar lo que hace la IA”, el objetivo es “ofrecernos capacidades que nunca antes habíamos tenido”, explica el científico.
Las células tienen una vida útil de seis meses y, por ahora, no son capaces de producir resultados consistentes y programables.
Sin embargo, los analistas señalan que el valor del proyecto podría residir en su consumo de energía más sostenible en comparación con los chips convencionales.
“Necesitamos mejores formas de gestionar ese consumo energético y alcanzar niveles más altos de eficiencia”, apunta William Keating, director ejecutivo de la empresa de investigación de semiconductores Ingenuity. “No se trata de ciencia descabellada ni de un grupo de estafadores. Es ciencia de verdad y está logrando avances reales”, asegura.
El pasado 25 de mayo, el papa León XIV firmó su primera carta encíclica, “Magnifica humanitas”, enfocada en la necesidad de “la protección
de la persona humana frente a la inteligencia artificial”
León XIV. “Magnifica humanitas”. IA y la continuidad jurídica del Estado Vaticano
Ricardo Rivas
Compartir en redes
Ricardo Rivas
Periodista
X: @RtrivasRivas
Fotos: AFP
Desde una perspectiva sociocultural y sensorial me animo a sentenciar que la digitalidad es envolvente e inmersiva. Y lo es tanto que mucha de esa virtualidad (algunas veces aumentada) la percibimos como auténtica.
“La IA (inteligencia artificial) es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta con regularla; es necesario desarmarla y hacerla acogedora”. Es palabra del papa León XIV (70). Claro, preciso y un indicio vehemente de que aborda reflexivamente ese tipo de sistemas desde largo tiempo. Seguramente, también opera algunos de ellos. Parece saber (y asumir) que –como una suerte de deidad impura y disruptiva– la IA avanza con posibilidades ciertas de estar en todas partes, en todo tiempo y en todo lugar o, más grave aún, de percibirla omnipresente.
“Es demasiado tarde para lágrimas”, podría decir que se planteó León parafraseando al escritor y poeta argentino Alejandro Dolina ante la inevitabilidad de la IA que, en verdad, no es una sola. No. Hay muchas inteligencias artificiales y, con algunas de ellas, interactuamos incluso inadvertidamente cuando transitamos los ecosistemas digitales que supimos (aunque no siempre quisimos) conseguir. Como millones soy un adoptivo digital más que convive con apenas dos generaciones –hasta el momento– de nativos y criados en la digitalidad, por decirlo de alguna manera.
Desde una perspectiva sociocultural y sensorial me animo a sentenciar que la digitalidad es envolvente e inmersiva. Y lo es tanto que mucha de esa virtualidad (algunas veces aumentada) la percibimos como auténtica. A tal extremo que alguno o alguna de quienes habitamos esas virtualidades podríamos creer que estamos de vuelta de todo sin haber ido a ninguna parte.
DILEMÁTICO
¿Qué es real? ¿Qué es virtual? ¿Qué es lo que es o… lo que creemos que es y no lo es, aunque sí lo es porque es parte activa de una suerte de neosocialización que pareciera socializar sin ser social porque hasta hoy pareciera que tiende a la individuación y, por qué no decirlo, a la fragmentación, a la desigualdad, a la inequidad… porque poco más de tres mil millones de personas en la tan maltratada aldea global no puede acceder a la internet (a la red de redes) por múltiples imposibilidades? Sobre eso reflexiona León y por ello propone “afrontarla” no solo para “regularla”, sino para comprenderla, “desarmarla y hacerla acogedora”. No será fácil. ¿Hay algún desafío que lo sea?
Sobre el mediodía del pasado lunes 25, en Roma, en el Aula del Sínodo de la Ciudad del Vaticano, el pontífice (en latín “pontifex”, el hacedor de puentes) rubricó públicamente y dio a conocer su primera carta encíclica a la que llamó “Magnifica humanitas”, con la que hace foco sobre “la protección de la persona humana frente a la inteligencia artificial”.
La reflexión papal, volcada en ese texto, hay quienes la inscriben dentro del marco de otra encíclica, “Rerum novarum”, que el 15 de mayo de 1891 el papa León XIII (1810-1903) dio a conocer frente al inicio de la que históricamente conocemos como Segunda Revolución Industrial.
A la hora de presentar “Magnifica humanitas”, el secretario de Estado Vaticano, cardenal Pietro Parolin, precisó que el texto no hace foco sobre la IA, sino que aborda lo que esos sistemas tecnológicos significan para la humanidad “en una época marcada por transformaciones rápidas, profundas y responsables”.
Por su parte, el prefecto del Dicasterio para la Doctrina de la Fe, cardenal Víctor Manuel Fernández, destacó que el pontífice categoriza como “magnífica” a la humanidad pese a la capacidad que evidencia tener para hacer el mal frente a cada ser humano que posee una dignidad infinita y sublime capacidad para amar.
La IA es ya un ambiente en el que estamos inmersos y un poder que debemos enfrentar. Por eso, no basta con regularla, es necesario desarmarla y hasta hacerla acogedora”, sostiene León XIV
PREOCUPACIÓN
A su tiempo, el cardenal Michael Czerny, prefecto del Dicasterio para el Servicio de Desarrollo Humano Integral, destacó –como preocupación– que si bien la IA “es un gran logro humano (…), su rápido avance supera la capacidad de asimilación social” porque tiene impacto en nuestra “casa común”.
Pero más allá de los decires de los relatores mencionados, la encíclica de León XIV es de alto contenido ético y social porque a pesar de las inequidades y desigualdades crecientes; a la emergencia de múltiples violencias; a la desprotección del medioambiente y al aceleramiento de la deshumanización que percibe el líder de la Iglesia de Roma, aboga por el respeto de la dignidad humana, que es “infinita” y a pesar de ello se encuentra amenazada porque la humanidad transita “una crisis antropológica” que subordina a la persona a los diseños económicos que priorizan la productividad con el propósito de optimizar la rentabilidad, lo que “produce soledad, desigualdad y violencia estructural” a la vez que exclusión y “descarte”.
Tengo claro –muy claro– que son muchos los domingos en los que en estas dos páginas de La Nación abordamos como tema –como objeto noticiable– las inteligencias artificiales y sus eventuales consecuencias para la humanidad. Y, desde ese lugar, ha llegado la hora de preguntar, de preguntarme y de preguntarles si acaso sabemos, creemos saber o imaginamos… ¿qué es la IA?
Uno de los “padres de las IA” dice que son sistemas que “se cultivan sobre una estructura modelada a partir del cerebro, alimentados por una enorme herencia de pensamiento y lenguaje humano”. En ese contexto, es mucho más complejo de entender la IA para la humanidad que cualquier otro desarrollo tecnológico. Preocupan, además, los que podrían ser sus efectos sociales colaterales o… tal vez, no deseados, para llamarlos de alguna manera (quizás inexacta, pero) posiblemente comprensible para todos y todas.
Pero… ¿es necesario que el papa León XIV y su antecesor Francisco (1936-2025), líderes religiosos de las y los católicos, se preocupen (y ocupen) por las inteligencias artificiales? ¿Es un tema doctrinario… de fe?, algunas y algunos plantean con mirada crítica.
INCENTIVOS Y RESTRICCIONES
Tomo posición y respondo. Claramente sí porque, según un relevante operador en ese ecosistema tecnológico, “todos los laboratorios de inteligencia artificial de vanguardia operan dentro de un conjunto de incentivos y restricciones que a veces pueden entrar en conflicto con hacer lo correcto. (Porque) para mantenerse comercialmente viables, (por) permanecer en la vanguardia de la investigación, (por) la presión geopolítica, (por) el orgullo y la ambición, (…) por más sinceramente que cualquiera de nosotros intente hacer lo correcto, siempre estaremos influenciados por esos incentivos”.
El papa Francisco (1936-2025), en Apulia, Italia, el 14 de junio de 2024, ante el G7, hasta donde llegó invitado por la primera ministra italiana Giorgia Meloni, sostuvo que “la Sagrada Escritura atestigua que Dios ha dado a los hombres su Espíritu para que tengan ‘habilidad, talento y experiencia en la ejecución de toda clase de trabajos’”. Las y los desarrolladores y financistas más influyentes de la aldea global lo escucharon con atención.
“La ciencia y la tecnología son, por lo tanto, producto extraordinario del potencial creativo que poseemos los seres humanos”, agregó y, desde su creencia, impetró: “La inteligencia artificial se origina precisamente a partir del uso de este potencial creativo que Dios nos ha dado”.
Prosiguió. La IA, “como sabemos, es un instrumento extremadamente poderoso, que se emplea en numerosas áreas de la actividad humana: desde la medicina al mundo laboral, desde la cultura al ámbito de la comunicación, desde la educación a la política. Y (justamente por ello) es lícito suponer, entonces, que su uso influirá cada vez más en nuestro modo de vivir, en nuestras relaciones sociales y en el futuro, incluso en la manera en que concebimos nuestra identidad como seres humanos”.
Con precisa narrativa añadió: “El tema de la inteligencia artificial, sin embargo, a menudo es percibido de modo ambivalente: por una parte, entusiasma por las posibilidades que ofrece; por otra, provoca temor ante las consecuencias que podrían llegar a producirse (dado que) estamos atravesados por dos emociones: somos entusiastas cuando imaginamos los progresos que se pueden derivar de la inteligencia artificial, pero, al mismo tiempo, nos da miedo cuando constatamos los peligros inherentes a su uso (porque) ciertamente, la llegada de la inteligencia artificial representa una auténtica revolución cognitivo-industrial, que contribuirá a la creación de un nuevo sistema social caracterizado por complejas transformaciones de época (que) podría permitir una democratización del acceso al saber, el progreso exponencial de la investigación científica, la posibilidad de delegar a las máquinas los trabajos desgastantes; pero, al mismo tiempo (y en tono de advertencia preocupante, sostuvo que) podría traer consigo una mayor inequidad entre naciones avanzadas y naciones en vías de desarrollo, entre clases sociales dominantes y clases sociales oprimidas, poniendo así en peligro la posibilidad de una ‘cultura del encuentro’ y favoreciendo una ‘cultura del descarte’”.
Luego, el papa Francisco exhortó a “una reflexión a la altura de la situación”. En ese contexto ubico a “Magnifica humanitas”.
APRENDIZAJE AUTOMÁTICO
IA… ¿qué son estos sistemas? Son el resultado de las investigaciones que se desarrollan “del aprendizaje automático (ML)” que es “un campo de estudio de la inteligencia artificial que se ocupa del desarrollo de algoritmos estadísticos capaces de aprender de los datos y generalizar (nuevos) datos desconocidos para realizar tareas sin necesidad de programación explícita, explican coincidentes publicaciones especializadas en tecnología”.
Christopher Olah (33), canadiense, en 2025 fue incorporado al ranking de archimillonarios que publica la revista Forbes. Por entonces –si se quiere unos pocos meses atrás– su fortuna alcanzaba a los 1.200 millones de dólares. El 10 de marzo pasado la misma publicación reportó a Christofer en el puesto 567 entre las personas más ricas del mundo, con un “patrimonio neto en tiempo real” de 7.000 millones de dólares.
Forbes consigna además que “es cofundador y director de investigación sobre interpretabilidad en Anthropic, empresa que desarrolla sistemas de inteligencia artificial a gran escala”. Detalla también que “en 2021, cofundó Anthropic junto con otros seis exempleados de OpenAI” (otra firma del sector) y que “los inversores privados valoraron (a la nueva empresa) en 380.000 millones de dólares”.
Corría febrero pasado cuando el editor de esa biografía corta de Olah puntualiza que Anthropic “tiene acuerdos de colaboración con Alphabet, la empresa matriz de Google, y con Amazon”. Pero, antes de ello, en OpenAI, este joven ganó experiencia cuando se “desempeñó un cargo similar” y “fue investigador en Google Brain”. Precisa luego que Christopher Olah “no fue a la universidad”. ¿En qué trabaja profesionalmente? Investiga el aprendizaje automático (ML).
“Hoy los padres están preocupados por la mente de sus hijos; las personas por el futuro de su trabajo. Estas no son preguntas que un laboratorio pueda responder”, dice Christopher Olah, uno de los padres de la IA, en el Vaticano
REDES NEURONALES
¿Qué es la interpretabilidad de las redes neuronales (NN)? “Es un modelo computacional inspirado en la estructura y las funciones de las redes neuronales biológicas” (como las que tiene cualquier humana y/o humano) y, dentro de ese desarrollo, procurar “la interpretabilidad mecanicista” con la que se apunta a “comprender el funcionamiento interno de las NN”.
Christopher Olah, el pasado lunes 25, estaba junto a León XIV y, junto al él (y con él) justificó su presencia desde una perspectiva ética a la que definió como “nuestro deber hacia los pobres del mundo” para luego detallar tres de sus preocupaciones porque “existe una posibilidad real de que la inteligencia artificial desplace el trabajo humano a una escala enorme”.
Pausadamente, prosigue, “si eso ocurre, apoyar a quienes resulten desplazados será un imperativo moral de proporciones históricas”. Advierte luego que “esta tarea será bastante difícil”, pero va más allá para hacer público que lo “preocupa que gran parte del diálogo actual ignore un desafío aún mayor (como lo es que) el desarrollo de la inteligencia artificial está concentrado en un pequeño número de naciones ricas”.
Así las cosas, Olah lanza un interrogante que inquieta: “¿Cómo podemos garantizar que los beneficios de la inteligencia artificial se compartan globalmente?” y, sin dilación, responde: “No tenemos un mecanismo para ello. Es un problema sin resolver y es precisamente el tipo de problema que históricamente la Iglesia se ha negado a permitir que el mundo ignore”.
INTERPELACIÓN
Con serenidad prosigue para hacer pública “la necesidad de imaginación y ambición moral respecto a (lo que él llama) florecimiento humano”. Desde ese lugar, entonces, uno de los “padres de la IA” reflexiona e interpela a la aldea global en alta voz.
“Si los modelos de inteligencia artificial van a estar ampliamente presentes (en la cotidianidad), ¿cómo será una vida floreciente para las personas, las familias y el mundo? Hoy, los padres ya están preocupados por la mente de sus hijos; las personas, por el futuro de su trabajo. (Y) Estas no son preguntas que un laboratorio pueda responder”, advierte. “Son preguntas que tradiciones como la suya (dice mirando al papa León) han sostenido durante milenios, y necesitamos que sigan sosteniéndolas en este nuevo momento de la historia”.
Sin resuello Christopher Olah sostiene que “la tercera necesidad” ante las IA es la de “discernimiento sobre la naturaleza misma de los modelos de inteligencia artificial”. Con perfume de autocrítica el joven expresa lo que interpreto como sus temores.
“Soy científico”, precisa. “Dirijo un equipo de investigación que estudia la estructura interna de estos modelos, lo que realmente sucede dentro de ellos. Y (en tono confesional revela) seré honesto: seguimos encontrando (en nuestro trabajo) cosas misteriosas, incluso inquietantes. (Porque) Encontramos estructuras que reflejan resultados de la neurociencia humana. Encontramos evidencia de introspección. Encontramos estados internos que funcionalmente reflejan alegría, satisfacción, miedo, dolor e inquietud. (Y) No sé qué significa eso, pero creo que merece un discernimiento continuo”.
Sinceridad conmovedora. León XIV, el pontífice en su rol de jefe de Estado, como en 1891 León XIII frente a la Segunda Revolución Industrial y, tal vez, Eugenio IV frente a la irrupción de la imprenta de tipos móviles de Johannes Gutenberg en la ciudad de Maguncia, del Sacro Imperio Romano Germánico, se ubicó junto con las y los vulnerables. Nada nuevo. Simplemente, renueva el principio de continuidad jurídica de los Estados.