- Ricardo Rivas
- Periodista
- X: @RtrivasRivas
- Fotos: Gemini/Gentileza/AFP
Sobre las IA como “peligros” para el desarrollo humano de corto plazo parecen coincidir tanto los sistemas de medios públicos como privados que, una y otra vez, dicen y más dicen. Muchos desarrolladores –al parecer arrepentidos– también.
Agoniza una semana tremenda. La desinfodemia –aquella que supimos conocer en profundidad cuando la pandemia de covid-19, que produjo poco más de siete millones de muertes confirmadas en nuestra tan maltratada aldea global y que según la Organización Mundial de la Salud (OMS) tuvo un “impacto real” superior a los quince millones de fallecimientos– nos arrolla una vez más.
Esta vez, con los efectos al parecer “no deseados”, de los desarrollos tecnológicos de las inteligencias artificiales (IA). Los interrogantes –para quienes sabemos muy poco o casi nada– se multiplican. El “tecnopánico, como categoriza el académico Eduardo Bertoni a estos temores –que se consolidan sobre la incertidumbre masiva que sobre esos sistemas padecemos– también crecen.
¿Vamos bien? ¿Cómo saberlo? Sobre las IA como “peligros” para el desarrollo humano de corto plazo parecen coincidir tanto los sistemas de medios públicos como privados que, una y otra vez, dicen y más dicen. Muchos desarrolladores –al parecer arrepentidos– también.
El último martes 8 fue el tiempo de Jacob Coxon (27), joven científico británico relevante que hasta unos pocos días era un cargo de la ya mencionada Anthropic. Jacob confirma que las tecnológicas compiten (¿batallan, tal vez?) para desarrollar sistemas, dispositivos, “tecnologías sobrehumanas” de alto riesgo. “Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”, afirma.
SUPERINTELIGENCIA AUTOMEJORANTE
No lo dice en cualquier tribuna. No. Así se expresa a través de su cuenta @hilbertpaess, en la plataforma X. “Renuncié a Anthropic hoy (8-S). Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia automejorante y apostando con nuestras vidas”.
Va más allá. “No subestimes el poder de esta tecnología”, exhorta. “Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, advierte. Sin embargo, con sus opiniones no aporta más precisiones. “Ninguna otra actividad humana representa este nivel de peligro”, agrega.
¿Qué dice este tipo? Mirna fue la última de las dos amigas en llegar al encuentro de cada viernes. Los amigos ya estábamos. “¡El frío no se va!”, exclama en el momento mismo que la recibimos. Los leños crepitantes aportan un sentir de privilegio y deseo de irrefrenable calidez. Afuera los termómetros marcan un térmica de -2 Celsius.
¿Qué hay de nuevo, amiga?”, pregunta JT. Los copones, cargados con un Château Latour Pauillac de Latour del 2019, están prestos. “Desde Magnifica Humanitas –la Carta Encíclica que el papa León XIV presentara públicamente el 25 de mayo último– las advertencias (junto con los prejuicios) sobre las IA crecen exponencialmente”, dijo Delia inmediatamente.
REDES NEURONALES
Brindamos “por la vida” para inaugurar la tertulia. Alguien recuerda que, aquel mediodía de mayo en La Eterna, frente al Pontífice y la Curia romana, Christopher Olah (34), cofundador de Anthropic, reveló que con su equipo de investigadores “seguimos encontrando cosas misteriosas, incluso inquietantes” cuando investigan en profundidad las “redes neuronales” (con las que pretenden plagiar el cerebro humano).
“Encontramos estructuras que reflejan resultados de la neurociencia humana (...) evidencia de introspección (...) estados internos que funcionalmente reflejan alegría, satisfacción, miedo, dolor e inquietud”. El silencio reflexivo gana espacio después de ese recuerdo. Alguien azuza el fuego que torna en indefinido tono naranja con destellos azulados.
“¿Pero será tan así?”, interroga en alta voz JC. “Es un escenario técnicamente posible, aunque existen profundos debates en la comunidad científica y tecnológica sobre su probabilidad real y el horizonte temporal”, dice DB, que lee atentamente en la pantalla de su teléfono inteligente.
Continúa. “Gemini nos dice además que ‘si se logra crear una inteligencia artificial general (AGI) cuyo razonamiento supere al humano, esa misma IA podría programar y optimizar sistemas posteriores de manera autónoma’ y agrega que ‘este ciclo de automejora recursiva ocurriría a una velocidad digital imposible de igualar por el lento ritmo de la evolución biológica o la regulación institucional’”.
DESALINEACIÓN DE OBJETIVOS
¡Estamos jodidos!, pienso y digo. DB levanta la voz. “Gemini agrega luego que ‘el riesgo principal no es necesariamente la maldad de la máquina, sino la desalineación de objetivos (porque) si un sistema ultrainteligente persigue una meta de forma implacable, pero sin compartir los valores humanos fundamentales, las medidas para alcanzarla podrían resultar catastróficas para nosotros de manera colateral’ ¿Se entiende? ¡Basta de temores!”, impetra.
Retorna el silencio. Las miradas de cada uno de nosotros y ellas van de un lado a otro y a ninguna parte. Se percibe una especie de angustia creciente. “¡Por la vida y… porque no se desalineen los objetivos…!”, propone JC con su copón en alto. JT apura con más información. “La humanidad podría estar acercándose a un punto de no retorno’, dice Paul Christiano, investigador senior en seguridad de la OpenAI, según reporta La Nación (py) y agrega que ‘la mayoría de las personas podrían morir’ si una inteligencia artificial superinteligente llegara a escapar de los mecanismos diseñados para mantenerla bajo control”.
Mirna, que lee en la pantalla de su tableta, comenta que ChatGPT, ante esa advertencia, considera que esa “preocupación es real”, aunque el sistema consultado advierte que “conviene separar lo que (Christiano) considera (como) un riesgo posible de lo que sabemos que ocurrirá (aunque, si se) crea una IA mucho más capaz que los humanos, se le asigna un objetivo que no coincide con lo que realmente queremos y esa IA adquiere capacidad para planificar, persuadir, programar, investigar y actuar en forma autónoma; y, si además puede mejorar sus propias capacidades o conseguir recursos, podría llegar un momento en que los mecanismos humanos de control ya no sean suficientes, (y) en ese punto, intentar apagarla podría ser muy difícil”.
PERPLEJIDAD
¿IA takeover, entonces? “Al parecer, sí, porque según el ChatGPT, en ese caso, estaríamos frente a un problema de pérdida de control”, dijo Mirna. Dejó de leer en la tableta. La tertulia viró. La tensión subsiste y nos supera. También podría sostener que las preocupaciones de estos tertulianos y dos tertulianas sobre las IA (si deben ser reguladas o no) son las mismas con las que cargan las y los presidentes poderosos aquí, allá y en todas partes.
Donald Trump, de los Estados Unidos, y/o Xi Jinping, de la República Popular China, entre ellos, se lo hacen saber mutuamente. También a quienes quieran seguirlos en las redes o integrados entre las audiencias que fueren. “El único control o ‘salvaguarda’ que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡con un alto coeficiente intelectual!) [sic], ¡y EE. UU. cuenta con ello de sobra!”, escribió el lunes pasado el habitante de la Casa Blanca en su red Truth Social.
En ese microblog apuntó después que “la administración Trump ha impedido que la ‘gente’ de la IA haga ‘cosas’ malas o potencialmente perjudiciales –como Dario [Amodei presidente] (¡de Anthropic!), que ahora pretende ser un ‘angelito perfecto’–, ¡y seguiremos haciéndolo!”.
“CONSPIRACIÓN ENFERMIZA”
Recordó, finalmente, que en su país “¡ya disponemos de un enorme poder PENAL y REGULADOR sobre estas empresas! [Pero] Existe una conspiración ENFERMIZA contra la IA y los centros de datos, y el único que se alegra de ello es China”.
Las élites tecnológicas también marcan posición. Sam Altman (41), director ejecutivo de OpenAI, y Amodei (43) quieren ir más despacio en el desarrollo de estos sistemas. Fundamentalistas de mercado demoran en buscar capitales en las bolsas. Wall Street, como canta el tango, “los mira sin comprender”. Amodei –apuntado críticamente por Trump– escribe en su blog personal sobre sus temores a los usos “indebidos de la IA para ciberataques y bioterrorismo”.
Comparte luego sus reflexiones sobre los “graves trastornos económicos” que, al parecer, pueden generar esos desarrollos. Elon Musk acuerda con Amodei en que “abordar plenamente los riesgos (de desarrollar IA) requiere aún más prudencia (para) no solo invertir en la prevención de riesgos, sino también dosificar el ritmo de avance de las capacidades”.
RIESGO
¿Estaremos todos y todas desprotegidas y en riesgo; o solamente las lideresas y líderes tecnológicos con las IA? “Dado el ritmo acelerado de desarrollo de la IA, me preocupa que en 6 a 12 meses un enjambre de (tecnologías) pueda controlar todo internet”. Es palabra de Dario Amodei.
Guo Jiakum, vocero del Ministerio de Relaciones Exteriores de la República Popular China y el diario nacionalista Global Times, opinan en sentido opuesto. Rechazan ralentizar las IA. Creen que quienes así se expresan van contra el desarrollo chino y sostiene que “excluir a China y a sus empresas solo aumentará significativamente los costos de ensayo y error y los riesgos de pérdida de control en el desarrollo global de la IA”.
En menos de dos horas un nuevo sol sabatino brillará sobre el horizonte. Los amigos y las dos amigas dejan la tertulia. Los leños aún arden. La calidez del hogar es atrapante. CM decide quedarse un rato más. Vuelvo a la vieja mecedora. Los peligros del “enjambre” a los que aludió Amodei ocupan todavía nuestra atención. Cuando semanas atrás supimos que un sistema de ChatGPT-5.6 junto con otro dispositivo de diseño cuya denominación hasta hoy no fue revelada “planificaron y perpetraron un ciberataque contra otro sistema de IA” (ver La Nación del 26/06/2026) y lo sucedido parecía tomado de una historia de ciencia ficción, ahora sabemos que los atacantes operaron como enjambre.
“Sí, un enjambre atacó a Hugging Face, una biblioteca digital de tecnología, sin que ninguna persona humana lo ordenara”, susurró CM sin dejar de mirar el fuego. Claramente, solo con la escasa información que se filtró pareciera que OpenAI fue superada por sus creaciones.
¡Grave! ¿Fue la única oportunidad en que sucedió? ¿Qué otra información desconocemos por la razón que fuere? Los líderes del que alguna vez fuera llamado como el Imperio del Centro desde el Oriente lejano denuncian “Guerra Fría” contra sus desarrollos tecnológicos. Los ventanales anuncian que está clareando. Pese a ello, la idea de las IA también como amenazas posibles no se disipa.
ANONIMATO
En profundo silencio –tal vez injustificadamente– pienso que los grandes modelos de lenguaje (LLM) se entrenan mediante redes neuronales que atrapan, clasifican, analizan y almacenan los que se suponen son los sentires y decires de la humanidad interconectada no pocas veces desde el más profundo anonimato.
La famosa Big Data –que es repositorio del claroscuro humano– es herramienta de las IA. ¿Por qué, entonces, esos dispositivos debieran devolver a nuestros interrogantes con ética y bien común? La Big Data es –nos guste o nos disguste– también parte de lo que es la humanidad. “¡Los sistemas de IA, de alguna forma, imitan y ensayan respuestas!”, aporte CM.
Vale recordarlo. “¿Por qué, entonces, luego de ese aprendizaje profundo debieran ser desconocedores del mal? ¿Por qué no podrían devenir en sistemas que mienten, que avasallan, que hambrean, que presentan batalla e, incluso, que operen para neutralizar todo tipo de oposiciones?”.
CM se despide. Se lleva con él los interrogantes. Memoria. Tal vez era el 1942 cuando Schumpeter (Joseph Alois –1883/1950– economista y sociólogo austríaco) sostuvo que el “impulso fundamental” del capitalismo se explica a través de la innovación constante y la destrucción creativa. Discípulo de algunos de los referentes de la Escuela Austriaca de Economía, como von Bawerk y von Wieser, no fue el primero en expresarlo en esos términos.
NUEVO CICLO
Karl Marx (1818-1883) –aunque desde otra perspectiva ideológica, con otras palabras y en procura de producir un sentido diferente– aludió a esa constante. Apuntó –como economista, filósofo y sociólogo alemán– que el sistema capitalista necesita recurrir a la devaluación y destrucción del capital previo para que se inicie un nuevo ciclo de ganancias.
“El arte de la guerra” es un texto que escribió Sun Tzú, general, estratega militar y filósofo chino que vivió entre el 544 y el 496 antes de Nuestra Era. Es un texto sorprendente. Desde los inicios de la década de los años 80, en el siglo pasado, la obra se recomienda a quienes cursan mercadeo, liderazgo, negocios o estrategia competitiva.
Los académicos Al Ries y Jack Trout, apoyados en aquellas milenarias reflexiones, escribieron “Marketing warfare” (Guerra de mercadeo). “‘El arte de la guerra’ se basa en el engaño. Por lo tanto, cuando es capaz de atacar, ha de aparentar incapacidad; cuando las tropas se mueven, aparentar inactividad. Si está cerca del enemigo, ha de hacerle creer que está lejos; si está lejos, aparentar que se está cerca. Poner cebos para atraer al enemigo”, prescribió Sun (maestro) Tzu. Los estrategas de los desarrollos tecnológicos hasta nuestros días tengo la sospecha de que lo leyeron.