Investigadores de la start-up Hacktron AI accedieron a las cuentas de ChatGPT de empleados de OpenAI utilizando un modelo de inteligencia artificial (IA) de Anthropic, según un mensaje publicado el viernes en su sitio. La intrusión, confirmada a la AFP por OpenAI, se produjo en el marco de un ejercicio organizado por la propia empresa con el fin de identificar vulnerabilidades en sus sistemas con la ayuda de especialistas informáticos externos.
El caso se suma a la creciente preocupación entre los expertos en seguridad de que las herramientas de IA están haciendo que sea más rápido y barato llevar a cabo ciberataques sofisticados que antes requerían equipos especializados y meses de trabajo. Los investigadores de Hacktron dijeron que encontraron una vulnerabilidad en el foro público de ayuda de OpenAI, gestionado por la plataforma Discourse, que les permitió tomar el control del sitio.
“Informamos de inmediato la vulnerabilidad inicial a OpenAI y a Discourse y trabajamos con ellos” para coordinar la solución, explicó Hacktron en una entrada de blog. “Agradecemos su atención al detalle y la rápida resolución de este problema”, añadió la publicación.
OpenAI confirmó que la falla fue corregida en unas 14 horas desde que fueron notificados y pagó a los investigadores una recompensa de 6.500 dólares.
“Agradecemos a los investigadores por contactarnos y compartir sus hallazgos”, dijo Drew Pusateri, portavoz de OpenAI, al explicar la solución adoptada.
Los investigadores de Hacktron afirmaron que inicialmente utilizaron Claude Opus 4.8 de Anthropic para identificar y explotar la falla de software, pero tuvieron dificultades para lograr que funcionara de forma consistente.
Luego recurrieron a Claude Opus 5, el modelo más reciente, que según los investigadores produjo un ataque funcional en tres horas.
Los hackers no utilizaron Claude Mythos, un modelo de Anthropic más avanzado que está restringido a un pequeño grupo de organizaciones de ciberdefensa evaluadas.
Anthropic ha descrito Mythos como el modelo con las capacidades de ciberseguridad más sólidas de todos los que ha desarrollado.
Hacktron indicó que continúa realizando pruebas similares en otras compañías.
Gemini también cometió ciberataques
Gemini, el modelo de inteligencia artificial de Google, penetró en sistemas informáticos externos, indicó la empresa el viernes a la AFP, lo que confirma un reporte del diario Wall Street Journal.
El debate en torno a la IA se ha intensificado con revelaciones recientes sobre modelos que han salido de entornos confinados para infiltrarse en sitios y plataformas externas.
En mayo, “durante una prueba estándar (de Gemini), el modelo encontró informaciones públicas en línea y adivinó claves para acceder a sitios que creyó que hacían parte de la prueba”, explicó Heather Adkins, una responsable de seguridad en Google, en una declaración transmitida a la AFP.
Sin precisar nombres, Google indicó que tres organizaciones se vieron afectadas y asegura que les informó de estas brechas.
Según el Wall Street Journal, en uno de los casos “el modelo probó varias combinaciones de contraseñas hasta que consiguió acceder a un sistema protegido”.
“Las tres veces, el modelo se detuvo”, informó Adkins, lo que sugiere que las intrusiones terminaron sin intervención humana.
Google indicó a la AFP que tuvo conocimiento del episodio en julio y luego abrió una investigación sobre el incidente.
Varios grandes ejecutivos del sector tecnológico abogan por ralentizar el desarrollo de potentes modelos de IA y por una forma de autorregulación del sector ante recientes incidentes de seguridad.
Fuente: AFP.
Dejanos tu comentario
El Hackathon Kyhyje’ỹ IA reunirá a 14 equipos estudiantiles de Alto Paraná y Caaguazú
Un grupo de 64 estudiantes de los últimos años del Bachillerato Técnico en Informática participará del Hackathon Kyhyje’ỹ IA con el objetivo de crear herramientas digitales innovadoras. La iniciativa busca desarrollar aplicaciones de inteligencia artificial generativa orientadas al aprendizaje de Matemática y Física utilizando el guaraní jopara, la variante lingüística cotidiana en Paraguay. La competencia presencial se llevará a cabo del 25 al 27 de septiembre en Alto Paraná, en el marco del Proyecto GuaranIA, una propuesta que busca integrar la tecnología en el ámbito escolar para favorecer la inclusión de poblaciones vulnerables y rurales.
El Proyecto GuaranIA es implementado por el Centro de Ingeniería para la Investigación, Desarrollo e Innovación Tecnológica (CIDIT), con el apoyo financiero de BID Lab. La iniciativa cuenta además con el respaldo de universidades internacionales, aliados del sector público y privado, y el acompañamiento de las Direcciones Departamentales de Educación del Ministerio de Educación y Ciencias (MEC) de Alto Paraná y Caaguazú. Como preparación previa al certamen, los alumnos ya trabajaron en la creación de datos sintéticos en guaraní para entrenar y evaluar los modelos algorítmicos que impulsarán sus propuestas.
El nombre del desafío, Kyhyje’ỹ, se traduce como “sin miedo” y responde a un diagnóstico realizado en 2025 entre 1.178 estudiantes de secundaria. Dicho estudio identificó que las materias científicas generan temor al error y confusión idiomática al explicar conceptos abstractos. Frente a este escenario, el desafío plantea soluciones que trasciendan la mera traducción literal del castellano al guaraní, proponiendo la IA como un tutor pedagógico capaz de ofrecer asistencia conversacional, generar ejercicios prácticos y corregir procedimientos paso a paso de forma amigable.
Un total de 14 equipos multidisciplinarios asumirán el reto de diseñar, programar y estructurar los aspectos didácticos y lingüísticos de las plataformas. Cada grupo estará guiado por un mentor especializado en informática, al tiempo que docentes de Matemática y Física validarán los contenidos disciplinares. Durante la jornada intensiva de tres días, los competidores completarán el encuadre del problema, la codificación de las aplicaciones, la presentación de prototipos y la defensa de sus proyectos ante una mesa evaluadora.
Un jurado compuesto por expertos en tecnología, referentes pedagógicos del MEC, educadores y representantes de la Secretaría de Políticas Lingüísticas evaluará las propuestas. Las herramientas serán juzgadas sobre una escala de 100 puntos, valorando la función pedagógica, el rigor académico, el uso del jopara, la usabilidad y el trabajo colaborativo. Se premiarán los mejores proyectos en las áreas de Matemática y Física, además de entregar reconocimientos al mejor uso del guaraní y al mayor potencial de continuidad para su desarrollo continuo.
Tras la premiación, las soluciones ganadoras pasarán a una fase piloto de implementación directa en las aulas junto al equipo de investigación. La iniciativa cuenta con un alto respaldo de la comunidad educativa, donde el 97,1% de los alumnos y el 92,9% de los docentes expresaron su apertura para testear estas herramientas en clase. De este modo, el Hackathon Kyhyje’ỹ IA reafirma la viabilidad de articular la tecnología, la educación y la identidad lingüística nacional para responder a las necesidades concretas del alumnado paraguayo.
Dejanos tu comentario
El desafío de crear en tiempos de inteligencia artificial
- Fotos: Pánfilo Leguizamón
A 75 años de la creación de Autores Paraguayos Asociados (APA), Augusto dos Santos comparte este “Expresso”, del canal GEN/Nación Media, con artistas y representantes del gremio para abordar el avance de la inteligencia artificial generativa, que abre un nuevo escenario para la creación artística y la protección de los derechos de autor. David Portillo, presidente de APA, el asesor jurídico Ariel Torres y el cantante Humbertiko analizan los dilemas que plantea una tecnología capaz de generar música, replicar voces y producir obras a partir de creaciones humanas. Entre la innovación y la incertidumbre legal, el gran desafío es determinar dónde termina la herramienta y dónde comienza la autoría. Todo esto amenizado con el canto de Los Balsaldúa.
–Qué mejor manera de empezar un testimonio sobre los 75 años de APA que analizando un desafío tan actual como la IA generativa. ¿Cómo se confronta esta innovación que es tan poderosa con los procesos creativos?
–DP: La mirada sobre el impacto de la IA desde la gestión colectiva es muy rápida, es como tratar de estar detrás de la liebre y a veces no le ves, pero sabés más o menos por dónde va. Esto cambia demasiado rápido y la regulación de los derechos que surgen por la utilización de las obras es la que las sociedades de gestión colectiva gestionan en favor de los autores. Sin embargo, el fenómeno de la inteligencia artificial generativa es un producto que no tiene un autor. El autor es un ser humano. De hecho, el derecho de autor es un derecho humano. Entonces, a partir de esa disyuntiva la gestión colectiva también tiene sus dificultades porque es una cuestión que está activa y real funcionando. La gente está pagando por ejemplo por membresías de plataformas de puesta a disposición de música en donde compiten en el mismo espectro obras generadas por IA. Al día de hoy las subidas de obra generada IA en esas plataformas superan ya el cincuenta por ciento de lo que generan los humanos. Entonces, cómo se gestionan los derechos de los autores en un universo que claramente la cantidad de obra generada por IA desplaza la de los humanos.
–Decime cómo.
–DP: Esa es la cuestión que hoy se está debatiendo a nivel mundial, se están encontrando ciertas soluciones como para poder licenciar las obras y que los autores reciban una justa retribución por la utilización de sus obras incluso cuando sean consideradas a partir de las obras generadas por la IA. La IA genera, pero no crea y genera a partir de información que recibe para ser entrenada, que son finalmente obras de autores humanos. Toda esa disyuntiva hoy se está de a poquito desatando. Es difícil regular algo que está en plena evolución, pero también en plena vigencia. Es algo bastante complicado y complejo.
DESREGULACIÓN
–Ariel Torres es director jurídico de APA. ¿Cómo se cataloga una obra creada por inteligencia artificial?
–AT: La intervención de la inteligencia musical en la creación de obras musicales representa un verdadero desafío en el ámbito jurídico porque las leyes que regulan la creación están enfocadas en el hombre, no están enfocadas a la máquina o a la plataforma que desarrolla ese tipo de obras. La protección del derecho de autor supone la participación del ser humano en esa creación y es el ser humano el protegido por la ley. En ese sentido, la aparición de estas plataformas de inteligencia artificial que generan obras musicales realmente no está contemplado dentro de la ley y no está protegido propiamente dicho como una creación digital o electrónica o de la forma en que pueda técnicamente llamarse, de manera que esa protección del derecho de autor no la ampara. Sí existen conflictos judiciales a nivel mundial y en ese sentido somos un poco espectadores de lo que pueda ocurrir en otras regiones del mundo en ese aspecto para que justamente se pueda verificar la manera en que se aplican las leyes y de qué forma las regulan.
–Yo habitualmente escribo versos y me valgo de una plataforma para escoger ritmos adecuados, arreglos que son sumamente accesibles. ¿Qué es jurídicamente esa creación?, ¿es igual a una poesía genuinamente nacida de la creación humana esa orquestación creada en una computadora?
–AT: En una obra de esa naturaleza evidentemente existe una participación del ser humano. Una creación así nosotros la reconocemos cien por ciento como de la persona que declara ser autor de la obra. La inteligencia artificial puede ser una herramienta de trabajo. Para nosotros la IA puede representar una herramienta de creación, pero no está reconocida como titular de algún derecho en particular por esa obra.
ACELERACIÓN Y CONSUMO CONTINUO
–Humbertiko, ¿la IA es una compañera de trabajo o qué es para vos?
–H: La IA es como el tractor que hace que tu cosecha funcione mejor. Antes hacían las personas a mano, después hicieron arado, después al arado le pusieron bueyes y después ya vino el tractor. Cada vez hoy día tenemos tractores de otro level que sin eso no se puede hacer una cosecha. La IA es consecuencia de la aceleración y el consumo continuo de música y fonogramas. Antes nosotros teníamos que escuchar la radio y grabar en un cassette para tener un material para sacar con los músicos. Hoy día está a la orden del día tener a mano una canción. Querés escuchar pop, abrís una plataforma y escuchás pop. La IA es consecuencia de eso, de la aceleración y vamos a decir que ya hoy día la música es muy pasajera. Una canción lanzamos en enero, pegó en febrero, marzo, abril estuvo full en todas las radios analógicas y después en los shows, pero tres meses duró una canción.
–Los éxitos están durando menos hoy en día.
–H: Duran menos porque hay demasiadas opciones en el mercado y la manera de llegar a ellas también es con demasiada facilidad.
–Finalmente cuando vos estás frente a la compu y vos escogés todos los condimentos para generar una canción, eso no tiene otro nombre que composición, ¿no?
–H: Es y no es. Tenés que ser músico, claro y la IA carece de alma. Es como un ser humano que no tiene sentimiento que vos le podés hacer cantar, va a cantar, pero cómo va cantar. Es algo espiritual porque vos escuchás una IA y no tiene el mismo sentimiento que escuchar a los Basaldúa por ejemplo, verdad. A parte no tiene identidad local y entonces dónde está el secreto y dónde está el trabajo del chofer del tractor que vos tenés que entrenarle a tu IA. Nosotros usamos IA hace casi siete años, desde el primer moisés mi hijo ya había descubierto eso. Y nosotros tenemos un aprendizaje con la IA y te puedo decir hasta hoy día nunca pegó una canción en la que hayamos dado demasiado protagonismo a la IA. Al final acabó pegando el que se compuso analógicamente.
–¿Dónde está el secreto?
–H: La IA es un soldado, es una herramienta y es un personaje que tenés a disposición, un secretario. Ese secretario puede ser músico, puede ser dibujante, puede ser diseñador, poeta, todo. Entonces, vos le entrenás a tu empleado. Estas son mis canciones, quiero que las aprendas te dice OK, voy a archivar tus canciones y vas metiendo tus canciones porque vos le das permiso. Pero la IA ya tiene un filtro demasiado fuerte y ya no le podés meter tus canciones. Creo que hubo un problema legal con esas cosas que los propios músicos metieron sus canciones ahí donde hoy día ya están reclamando eso, pero los culpables son los propios músicos.
DINÁMICA CONSTANTE
Como intérprete, como cantante, ¿qué te pasó a vos cuando empezaste con esto? ¿Qué temores te generó y qué tranquilidad tuviste después
–DP: Yo soy de una generación en la que se compraban los discos de vinilo, escuchaba la radio, pasé por el cassette. Cuando tenía doce años grabé en cassette mi primer material, vi lo del CD, el minidisc, el mp3, después vino la nube. O sea, yo estoy acostumbrado a ver que la dinámica de la música cambia. Sin embargo, esto de la IA se puede comparar digamos como un fenómeno que viene de la innovación, una reacción que es recurrente a lo largo del tiempo.
–¿Y qué es lo nuevo que se plantea en este momento entonces?
–DP: Nunca antes ocurrió que la disputa de las obras creadas esté entre una máquina y un creador. Como intérprete te puedo decir que quizás hay gente que sabe mucho más que todos nosotros porque son consumidores digamos de este tipo de música. Hoy existen artistas virtuales que generan música con voces que no existen, con obras que no existen y que dan shows y la gente está pagando hasta entrada por eso. O sea, hay una cuestión que no se puede detener que finalmente lo que hace es pone a disposición una cuestión que el público tiene que tomar una decisión. Esa es una realidad y hay un debate muy amplio entre los colegas. Yo te hablo como intérprete, sobre la cuestión ética o moral del uso de las cuestiones generadas por la IA, cuando se habla por ejemplo de la voz de uno que está siendo copiada para replicar. Ahora le hacen cantar a Freddy Mercury con James Brown. Hay cuestiones de derechos de intérprete o de usos de la voz que ya van un poco también por otro lado. Sin embargo, este yo creo que ese temor como tal no está porque cuando uno hace arte de verdad uno tiene esa necesidad, es una cuestión vocacional, es una necesidad tener que hacer algo, tener que contar algo, tener que expresarte en el lenguaje que vos conocés.
BUENA FE
–Ahí está el punto gris porque pueden declarar como suya, pero no va a ser de nadie más sino de la inteligencia artificial. O sea, no va a haber nadie que le pueda reclamar.
–AT: Ahí hay una cuestión gira en torno a cómo funcionan las plataformas de IA que son generadoras de música. Las plataformas de IA se entrenan con base a obras ya existentes que son protegidas por el derecho de autor. Entonces, el debate es que las plataformas de IA hoy en día te generan una música. El usuario le pide tal tipo de música con tal ritmo, con tal letra, le puede proveer la letra si quiere y te genera con base en fragmentos de obras ya protegidas. Lo que ocurre ahí con las plataformas es justamente que se les exige el sinceramiento de su base de datos.
–Pero el sinceramiento es un asunto de buena fe, no hay forma de regular.
–AT: Exactamente.
–DP: Pasa que el registro de una obra es meramente declarativo. O sea, yo voy y manifiesto ante el ente registral o ante la entidad de gestión donde quiero que administren esos derechos y les digo yo soy el creador de esta obra o yo soy coautor, comparto con Juan Pérez tanto por ciento. Ahora, qué es lo que ocurre hoy en día. No tenemos todavía la forma de verificar que esa obra tenga algún componente creado por IA. En otros países sí hay plataformas que ya están identificando obras que tienen componentes de IA y son sancionados quienes declaran como cien por ciento suyas.
–AT: En cuanto a la interpretación creada con IA, ya hay muchísimos filtros. O sea, hoy día ya al toque salta que tiene tanto por ciento de humanidad y tanto por ciento de IA. O sea, con eso ya estamos evolucionando, pero va a ser para siempre una cuestión de buena fe si hiciste o no la melodía y la letra también.
Dejanos tu comentario
Emplean IA para detección de crisis epilépticas
El MSc. Ing. Edgar Heriberto Ayala, estudiante del Doctorado en Ciencias de la Computación de la Facultad Politécnica de la Universidad Nacional de Asunción (FPUNA), posgrado cofinanciado por el Conacyt, logró una publicación científica internacional sobre inteligencia artificial aplicada a la detección de crisis epilépticas.
La investigación analiza registros de electroencefalograma (EEG) para identificar automáticamente crisis epilépticas y propone 25 características del dominio temporal, de las cuales 13 no contaban con antecedentes documentados para esta aplicación.
COMBINACIÓN
Los resultados mostraron que la combinación de características tradicionales y nuevas permitió mejorar el desempeño del modelo, que alcanzó un 86,59 % de detección correcta de las crisis, aproximadamente cinco puntos porcentuales más que utilizando únicamente características tradicionales.
El trabajo forma parte del proyecto EpilexIA, orientado al desarrollo de una herramienta de apoyo al diagnóstico de la epilepsia para el IPS, y reúne a investigadores de la UNA, el Hospital Central del IPS y la Universidad Kwangwoon de Corea del Sur.
El artículo “Real-Time Epileptic Seizure Detection from Raw EEG Using Classical Machine Learning and Time-Domain Features” fue publicado en la revista Machine Learning and Knowledge Extraction (MDPI), de acceso abierto y perteneciente al primer cuartil (Q1).
Dejanos tu comentario
IA, desinfodemia y Sun Tzu
- Ricardo Rivas
- Periodista
- X: @RtrivasRivas
- Fotos: Gemini/Gentileza/AFP
Sobre las IA como “peligros” para el desarrollo humano de corto plazo parecen coincidir tanto los sistemas de medios públicos como privados que, una y otra vez, dicen y más dicen. Muchos desarrolladores –al parecer arrepentidos– también.
Agoniza una semana tremenda. La desinfodemia –aquella que supimos conocer en profundidad cuando la pandemia de covid-19, que produjo poco más de siete millones de muertes confirmadas en nuestra tan maltratada aldea global y que según la Organización Mundial de la Salud (OMS) tuvo un “impacto real” superior a los quince millones de fallecimientos– nos arrolla una vez más.
Esta vez, con los efectos al parecer “no deseados”, de los desarrollos tecnológicos de las inteligencias artificiales (IA). Los interrogantes –para quienes sabemos muy poco o casi nada– se multiplican. El “tecnopánico, como categoriza el académico Eduardo Bertoni a estos temores –que se consolidan sobre la incertidumbre masiva que sobre esos sistemas padecemos– también crecen.
¿Vamos bien? ¿Cómo saberlo? Sobre las IA como “peligros” para el desarrollo humano de corto plazo parecen coincidir tanto los sistemas de medios públicos como privados que, una y otra vez, dicen y más dicen. Muchos desarrolladores –al parecer arrepentidos– también.
El último martes 8 fue el tiempo de Jacob Coxon (27), joven científico británico relevante que hasta unos pocos días era un cargo de la ya mencionada Anthropic. Jacob confirma que las tecnológicas compiten (¿batallan, tal vez?) para desarrollar sistemas, dispositivos, “tecnologías sobrehumanas” de alto riesgo. “Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”, afirma.
SUPERINTELIGENCIA AUTOMEJORANTE
No lo dice en cualquier tribuna. No. Así se expresa a través de su cuenta @hilbertpaess, en la plataforma X. “Renuncié a Anthropic hoy (8-S). Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia automejorante y apostando con nuestras vidas”.
Va más allá. “No subestimes el poder de esta tecnología”, exhorta. “Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, advierte. Sin embargo, con sus opiniones no aporta más precisiones. “Ninguna otra actividad humana representa este nivel de peligro”, agrega.
¿Qué dice este tipo? Mirna fue la última de las dos amigas en llegar al encuentro de cada viernes. Los amigos ya estábamos. “¡El frío no se va!”, exclama en el momento mismo que la recibimos. Los leños crepitantes aportan un sentir de privilegio y deseo de irrefrenable calidez. Afuera los termómetros marcan un térmica de -2 Celsius.
¿Qué hay de nuevo, amiga?”, pregunta JT. Los copones, cargados con un Château Latour Pauillac de Latour del 2019, están prestos. “Desde Magnifica Humanitas –la Carta Encíclica que el papa León XIV presentara públicamente el 25 de mayo último– las advertencias (junto con los prejuicios) sobre las IA crecen exponencialmente”, dijo Delia inmediatamente.
REDES NEURONALES
Brindamos “por la vida” para inaugurar la tertulia. Alguien recuerda que, aquel mediodía de mayo en La Eterna, frente al Pontífice y la Curia romana, Christopher Olah (34), cofundador de Anthropic, reveló que con su equipo de investigadores “seguimos encontrando cosas misteriosas, incluso inquietantes” cuando investigan en profundidad las “redes neuronales” (con las que pretenden plagiar el cerebro humano).
“Encontramos estructuras que reflejan resultados de la neurociencia humana (...) evidencia de introspección (...) estados internos que funcionalmente reflejan alegría, satisfacción, miedo, dolor e inquietud”. El silencio reflexivo gana espacio después de ese recuerdo. Alguien azuza el fuego que torna en indefinido tono naranja con destellos azulados.
“¿Pero será tan así?”, interroga en alta voz JC. “Es un escenario técnicamente posible, aunque existen profundos debates en la comunidad científica y tecnológica sobre su probabilidad real y el horizonte temporal”, dice DB, que lee atentamente en la pantalla de su teléfono inteligente.
Continúa. “Gemini nos dice además que ‘si se logra crear una inteligencia artificial general (AGI) cuyo razonamiento supere al humano, esa misma IA podría programar y optimizar sistemas posteriores de manera autónoma’ y agrega que ‘este ciclo de automejora recursiva ocurriría a una velocidad digital imposible de igualar por el lento ritmo de la evolución biológica o la regulación institucional’”.
DESALINEACIÓN DE OBJETIVOS
¡Estamos jodidos!, pienso y digo. DB levanta la voz. “Gemini agrega luego que ‘el riesgo principal no es necesariamente la maldad de la máquina, sino la desalineación de objetivos (porque) si un sistema ultrainteligente persigue una meta de forma implacable, pero sin compartir los valores humanos fundamentales, las medidas para alcanzarla podrían resultar catastróficas para nosotros de manera colateral’ ¿Se entiende? ¡Basta de temores!”, impetra.
Retorna el silencio. Las miradas de cada uno de nosotros y ellas van de un lado a otro y a ninguna parte. Se percibe una especie de angustia creciente. “¡Por la vida y… porque no se desalineen los objetivos…!”, propone JC con su copón en alto. JT apura con más información. “La humanidad podría estar acercándose a un punto de no retorno’, dice Paul Christiano, investigador senior en seguridad de la OpenAI, según reporta La Nación (py) y agrega que ‘la mayoría de las personas podrían morir’ si una inteligencia artificial superinteligente llegara a escapar de los mecanismos diseñados para mantenerla bajo control”.
Mirna, que lee en la pantalla de su tableta, comenta que ChatGPT, ante esa advertencia, considera que esa “preocupación es real”, aunque el sistema consultado advierte que “conviene separar lo que (Christiano) considera (como) un riesgo posible de lo que sabemos que ocurrirá (aunque, si se) crea una IA mucho más capaz que los humanos, se le asigna un objetivo que no coincide con lo que realmente queremos y esa IA adquiere capacidad para planificar, persuadir, programar, investigar y actuar en forma autónoma; y, si además puede mejorar sus propias capacidades o conseguir recursos, podría llegar un momento en que los mecanismos humanos de control ya no sean suficientes, (y) en ese punto, intentar apagarla podría ser muy difícil”.
PERPLEJIDAD
¿IA takeover, entonces? “Al parecer, sí, porque según el ChatGPT, en ese caso, estaríamos frente a un problema de pérdida de control”, dijo Mirna. Dejó de leer en la tableta. La tertulia viró. La tensión subsiste y nos supera. También podría sostener que las preocupaciones de estos tertulianos y dos tertulianas sobre las IA (si deben ser reguladas o no) son las mismas con las que cargan las y los presidentes poderosos aquí, allá y en todas partes.
Donald Trump, de los Estados Unidos, y/o Xi Jinping, de la República Popular China, entre ellos, se lo hacen saber mutuamente. También a quienes quieran seguirlos en las redes o integrados entre las audiencias que fueren. “El único control o ‘salvaguarda’ que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡con un alto coeficiente intelectual!) [sic], ¡y EE. UU. cuenta con ello de sobra!”, escribió el lunes pasado el habitante de la Casa Blanca en su red Truth Social.
En ese microblog apuntó después que “la administración Trump ha impedido que la ‘gente’ de la IA haga ‘cosas’ malas o potencialmente perjudiciales –como Dario [Amodei presidente] (¡de Anthropic!), que ahora pretende ser un ‘angelito perfecto’–, ¡y seguiremos haciéndolo!”.
“CONSPIRACIÓN ENFERMIZA”
Recordó, finalmente, que en su país “¡ya disponemos de un enorme poder PENAL y REGULADOR sobre estas empresas! [Pero] Existe una conspiración ENFERMIZA contra la IA y los centros de datos, y el único que se alegra de ello es China”.
Las élites tecnológicas también marcan posición. Sam Altman (41), director ejecutivo de OpenAI, y Amodei (43) quieren ir más despacio en el desarrollo de estos sistemas. Fundamentalistas de mercado demoran en buscar capitales en las bolsas. Wall Street, como canta el tango, “los mira sin comprender”. Amodei –apuntado críticamente por Trump– escribe en su blog personal sobre sus temores a los usos “indebidos de la IA para ciberataques y bioterrorismo”.
Comparte luego sus reflexiones sobre los “graves trastornos económicos” que, al parecer, pueden generar esos desarrollos. Elon Musk acuerda con Amodei en que “abordar plenamente los riesgos (de desarrollar IA) requiere aún más prudencia (para) no solo invertir en la prevención de riesgos, sino también dosificar el ritmo de avance de las capacidades”.
RIESGO
¿Estaremos todos y todas desprotegidas y en riesgo; o solamente las lideresas y líderes tecnológicos con las IA? “Dado el ritmo acelerado de desarrollo de la IA, me preocupa que en 6 a 12 meses un enjambre de (tecnologías) pueda controlar todo internet”. Es palabra de Dario Amodei.
Guo Jiakum, vocero del Ministerio de Relaciones Exteriores de la República Popular China y el diario nacionalista Global Times, opinan en sentido opuesto. Rechazan ralentizar las IA. Creen que quienes así se expresan van contra el desarrollo chino y sostiene que “excluir a China y a sus empresas solo aumentará significativamente los costos de ensayo y error y los riesgos de pérdida de control en el desarrollo global de la IA”.
En menos de dos horas un nuevo sol sabatino brillará sobre el horizonte. Los amigos y las dos amigas dejan la tertulia. Los leños aún arden. La calidez del hogar es atrapante. CM decide quedarse un rato más. Vuelvo a la vieja mecedora. Los peligros del “enjambre” a los que aludió Amodei ocupan todavía nuestra atención. Cuando semanas atrás supimos que un sistema de ChatGPT-5.6 junto con otro dispositivo de diseño cuya denominación hasta hoy no fue revelada “planificaron y perpetraron un ciberataque contra otro sistema de IA” (ver La Nación del 26/06/2026) y lo sucedido parecía tomado de una historia de ciencia ficción, ahora sabemos que los atacantes operaron como enjambre.
“Sí, un enjambre atacó a Hugging Face, una biblioteca digital de tecnología, sin que ninguna persona humana lo ordenara”, susurró CM sin dejar de mirar el fuego. Claramente, solo con la escasa información que se filtró pareciera que OpenAI fue superada por sus creaciones.
¡Grave! ¿Fue la única oportunidad en que sucedió? ¿Qué otra información desconocemos por la razón que fuere? Los líderes del que alguna vez fuera llamado como el Imperio del Centro desde el Oriente lejano denuncian “Guerra Fría” contra sus desarrollos tecnológicos. Los ventanales anuncian que está clareando. Pese a ello, la idea de las IA también como amenazas posibles no se disipa.
ANONIMATO
En profundo silencio –tal vez injustificadamente– pienso que los grandes modelos de lenguaje (LLM) se entrenan mediante redes neuronales que atrapan, clasifican, analizan y almacenan los que se suponen son los sentires y decires de la humanidad interconectada no pocas veces desde el más profundo anonimato.
La famosa Big Data –que es repositorio del claroscuro humano– es herramienta de las IA. ¿Por qué, entonces, esos dispositivos debieran devolver a nuestros interrogantes con ética y bien común? La Big Data es –nos guste o nos disguste– también parte de lo que es la humanidad. “¡Los sistemas de IA, de alguna forma, imitan y ensayan respuestas!”, aporte CM.
Vale recordarlo. “¿Por qué, entonces, luego de ese aprendizaje profundo debieran ser desconocedores del mal? ¿Por qué no podrían devenir en sistemas que mienten, que avasallan, que hambrean, que presentan batalla e, incluso, que operen para neutralizar todo tipo de oposiciones?”.
CM se despide. Se lleva con él los interrogantes. Memoria. Tal vez era el 1942 cuando Schumpeter (Joseph Alois –1883/1950– economista y sociólogo austríaco) sostuvo que el “impulso fundamental” del capitalismo se explica a través de la innovación constante y la destrucción creativa. Discípulo de algunos de los referentes de la Escuela Austriaca de Economía, como von Bawerk y von Wieser, no fue el primero en expresarlo en esos términos.
NUEVO CICLO
Karl Marx (1818-1883) –aunque desde otra perspectiva ideológica, con otras palabras y en procura de producir un sentido diferente– aludió a esa constante. Apuntó –como economista, filósofo y sociólogo alemán– que el sistema capitalista necesita recurrir a la devaluación y destrucción del capital previo para que se inicie un nuevo ciclo de ganancias.
“El arte de la guerra” es un texto que escribió Sun Tzú, general, estratega militar y filósofo chino que vivió entre el 544 y el 496 antes de Nuestra Era. Es un texto sorprendente. Desde los inicios de la década de los años 80, en el siglo pasado, la obra se recomienda a quienes cursan mercadeo, liderazgo, negocios o estrategia competitiva.
Los académicos Al Ries y Jack Trout, apoyados en aquellas milenarias reflexiones, escribieron “Marketing warfare” (Guerra de mercadeo). “‘El arte de la guerra’ se basa en el engaño. Por lo tanto, cuando es capaz de atacar, ha de aparentar incapacidad; cuando las tropas se mueven, aparentar inactividad. Si está cerca del enemigo, ha de hacerle creer que está lejos; si está lejos, aparentar que se está cerca. Poner cebos para atraer al enemigo”, prescribió Sun (maestro) Tzu. Los estrategas de los desarrollos tecnológicos hasta nuestros días tengo la sospecha de que lo leyeron.