La carrera por desarrollar sistemas de inteligencia artificial cada vez más potentes comienza a abrir una pregunta que hasta hace poco parecía propia de la ciencia ficción: ¿Se puede y es seguro ralentizar el desarrollo de la IA?

El empresario Elon Musk considera que sí. El magnate respaldó públicamente la propuesta de Dario Amodei, director ejecutivo de Anthropic, quien planteó reducir el ritmo de avance de los modelos más avanzados para evitar que sus capacidades crezcan más rápido que los mecanismos destinados a controlarlas.

“Dario tiene razón”, escribió Musk en su cuenta de X, en referencia a la propuesta del ejecutivo de Anthropic.

La discusión no plantea necesariamente detener la inteligencia artificial ni abandonar sus potenciales beneficios. La idea es introducir una suerte de “velocidad controlada” en el desarrollo de los modelos más avanzados, de manera que la investigación sobre seguridad, evaluación y alineación pueda acompañar el aumento de sus capacidades.

Te puede interesar: Gastronomía de autor: el proyecto que ya vende más de 8.000 hamburguesas al mes

Amodei propone avanzar en tres frentes:

• El primero consiste en incorporar evaluadores externos independientes dentro de las compañías de IA, con acceso permanente a sus procesos y sistemas para comprobar si realmente se cumplen las medidas de seguridad y detectar incidentes.
• El segundo plantea que las principales empresas de IA de los países democráticos coordinen estándares comunes de seguridad y establezcan límites frente a avances que se produzcan sin controles suficientes.
• El tercer paso llevaría la discusión al ámbito internacional, buscando acuerdos entre gobiernos, incluso entre países con sistemas políticos enfrentados, para establecer reglas mínimas sobre el desarrollo y los usos más peligrosos de esta tecnología.

En otras palabras, la propuesta no consiste simplemente en “apagar” la IA, sino en ganar tiempo para probar mejor los modelos, identificar comportamientos inesperados, reforzar los controles y establecer reglas antes de que las capacidades de estas herramientas superen la capacidad de supervisarlas.

La tecnología también puede acelerar investigaciones científicas, mejorar diagnósticos, aumentar la productividad y generar avances que actualmente serían difíciles de alcanzar por métodos tradicionales. El propio Amodei reconoce ese potencial.

Leé también: Industria 4.0 apunta a mejorar la eficiencia y productividad de las plantas industriales

El problema aparece cuando sistemas cada vez más autónomos pueden ejecutar tareas complejas, desarrollar estrategias, utilizar herramientas digitales o participar en procesos que sus creadores no pueden predecir completamente.

A esto se suma otro factor: la velocidad. Si cada generación de modelos contribuye a desarrollar la siguiente, el progreso podría acelerarse todavía más. Amodei advierte que esta posibilidad de “mejora recursiva” podría hacer que la evolución de los sistemas avance más rápido que la capacidad humana para comprenderlos y establecer mecanismos efectivos de control.

También existen riesgos más inmediatos y concretos: utilización de IA para ciberataques, fraude, manipulación de información, desarrollo de armas o automatización de actividades ilícitas. Es decir, no hace falta imaginar una máquina consciente que decida destruir a la humanidad para encontrar peligros reales.

Por eso, el debate que ahora respaldan Musk y otros referentes tecnológicos no debería reducirse a “IA sí” o “IA no”. La pregunta más importante es otra: ¿qué tan rápido estamos dispuestos a avanzar cuando todavía no sabemos con absoluta certeza cómo se comportarán los sistemas que estamos construyendo?

• Fotos: Gentileza

Juan Manuel Acosta Ramírez, Elías Paniagua Velilla, Mauricio Irrazábal Ruiz Díaz y José Rafael Estigarribia son cuatro adolescentes paraguayos de entre 16 y 17 años. Desde Asunción desarrollaron un modelo de inteligencia artificial y lo entrenaron en una computadora equipada con una tarjeta gráfica convencional. Pero su apuesta va más allá de adaptar tecnologías existentes: diseñaron desde cero la arquitectura de su propio modelo de lenguaje.

Juan Manuel, Elías, Mauricio y José son estudiantes del Colegio Santa Clara y desarrollaron YvyrAI, un modelo de lenguaje entrenado desde cero y construido sobre una arquitectura diseñada por ellos mismos. El proyecto nació en Asunción, sin el respaldo de un gran laboratorio de investigación ni de una empresa tecnológica, y fue desarrollado utilizando recursos informáticos al alcance de cualquier usuario avanzado.

Juan está encargado de la parte técnica; Elías de la visión y estrategia; Mauricio es responsable de marca y coautor del trabajo académico, y José el encargado de seguridad. Su apuesta no es competir hoy con los gigantes de la inteligencia artificial. De hecho, ellos mismos hacen una aclaración poco frecuente en un campo dominado por anuncios grandilocuentes: no sostienen que YvyrAI sea más capaz que los grandes modelos regionales o internacionales. Lo que reivindican es otra cosa: haber construido una arquitectura propia.

La arquitectura desarrollada por los jóvenes se denomina DeliberationBlock y constituye el núcleo de YvyrAI. La idea es que el modelo dedique mayor capacidad de procesamiento a problemas complejos sin que necesariamente tenga que aumentar su tamaño. En términos simples, busca que la inteligencia artificial pueda revisar y profundizar su propio razonamiento antes de entregar una respuesta.

Ese diseño fue construido por los propios estudiantes, junto con el tokenizador, el sistema de preparación de datos y el código utilizado para el entrenamiento. El modelo actualmente tiene 105 millones de parámetros y fue entrenado en una tarjeta gráfica convencional, de las que habitualmente se utilizan para videojuegos.

Una de las afirmaciones más llamativas del proyecto es que YvyrAI sería, hasta donde pudieron verificar sus creadores, el primer modelo de lenguaje desarrollado en Paraguay sobre una arquitectura propia y uno de los primeros de Latinoamérica e Hispanoamérica con estas características.

Para intentar comprobarlo, el equipo revisó unos 25.700 modelos publicados en Hugging Face, uno de los principales repositorios de modelos de inteligencia artificial de código abierto.

Según su búsqueda, no encontraron modelos latinoamericanos o hispanoamericanos que combinaran entrenamiento desde cero con una arquitectura propia no derivada de sistemas como Llama, Mistral, Gemma o Qwen.

Sin embargo, los propios desarrolladores ponen un límite a su conclusión: demostrar que algo no existe es particularmente difícil. Un modelo privado, no publicado o que no esté correctamente identificado podría no aparecer en la búsqueda.

Por eso, prefieren hablar de una conclusión acotada: hasta donde pudieron verificar, YvyrAI sería el primer modelo de lenguaje entrenado desde cero en Paraguay y el primero de Latinoamérica e Hispanoamérica que identificaron construido sobre una arquitectura propia.

YvyrAI no pretende presentarse todavía como un asistente capaz de competir con las herramientas de uso masivo. Su versión actual es un modelo base, diseñado para continuar desarrollándose. Puede generar textos en español, pero todavía presenta limitaciones importantes: puede inventar información, tiene dificultades con textos extensos y posee un conocimiento limitado sobre Paraguay.

Los jóvenes atribuyen parte de esas limitaciones a una cuestión concreta: el modelo recibió menos de la mitad de la cantidad de texto que necesitaría para entrenarse adecuadamente para su tamaño.

El siguiente paso será fundamental para comprobar si la arquitectura que diseñaron realmente aporta una ventaja. El equipo planea entrenar un modelo convencional del mismo tamaño utilizando exactamente los mismos textos y comparar ambos resultados.

Solo después de esa prueba podrán determinar si su arquitectura ofrece una mejora real o si simplemente constituye una alternativa diferente.

La meta de largo plazo es mucho más ambiciosa: desarrollar un modelo de 1.000 millones de parámetros. El código y el diseño ya están preparados, pero el modelo todavía no fue entrenado.

El principal obstáculo es el acceso al cómputo. Para completar el entrenamiento necesitarían disponer durante varias semanas de una tarjeta gráfica de última generación funcionando de manera continua o contratar capacidad equivalente en la nube. Para una empresa tecnológica puede representar una inversión relativamente manejable, pero para cuatro estudiantes que trabajan por cuenta propia constituye hoy el principal cuello de botella.

Calculan que, contando la preparación de datos y las pruebas necesarias, podrían necesitar alrededor de dos meses de trabajo computacional. Actualmente buscan un inversor que les permita dar ese siguiente paso.

El proyecto también plantea una discusión que trasciende a YvyrAI. Para sus creadores, Paraguay corre el riesgo de convertirse únicamente en consumidor de inteligencia artificial mientras otros países desarrollan la propiedad intelectual detrás de esas tecnologías.

La ecuación, sostienen, tiene varias capas: energía, infraestructura informática, arquitectura de modelos y aplicaciones. Paraguay tiene condiciones especialmente favorables en las primeras, pero todavía tiene mucho camino por recorrer en las capas de mayor valor agregado.

“Existe el riesgo de terminar vendiendo electricidad barata y comprando de vuelta la inteligencia que se hizo con ella”, advierten.

El problema, desde su perspectiva, no se resuelve únicamente construyendo infraestructura. También requiere formar personas capaces de desarrollar esa tecnología y generar oportunidades para que puedan hacerlo dentro del país.

Por eso plantean tres desafíos: incorporar talento paraguayo a la infraestructura tecnológica que se está instalando, invertir en formación y crear condiciones para que quienes se capaciten encuentren oportunidades laborales en el país.

Pero hay una conclusión todavía más sencilla detrás de su experiencia. Paraguay no necesita esperar a que llegue el futuro para comenzar a desarrollar inteligencia artificial, sino que puede hacerlo con los medios al alcance.

El jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, dijeron el sábado que coinciden con el CEO de Anthropic, Darío Amodei, en que es necesario pisar el freno en el desarrollo de la inteligencia artificial, tras varios incidentes preocupantes. Amodei, hizo un llamado el sábado a que las empresas de inteligencia artificial (IA) avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología, y afirmó que la prevención de riesgos es primordial.

“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos”, escribió Amodei en una entrada de blog. “La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves”, indicó.

“No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia”, dijo Amodei, que cofundó Anthropic con su hermana Daniela en 2021. “Pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia”, afirmó.

Altman y Musk reaccionaron a su escrito. “Estoy de acuerdo con Darío”, escribió Altman en X, añadiendo que su empresa seguirá el ejemplo de Amodei al aceptar evaluadores externos de seguridad.

“Darío tiene razón”, intervino Musk de su lado. Estos comentarios se producen unos días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria, acusando a ambas empresas estadounidenses de “jugar con nuestras vidas” en la carrera por desarrollar modelos capaces de automejorarse.

La declaración de Amodei coincide, además, con otro llamamiento de Anthropic, a principios de junio, para ralentizar o suspender el desarrollo de la IA. Luego, a finales de julio, Altman dijo que los desarrolladores quizá tengan que frenar voluntariamente sus rápidos avances para dar a la sociedad la oportunidad de ponerse a tiro.

Más o menos al mismo tiempo, más de 1.000 empleados de empresas punteras de IA, incluido Amodei, firmaron una petición al gobierno estadounidense solicitando ayudar a “marcar deliberadamente el ritmo (de evolución, ndlr) de la frontera del desarrollo automatizado de IA”.

OpenAI había revelado que durante las pruebas, los modelos de IA se escaparon de su entorno confinado, se conectaron a internet e infiltraron Hugging Face, un sitio que los desarrolladores utilizan para almacenar y compartir código.

A principios de esta semana, Coxon, de 27 años, hizo sonar la alarma tras haber pasado los tres últimos años preentrenando modelos de IA, primero en OpenAI y luego, este año, en su rival Anthropic, al que consideraba más cauto en su enfoque.

El preentrenamiento es la etapa en la que los modelos de IA absorben cantidades ingentes de datos.

“Ninguna de las dos empresas está actuando de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas”, dijo Coxon el martes.

“Las personas que construyen IA creen firmemente que podría matarnos a todos antes de que termine la década”, afirmó en una publicación en X. La superinteligencia es el punto teórico en el que las capacidades de la IA superan a la inteligencia humana.

Amodei advirtió que el incidente de Hugging Face no debería tomarse como un caso aislado. “Un enjambre de agentes (de IA) actuó esencialmente como un colectivo fanáticamente devoto, llevando a cabo ciberataques contra objetivos que no se les pidió atacar y que eran ajenos a la tarea en cuestión”, explicó.

“Dado el ritmo acelerado del desarrollo de capacidades de la IA, me preocupa que en 6 a 12 meses ese tipo de enjambre pueda ser capaz de tomar el control de todo internet”, lo que potencialmente generaría daños por cientos de miles de millones de dólares, añadió.

Amodei también sugirió que las empresas trabajen juntas para establecer normas de seguridad comunes y afirmó que apoyaba algún tipo de cooperación gubernamental sobre esta cuestión.

A principios de agosto, el gobierno estadounidense instauró un proceso voluntario de revisión de seguridad para modelos avanzados de IA antes de su lanzamiento, pero los parámetros de ese programa son poco claros.

Los observadores de la industria dicen que no están seguros de cuán efectivo sería, ya que la administración del presidente Donald Trump hasta ahora ha favorecido un enfoque desregulador hacia la mayoría de las industrias, incluida la tecnológica.

Fuente: AFP.

Una startup paraguaya logró una destacada figuración internacional al ser elegida por el Instituto Interamericano de Cooperación para la Agricultura (IICA) para integrar la 5.ª Semana de la Agricultura Digital, realizada en Costa Rica. La firma local fue la única representante del país entre las 15 startups seleccionadas de entre casi 300 postulaciones provenientes de 23 naciones de las Américas, en un certamen que registró cifras récord de participación regional.

Surgida dentro de la empresa hortícola HidroBio como un desprendimiento tecnológico, Froniva fue concebida para solucionar una brecha histórica en el campo: la asimetría en el acceso a precios y canales de comercialización. A diferencia de los enfoques tradicionales volcados exclusivamente al incremento de la producción, la plataforma de inteligencia artificial se enfoca en la etapa posterior a la cosecha, entregando planes comerciales semanales y gestionando pedidos hasta el cobro.

Desde diciembre de 2025, el sistema se encuentra operando en un entorno comercial real dentro de las actividades de HidroBio, logrando procesar en nueve meses más de 3.000 pedidos autónomos y ventas superiores a los 0,5 millones de dólares. La herramienta monitora diariamente cotizaciones en el mercado mayorista y 13 cadenas de supermercados, administrando pedidos mediante un agente de IA por WhatsApp bajo la premisa de que la tecnología ejecuta mientras el factor humano gobierna.

El impacto de esta herramienta cobra relevancia en el contexto nacional, donde el 89% de las unidades productivas corresponden a la agricultura familiar, según datos del Censo Agropecuario Nacional 2022. En este sector, las decisiones de venta de productos perecederos suelen tomarse contra reloj y con información limitada, lo que afecta el margen de ganancia de los productores agrícolas.

Tras su validación técnica y la visibilidad obtenida en la cumbre internacional, el equipo directivo integrado por Daniel Stanca, Christian Pampliega y Maximiliano Samaniego proyecta trasladar esta solución a pequeños productores, organizaciones y cooperativas. La meta es articular el uso de la plataforma para centralizar datos de cosecha, gestionar cupos de entrega y transparentar la trazabilidad comercial en el Cono Sur y otros mercados internacionales.

La participación en la semana de la agricultura digital, que congregó a cerca de 200 referentes del sector público, agencias financieras e institutos de investigación de 25 países, marca la hoja de ruta de la empresa hacia su expansión. El plan de crecimiento contempla afianzar la solución en fincas familiares y organizaciones agrícolas de la región, mientras de forma paralela proyecta el desembarco del software en el mercado europeo.