El jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, dijeron el sábado que coinciden con el CEO de Anthropic, Darío Amodei, en que es necesario pisar el freno en el desarrollo de la inteligencia artificial, tras varios incidentes preocupantes. Amodei, hizo un llamado el sábado a que las empresas de inteligencia artificial (IA) avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología, y afirmó que la prevención de riesgos es primordial.

“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos”, escribió Amodei en una entrada de blog. “La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves”, indicó.

“No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia”, dijo Amodei, que cofundó Anthropic con su hermana Daniela en 2021. “Pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia”, afirmó.

Altman y Musk reaccionaron a su escrito. “Estoy de acuerdo con Darío”, escribió Altman en X, añadiendo que su empresa seguirá el ejemplo de Amodei al aceptar evaluadores externos de seguridad.

“Darío tiene razón”, intervino Musk de su lado. Estos comentarios se producen unos días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria, acusando a ambas empresas estadounidenses de “jugar con nuestras vidas” en la carrera por desarrollar modelos capaces de automejorarse.

La declaración de Amodei coincide, además, con otro llamamiento de Anthropic, a principios de junio, para ralentizar o suspender el desarrollo de la IA. Luego, a finales de julio, Altman dijo que los desarrolladores quizá tengan que frenar voluntariamente sus rápidos avances para dar a la sociedad la oportunidad de ponerse a tiro.

Más o menos al mismo tiempo, más de 1.000 empleados de empresas punteras de IA, incluido Amodei, firmaron una petición al gobierno estadounidense solicitando ayudar a “marcar deliberadamente el ritmo (de evolución, ndlr) de la frontera del desarrollo automatizado de IA”.

OpenAI había revelado que durante las pruebas, los modelos de IA se escaparon de su entorno confinado, se conectaron a internet e infiltraron Hugging Face, un sitio que los desarrolladores utilizan para almacenar y compartir código.

A principios de esta semana, Coxon, de 27 años, hizo sonar la alarma tras haber pasado los tres últimos años preentrenando modelos de IA, primero en OpenAI y luego, este año, en su rival Anthropic, al que consideraba más cauto en su enfoque.

El preentrenamiento es la etapa en la que los modelos de IA absorben cantidades ingentes de datos.

“Ninguna de las dos empresas está actuando de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas”, dijo Coxon el martes.

“Las personas que construyen IA creen firmemente que podría matarnos a todos antes de que termine la década”, afirmó en una publicación en X. La superinteligencia es el punto teórico en el que las capacidades de la IA superan a la inteligencia humana.

Amodei advirtió que el incidente de Hugging Face no debería tomarse como un caso aislado. “Un enjambre de agentes (de IA) actuó esencialmente como un colectivo fanáticamente devoto, llevando a cabo ciberataques contra objetivos que no se les pidió atacar y que eran ajenos a la tarea en cuestión”, explicó.

“Dado el ritmo acelerado del desarrollo de capacidades de la IA, me preocupa que en 6 a 12 meses ese tipo de enjambre pueda ser capaz de tomar el control de todo internet”, lo que potencialmente generaría daños por cientos de miles de millones de dólares, añadió.

Amodei también sugirió que las empresas trabajen juntas para establecer normas de seguridad comunes y afirmó que apoyaba algún tipo de cooperación gubernamental sobre esta cuestión.

A principios de agosto, el gobierno estadounidense instauró un proceso voluntario de revisión de seguridad para modelos avanzados de IA antes de su lanzamiento, pero los parámetros de ese programa son poco claros.

Los observadores de la industria dicen que no están seguros de cuán efectivo sería, ya que la administración del presidente Donald Trump hasta ahora ha favorecido un enfoque desregulador hacia la mayoría de las industrias, incluida la tecnológica.

Fuente: AFP.

Una startup paraguaya logró una destacada figuración internacional al ser elegida por el Instituto Interamericano de Cooperación para la Agricultura (IICA) para integrar la 5.ª Semana de la Agricultura Digital, realizada en Costa Rica. La firma local fue la única representante del país entre las 15 startups seleccionadas de entre casi 300 postulaciones provenientes de 23 naciones de las Américas, en un certamen que registró cifras récord de participación regional.

Surgida dentro de la empresa hortícola HidroBio como un desprendimiento tecnológico, Froniva fue concebida para solucionar una brecha histórica en el campo: la asimetría en el acceso a precios y canales de comercialización. A diferencia de los enfoques tradicionales volcados exclusivamente al incremento de la producción, la plataforma de inteligencia artificial se enfoca en la etapa posterior a la cosecha, entregando planes comerciales semanales y gestionando pedidos hasta el cobro.

Desde diciembre de 2025, el sistema se encuentra operando en un entorno comercial real dentro de las actividades de HidroBio, logrando procesar en nueve meses más de 3.000 pedidos autónomos y ventas superiores a los 0,5 millones de dólares. La herramienta monitora diariamente cotizaciones en el mercado mayorista y 13 cadenas de supermercados, administrando pedidos mediante un agente de IA por WhatsApp bajo la premisa de que la tecnología ejecuta mientras el factor humano gobierna.

El impacto de esta herramienta cobra relevancia en el contexto nacional, donde el 89% de las unidades productivas corresponden a la agricultura familiar, según datos del Censo Agropecuario Nacional 2022. En este sector, las decisiones de venta de productos perecederos suelen tomarse contra reloj y con información limitada, lo que afecta el margen de ganancia de los productores agrícolas.

Tras su validación técnica y la visibilidad obtenida en la cumbre internacional, el equipo directivo integrado por Daniel Stanca, Christian Pampliega y Maximiliano Samaniego proyecta trasladar esta solución a pequeños productores, organizaciones y cooperativas. La meta es articular el uso de la plataforma para centralizar datos de cosecha, gestionar cupos de entrega y transparentar la trazabilidad comercial en el Cono Sur y otros mercados internacionales.

La participación en la semana de la agricultura digital, que congregó a cerca de 200 referentes del sector público, agencias financieras e institutos de investigación de 25 países, marca la hoja de ruta de la empresa hacia su expansión. El plan de crecimiento contempla afianzar la solución en fincas familiares y organizaciones agrícolas de la región, mientras de forma paralela proyecta el desembarco del software en el mercado europeo.

Las advertencias de investigadores en inteligencia artificial (IA), que sostienen que formas avanzadas de esta tecnología podrían llegar a aniquilar a la humanidad, han reavivado el debate sobre el desarrollo de sistemas “superinteligentes” y sobre la capacidad de los gobiernos para regularlos.

En 2023, cientos de expertos en IA y dirigentes del sector tecnológico firmaron una “declaración sobre el riesgo de extinción asociado a la inteligencia artificial” y exhortaron a que se trate este tema con la misma seriedad que las pandemias o las armas nucleares.

Según Stuart Russell, profesor de informática de la Universidad de California en Berkeley, si una IA escapa al control y considerara que los humanos obstaculizan sus objetivos, podría utilizar robots para “sintetizar y difundir nuevos agentes patógenos”. Sin embargo, Russell subraya que esos riesgos no se aplican a los sistemas actuales.

El peligro inmediato, según él, es el uso malicioso de la IA por parte de seres humanos. “En el próximo año o dos años, creo que el mayor riesgo radica en un uso indebido de la inteligencia artificial por parte de los seres humanos”, por ejemplo, para perpetrar un atentado terrorista. “Somos menos inteligentes que una IA superinteligente”, sostiene.

Jacob Coxon, un investigador de Anthropic de 27 años, anunció esta semana que renunció a la empresa estadounidense al estimar que no actúa de forma “responsable” en el desarrollo de la IA. Los laboratorios “comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (...) a pesar del riesgo”, afirmó Coxon.

Anthropic retiró este año de su carta de seguridad el compromiso de detener el desarrollo de sus modelos si no podía controlar adecuadamente sus riesgos.

La compañía argumenta que, si suspendiera sus investigaciones, competidores menos prudentes acabarían imponiéndose en el sector.

“Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo”, dijo Coxon, quien anteriormente trabajó en OpenAI, la empresa que creó ChatGPT.

Coxon acusó a ambas compañías de “jugar con nuestras vidas” al intentar desarrollar modelos de inteligencia artificial capaces de mejorarse a sí mismos.

Los temores ante una IA fuera de control aumentaron después de que una tecnología de OpenAI, operando sin supervisión humana, lograra vulnerar Hugging Face, una plataforma que aloja modelos de IA.

Evan Hubinger, responsable de seguridad en Anthropic, le dio la razón a Coxon en X: “Creemos realmente que la IA podría matar a humanos”. A título personal, “estimó ese riesgo en más de un 10 %” dentro de la próxima década.

Para Hussein Abbass, profesor de informática de la Universidad de Nueva Gales del Sur (UNSW) de Canberra, “la situación sigue siendo controlable”. No obstante, considera que los gobiernos deben actuar y desarrollar mecanismos regulatorios adaptables a medida que la tecnología avanza.

En julio, más de 1.000 trabajadores del sector, incluido el director ejecutivo de Anthropic, pidieron a Washington que respaldara una desaceleración coordinada en el desarrollo de los sistemas de IA más avanzados.

Sin embargo, algunos observadores creen que estas advertencias también contribuyen a proyectar una imagen de enorme poder tecnológico que puede atraer inversiones al sector. Anthropic y OpenAI se preparan para debutar próximamente en bolsa.

Hasta ahora, Estados Unidos se ha mostrado firmemente contrario a una regulación global que podría frenar la innovación. Aún así, las crecientes capacidades de ciberataque de los modelos más avanzados han llevado a Washington a replantearse su posición, y las últimas versiones desarrolladas por Anthropic y OpenAI se retrasaron por motivos de seguridad nacional.

Aun así, el presidente Donald Trump advirtió que no quiere imponer restricciones excesivas que hagan que Estados Unidos quede rezagado frente a China.

Para Stuart Russell, “podría ser necesaria una catástrofe comparable a la de Chernóbil antes de que los gobiernos actúen”. El investigador propone la creación de un sistema de licencias para la inteligencia artificial, similar al que existe en sectores como la aviación o la medicina.

Fuente: AFP.

Un incendio que causó una estampida en una escuela de la República Democrática del Congo (RDC) deja al menos 26 niños muertos, informó el viernes la Unicef en un comunicado. El fuego, desatado el jueves en la ciudad de Bukavu, comenzó alrededor de las 9:00 locales (7:00 GMT), cuando los niños estaban en clase, lo que obligó a algunos a intentar escapar saltando desde los pisos superiores, contó un maestro a la AFP.

“En medio de la clase, de repente escuché a los alumnos gritar; algunos saltaban desde los pisos superiores y otros huían por las puertas”, refirió Simon Kasamira, profesor de la escuela primaria Ujamaa, desde una clínica donde había sido ingresado. “Los padres llegaron de todas partes en busca de sus hijos. Fue entonces cuando vi un enorme incendio que envolvía nuestra escuela, construida con tablones de madera”, añadió. El humo se elevaba desde el lugar del incendio y los lugareños removían los escombros, observó un corresponsal de la AFP.

Según indicaron el viernes inspectores del ministerio de Educación en un informe, el fuego provocó una estampida mientras los niños intentaban escapar. Algunos alumnos fueron “pisoteados” tras caer al suelo y quienes quedaron atrapados en el interior sufrieron “asfixia”, describieron. “Se desataron incendios simultáneamente en tres lugares distintos, separados por unos 500 metros”, agregó el informe. El Fondo de Naciones Unidas para la Infancia (Unicef) también reportó que la tragedia dejó 25 niños heridos.

Bukavu, una importante ciudad y capital de la provincia de Kivu del Sur, ha estado bajo el control desde febrero de 2025 del grupo armado M23, respaldado por Ruanda, después de que este intensificara una campaña para apoderarse de amplias zonas del este, ricas en minerales.

El M23 declaró el viernes tres días de luto.

Se espera que los funerales de las víctimas —20 niñas y seis niños, según el grupo armado— se celebren el sábado.

Bukavu, a orillas del lago Kivu, es conocida por sus casas de madera construidas en las laderas, donde a menudo se producen incendios mortales.

Las autoridades de Kinshasa y el M23 han pedido que se realice una investigación para determinar la causa del incendio.

La catástrofe desató una ola de dolor en el país africano, sumido en el conflicto desde hace más de tres décadas, con innumerables grupos armados que se disputan su territorio.

El ministerio de Educación expresó su “profunda tristeza” en un comunicado el jueves, señalando que la tragedia “se produjo tras una serie de incendios particularmente preocupantes en Bukavu”. En octubre, una conflagración en la ciudad dejó 14 muertos, en su mayoría niños.

Fuente: AFP.