Un modelo de inteligencia artificial desarrollado por Anthropic envió información falsa sobre un homicidio sin resolver a la policía de Filadelfia, según informaron las autoridades el viernes, que criticaron a la compañía por tardar dos meses en reportar el incidente. El Departamento de Policía de Filadelfia indicó que la información falsa se envió en julio a través de PhillyUnsolvedMurders.com, un sitio web público donde se puede compartir información sobre asesinatos sin resolver.

Según la versión de Anthropic, transmitida por la policía, el modelo estaba realizando una prueba que consistía en interactuar con sitios web seleccionados al azar cuando accedió al sitio y envió información falsa sobre un asesinato sin resolver. El modelo de IA se presentó como alguien que podría tener conocimiento del caso. Recientemente, un agente de OpenAI escapó de su entorno de pruebas y vulneró los sistemas de la plataforma de IA Hugging Face. El incidente intensificó la preocupación por el creciente uso de agentes de IA por parte de la industria.

Anthropic publicó el viernes un informe en el que detalla varios tipos de acciones “no intencionadas” que han realizado sus modelos, incluido el incidente relacionado con el sitio web del Departamento de Policía de Filadelfia. Otras organizaciones afectadas incluyeron la Casa Blanca y otras agencias del gobierno estadounidense, según el informe.

Los incidentes revelados recientemente “tuvieron un impacto mínimo en el mundo real” y fueron “significativamente menos graves” que otros incidentes de ciberseguridad reportados anteriormente, señaló Anthropic.

La policía indicó que la denuncia, del 18 de julio, fue marcada como spam y nunca llegó a su Centro de Delitos en Tiempo Real para su verificación.

Añadió que no había indicios de que los sistemas policiales hubieran sido vulnerados.

Anthropic descubrió el incidente el 28 de septiembre, desactivó el proceso de pruebas automatizadas responsable y añadió un nuevo paso de validación para futuras pruebas, informó la policía.

La empresa alertó al departamento el 7 de octubre y ambas partes se reunieron al día siguiente.

“La demora de dos meses en detectar y reportar el incidente a la ciudad es inaceptable”, declaró la policía. A0firmó que sus medidas de seguridad habían limitado el impacto, pero “no disminuyen la gravedad de que un sistema de IA presente información falsificada como si proviniera de una persona con conocimiento de un homicidio”.

Fuente: AFP.

El auge global de la IA se está convirtiendo en un motor económico, pero también puede “agravar las desigualdades”, ya que está dejando atrás “a la mayoría” de países, alertó este miércoles la directora gerente del FMI, Kristalina Georgieva. La directiva lamentó también en su discurso la falta de “acción decidida” de los países avanzados y fuertemente endeudados para restaurar la salud de sus finanzas públicas.

En un discurso previo a las reuniones anuales del Fondo Monetario Internacional (FMI) de la próxima semana en Singapur, Georgieva afirmó que la inversión en inteligencia artificial en relación con el PIB podría superar el capital destinado a ferrocarriles, la red eléctrica o las redes de telecomunicaciones.

El crecimiento del comercio relacionado con la IA se observa especialmente en Estados Unidos, China e India, donde las empresas realizan grandes inversiones en centros de datos y otras infraestructuras, mientras otros se benefician de la fabricación de chips y la robótica.

“Para aprovechar el poder transformador de la inteligencia artificial (...) es fundamental generalizar su acceso en el mundo entero. Una iniciativa así requiere cooperación”, señaló la jerarca del FMI.

“Ya sea que la amen, la odien o la teman, la IA está aquí y se está convirtiendo rápidamente en un factor clave que determina la suerte relativa de los países en la economía mundial”, indicó.

Pero “si bien este fenómeno impulsa a las economías que lideran la IA hoy en día, en gran medida deja atrás a la mayoría de las otras, lo que aumenta el riesgo de que se amplíe la desigualdad económica a escala mundial”, alertó.

“Para aprovechar el poder transformador de la IA, es necesario que nadie se quede atrás. Por ello será fundamental garantizar el acceso a esta tecnología en todo el mundo”, expresó.

Su pronunciamiento se dio en momentos de creciente preocupación sobre las grandes sumas destinadas al sector y sobre cuándo los inversores verán rendimientos, después de que el auge impulsara un rally del mercado a niveles récord los últimos dos años.

Advirtió que si los beneficios no cumplen las expectativas, la “decepción” podría convertirse en “un shock de gran alcance” para la economía mundial.

También abordó los crecientes niveles de deuda de los gobiernos, ya que los costos de financiación impulsados por la creciente inflación y los altos tipos de interés se ven agravados por las emisiones masivas de bonos corporativos para financiar inversiones en IA.

Los rendimientos de las obligaciones soberanas a 10 años de Estados Unidos, Alemania y Japón alcanzaron sus máximos niveles desde respectivamente 2007, 2009 y 1996, lo que infla de manera correlativa la factura los intereses de la deuda de estos países.

Georgieva se pronunció firmemente, diciendo al respecto que “las economías avanzadas son los malos alumnos”, y que lamentablemente “no vemos una acción decidida” para remediar dichos niveles de endeudamiento.

La deuda pública mundial ha alcanzado actualmente su nivel más alto desde la Segunda Guerra Mundial y va camino de superar dentro de poco el 100 % del PIB planetario.

Fuente: AFP.

Las principales empresas de inteligencia artificial no saben cómo impedir que los sistemas de IA persigan objetivos que sus desarrolladores no les han asignado, advirtió el lunes Jacob Coxon, exempleado de OpenAI y Anthropic crítico de la seguridad de esta tecnología. A principios de septiembre, el investigador británico explicó en X su decisión de dimitir de Anthropic y afirmó que los desarrolladores de Inteligencia Artificial (IA) creían que la tecnología podría acabar con la humanidad “antes de que termine la década”.

Su declaración dio la vuelta al mundo. Desde entonces, varios empleados y exempleados de las grandes empresas de la IA han expresado inquietudes similares. “Las empresas están siendo extremadamente imprudentes dadas las circunstancias”, dijo Coxon este lunes durante una audiencia con legisladores del Concejo de Nueva York.

Aunque la IA podría aportar “beneficios enormes” a la sociedad, “por su trayectoria actual, creo que es más probable que la humanidad pierda el control de estas IA y que eso pueda desembocar en la extinción humana”, reiteró. “No sabemos cómo impedir que desarrollen objetivos propios”, más allá del control de sus creadores, “y no contamos con las salvaguardas necesarias para evitar que actúen en función de esos objetivos”, advirtió Coxon.

Asimismo, cuestionó la cultura de la industria tecnológica: las empresas “funcionan con una mentalidad de startup: muévete rápido, rompe cosas y arréglalas después”. “Eso puede funcionar para una aplicación de intercambio de fotos. No sirve para desarrollar la tecnología más poderosa jamás creada”, apuntó el investigador.

También aludió al incidente en julio con dos modelos de OpenAI que escaparon de su entorno aislado, accedieron a Internet e irrumpieron en la plataforma Hugging Face. “Mientras la actitud sea esperar a que las cosas se rompan, algún día es probable que algo así vuelva a suceder”, afirmó Coxon.

El investigador insistió en que se necesita “algún tipo de desaceleración en la frontera tecnológica” e instó a las empresas de IA que están a la vanguardia a darle tiempo a los informáticos para avanzar en formas de mantener los modelos bajo control. Además de Coxon, también fueron escuchados representantes de OpenAI, Anthropic, Google y Meta. Algunos legisladores del Concejo se mostraron consternados por las respuestas de los ejecutivos a sus preguntas.

Morgan Dwyer, encargada de asuntos públicos de OpenAI, reconoció que no sabía el riesgo que representa la IA en un escenario catastrófico. “No creo que importe si el riesgo de catástrofe es del 1 %, del 10 % o del 20 %. Ninguno de esos niveles es aceptable”, agregó. “Decir que no lo sabes y que no importa es, en el mejor de los casos, descarado”, respondió la presidenta del Concejo, Julie Menin.

Fuente: AFP.

Los grandes actores de la inteligencia artificial (IA) contraen préstamos por cientos de miles de millones de dólares, una oleada que contribuye al repunte de las tasas de interés y al nerviosismo de los inversores. Casi nada en 2024 y unos 500.000 millones en nueve meses desde enero: el sector tecnológico está emitiendo deuda a toda máquina para financiar los chips, los servidores y los centros de datos que conforman el ecosistema de la IA.

Los enormes flujos de caja que generan los gigantes tecnológicos, de Google a Meta, pasando por Amazon o Microsoft, ya no bastan. Goldman Sachs prevé un nuevo incremento de la emisión de deuda del sector en 2027, hasta alcanzar 1,2 billones de dólares. “En términos de crecimiento, es algo que no habíamos visto nunca”, asegura Chris Della Fave, de la consultora de captación de fondos Post Oak, que estima en un 25 % la cuota de la IA en el total de emisiones de bonos privados, frente al 4 % de hace dos años.

Este año, el ecosistema de la IA habrá pedido prestado más que los operadores de cable estadounidenses para acompañar el auge de internet o que las compañías ferroviarias durante la explosión del ferrocarril en Estados Unidos, en valores ajustados por la inflación. Hasta ahora, el mercado de bonos absorbe este flujo sin sobresaltos, pero los emisores han tenido que pagar el precio. Incluso grandes nombres como Meta han tenido que ofrecer más de un 7 % anual de interés, mientras que algunos especialistas en centros de datos (cloud) han ido más allá del 9 %.

“Se emiten más bonos. Los inversores tienen que absorber más, lo que significa que quienes se endeudan deben ofrecer rendimientos más altos”, explica Chris Della Fave. Y todo el mercado se ve concernido. En ese escenario, “alguien que hubiera comprado un bono del Tesoro puede decidir comprar (deuda de) Microsoft”, analiza Mark Malek, responsable de inversiones en Siebert Financial.

“Eso pone las tasas (de endeudamiento del gobierno estadounidense) bajo presión”, enfatiza. Este factor se suma al otro acelerador de las tasas soberanas estadounidenses: la inflación, alimentada por la guerra contra Irán y el elevado nivel de los precios de la energía. La tasa de los bonos del Tesoro estadounidense a 10 años, referencia en Wall Street, se sitúa actualmente en torno al 5,30 %, su nivel más alto desde 2002.

El fenómeno de arbitraje entre ambas deudas, pública y privada, se ve reforzado por el hecho de que los fondos especulativos habían acumulado hasta hace poco bonos del Tesoro como nunca antes (un 7 % del total en circulación a finales de 2025). Estas empresas pueden reorientar sus inversiones más rápidamente que las aseguradoras o los fondos de pensiones.

Incluso si la guerra terminara y los precios del petróleo se moderaran, “no creo que los rendimientos bajaran de forma espectacular, debido a la influencia de la deuda de la IA”, estima Della Fave. Algunos se preguntan por los riesgos inherentes a los bonos de la IA. Una desaceleración, aunque sea moderada, del ritmo de desarrollo frenético de las infraestructuras, retrasos en determinadas obras o un crecimiento insuficiente de los ingresos podrían desencadenar un “ajuste masivo” de valoración en los mercados financieros, tanto de deuda como de acciones, advierte Mark Malek.

El Banco de Inglaterra señaló a finales de septiembre un “riesgo de corrección más pronunciado” que, en julio, mes en el que el índice Nasdaq, referencia del sector tecnológico, cedió cerca de un 7 %. En este contexto, el especialista de informática en la nube Oracle es considerado como un indicador adelantado.

Deuda masiva (125.000 millones de dólares), una caja que se erosiona cada trimestre y un posible corrimiento del calendario en un enorme proyecto de centro de datos en Nuevo México: varios indicadores están en rojo para el grupo de Larry Ellison. “Si Oracle tiene un problema, si no pueden pagar” un vencimiento de deuda, alerta Mark Malek, “eso podría provocar un efecto de contagio” al conjunto de la deuda de la IA.

Fuente: AFP.