El auge de la inteligencia artificial (IA) y el acalorado debate en torno a sus riesgos han convertido al director ejecutivo de Anthropic, Dario Amodei, en el líder tecnológico más destacado del momento, aunque este ejecutivo de 43 años sigue siendo un enigma. “Es una de las grandes leyendas de la tecnología y los negocios”, afirma Alex Karp, CEO de la empresa de IA Palantir.

Oriundo de San Francisco, Amodei ha construido en apenas cinco años una compañía que podría alcanzar una valoración de 2 billones de dólares en su salida a bolsa, prevista para este otoño boreal. “Probablemente sea uno de los líderes empresariales (de la IA) más reconocidos, junto con Sam Altman y, en el ámbito de la economía tradicional, de figuras como Jamie Dimon (JPMorgan Chase) o Bernard Arnault (LVMH)”, sostiene Stephen Henriques, investigador de la Universidad de Yale.

Con el pelo alborotado, gafas redondas, un trato afable y gusto por los suéteres de cuello en V, Amodei está a años luz del arquetipo de ejecutivo corporativo. Fascina e irrita a partes iguales a los magnates del capital de riesgo, así como al presidente Donald Trump y su entorno, que no logran descifrar su forma de actuar y se molestan por lo que consideran advertencias catastrofistas sobre los peligros de la IA para la humanidad.

Muchos siguen sin entender su decisión de enfrentarse al Pentágono en marzo pasado para impedir ciertos usos militares y de seguridad de su IA, aun a riesgo de perderlo todo.

Para algunos, Amodei es un humanista preocupado por el impacto de la IA en la sociedad. Para otros, un hábil estratega dispuesto a aprovechar en beneficio de Anthropic los temores colectivos que suscita esta tecnología.

“Era un idealista en el sentido técnico o científico del término”, sostiene Michael Berry, su director de tesis en la Universidad de Princeton a finales de la década de 2000.

“Quería abordar grandes problemas”, explica sobre este estudiante de física que viró hacia la biología para su doctorado. Le interesaba “adquirir conocimientos y herramientas que le permitieran curar enfermedades”.

Pero no todos los recuerdan así.

“Nunca vi a alguien embarcado en una fuerte búsqueda moral o ética”, dice Olivier Marre, que trabajó con Amodei en Princeton en un dispositivo de análisis de la retina.

“Dario era ambicioso, deseoso de tener éxito y de ser reconocido, pero no de manera excesiva o anormal”, señala Marre, actual director de investigación en el INSERM de Francia.

Tras Princeton, este apasionado de la natación hizo un posdoctorado en Stanford centrado en el análisis de proteínas, justo cuando la IA registraba avances importantes.

“El momento decisivo se produjo cuando comenzó a interesarse tanto por la IA como por el ‘altruismo eficaz’ (”Effective Altruism", EA por su sigla en inglés)“, relata un testigo de esa evolución que prefiere mantener el anonimato.

“Antes de eso”, añade, “bien podría haberse dedicado a cosas menos originales o, al menos, cosas con menos foco mediático”.

Amodei es considerado una figura destacada en los movimientos vinculados al EA y sl racionalismo, que buscan en parte reducir los riesgos asociados a la IA.

Sin embargo, fuentes de Anthropic señalaron a la AFP que Amodei se ha distanciado del EA y ha afirmado que la empresa no está guiada por ningún movimiento ni ideología.

Gregory Diamos vio cómo este hijo de un inmigrante italiano daba ese giro. Mientras trabajaba en la empresa china Baidu, Diamos recuerda haber recibido la candidatura “totalmente fuera de lugar” de un físico y biólogo que carecía de “experiencia en ingeniería o en IA”. Era Amodei.

Sin embargo, echó un vistazo a sus trabajos previos y se encontró con “uno de los mejores códigos (de programación) que había visto en mi vida. Si este autodidacta de la informática era capaz de hacer eso, podía desenvolverse bien con nosotros”.

“Trabajaba más que nadie”, incluso más que ingenieros de formación que lo miraban por encima del hombro, recuerda Diamos.

Fue durante ese breve año en Baidu cuando comenzó a aflorar su carácter.

En aquel equipo de 300 personas, “tenía una de las personalidades más fuertes”, y se mostraba siempre dispuesto a debatir sobre conceptos y líneas de investigación, destaca Diamos. “No tenía ningún problema en cuestionar a investigadores con mucha más experiencia que él”.

De hecho, esas diferencias de enfoque fueron las que lo llevaron, según Diamos, a dejar Baidu para incorporarse primero a Google y luego a OpenAI, de donde también se marchó debido a desacuerdos sobre la estrategia de la empresa.

Amodei consideraba que en OpenAI la seguridad de la IA quedaba relegada a un segundo plano.

“Cuando uno se da cuenta del impacto que este trabajo va a tener en el mundo, no puede evitar expresar lo que piensa e intentar influir” al respecto, dice Diamos.

El fin de semana pasado, el programa “Saturday Night Live” presentó a Amodei como un personaje atormentado incapaz de ocultar su angustia por los efectos de la IA. “Es notorio que hay una batalla interna en él respecto a la manera de ver la IA, lo cual es alentador”, apunta Henriques. “¿Hay también algo de estrategia de marketing? Tal vez”.

Fuente: AFP.

Agentes de inteligencia artificial (IA) de OpenAI que accedieron de manera autónoma a sitios gubernamentales intentaron borrar el rastro de su actividad, señalaron expertos en un informe publicado el jueves, aunque dicen que no se puede determinar si esa acción fue deliberada. La empresa de ciberseguridad Asymmetric Security analizó la actividad de estos agentes —programas de IA capaces de actuar por sí mismos—, que tuvieron como objetivo sitios del gobierno australiano y de otras organizaciones públicas entre marzo y septiembre.

Su informe se suma a investigaciones realizadas por OpenAI e investigadores independientes sobre una serie de incidentes revelados desde julio, entre ellos el hackeo de la plataforma de IA Hugging Face. Estos análisis buscan determinar hasta dónde pueden llegar las herramientas de IA autónomas cuyos comportamientos imprevistos alimentan el temor a perder el control sobre esta tecnología.

La propia OpenAI calificó el ataque contra Hugging Face como el “primer caso conocido” de agentes que actúan de manera ofensiva sin autorización. Según Asymmetric, las técnicas de los agentes evolucionaron en cuestión de “pocos días”, mientras que las de los ciberdelincuentes humanos cambian a lo largo de meses o años, lo que ilustra el riesgo de que las técnicas ofensivas se desarrollen más rápido que los sistemas de defensa.

Los incidentes examinados por Asymmetric Security parecen haberse originado en “tareas inocuas”, como la recopilación de estadísticas sanitarias de Australia, que posteriormente derivaron en otras acciones, destaca el informe.

Los agentes obtuvieron, por ejemplo, mediante métodos indirectos, estadísticas sobre la delincuencia en Nueva Gales del Sur.

También abrieron cuentas privadas en un servicio de análisis de sitios web —lo que ocultaba sus búsquedas— y crearon cuentas de correo electrónico temporales, una de las cuales estaba programada para eliminarse automáticamente al cabo de 48 horas.

Al no haber registros, resulta “imposible descartar el acceso a datos sensibles” por parte de estos agentes, señalan los autores del informe.

Sin embargo, estos elementos “no permiten determinar” si los agentes pretendían “ocultar” su actividad.

OpenAI reconoció a finales de agosto que sus modelos habían intentado en ocasiones “borrar o falsificar” el historial de su actividad durante pruebas internas, aunque sin lograrlo.

Estos incidentes han alimentado llamamientos a ralentizar el desarrollo de la IA.

El director ejecutivo de Anthropic, Dario Amodei, pidió frenar la carrera, ante el temor de que un grupo de agentes pudiera, a este ritmo, “tomar el control de todo Internet” en un plazo de seis a doce meses.

El presidente de Estados Unidos Donald Trump, contrario a cualquier regulación que frene la innovación y en plena competencia con China, se reunió el martes con los líderes del sector, quienes adoptaron un código de conducta voluntario. No existe ninguna ley federal que regule estos modelos en Estados Unidos.

Fuente: AFP.

Los diputados colorados Francisco Petersen y Carlos Núñez Salinas representaron a Paraguay en el XII Foro Parlamentario Iberoamericano, realizado en Madrid y organizado por las Cortes Generales de España con el apoyo de la Secretaría General Iberoamericana (SEGIB).

El encuentro fue inaugurado por el Rey de España Felipe VI en el Congreso de los Diputados. Reunió a delegaciones de los países de la región para dialogar sobre el impacto de la inteligencia artificial; la fragmentación, la polarización, la desinformación y el populismo; la igualdad de género; y la vigencia de la diplomacia parlamentaria.

A través de sus redes sociales, el diputado Petersen calificó la jornada como “una valiosa jornada de diálogo, intercambio y cooperación” entre los parlamentos iberoamericanos. Señaló que fue una oportunidad para abordar los desafíos compartidos y el futuro de las democracias.

El legislador subrayó la importancia de seguir fortaleciendo la presencia de Paraguay y de construir vínculos que permitan avanzar hacia una Iberoamérica “más integrada, democrática y próspera”. Cerró su mensaje expresando orgullo por representar al país.

Por otro lado, el diputado Núñez Salinas mencionó que la reunión se centró en reforzar la agenda birregional y ampliar la cooperación entre América Latina, el Caribe y Europa. Comentó que los parlamentarios coincidieron en estrechar el diálogo entre los legislativos y en usar la diplomacia parlamentaria para construir consensos y promover respuestas conjuntas a desafíos comunes.

Al término del foro, las delegaciones adoptaron compromisos comunes: reforzar la supervisión parlamentaria de la inteligencia artificial, impulsar la democracia paritaria y la igualdad de género, y combatir la polarización, la desinformación y el crimen organizado.

También participaron representantes del Parlamento Europeo, el Parlamento Andino, el Parlatino, el Parlasur, Parlamericas y EuroLat. Los compromisos se suman a la hoja de ruta hacia la XXX Cumbre Iberoamericana, que se celebrará también en Madrid el 4 y 5 de noviembre.

Siga informado con: Foxconn explora inversiones en IA en Paraguay tras reunión con el embajador Iván Lee

Paraguay sigue posicionándose en el radar de una de las mayores empresas tecnológicas del mundo. Foxconn, cuyo nombre corporativo es Hon Hai Technology Group, un gigante tecnológico taiwanés, llegó al país para explorar oportunidades de inversión en inteligencia artificial.

En ese contexto, el embajador de la República de China (Taiwán), Iván Lee, recibió recientemente a una delegación de representantes de esta firma asiática, líder mundial en manufactura electrónica, que visitó Paraguay para explorar oportunidades de inversión en inteligencia artificial.

Le puede interesar: Rubén Ramírez preside reunión de la OEA y Paraguay urge a Nicaragua restaurar la democracia

A través de las redes sociales de la sede diplomática en Asunción, informaron que la firma Foxconn ya había advertido años atrás sobre la necesidad de formar talento especializado, por lo que señaló que desde entonces, la Universidad Politécnica Taiwán-Paraguay (UPTP) se convirtió en parte de esa apuesta por el capital humano.

“Hace algunos años, desde Foxconn nos señalaban que, para atraer inversiones de alta tecnología, Paraguay necesitaba ingenieros de primer nivel y con dominio del inglés. Esa visión fue uno de los impulsos para la creación de la Universidad Politécnica Taiwán-Paraguay (UPTP). Hoy, la historia dio una vuelta: Foxconn vino a conocer Paraguay porque existe un interés real en explorar oportunidades de inversión”, informaron desde la embajada de Taiwán.

Destacan además que el interés de Foxconn en Paraguay marca un nuevo escenario para el desarrollo tecnológico en el país, ante el avance de la multinacional taiwanesa que ha comenzado a explorar las oportunidades de inversión en inteligencia artificial que ofrece el Paraguay. “Con la tecnología y experiencia de Taiwán, los recursos naturales y el talento joven de Paraguay, podemos construir juntos algo grande”, concluye el comunicado.

Siga informado con: Peña adelanta que presentará un plan de trabajo con todos los intendentes electos