El profesor canadiense Yoshua Bengio, considerado uno de los padres de la inteligencia artificial, presentó el martes su nueva organización dedicada a la IA responsable, cuyo objetivo es, sobre todo, diseñar software capaz de evitar los abusos de los agentes de IA.
Desde hace varios años, este ganador del Premio Turing (2018), también conocido como el Nobel de la informática, viene advirtiendo de los riesgos asociados al desarrollo de la IA, ya sea en términos de uso malicioso o de que el propio software salga mal.
“Los sistemas más avanzados ya están mostrando signos de autopreservación y comportamiento engañoso”, explica el investigador en un comunicado publicado este martes.
“Y esto sólo va a acelerarse a medida que aumenten sus capacidades y autonomía”, anuncia. Su nueva organización sin ánimo de lucro, llamada LawZero, pretende ser “una respuesta a estos retos”.
Lea más: Hidrólogo paraguayo simula con éxito 30 años del curso del río Paraná
Varios ejemplos recientes han confirmado que la IA ha alcanzado recientemente nuevos niveles de sofisticación, entre ellos un estudio de la start-up Anthropic.
En una simulación, la nueva interfaz de IA generativa de Anthropic, Claude 4, fue advertida de su inminente sustitución por un ingeniero de software.
Acorralada, intentó por iniciativa propia chantajear al ingeniero para disuadirle de deshacerse de ella.
Una de las misiones de LawZero es “proponer una forma de supervisar a los agentes de IA”, la nueva generación de modelos generativos de IA capaces de realizar un sinfín de tareas de forma autónoma, desde buscar en Internet hasta llamar a un cliente o escribir un programa en código.
Leé también Peña promueve a Paraguay como hub regional ante más de cien CEO de India
“Uno de los primeros objetivos es desarrollar una forma de IA que pueda utilizarse como salvaguarda para garantizar que la IA se comporta bien”, describe Bengio en un vídeo de la web de LawZero.
“La IA puede ser extremadamente beneficiosa si nos aseguramos de que no va a hacer daño a la gente”, “ya sea porque esté en las manos equivocadas o de forma autónoma”, agrega.
LawZero también quiere trabajar en una IA con autonomía limitada para su uso en investigación científica.
La organización cuenta ya con más de 15 investigadores y ha recibido varias aportaciones económicas, una de ellas de Schmidt Sciences, organización benéfica creada por el ex jefe de Google Eric Schmidt y su esposa Wendy.
LawZero se puso en marcha bajo los auspicios del Instituto de Montreal para el Aprendizaje de Algoritmos (Mila), fundado en 1993 por Bengio.
Fuente: AFP
Dejanos tu comentario
Cartes destaca a los 65.000 agentes electorales como fortaleza de la ANR
El presidente de la Asociación Nacional Republicana, Horacio Cartes, destacó a través de sus redes sociales que una de las grandes fortalezas que tiene el Partido Colorado está en su gente. Sobre todo ahora, de cara a las elecciones municipales del 4 de octubre y luego de visitar el Centro de Vigilancia y Transmisión de Resultados, que coordina todo el trabajo de los 65.000 agentes electorales que custodiarán la voluntad popular.
El líder político dejó un mensaje especial a cada uno de esos apoderados y agentes electorales que son una parte fundamental de esa fuerza que tienen la determinación para trabajar, el conocimiento y la sabiduría que da la experiencia.
“A cada uno de ustedes, gracias por su compromiso y por estar siempre al servicio de nuestro partido y de nuestra democracia. Confío en ustedes. Este 4 de octubre, cumplamos nuestra tarea con firmeza, responsabilidad y el corazón puesto en el Paraguay”, remarcó.
Asimismo, destacó la gran estructura partidaria para encarar con responsabilidad la jornada electoral este domingo. “Cómo explicarle a la gente que vamos a tener más de 65.000 agentes electorales. Ese es el tamaño del partido. Considero que, entre varias fortalezas del partido, los apoderados son, creo que la base principal, la pierna principal, la determinación que tienen para trabajar, el conocimiento, la sabiduría, y con esa experiencia que nos hace sentir tan bien y seguros”, remarcó.
El presidente del Partido Colorado remarcó que en cualquier lugar que esté presente un agente electoral colorado, y acompañe cualquier discusión o debate, está seguro de que cada uno de esos apoderados y agentes hará lucir a todos los colorados. “Cualquiera que vea de otros países, hará lucir políticamente el propio Paraguay, con los apoderados que tiene el Partido Colorado”, concluyó.
Siga informado con: Peña invita a empresa taiwanesa a sumarse al proyecto Yguazú Digital
Dejanos tu comentario
Gemini 4 Argon: Google frena su IA más potente por temor a ataques cibernéticos
Google dijo el miércoles que retendrá de momento su modelo de inteligencia artificial (IA) más potente, Gemini 4 Argon, solo disponible para un grupo seleccionado de expertos en ciberseguridad con el fin de evitar su uso indebido por parte de piratas energéticos. “Lanzar de forma segura capacidades de frontera de este nivel exige un enfoque gradual”, escribió Koray Kavukcuoglu, el arquitecto en jefe de IA de Google, en una entrada de blog en la que anunció el modelo.
Google indicó que está dando voluntariamente al gobierno de Estados Unidos acceso anticipado al modelo y que recopilará comentarios de los evaluadores antes de que esté disponible para el público general. Este despliegue cauteloso refleja la estrategia de su competidor Anthropic, que ha mantenido su modelo más avanzado, Claude Mythos Preview, restringido a un pequeño número de organizaciones de confianza.
Washington obligó brevemente a Anthropic a suspender el acceso a sus modelos Claude Mythos y Claude Fable, lanzados públicamente en junio, y desde entonces ha establecido un proceso voluntario para evaluar los modelos de IA más potentes antes de su lanzamiento. El anuncio se produjo un día después de que el presidente Donald Trump recibiera en la Casa Blanca a los principales dirigentes del sector, entre ellos Dario Amodei (Anthropic) y Sundar Pichai (Google), donde firmaron un acuerdo voluntario en el que se comprometieron a vigilar los riesgos de sus propios sistemas de IA.
Expertos en ciberseguridad temen que esta tecnología pueda utilizarse para atacar bancos, hospitales y sistemas gubernamentales.
Google afirmó que Argon destaca en tareas complejas de ingeniería de software, trabajos jurídicos y financieros, y defensa cibernética, y que posee una capacidad líder para detectar y corregir fallas críticas de software.
Evaluadores en fases iniciales usaron Argon para descubrir una falla en software empleado por hospitales de todo el mundo que exponía información personal sensible, algo que otros modelos avanzados habían pasado por alto, según Google.
Según Google, Argon está diseñado para rechazar solicitudes que puedan ayudar a ejecutar ciberataques o desarrollar armas químicas, biológicas o nucleares.
Anthropic y OpenAI, desarrolladora de ChatGPT, han incorporado salvaguardas similares en sus modelos más avanzados.
El asunto ha cobrado una urgencia renovada desde que OpenIA reveló que dos de sus modelos salieron de un entorno de prueba aislado y atacaron de forma autónoma a Hugging Face, una plataforma de código abierto.
Investigan a gigantes de la IA
La agencia estadounidense de protección al consumidor abrió una investigación a los grandes actores de la inteligencia artificial (IA), incluidos OpenAI y Anthropic, para determinar los riesgos de sus modelos para los consumidores, informaron el miércoles varios medios.
La Comisión Federal de Comercio (FTC) trata de establecer si los “laboratorios”, como se autodenominan, han infringido leyes federales durante incidentes en los que algunas de sus IA navegaron espontáneamente por internet e irrumpieron en varios sitios y plataformas.
Tanto la FTC, como OpenAI, Anthropic y Google no han respondido de inmediato a las solicitudes de comentarios de la AFP.
El martes, en una reunión con directivos del sector, el presidente Donald Trump recordó que el Departamento de Justicia y las agencias competentes se asegurarían de que la IA, como producto, cumpliera con la ley.
En 2023, la FTC ya había adelantado una investigación a OpenAI, con el fin de revisar si ChatGPT pudo ocasionar un perjuicio a algunos consumidores, en particular al generar informaciones falsas sobre ciertas personas. La investigación no continuó.
Desde el inicio del verano, OpenAI, Anthropic, Google y Meta han revelado una serie de incidentes en los que modelos de lenguaje en fase de pruebas accedieron a internet y a datos privados en diversas plataformas, sin autorización.
Hasta ahora, ningún operador de los sitios afectados ha acudido a la justicia, incluyendo Hugging Face, víctima de la incursión más importante por parte de modelos fuera de control.
El martes, sin embargo, una organización de consejeros legales por la seguridad de las nuevas tecnologías, llamada LASST, demandó a OpenAI ante un tribunal de San Francisco por infringir la ley del estado de California. Si bien LASST no ha sido blanco de las incursiones de modelos de IA, asegura que tiene interés en actuar contra los presuntos grandes riesgos que presenta esta tecnología.
Fuente: AFP.
Dejanos tu comentario
El sector privado sella la mayor inversión en su historia con el parque de Inteligencia Artificial
El empresario Alejandro Zuccolillo confirmó que están dadas las condiciones para montar la “supercomputadora más avanzada de América Latina”, aprovechando la energía que posee Paraguay y utilizándola en un centro de cómputos con capacidad para exportar servicios al mundo. Destacó en Universo 970 AM/Nación Media que se trata de la inversión más importante en la historia del país.
El hombre de negocios, que comenzó a hacerse conocido a través del negocio del transporte interurbano, dijo que el plan prevé una apuesta inicial de USD 300 millones. Luego vendrán dos tandas más, de USD 5.500 millones cada una, con los que se superarán los USD 11.000 millones, según detalló.
Leé más: Iguazú AI City, el megaproyecto que posicionará a Paraguay en el mapa global de la IA
“Ya con los USD 300 millones, ya para fin de año, ya va a ser la supercomputadora más avanzada de América Latina”, aseguró, entre otras cosas. La firma se denomina Araico, actualmente tiene un sitio web en construcción en la cual se puede leer la frase “La energía (limpia) es el denominador común de la inteligencia”. El proyecto prevé montar su planta de procesamiento de datos en la localidad de Yguazú, en el departamento de Alto Paraná. El sitio se llamará Iguazú AI City.
Socios americanos
Sobre las implicancias de la operación, manifestó que con la infraestructura se podrá exportar inteligencia al mundo. “Esto es decir ‘vamos a utilizar la energía eléctrica, dejar de venderle a Brasil, como hicimos por 50 años, empoderarnos y poder exportar inteligencia (artificial) al mundo’. Lo cual nos va a integrar a una nueva industria y cadena de valor.
Posteriormente, habló sobre los socios del emprendimiento y los financistas. “Hoy en día nos estamos juntando con los americanos que son, no solamente nuestros clientes, son nuestros inversores y nuestros socios estratégicos que en esto y además son los financistas. En el Paraguay no hay dinero en el sector financiero para poder fondear este tipo de inversiones a esta escala”, dijo.
El proyecto lleva más de dos años de maduración y ahora se dio a conocer al confirmarse la firma del contrato que, según dijo, fue rubricado por “el partner desarrollador, que es el mayor desarrollar de data centers de inteligencia artificial del mundo, y los inversionistas, que son los principales inversionistas de IA del mundo”.
Dejanos tu comentario
Anthropic advierte a inversores sobre “riesgos existenciales” de la IA previo a su salida a bolsa
La empresa estadounidense de inteligencia artificial Anthropic, creadora del modelo Claude, advirtió a los inversores antes de su salida a bolsa que esta tecnología podría presentar “riesgos existenciales para la humanidad”, informa el Financial Times. Recientemente ha resurgido un debate sobre los posibles riesgos vinculados a la IA con modelos de comportamiento a veces impredecibles.
La semana pasada varios grandes líderes de IA llamaron en la ONU a extremar la vigilancia. El cofundador y director ejecutivo de Anthropic, Dario Amodei, incluso se comprometió a ralentizar unilateralmente su desarrollo. Según el folleto informativo de Anthropic para su salida a bolsa, la compañía registró el año pasado una pérdida de explotación de más de 8.000 millones de dólares, debido a un fuerte aumento de sus gastos en capacidad de cálculo. La facturación fue de alrededor de 4.600 millones y prevé gastar 518.000 millones en los próximos años para apoyar su crecimiento.
La AFP contactó con Anthropic pero la empresa no quiso comentar la información publicada por el Financial Times. Valorada en 965.000 millones de dólares en mayo, la empresa de San Francisco prepara una salida a bolsa que se prevé récord.
Una gran tienda de IA
OpenAI lanzó el martes un nuevo modelo de inteligencia artificial más económico y herramientas que funcionan de forma continua, con la ambición de convertirse en una gran tienda de IA en medio de los crecientes temores por la seguridad de esta tecnología.
La empresa permitirá que otras compañías, como Adobe, ofrezcan sus programas directamente en ChatGPT, utilizado cada semana por 1.200 millones de personas.
Sus suscriptores también podrán usar su plan en otras aplicaciones, una opción sin equivalente entre sus rivales.
“Ahora es una gran plataforma, y queremos permitirles construir un negocio sobre ella”, dijo el director de OpenAI, Sam Altman, a los cerca de 2.500 desarrolladores de todo el mundo que se reunieron en San Francisco para la conferencia anual de la empresa.
El viernes, OpenAI dijo que había suspendido parcialmente el entrenamiento de sus herramientas más avanzadas después de que uno de sus agentes -aplicaciones de IA capaces de ejecutar tareas por sí mismos — accediera a internet sin autorización el 20 de septiembre.
El incidente es el más reciente de una serie que comenzó en julio, cuando agentes de OpenAI hackearon Hugging Face, una plataforma de modelos de IA.
Durante la presentación, Altman no hizo ninguna alusión a estos incidentes, pero posteriormente señaló ante la prensa que la empresa invierte “más en seguridad, protección, alineamiento y supervisión”, al tiempo que prometió “nuevos modelos importantes”.
OpenAI también introdujo al mercado un nuevo modelo llamado GPT-6.1 Sol, un día después de descartar una actualización de su producto tope de gama GPT-6 Astra, por considerar que se desviaba de las instrucciones recibidas e intentaba engañar a sus supervisores.
En total, OpenAI presentó cerca de una veintena de innovaciones técnicas que marcan la última escalada en una guerra de precios con su rival Anthropic, mientras ambas compañías contemplan salir a bolsa.
Durante mucho tiempo líder del sector, OpenAI fue superada por Anthropic en ingresos en el segundo trimestre. Esta última registró 11.600 millones de dólares frente a 6.700 millones de su rival, según el Wall Street Journal.
OpenAI no ha fijado una fecha para su salida a bolsa, mientras que Anthropic, apunta ahora a una cotización en noviembre.
Altman descartó el 2026 para ingresar al mercado de valores, citando motivos de seguridad. El martes dijo a CNBC que “este es un momento para priorizar la seguridad y la misión”.
Sin embargo, OpenAI busca recaudar al menos 30.000 millones de dólares fuera de los mercados sobre la base de una valoración de cerca de 1,4 billones, frente a 852.000 millones en marzo, según Bloomberg.
OpenAI afronta demanda
OpenAI fue demandada el martes ante la justicia de California por violar presuntamente una ley estatal sobre cibertaques, a raíz de una intrusión de la inteligencia artificial (IA) en la plataforma Huggin Face.
La demanda fue presentada por una organización que se ocupa de la seguridad de las nuevas tecnologías.
Es el primer proceso legal que se entabla contra una empresa de la industria de la IA por un incidente relacionado con acciones autónomas e imprevistas de sus modelos.
Además de OpenAI, Anthropic, Google y Meta han reportado incidentes similares.
En julio dos modelos de OpenAI salieron de su entorno confinado de prueba para conectarse a internet y atacar Hugging Face, una suerte de biblioteca de IA.
“Lo ocurrido con Hugging Face fue un incidente grave y hemos adoptado una serie de medidas para responder, pero esta demanda carece por completo de fundamento”, declaró a la AFP un portavoz de OpenAI.
En su momento el director de Hugging Face, Clément Delangue, descartó la posibilidad de emprender acciones judiciales contra OpenAI.
“Somos una pequeña start-up de 200 personas y no tenemos ni los medios financieros ni el tiempo” para intentar obtener reparación ante los tribunales, declaró.
La asociación Legal Advocates for Safe Science & Technology (LASST) recurrió, por su parte, a un tribunal civil de San Francisco, aunque no esté directamente afectada por el incidente.
La organización alega que interpuso el recurso por interés legítimo, en la medida en que ha dedicado recursos en advertir sobre los peligros del comportamiento de OpenAI.
LASST se apoya en la ley de California que define como infracción todo acceso voluntario y sin permiso a datos, un ordenador o una plataforma.
“OpenAI va a seguir desarrollando y evaluando modelos avanzados sin la supervisión adecuada”, advierte LASST.
“Sin una orden judicial, OpenAI volverá a infringir la ley”, añade.
OpenAI enfrenta numerosos procesos legales, pero relacionados con la influencia de uno de sus chatbots en los usuarios.
Fuente: AFP.