Google dijo el miércoles que retendrá de momento su modelo de inteligencia artificial (IA) más potente, Gemini 4 Argon, solo disponible para un grupo seleccionado de expertos en ciberseguridad con el fin de evitar su uso indebido por parte de piratas energéticos. “Lanzar de forma segura capacidades de frontera de este nivel exige un enfoque gradual”, escribió Koray Kavukcuoglu, el arquitecto en jefe de IA de Google, en una entrada de blog en la que anunció el modelo.
Google indicó que está dando voluntariamente al gobierno de Estados Unidos acceso anticipado al modelo y que recopilará comentarios de los evaluadores antes de que esté disponible para el público general. Este despliegue cauteloso refleja la estrategia de su competidor Anthropic, que ha mantenido su modelo más avanzado, Claude Mythos Preview, restringido a un pequeño número de organizaciones de confianza.
Washington obligó brevemente a Anthropic a suspender el acceso a sus modelos Claude Mythos y Claude Fable, lanzados públicamente en junio, y desde entonces ha establecido un proceso voluntario para evaluar los modelos de IA más potentes antes de su lanzamiento. El anuncio se produjo un día después de que el presidente Donald Trump recibiera en la Casa Blanca a los principales dirigentes del sector, entre ellos Dario Amodei (Anthropic) y Sundar Pichai (Google), donde firmaron un acuerdo voluntario en el que se comprometieron a vigilar los riesgos de sus propios sistemas de IA.
Expertos en ciberseguridad temen que esta tecnología pueda utilizarse para atacar bancos, hospitales y sistemas gubernamentales.
Google afirmó que Argon destaca en tareas complejas de ingeniería de software, trabajos jurídicos y financieros, y defensa cibernética, y que posee una capacidad líder para detectar y corregir fallas críticas de software.
Evaluadores en fases iniciales usaron Argon para descubrir una falla en software empleado por hospitales de todo el mundo que exponía información personal sensible, algo que otros modelos avanzados habían pasado por alto, según Google.
Según Google, Argon está diseñado para rechazar solicitudes que puedan ayudar a ejecutar ciberataques o desarrollar armas químicas, biológicas o nucleares.
Anthropic y OpenAI, desarrolladora de ChatGPT, han incorporado salvaguardas similares en sus modelos más avanzados.
El asunto ha cobrado una urgencia renovada desde que OpenIA reveló que dos de sus modelos salieron de un entorno de prueba aislado y atacaron de forma autónoma a Hugging Face, una plataforma de código abierto.
La agencia estadounidense de protección al consumidor abrió una investigación a los grandes actores de la inteligencia artificial (IA), incluidos OpenAI y Anthropic, para determinar los riesgos de sus modelos para los consumidores, informaron el miércoles varios medios.
La Comisión Federal de Comercio (FTC) trata de establecer si los “laboratorios”, como se autodenominan, han infringido leyes federales durante incidentes en los que algunas de sus IA navegaron espontáneamente por internet e irrumpieron en varios sitios y plataformas.
Tanto la FTC, como OpenAI, Anthropic y Google no han respondido de inmediato a las solicitudes de comentarios de la AFP.
El martes, en una reunión con directivos del sector, el presidente Donald Trump recordó que el Departamento de Justicia y las agencias competentes se asegurarían de que la IA, como producto, cumpliera con la ley.
En 2023, la FTC ya había adelantado una investigación a OpenAI, con el fin de revisar si ChatGPT pudo ocasionar un perjuicio a algunos consumidores, en particular al generar informaciones falsas sobre ciertas personas. La investigación no continuó.
Desde el inicio del verano, OpenAI, Anthropic, Google y Meta han revelado una serie de incidentes en los que modelos de lenguaje en fase de pruebas accedieron a internet y a datos privados en diversas plataformas, sin autorización.
Hasta ahora, ningún operador de los sitios afectados ha acudido a la justicia, incluyendo Hugging Face, víctima de la incursión más importante por parte de modelos fuera de control.
El martes, sin embargo, una organización de consejeros legales por la seguridad de las nuevas tecnologías, llamada LASST, demandó a OpenAI ante un tribunal de San Francisco por infringir la ley del estado de California. Si bien LASST no ha sido blanco de las incursiones de modelos de IA, asegura que tiene interés en actuar contra los presuntos grandes riesgos que presenta esta tecnología.
Fuente: AFP.