El laboratorio estadounidense de inteligencia artificial (IA) Anthropic obtuvo la puntuación más alta en una clasificación semestral de seguridad, pero a nivel global la industria no logra combatir las amenazas “existenciales”, según un informe publicado el martes. El think tank estadounidense de seguridad en IA Future of Life Institute clasificó a nueve de las principales empresas de IA del mundo y determinaron la clasificación basándose en datos públicos e información proporcionada por las empresas.
Las nueve empresas están fallando en cuanto a combatir amenazas “existenciales”, como el desarrollo de modelos que alcancen un nivel de inteligencia similar al humano, conocidos como “inteligencia artificial general” o AGI, agrega el informe. Se evaluaron los esfuerzos en seis categorías distintas: evaluación de riesgos, daños actuales, marcos de seguridad, seguridad existencial, gobernanza y rendición de cuentas, así como intercambio de información.
Ninguna empresa recibió una “A”, la nota más alta, en ninguna categoría, mientras que Anthropic obtuvo la mejor nota global, un “C+”. El informe señala que varias empresas que antes prohibían el uso militar de su tecnología han “ido revirtiendo gradualmente el rumbo”, entre ellas Anthropic, a la que criticó por mantener “compromisos militares cuestionables”.
El gobierno estadounidense utilizó la tecnología de Anthropic en operaciones militares en Venezuela e Irán durante el último año, según diversos reportes de prensa, aunque la empresa estuvo sujeta recientemente a una prohibición del Pentágono por desacuerdos sobre la seguridad de la IA.
Aunque “existen intentos constructivos”, los esfuerzos en su conjunto son “totalmente insuficientes”. Otros riesgos incluyen el posible uso indebido de un modelo para llevar a cabo un ciberataque o realizar tareas potencialmente dañinas para los seres humanos.
Fuente: AFP.
Dejanos tu comentario
OpenAI lanza este jueves su nueva serie de IA: Sol, Terra y Luna de GPT-5.6
OpenAI, creador de ChatGPT, anunció el martes que su nueva y potente serie de modelos de inteligencia artificial estará disponible para el público a partir del jueves, después de que el gobierno de Estados Unidos aprobara, según diferentes medios, un lanzamiento más amplio de esta tecnología.
Los nuevos modelos GPT-5.6 de la compañía, así como otros sistemas avanzados de IA, entre ellos la serie Mythos de Anthropic, han suscitado preocupación por su supuesta capacidad sin precedentes para identificar vulnerabilidades en códigos informáticos que podrían ser explotadas por piratas informáticos.
Estas capacidades han despertado inquietudes en materia de seguridad nacional. OpenAI informó a finales de junio que había concedido acceso anticipado a GPT-5.6 a un grupo limitado de socios de confianza radicados en Estados Unidos, a petición de Washington. Los grandes modelos de lenguaje son la tecnología que sustenta los chatbots y muchas otras herramientas de inteligencia artificial, gracias a su capacidad para procesar enormes volúmenes de datos.
La serie GPT-5.6 se compone de tres niveles: Sol, el nuevo modelo insignia de la compañía; Terra, una versión intermedia para tareas cotidianas; y Luna, una opción rápida y de bajo costo. “GPT-5.6 Sol, junto con Terra y Luna, se lanzará públicamente este jueves. Estamos ampliando ahora el acceso de vista previa a nivel mundial”, dijo la empresa en una publicación en X, sin ofrecer más detalles.
El medio estadounidense Axios informó, citando a una fuente familiarizada con el asunto, que la administración del presidente Donald Trump dio luz verde al lanzamiento generalizado de GPT-5.6 tras una serie de pruebas técnicas y reuniones entre la empresa y funcionarios del gobierno. AFP contactó a OpenAI, la Casa Blanca y el Departamento de Comercio de Estados Unidos para obtener comentarios sobre la información publicada por Axios.
Restricciones de seguridad
El anuncio se produce en un contexto similar al de Anthropic, principal rival de OpenAI y creadora del chatbot Claude. La semana pasada, Anthropic anunció que comenzaría a restablecer el acceso a sus modelos más avanzados de IA, Fable 5 y Mythos 5, después de que Washington levantara una restricción sobre los lugares en los que podían ser desplegados.
Antes de la llegada de Mythos, la administración Trump defendía una regulación más flexible para las empresas de inteligencia artificial, con el objetivo de reforzar la posición de Estados Unidos frente a China en la carrera global por el liderazgo en IA. El gobierno estadounidense está elaborando actualmente criterios para determinar qué modelos de inteligencia artificial estarán sujetos a nuevas restricciones de seguridad, en cumplimiento de una orden ejecutiva de la Casa Blanca.
OpenAI afirmó en junio que “no creemos que este tipo de proceso de acceso gubernamental deba convertirse en la norma a largo plazo”, al considerar que limita el acceso a herramientas avanzadas para usuarios, empresas y otros actores que las necesitan. La compañía añadió que trabaja con Washington para “desarrollar el marco de la orden ejecutiva sobre ciberseguridad y un proceso para futuros lanzamientos de modelos”.
Una vez disponible de forma generalizada, Terra costará la mitad que su predecesor, GPT-5.5, según OpenAI, en un intento por atraer y retener clientes en medio de la intensa competencia con Anthropic y Google. Tanto OpenAI como Anthropic han presentado de forma confidencial documentación para salir a bolsa ante los reguladores estadounidenses y aspiran a alcanzar valoraciones cercanas al billón de dólares.
Fuente: AFP.
Dejanos tu comentario
La actriz Tilly Norwood, creada por IA, protagonizará la película “Misaligned”
La actriz virtual Tilly Norwood, cuya aparición causó revuelo en Hollywood a finales del año pasado, será la “protagonista” de un largometraje, anunció el lunes el estudio Particle6, responsable del este filme que será producido en parte con inteligencia artificial. La película se titula “Misaligned”, en referencia a al concepto de alineación de la IA, que consiste en enseñar a las máquinas para que se ajusten a los valores y objetivos humanos.
Al ser consultada por la AFP, una portavoz de Particle6 indicó que aún era demasiado pronto para hablar de la distribución de la película, ya sea en salas o en streaming, o de una fecha de estreno. El estudio indicó que en el proyecto trabajarán profesionales de la industria tradicional del cine y la televisión, como guionistas, técnicos y actores reales.
“La IA puede ser el soporte de una ficción de calidad, pero solo si integra de forma sustancial los conocimientos, las competencias y el criterio humanos”, explicó el lunes la directora de esta empresa británica, Eline van der Velden, creadora de Tilly Norwood, citada en un comunicado. Esta actriz de IA, con el aspecto de una veinteañera pelinegra, se hizo famosa con la publicación en la red de un video promocional en julio de 2025.
“Queremos que Tilly sea la próxima Scarlett Johansson o Nathalie Portman”, declaró entonces su creadora. Estas palabras crearon conmoción en Hollywood, que antes había denunciado el uso de imágenes de actores reales para para generar los modelos de IA. La polémica llevó a Van der Velden a asegurar que su creación “no era un sustituto de un ser humano”.
“Nuestra ambición con Tilly Norwood siempre ha sido mostrar a la industria creativa lo que era posible con la IA en un momento dado”, afirmó el lunes la directora de Particle6. Los estudios de la industria de Hollywood llegaron a un acuerdo con el sindicato de actores SAG-AFTRA sobre el uso de la IA en las producciones.
Fuente: AFP.
Dejanos tu comentario
Microsoft eliminará 4.800 puestos de trabajo, cerca del 2 % de su plantilla global
Microsoft anunció el lunes que eliminará unos 4.800 puestos de trabajo, cerca del 2 % de su plantilla global, en una reestructuración concentrada en sus divisiones de videojuegos de Xbox. Los recortes incluyen la reforma más drástica en la historia de Xbox, con la eliminación de unos 3.200 puestos de trabajo en el área de videojuegos durante el próximo año fiscal, la separación o venta de cuatro estudios de desarrollo de juegos y el inicio de un proceso de revisión de un quinto, que podría desembocar en su cierre, según indicó la compañía.
Microsoft ha anunciado en los últimos meses varios planes de despidos, en medio de sus fuertes inversiones sobre desarrollo de inteligencia artificial (IA). “Nuestro negocio está cambiando porque el mundo que lo rodea está cambiando”, escribió Amy Coleman, vicepresidenta ejecutiva de Microsoft, en una carta a todos los empleados.
“Las empresas no pueden elegir si su sector cambia; solo pueden elegir si cambian con él”, añadió Coleman, quien señaló que los despidos afectan principalmente al negocio comercial de Microsoft y a la división de la Xbox. La vicepresidenta afirmó que las funciones que tenían los despedidos no serán realizadas por la IA, pero reconoció que esta tecnología provoca cambios en la forma de trabajar en toda la compañía.
En el ámbito comercial, señaló que los recortes se sumarán a la inversión de 2.500 millones de dólares de Microsoft, anunciada la semana pasada, para integrar a 6.000 ingenieros en las empresas que tienen como clientes con el fin de extender el uso de la IA entre las compañías reacias a la adopción de esta tecnología.
La directora ejecutiva de Xbox, Asha Sharma, comunicó a sus empleados que se eliminarán 1.600 puestos de trabajo de forma inmediata, y que el resto dejarán la compañía durante el año fiscal 2027. Xbox ha sufrido varios programas de recortes desde que se cerró en 2024 la adquisición de Activision Blizzard por parte de Microsoft por 68.700 millones de dólares. Sharma describió el negocio de Xbox como “poco saludable”, con márgenes de beneficio “entre 3 y 10 veces inferiores” a los de la competencia.
El Netflix de los videojuegos
La responsable afirmó que su división lanzó Game Pass, un servicio de suscripción para acceder a un amplio abanico de juegos en línea, con el fin de impulsar el crecimiento de su área. Este servicio, conocido popularmente como el Netflix de los videojuegos, comenzó a perder suscriptores después de que la empresa subiera los precios de la suscripción, recordó Sharma, quien tomo los mandos de la división Xbox tras la dimisión de Phil Spencer.
“La historia está llena de empresas que confunden la longevidad con la inevitabilidad, nosotros no seremos una de ellas”, añadió. Cuatro estudios abandonarán la división de Microsoft como parte de la reestructuración. Compulsion Games y Double Fine Productions pasarán a ser independientes, conservando su propiedad intelectual y sus catálogos de videojuegos.
Ninja Theory y Undead Labs han llegado a un acuerdo para incorporarse a nuevos propietarios. En Francia, la dirección de Arkane va a iniciar una consulta obligatoria con su comité de empresa para analizar lo que Sharma denominó “posibles opciones estratégicas”, un proceso que podría dar lugar al cierre de la compañía o a su venta. Microsoft anunció el 25 de junio que subía el precio de venta de la Xbox debido a que la demanda de la IA había disparado los costes de los chips, una medida que también han tomado sus grandes competidores en el sector de los videojuegos, Sony y Nintendo.
Fuente: AFP.
Dejanos tu comentario
Guterres defiende gobernanza de la IA para no improvisar “el futuro de la humanidad”
El jefe de la ONU llamó este lunes a la comunidad internacional a unirse en una gobernanza mundial “organizada” de la inteligencia artificial para no improvisar el “futuro de la humanidad”. “La IA ya está transformando nuestro mundo. La pregunta es si moldearemos esta transformación juntos, o dejaremos que nos moldee a nosotros”, dijo Antonio Guterres en la apertura del primer Diálogo Global sobre Gobernanza de la IA en Ginebra.
Este nuevo foro intergubernamental coordinado por las Naciones Unidas tiene como objetivo permitir a todos los Estados miembros y a la sociedad civil coordinar el desarrollo y el uso de la IA. El jefe de la ONU advirtió que estos sistemas, ahora capaces de escribir códigos, actuar en línea y tomar decisiones con cada vez menos supervisión humana, evolucionan “a una velocidad vertiginosa”, más rápido que las instituciones encargadas de controlarlos.
“Nuestras instituciones fueron diseñadas para encuadrar máquinas que ejecutan órdenes. No están preparadas para gobernar máquinas que toman decisiones. Y ciertos límites, una vez que se cruzan, no pueden ser restablecidos”, explicó. La elección no es “entre la confianza ciega en la IA y el miedo a la misma” sino “entre una gobernanza pensada y organizada, o una deriva dejada al azar”, alertó Guterres.
Para él el vibe coding (cuando la IA crea códigos informáticos a partir de lo que los usuarios dictan con un lenguaje sencillo) “puede hacer maravillas, pero (...) no se puede ‘vibecodear’ el futuro de la humanidad”.
Destaca tres riesgos: la rapidez del desarrollo de la IA, la concentración de las capacidades en manos de un pequeño número de empresas y países y la amenaza que representan los contenidos generados por la IA para la información y la confianza en los hechos.
Niños “engañados”
Estas tecnologías tienen el potencial de acelerar el desarrollo, mejorar la atención sanitaria o el acceso a la educación, pero Guterres pide que se respeten cuatro prioridades: la seguridad, los derechos humanos, las capacidades de los países en desarrollo y la transparencia.
Propone someter a los países a un Compromiso por la seguridad de los niños frente a la inteligencia artificial.
El objetivo: imponer pruebas de seguridad antes de que la IA sea accesible a los niños, prohibir la generación de imágenes sexuales de menores y garantizar que si un niño está angustiado sea orientado hacia una ayuda humana.
“Los niños son engañados por máquinas que se hacen pasar por amigos (...) Ningún niño debería ser utilizado como conejillo de indias para una IA no regulada”, insistió Guterres.
El secretario general de la ONU también anunció que presentará a la Asamblea General recomendaciones a favor de un Fondo Mundial para la IA destinado a fortalecer las capacidades de los países en desarrollo.
“No podemos permitir que la brecha digital se convierta en una brecha de inteligencia artificial”, recalcó.
Para la presidenta de la Asamblea General de la ONU, Annalena Baerbock, no se trata solo de regular la tecnología sino de “definir una visión común en la que el progreso tecnológico vaya de la mano con la dignidad humana, la equidad y el desarrollo sostenible”.
“Moralmente repugnante”
Guterres también instó a las grandes empresas del sector a publicar la huella ambiental de sus sistemas y a alimentar todos sus centros de datos con energías renovables para 2030.
E hizo hincapié en el peligro del uso militar de la IA, en particular el recurso a los sistemas de armas letales autónomas.
“Máquinas que seleccionan su objetivo, lo atacan y quitan la vida sin control ni juicio humano, es moralmente repugnante. Es políticamente inaceptable. Y el derecho internacional debe prohibirlo”, añadió.
Guterres llamó a gobiernos, empresas y científicos a actuar rápidamente para que la IA sea “más segura, más justa, más accesible y más ética”. El Diálogo Mundial sobre la Gobernanza de la IA, que se celebra lunes y martes, será seguido en Ginebra por la cumbre “AI for Good” dedicada a las aplicaciones de la inteligencia artificial al servicio del desarrollo.
Fuente: AFP.