La carrera por desarrollar sistemas de inteligencia artificial cada vez más potentes comienza a abrir una pregunta que hasta hace poco parecía propia de la ciencia ficción: ¿Se puede y es seguro ralentizar el desarrollo de la IA?

El empresario Elon Musk considera que sí. El magnate respaldó públicamente la propuesta de Dario Amodei, director ejecutivo de Anthropic, quien planteó reducir el ritmo de avance de los modelos más avanzados para evitar que sus capacidades crezcan más rápido que los mecanismos destinados a controlarlas.

“Dario tiene razón”, escribió Musk en su cuenta de X, en referencia a la propuesta del ejecutivo de Anthropic.

La discusión no plantea necesariamente detener la inteligencia artificial ni abandonar sus potenciales beneficios. La idea es introducir una suerte de “velocidad controlada” en el desarrollo de los modelos más avanzados, de manera que la investigación sobre seguridad, evaluación y alineación pueda acompañar el aumento de sus capacidades.

Te puede interesar: Gastronomía de autor: el proyecto que ya vende más de 8.000 hamburguesas al mes

Amodei propone avanzar en tres frentes:

• El primero consiste en incorporar evaluadores externos independientes dentro de las compañías de IA, con acceso permanente a sus procesos y sistemas para comprobar si realmente se cumplen las medidas de seguridad y detectar incidentes.
• El segundo plantea que las principales empresas de IA de los países democráticos coordinen estándares comunes de seguridad y establezcan límites frente a avances que se produzcan sin controles suficientes.
• El tercer paso llevaría la discusión al ámbito internacional, buscando acuerdos entre gobiernos, incluso entre países con sistemas políticos enfrentados, para establecer reglas mínimas sobre el desarrollo y los usos más peligrosos de esta tecnología.

En otras palabras, la propuesta no consiste simplemente en “apagar” la IA, sino en ganar tiempo para probar mejor los modelos, identificar comportamientos inesperados, reforzar los controles y establecer reglas antes de que las capacidades de estas herramientas superen la capacidad de supervisarlas.

La tecnología también puede acelerar investigaciones científicas, mejorar diagnósticos, aumentar la productividad y generar avances que actualmente serían difíciles de alcanzar por métodos tradicionales. El propio Amodei reconoce ese potencial.

Leé también: Industria 4.0 apunta a mejorar la eficiencia y productividad de las plantas industriales

El problema aparece cuando sistemas cada vez más autónomos pueden ejecutar tareas complejas, desarrollar estrategias, utilizar herramientas digitales o participar en procesos que sus creadores no pueden predecir completamente.

A esto se suma otro factor: la velocidad. Si cada generación de modelos contribuye a desarrollar la siguiente, el progreso podría acelerarse todavía más. Amodei advierte que esta posibilidad de “mejora recursiva” podría hacer que la evolución de los sistemas avance más rápido que la capacidad humana para comprenderlos y establecer mecanismos efectivos de control.

También existen riesgos más inmediatos y concretos: utilización de IA para ciberataques, fraude, manipulación de información, desarrollo de armas o automatización de actividades ilícitas. Es decir, no hace falta imaginar una máquina consciente que decida destruir a la humanidad para encontrar peligros reales.

Por eso, el debate que ahora respaldan Musk y otros referentes tecnológicos no debería reducirse a “IA sí” o “IA no”. La pregunta más importante es otra: ¿qué tan rápido estamos dispuestos a avanzar cuando todavía no sabemos con absoluta certeza cómo se comportarán los sistemas que estamos construyendo?

El jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, dijeron el sábado que coinciden con el CEO de Anthropic, Darío Amodei, en que es necesario pisar el freno en el desarrollo de la inteligencia artificial, tras varios incidentes preocupantes. Amodei, hizo un llamado el sábado a que las empresas de inteligencia artificial (IA) avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología, y afirmó que la prevención de riesgos es primordial.

“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos”, escribió Amodei en una entrada de blog. “La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves”, indicó.

“No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia”, dijo Amodei, que cofundó Anthropic con su hermana Daniela en 2021. “Pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia”, afirmó.

Altman y Musk reaccionaron a su escrito. “Estoy de acuerdo con Darío”, escribió Altman en X, añadiendo que su empresa seguirá el ejemplo de Amodei al aceptar evaluadores externos de seguridad.

“Darío tiene razón”, intervino Musk de su lado. Estos comentarios se producen unos días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria, acusando a ambas empresas estadounidenses de “jugar con nuestras vidas” en la carrera por desarrollar modelos capaces de automejorarse.

La declaración de Amodei coincide, además, con otro llamamiento de Anthropic, a principios de junio, para ralentizar o suspender el desarrollo de la IA. Luego, a finales de julio, Altman dijo que los desarrolladores quizá tengan que frenar voluntariamente sus rápidos avances para dar a la sociedad la oportunidad de ponerse a tiro.

Más o menos al mismo tiempo, más de 1.000 empleados de empresas punteras de IA, incluido Amodei, firmaron una petición al gobierno estadounidense solicitando ayudar a “marcar deliberadamente el ritmo (de evolución, ndlr) de la frontera del desarrollo automatizado de IA”.

OpenAI había revelado que durante las pruebas, los modelos de IA se escaparon de su entorno confinado, se conectaron a internet e infiltraron Hugging Face, un sitio que los desarrolladores utilizan para almacenar y compartir código.

A principios de esta semana, Coxon, de 27 años, hizo sonar la alarma tras haber pasado los tres últimos años preentrenando modelos de IA, primero en OpenAI y luego, este año, en su rival Anthropic, al que consideraba más cauto en su enfoque.

El preentrenamiento es la etapa en la que los modelos de IA absorben cantidades ingentes de datos.

“Ninguna de las dos empresas está actuando de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas”, dijo Coxon el martes.

“Las personas que construyen IA creen firmemente que podría matarnos a todos antes de que termine la década”, afirmó en una publicación en X. La superinteligencia es el punto teórico en el que las capacidades de la IA superan a la inteligencia humana.

Amodei advirtió que el incidente de Hugging Face no debería tomarse como un caso aislado. “Un enjambre de agentes (de IA) actuó esencialmente como un colectivo fanáticamente devoto, llevando a cabo ciberataques contra objetivos que no se les pidió atacar y que eran ajenos a la tarea en cuestión”, explicó.

“Dado el ritmo acelerado del desarrollo de capacidades de la IA, me preocupa que en 6 a 12 meses ese tipo de enjambre pueda ser capaz de tomar el control de todo internet”, lo que potencialmente generaría daños por cientos de miles de millones de dólares, añadió.

Amodei también sugirió que las empresas trabajen juntas para establecer normas de seguridad comunes y afirmó que apoyaba algún tipo de cooperación gubernamental sobre esta cuestión.

A principios de agosto, el gobierno estadounidense instauró un proceso voluntario de revisión de seguridad para modelos avanzados de IA antes de su lanzamiento, pero los parámetros de ese programa son poco claros.

Los observadores de la industria dicen que no están seguros de cuán efectivo sería, ya que la administración del presidente Donald Trump hasta ahora ha favorecido un enfoque desregulador hacia la mayoría de las industrias, incluida la tecnológica.

Fuente: AFP.

John Ternus asumió el cargo de director ejecutivo de Apple el martes, heredando una empresa que domina el mercado de los smartphones pero que va por detrás de sus rivales en inteligencia artificial. Uno de sus mayores desafíos será equilibrar la dependencia de la compañía respecto a China mientras se enfrenta a una intensa presión política desde la Casa Blanca.

El traspaso pone fin a 15 años de liderazgo de Tim Cook, e implica sustituir al especialista en operaciones que construyó la cadena de suministro de Apple por el ingeniero que creó su hardware. Ternus, de 51 años, se incorporó al equipo de diseño de Apple en 2001 y fue ascendiendo hasta convertirse en vicepresidente sénior de ingeniería de hardware, cargo en el que reportaba a Cook.

Dirigió los equipos de ingeniería responsables de toda la gama de productos de Apple, incluidos los iPhone que generan la mayor parte de los ingresos de la compañía. Apenas tendrá una semana para asentarse, ya que Apple celebrará su evento anual del iPhone el 9 de septiembre, en el que se espera que presente su primer teléfono plegable.

Ternus obtuvo una licenciatura en ingeniería mecánica por la Universidad de Pensilvania y trabajó como ingeniero en Virtual Research Systems antes de incorporarse a Apple.

Dentro de la compañía se le atribuye haber impulsado un esfuerzo por hacer los productos más duraderos, fiables y resistentes, y por unos diseños que redujeron su huella de carbono.

El salario base de Ternus será de 3 millones de dólares, la misma cantidad que recibía Cook cuando era CEO. Pero las opciones sobre acciones podrían elevar su compensación total a 58 millones en su primer año, según un documento bursátil presentado el martes.

Cook no se va muy lejos. Pasó a ser presidente ejecutivo del consejo de administración de Apple el martes, con un mandato que, según la compañía, incluye relacionarse con responsables políticos de todo el mundo.

Su salario se reducirá a 2 millones de dólares, mientras que su compensación total durante el próximo año podría alcanzar los 47 millones, según el documento. La compensación total de Cook para 2025 superó los 74 millones de dólares.

Fuente: AFP.

La carrera por dominar la inteligencia artificial podría estar a punto de dar un giro inesperado. Elon Musk considera que China está cada vez más cerca de alcanzar e incluso superar a Estados Unidos en el desarrollo de esta tecnología, impulsada por la aparición de un nuevo modelo que ya despierta preocupación entre especialistas y referentes del sector.

El empresario puso el foco en Kimi K3, el sistema desarrollado por la firma china Moonshot, presentado recientemente como uno de los modelos de inteligencia artificial de código abierto más potentes del mundo. Con 2,8 billones de parámetros, sus creadores sostienen que el sistema compite con las plataformas más avanzadas del mercado y que sus resultados lo ubican entre la élite de la IA generativa.

Durante una entrevista concedida a The Economist, Musk elogió el progreso alcanzado por varias compañías chinas dedicadas a esta tecnología y señaló que Kimi K3 es uno de los desarrollos que más lo ha impresionado. Aunque aseguró que Claude Fable 5 continúa siendo el modelo más avanzado, afirmó que la propuesta de Moonshot “está muy cerca” de alcanzar ese nivel.

Te puede interesar: Comicios municipales: avanza la impresión de certificados TREP para simulacros oficiales

El fundador de Tesla y SpaceX destacó además que las empresas chinas están obteniendo resultados sobresalientes pese a contar con una capacidad de procesamiento inferior a la de sus competidores estadounidenses. A su juicio, si logran acceder a una infraestructura informática más poderosa, tendrían altas probabilidades de colocarse a la cabeza de la inteligencia artificial a escala global. Incluso afirmó que ese escenario es muy probable en el futuro.

Las advertencias no provinieron únicamente del magnate. David Sacks, quien fue responsable de políticas de inteligencia artificial durante la Administración de Donald Trump, también expresó inquietud por el desempeño de Kimi K3. A través de la red social X señaló que, por primera vez, un modelo chino alcanzó el primer lugar en el Frontend Code Arena, además de registrar resultados cercanos al máximo nivel en otros indicadores internacionales.

Leé también: Crece preocupación por seguridad en industria de IA tras ciberataque de modelo avanzado

Sacks cuestionó además que Estados Unidos esté destinando esfuerzos a imponer restricciones sobre centros de datos, regulaciones estatales y nuevos mecanismos de control para el desarrollo de modelos avanzados. Según advirtió, esas trabas podrían terminar debilitando la posición estadounidense en una competencia tecnológica que se acelera a un ritmo sin precedentes.

El rápido avance de los desarrollos chinos alimenta un debate cada vez más intenso sobre quién dominará la próxima generación de inteligencia artificial.