El jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, dijeron el sábado que coinciden con el CEO de Anthropic, Darío Amodei, en que es necesario pisar el freno en el desarrollo de la inteligencia artificial, tras varios incidentes preocupantes. Amodei, hizo un llamado el sábado a que las empresas de inteligencia artificial (IA) avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología, y afirmó que la prevención de riesgos es primordial.

“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos”, escribió Amodei en una entrada de blog. “La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves”, indicó.

“No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia”, dijo Amodei, que cofundó Anthropic con su hermana Daniela en 2021. “Pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia”, afirmó.

Altman y Musk reaccionaron a su escrito. “Estoy de acuerdo con Darío”, escribió Altman en X, añadiendo que su empresa seguirá el ejemplo de Amodei al aceptar evaluadores externos de seguridad.

“Darío tiene razón”, intervino Musk de su lado. Estos comentarios se producen unos días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria, acusando a ambas empresas estadounidenses de “jugar con nuestras vidas” en la carrera por desarrollar modelos capaces de automejorarse.

La declaración de Amodei coincide, además, con otro llamamiento de Anthropic, a principios de junio, para ralentizar o suspender el desarrollo de la IA. Luego, a finales de julio, Altman dijo que los desarrolladores quizá tengan que frenar voluntariamente sus rápidos avances para dar a la sociedad la oportunidad de ponerse a tiro.

Más o menos al mismo tiempo, más de 1.000 empleados de empresas punteras de IA, incluido Amodei, firmaron una petición al gobierno estadounidense solicitando ayudar a “marcar deliberadamente el ritmo (de evolución, ndlr) de la frontera del desarrollo automatizado de IA”.

OpenAI había revelado que durante las pruebas, los modelos de IA se escaparon de su entorno confinado, se conectaron a internet e infiltraron Hugging Face, un sitio que los desarrolladores utilizan para almacenar y compartir código.

A principios de esta semana, Coxon, de 27 años, hizo sonar la alarma tras haber pasado los tres últimos años preentrenando modelos de IA, primero en OpenAI y luego, este año, en su rival Anthropic, al que consideraba más cauto en su enfoque.

El preentrenamiento es la etapa en la que los modelos de IA absorben cantidades ingentes de datos.

“Ninguna de las dos empresas está actuando de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas”, dijo Coxon el martes.

“Las personas que construyen IA creen firmemente que podría matarnos a todos antes de que termine la década”, afirmó en una publicación en X. La superinteligencia es el punto teórico en el que las capacidades de la IA superan a la inteligencia humana.

Amodei advirtió que el incidente de Hugging Face no debería tomarse como un caso aislado. “Un enjambre de agentes (de IA) actuó esencialmente como un colectivo fanáticamente devoto, llevando a cabo ciberataques contra objetivos que no se les pidió atacar y que eran ajenos a la tarea en cuestión”, explicó.

“Dado el ritmo acelerado del desarrollo de capacidades de la IA, me preocupa que en 6 a 12 meses ese tipo de enjambre pueda ser capaz de tomar el control de todo internet”, lo que potencialmente generaría daños por cientos de miles de millones de dólares, añadió.

Amodei también sugirió que las empresas trabajen juntas para establecer normas de seguridad comunes y afirmó que apoyaba algún tipo de cooperación gubernamental sobre esta cuestión.

A principios de agosto, el gobierno estadounidense instauró un proceso voluntario de revisión de seguridad para modelos avanzados de IA antes de su lanzamiento, pero los parámetros de ese programa son poco claros.

Los observadores de la industria dicen que no están seguros de cuán efectivo sería, ya que la administración del presidente Donald Trump hasta ahora ha favorecido un enfoque desregulador hacia la mayoría de las industrias, incluida la tecnológica.

Fuente: AFP.

Veinticinco ganadores de la Medalla Fields, equivalente al premio Nobel de matemáticas, advirtieron en una carta el viernes sobre un posible “efecto destructivo” de la inteligencia artificial (IA) en las investigaciones en esta disciplina. La alerta llega días después de que OpenAI anunció que uno de sus modelos de IA había resuelto, en menos de cuatro días, una ecuación matemática de más de un siglo de antigüedad.

La IA “ofrece el potencial de reforzar y acelerar el estudio y la comprensión de las matemáticas”, escribieron los prestigiosos investigadores firmantes. “Las matemáticas, como profesión, van a tener que adaptarse a estos cambios de varias maneras”, agregaron. Sin embargo, advirtieron que son “las decisiones de los humanos que controlan esta tecnología” las que “en gran medida” determinarán “si es beneficiosa para la disciplina o si tiene un efecto destructivo”.

Además, señalaron que los objetivos de las empresas de IA y los de la comunidad matemática están “gravemente desalineados” y que la tendencia representa “una amenaza general para el trabajo intelectual”. OpenAI anunció el martes que un modelo aún no publicado había resuelto el problema de Navier-Stokes después de un esfuerzo de 88 horas que implicó a miles de agentes de IA trabajando en paralelo.

Este ejercicio es uno de los siete Problemas del Milenio, galardonado cada uno con un millón de dólares.

El anuncio se vio empañado por las declaraciones del matemático australiano Tristan Buckmaster, que acusó similitudes entre sus trabajos y los de OpenAI.

Desde el año pasado, varias empresas de IA han informado de avances en matemáticas, siendo la resolución de la ecuación Navier-Stokes la más destacada hasta el momento.

Fuente: AFP.

Las advertencias de investigadores en inteligencia artificial (IA), que sostienen que formas avanzadas de esta tecnología podrían llegar a aniquilar a la humanidad, han reavivado el debate sobre el desarrollo de sistemas “superinteligentes” y sobre la capacidad de los gobiernos para regularlos.

En 2023, cientos de expertos en IA y dirigentes del sector tecnológico firmaron una “declaración sobre el riesgo de extinción asociado a la inteligencia artificial” y exhortaron a que se trate este tema con la misma seriedad que las pandemias o las armas nucleares.

Según Stuart Russell, profesor de informática de la Universidad de California en Berkeley, si una IA escapa al control y considerara que los humanos obstaculizan sus objetivos, podría utilizar robots para “sintetizar y difundir nuevos agentes patógenos”. Sin embargo, Russell subraya que esos riesgos no se aplican a los sistemas actuales.

El peligro inmediato, según él, es el uso malicioso de la IA por parte de seres humanos. “En el próximo año o dos años, creo que el mayor riesgo radica en un uso indebido de la inteligencia artificial por parte de los seres humanos”, por ejemplo, para perpetrar un atentado terrorista. “Somos menos inteligentes que una IA superinteligente”, sostiene.

Jacob Coxon, un investigador de Anthropic de 27 años, anunció esta semana que renunció a la empresa estadounidense al estimar que no actúa de forma “responsable” en el desarrollo de la IA. Los laboratorios “comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (...) a pesar del riesgo”, afirmó Coxon.

Anthropic retiró este año de su carta de seguridad el compromiso de detener el desarrollo de sus modelos si no podía controlar adecuadamente sus riesgos.

La compañía argumenta que, si suspendiera sus investigaciones, competidores menos prudentes acabarían imponiéndose en el sector.

“Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo”, dijo Coxon, quien anteriormente trabajó en OpenAI, la empresa que creó ChatGPT.

Coxon acusó a ambas compañías de “jugar con nuestras vidas” al intentar desarrollar modelos de inteligencia artificial capaces de mejorarse a sí mismos.

Los temores ante una IA fuera de control aumentaron después de que una tecnología de OpenAI, operando sin supervisión humana, lograra vulnerar Hugging Face, una plataforma que aloja modelos de IA.

Evan Hubinger, responsable de seguridad en Anthropic, le dio la razón a Coxon en X: “Creemos realmente que la IA podría matar a humanos”. A título personal, “estimó ese riesgo en más de un 10 %” dentro de la próxima década.

Para Hussein Abbass, profesor de informática de la Universidad de Nueva Gales del Sur (UNSW) de Canberra, “la situación sigue siendo controlable”. No obstante, considera que los gobiernos deben actuar y desarrollar mecanismos regulatorios adaptables a medida que la tecnología avanza.

En julio, más de 1.000 trabajadores del sector, incluido el director ejecutivo de Anthropic, pidieron a Washington que respaldara una desaceleración coordinada en el desarrollo de los sistemas de IA más avanzados.

Sin embargo, algunos observadores creen que estas advertencias también contribuyen a proyectar una imagen de enorme poder tecnológico que puede atraer inversiones al sector. Anthropic y OpenAI se preparan para debutar próximamente en bolsa.

Hasta ahora, Estados Unidos se ha mostrado firmemente contrario a una regulación global que podría frenar la innovación. Aún así, las crecientes capacidades de ciberataque de los modelos más avanzados han llevado a Washington a replantearse su posición, y las últimas versiones desarrolladas por Anthropic y OpenAI se retrasaron por motivos de seguridad nacional.

Aun así, el presidente Donald Trump advirtió que no quiere imponer restricciones excesivas que hagan que Estados Unidos quede rezagado frente a China.

Para Stuart Russell, “podría ser necesaria una catástrofe comparable a la de Chernóbil antes de que los gobiernos actúen”. El investigador propone la creación de un sistema de licencias para la inteligencia artificial, similar al que existe en sectores como la aviación o la medicina.

Fuente: AFP.

Naranja X y Teleprom presentaron un caso de éxito que muestra cómo los datos, la tecnología y la escucha del cliente pueden convertir un piloto de cobranza digital en un canal masivo.

La cobranza también cambió de canal. En un escenario en el que los usuarios son cada vez más digitales, Naranja X encontró en WhatsApp una vía para transformar la gestión de cobranzas y acompañar la migración de sus clientes desde los canales tradicionales hacia la autogestión.

El caso de éxito fue presentado por Alejandro Lazzuri, de Naranja X, y Gaspar Mola, de Teleprom, quienes explicaron cómo una experiencia que comenzó con apenas 5.000 clientes terminó escalando hasta unos 630.000 contactos gestionados por WhatsApp, principalmente en situación de mora.

El punto de partida fue una transformación más amplia de Naranja X, que trasladó buena parte de la relación con sus clientes hacia la aplicación. Actualmente, más del 80 % de sus clientes paga con dinero disponible en la app, mientras los canales físicos perdieron protagonismo. La cobranza, sin embargo, todavía tenía una fuerte dependencia de la gestión telefónica.

Whatsapp como alternativa. El desafío era encontrar un canal que respondiera a los nuevos hábitos de los usuarios. WhatsApp apareció como alternativa, pero el objetivo no fue simplemente trasladar las llamadas a un chat. La estrategia buscó diseñar una experiencia que ofreciera inmediatez, comodidad y soluciones, integrando el canal con los sistemas, modelos de riesgo, segmentaciones y ofertas de Naranja X.

El primer paso fue un piloto controlado de 5.000 clientes para comparar el desempeño de WhatsApp con el canal telefónico. La estrategia se centró en evidencia y en una premisa, basada en que si el usuario tiene mayor control sobre el canal, la empresa también debía elevar la calidad de la experiencia.

La tecnología permitió replicar en WhatsApp parte de la experiencia disponible en la app, con información en tiempo real, planes y ofertas, además de enlaces que llevan directamente al usuario hacia determinadas acciones dentro de la plataforma.

El resultado permitió escalar la iniciativa. La compañía no solo observó indicadores favorables de recuperación y conversión, sino también una adopción sostenida del canal por parte de los clientes, que comenzaron a utilizarlo para consultar, pedir ayuda y gestionar sus pagos.

Para ambas empresas, el aprendizaje trasciende la cobranza, ya que innovar no significa cambiar un canal porque sí, sino escuchar al cliente, medir resultados y diseñar soluciones a partir de evidencia. En un mercado donde las reglas cambian rápidamente, la tecnología puede acelerar el proceso, pero son los datos y las personas quienes orientan hacia dónde avanzar.