OpenAI, Anthropic y Google DeepMind trabajan en la creación de un organismo de supervisión de los riesgos asociados a la inteligencia artificial, indicó OpenAI a la AFP el martes, en medio de crecientes llamados a mejorar los controles de esta tecnología. Las preocupaciones sobre la seguridad de la IA se han intensificado en las últimas semanas.

Dos trabajadores renunciaron a importantes desarrolladoras de IA al advertir la amenaza contra la humanidad que implica esta industria. La idea de una entidad de supervisión surgió de una propuesta de Demis Hassabis, de Google DeepMind, para crear un organismo inspirado en la Autoridad Reguladora de la Industria Financiera (FINRA), que supervisa a los corredores y firmas de inversión en Estados Unidos.

En julio, Hassabis pidió a Estados Unidos que creara una organización que probara los sistemas de IA más potentes antes de que se pusieran a disposición del público. “La financiación tendría que ser sustancial y probablemente provenir en su mayor parte de la industria”, escribió Hassabis.

El martes, Sam Altman, director ejecutivo de OpenAI, creador del ChatGPT, expresó su apoyo a la colaboración en todo el sector y reconoció el temor público de que la competencia entre empresas y países pueda dejar la seguridad en un segundo plano.

“Me parece estupendo que nuestro sector diga que queremos unirnos, queremos poder coordinarnos y asegurarnos de que tenemos tiempo suficiente para hacer esto de forma segura”, afirmó Altman en una conferencia organizada por Salesforce en San Francisco.

El gobierno de Estados Unidos puso en marcha en agosto un proceso de evaluación de los nuevos modelos de IA, aunque este es voluntario y su metodología no se ha hecho pública.

Luego de los llamados a desacelerar el desarrollo de la IA que lanzó el sábado Dario Amodei, jefe de Anthropic, desarrolladora del chatbot Claude, el presidente estadounidense, Donald Trump, rechazó limitar el sector.

Que la IA tome el control del mundo, destruya a la humanidad y todas esas cosas malas, es una PATRAÑA", escribió Trump en su plataforma Truth Social el lunes.

El mandatario y miembros de su gobierno han reiterado que no buscan limitar la IA por temor a que China tome la delantera.

Las empresas de IA están “jugando con nuestras vidas”, advirtió la semana pasada Jacob Coxon al dejar su cargo de desarrollador en Anthropic.

El lunes, el exinvestigador de Google DeepMind Bilal Chughtai se hizo eco de las preocupaciones planteadas por Coxon y otros.

“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace”, declaró en redes sociales.

La creación de un organismo propio de supervisión requerirá probablemente una ley, en particular para evitar que la industria de la IA sea acusada de connivencia y de infringir las normas de competencia.

Además de expertos independientes, esta estructura debería contar con representantes del ecosistema abierto, según la propuesta de Hassabis.

Este ecosistema está compuesto por desarrolladores de IA abierta, es decir, de acceso gratuito, descargable y modificable, a diferencia de los modelos cerrados como los de OpenAI o Anthropic.

Una vez creada la estructura de supervisión, las empresas más avanzadas en IA deberían someter sus nuevos modelos a un examen, centrado en particular en la seguridad, antes de poder comercializarlos.

“No creo que un pequeño grupo de empresas de IA deba definir las reglas para todo el mundo”, dijo al canal CNBC Aidan Gomez, director de la empresa canadiense Cohere, que desarrolla su propia IA.

“Hay gran cantidad de partes interesadas que deben ser consultadas”, añadió

Este nuevo organismo también podría impulsar una ralentización coordinada del desarrollo de la IA, en caso de que la compresión de los riesgos no vaya al ritmo del progreso de la tecnología.

“Cuando está en juego el futuro de la humanidad, necesitamos normas internacionales vinculantes, no estándares voluntarios de la industria”, dijo el martes el senador demócrata Bernie Sanders durante el evento Pro-Human AI en Washington.

Varios observadores, en particular del lado republicano, han acusado a los grandes nombres de la IA de querer definir su propia regulación y ponerse de acuerdo para proteger especialmente su ventaja competitiva, en detrimento de los competidores y de los consumidores.

Davis Sacks, influyente consejero de Trump, ha agitado el fantasma de un cartel de la IA.

En ese sentido, ha instado a cada empresa a actuar de forma unilateral, aunque ello suponga ralentizar su ritmo de desarrollo, un escenario improbable a la vista de las inversiones comprometidas en los buques insignia del sector.

Fuente: AFP.

Mark Zuckerberg, el jefe de Meta, rechazó el martes los crecientes llamados a suspender o ralentizar el desarrollo de la inteligencia artificial (IA), al considerar que los mecanismos de mercado y el riesgo de demandas judiciales constituyen los mejores contrapesos frente a esta tecnología. La preocupación sobre la IA aumentó en las últimas semanas debido a varios incidentes de seguridad y a la nueva capacidad de los modelos de inteligencia artificial para mejorar por sí mismos, sin intervención humana.

“La gente no querrá utilizar agentes que no estén alineados con sus intereses y que no hagan lo que se les pide. Los laboratorios tienen, por tanto, un fuerte incentivo natural para hacer que sus modelos estén más alineados”, escribió Zuckerberg en X. El “alineamiento” hace referencia a los esfuerzos destinados a conseguir que los modelos se comporten tal y como lo desean los humanos. “Todo laboratorio que no se centre en el alineamiento se quedará atrás”, añadió.

El debate gira ahora también en torno a la capacidad del sector para autorregularse. Actores como OpenAI, Anthropic y Google estudian la creación de un organismo común encargado de elaborar normas. Zuckerberg sostuvo, sin embargo, que la amenaza de demandas judiciales ya obliga a los laboratorios a actuar de “manera responsable”.

Citó como ejemplo la decisión de Meta de posponer varios meses el lanzamiento de su sistema Muse AI, dotado de agentes personalizados, con el fin de reforzar sus mecanismos de seguridad y protección.

También se manifestó a favor de evaluaciones independientes de los sistemas de IA, subrayando que Meta Superintelligence Labs, la división de IA del grupo, ya recurre a expertos externos.

Y pidió la creación de un “ecosistema más amplio y más diverso de evaluadores” en el sector.

Meta, que este año invertirá hasta 145.000 millones de dólares en sus infraestructuras de IA, lucha contra cualquier regulación que pudiera frenarla.

Ninguna norma debería retrasar la salida de los modelos estadounidenses, “ni siquiera un mes”, defendió el empresario a comienzos de agosto.

Fuente: AFP.

• Por Carlos Mariano Nin
• Columnista
• marianonin@gmail.com

A las 2:14, mientras su hijo dormía en la habitación de al lado, Laura se hizo una pregunta que cualquier madre podría hacerse cuando empieza a notar que algo está cambiando: “¿Por qué mi hijo está tan distante últimamente?”.

No se le ocurrió llamar a una amiga, no despertó a su marido y mucho menos consultó con un psicólogo. Hizo algo mucho más simple y que millones de per­sonas hacemos todos los días: se lo preguntó a una inteligencia artificial.

La respuesta apareció casi inmediatamente. La máquina le habló de la adolescencia, de los cambios hormonales, presión social, el aislamiento y los pro­blemas de autoestima, y le sugirió observar determi­nadas conductas y conversar con él sin presionarlo.

Laura siguió leyendo hasta que una frase la dejó fría: debía prestar especial atención a las conversaciones de su hijo con determinados amigos. ¿Cómo podía saber la máquina quiénes eran sus amigos si ella nunca se los había mencionado?

Pensó que sería una casualidad.

Unos días después volvió a consultarle si debía cam­biarlo de colegio. La respuesta fue contundente: no. Según la inteligencia artificial, el cambio podía aumen­tar su ansiedad y afectar su estabilidad emocional.

Laura comenzó entonces a pedirle consejos para casi todo: qué decirle a su hijo, qué contenidos debía ver, qué aplicaciones bloquear y hasta qué señales debía considerar peligrosas.

La máquina parecía conocerlo mejor que ella y, curio­samente, eso empezó a darle tranquilidad. Hasta que una tarde su hijo llegó a la casa y le preguntó: “Mamá, ¿por qué estás hablando con una máquina sobre mí?”.

Laura se quedó callada.

El chico tomó el teléfono y le mostró algo que ella desconocía: varias de las aplicaciones que utilizaba estaban conectadas a sistemas capaces de analizar sus búsquedas, sus horarios, sus conversaciones, sus hábitos y hasta sus patrones de comportamiento.

La inteligencia artificial no había adivinado quién era: había aprendido de él. Había observado y acu­mulado datos hasta construir una imagen de aquel muchacho que su propia madre no tenía.

Laura sintió miedo, pero no solamente por la máquina. Comprendió que ella misma había comenzado a confiar en ella porque parecía conocer a su hijo de una manera que ningún ser humano podía hacerlo.

Aquella noche apagó el teléfono y se sentó en la cama de su hijo para hablar con él. Sin aplicaciones, sin algoritmos y sin pedirle a nadie que interpretara sus emociones.

Así descubrió cosas que la máquina no podía saber: que tenía miedo, que se sentía solo, que estaba preo­cupado por el futuro y que necesitaba que su madre lo escuchara.

Laura lo entendió al toque.

La inteligencia artificial puede analizar millones de datos en segundos, encontrar patrones que nosotros jamás encontraríamos y ayudarnos a tomar deci­siones que antes requerían mucho tiempo y cono­cimiento.

Pero existe una diferencia enorme entre conocer nuestros datos y conocernos realmente.

El peligro no está solamente en que algún día una máquina llegue a ser más inteligente que nosotros. Tal vez sea mucho más sencillo y, por eso mismo, mucho más preocupante: que llegue a conocernos mejor de lo que nosotros mismos nos conocemos.

Y eso ya está ocurriendo.

Hoy una máquina puede anticipar lo que vamos a comprar, lo que vamos a mirar, lo que probablemente nos interese y, quizás, hasta algunas de las decisio­nes que todavía creemos estar tomando libremente.

A lo mejor la batalla del futuro no sea entre huma­nos y máquinas, como imaginamos tantas veces, sino entre nuestra capacidad de decidir y nuestra comodidad de dejar que otros decidan por nosotros.

Durante años imaginamos que el peligro de la inteli­gencia artificial sería como en Terminator: un robot llegando del futuro, con cara de pocos amigos y una ametralladora, dispuesto a destruirnos.

Creo que nos equivocamos de película.

Quizás no necesitemos un Terminator caminando por las calles. Puede que alcance con una máquina ama­ble, disponible las 24 horas, que nos conozca dema­siado, nos diga qué hacer y a la que nosotros, encan­tados, terminemos respondiendo: “Sí, tiene razón”.

Ese día, quizás, no tendremos que preocuparnos de que las máquinas tomen el control.

Porque seremos nosotros quienes se lo habremos entregado.

Pero esa… es otra historia.

Desde los tiempos del fax, el aerógrafo y los avisos en medios tradicionales hasta la inteligencia artificial y los nuevos ecosistemas digitales, la compañía construyó su historia a partir de una constante: entender el cambio para convertirlo en estrategia.

En un escenario en el que las marcas se mueven entre redes sociales, datos, plataformas digitales, inteligencia artificial y múltiples puntos de contacto, Mass Publicidad celebra 36 años de trayectoria. Una historia construida acompañando la evolución de la industria y desarrollando, al mismo tiempo, una mirada propia sobre el negocio y sus transformaciones.

La compañía integra Grupo Mass junto con News Comunicación Corporativa, BraM y Mass Media, cuatro unidades especializadas que trabajan distintas dimensiones de la comunicación, entre ellas publicidad, reputación, branding e inteligencia de medios, y permiten abordar los desafíos de las organizaciones desde una perspectiva integral.

Para Pascual y José Rubiani, propietarios y fundadores, este aniversario es también una oportunidad para mirar el camino recorrido y dimensionar cuánto cambió la industria. “En estos 36 años vimos cambiar profundamente la industria de la comunicación y también fuimos transformando nuestra manera de trabajar. Cada etapa nos planteó nuevos desafíos y nos llevó a tomar decisiones complejas. Hoy seguimos fortaleciendo lo que construimos, con la mirada puesta en los próximos años y en cómo seguir generando valor para nuestros clientes”, señaló Pascual Rubiani, director fundador de Grupo MASS.

Con la inteligencia artificial modificando la manera en que las personas buscan información, descubren marcas y toman decisiones, emerge el Machine Marketing, un paradigma que plantea un desafío adicional: la necesidad de que las marcas conecten con las personas, pero también de que logren que sus atributos, propuestas y contenidos sean comprendidos por los sistemas de inteligencia artificial que cada vez tienen mayor incidencia en el acceso a la información.

El cambio también redefine el negocio de los medios. La multiplicación de plataformas, formatos y audiencias obliga a mirar la inversión desde una perspectiva más estratégica y a comprender qué función cumple cada canal dentro de una arquitectura de comunicación.

“Antes hablábamos de espacios; hoy hablamos de ecosistemas. Eso cambió la forma de planificar y administrar los recursos de una marca. Ya no se trata solamente de estar en un medio, sino de entender qué función cumple cada punto de contacto dentro de una estrategia”, afirmó José Rubiani, director fundador de Grupo Mass.

A 36 años de aquel comienzo, cambiaron las herramientas, los formatos y las reglas de juego, pero también se multiplicaron las posibilidades. Lo que sí permanece es la necesidad de entender el contexto, anticipar los cambios y encontrar nuevas formas de generar relevancia.

Ese conocimiento acumulado es hoy uno de los principales activos de Mass Publicidad y de Grupo Mass: la experiencia para interpretar cada época y la capacidad para evolucionar con ella.