Las autoridades de Brasil informaron ayer miércoles que ordenaron a la red social X, del multimillonario Elon Musk, que tome medidas inmediatas para impedir la creación de imágenes de carácter sexual generadas por Grok, su asistente de inteligencia artificial (IA). Varios países han iniciado procedimientos legales contra la plataforma tras la indignación internacional respecto a esta herramienta, que permite a los usuarios pedir que se desnude a personas reales a partir de fotos o vídeos.

X debe implementar "de forma inmediata medidas aptas para impedir la producción, a partir de Grok, de contenido sexualizado o erotizado de niños, niñas y adolescentes, así como de adultos que no hayan expresado su consentimiento", dijeron la fiscalía brasileña, la agencia de protección de datos ANPD y la secretaría de defensa del consumidor Senacon.

Las entidades dieron a la plataforma cinco días para cumplir con la determinación, bajo penas de multa y acciones judiciales. Según las autoridades brasileñas, tras un llamado de atención a finales de enero, X afirmó “haber eliminado miles de publicaciones y suspendido centenares de cuentas” y anunció nuevas medidas de seguridad.

Pero exámenes técnicos encontraron una “persistencia de fallas” que permite que este tipo de contenidos se generen y circulen en la plataforma, agregaron. Denunciaron que X “no fue transparente en su respuesta”. X había anunciado a mediados de enero una limitación de su herramienta de IA en los países donde la creación de este tipo de imágenes es ilegal, aunque todavía se desconoce exactamente dónde está en vigor dicha limitación.

Grok, de la empresa xAI de Musk, permitió que los usuarios modificaran imágenes reales de personas con instrucciones simples como “ponla en bikini” o “quítale la ropa”. Según el Centro para Combatir el Odio Digital (CCDH, en inglés), un observatorio que investiga los efectos dañinos de la desinformación en internet, el chatbot generó un estimado de tres millones de imágenes sexualizadas de mujeres y menores en cuestión de días.

No es la primera vez que la plataforma de Elon Musk enfrenta problemas en Brasil. En 2024, el antiguo Twitter fue suspendido 40 días en el gigante suramericano por orden del Supremo Tribunal Federal al no apegarse a una serie de decisiones judiciales relacionadas con la lucha contra la información falsa.

Fuente: AFP.

La plataforma X de Elon Musk anunció el miércoles medidas para impedir que su chatbot de inteligencia artificial Grok transforme fotos de personas reales en imágenes con carácter sexual, tras críticas globales por la generación de ese tipo de contenido de mujeres y niños. El anuncio llega después de que la fiscalía de California iniciara una investigación sobre xAI, la empresa de IA de Musk, por “facilitar la producción a gran escala de montajes íntimos no consentidos (deepfakes), utilizados para acosar a mujeres y niñas en internet, principalmente vía la red social X”, indicó el fiscal general del estado, Rob Bonta, en un comunicado.

"Tenemos tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico“, agregó el fiscal. Bonta dijo que la investigación determinará si xAI violó la ley estatal después de que las imágenes explícitas fueran “utilizadas para acosar a personas en Internet”. El gobernador de California, Gavin Newsom, dijo el miércoles que la “vil” decisión de xAI de permitir la proliferación de deepfakes sexualmente explícitos lo llevó a instar al fiscal general a responsabilizar a la empresa.

X dijo que “bloqueará geográficamente la capacidad” de todos los usuarios de Grok y X para crear imágenes de personas en “bikinis, ropa interior y atuendos similares” en aquellas jurisdicciones donde esas acciones se consideren ilegales. “Hemos implementado medidas tecnológicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis”, dijo el equipo de seguridad de X en un comunicado.

“Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago”, añadió. Como “una capa adicional de protección”, la creación de imágenes y la posibilidad de editar fotos a través de la cuenta Grok de X ahora solo estaba disponible para suscriptores de pago, añadió el comunicado.

Lea más: Argentino radicado en Francia falleció por sorpresiva superola en Mar del Plata

El movimiento internacional de indignación se intensificó en las últimas semanas contra Grok y la posibilidad que ofrece de modificar imágenes, en particular las publicadas en la red social X. Esta opción estaba permitiendo a los usuarios crear ‘deepfakes’ sexualizados de mujeres y menores de edad usando indicaciones como “ponla en bikini” o “quítale la ropa”.

La semana pasada, Grok intentó desviar las críticas con una nueva política de monetización, anunciando en X que la generación y edición de imágenes quedaban “limitadas a los suscriptores de pago”.

Pero ese anuncio solo alimentó aún más la indignación: la oficina del primer ministro británico, Keir Starmer, condenó la medida por considerarla un agravio a las víctimas y “no una solución”, mientras que el regulador de medios británico, Ofcom, dijo el lunes que estaba abriendo una investigación para determinar si X incumplió la legislación del Reino Unido en relación a las imágenes sexuales.

Aumentando aún más la presión sobre la compañía de Musk, una coalición de 28 organizaciones de la sociedad civil envió ayer miércoles cartas abiertas a los directores ejecutivos de Apple y Google, instándolos a prohibir Grok y X en sus tiendas de aplicaciones ante el aumento de imágenes sexualizadas.

Indonesia y Malasia bloquearon el acceso a Grok, mientras que India dijo que X había eliminado miles de publicaciones y cientos de cuentas de usuario en respuesta a sus quejas. La comisionada francesa para la infancia, Sarah El Hairy, dijo el martes que había remitido las imágenes generadas por Grok a la fiscalía francesa, al regulador de medios Arcom y a la Unión Europea. Esta última pidió la paralización total de la generación de ese tipo de contenido.

Un análisis realizado la semana pasada por la oenegé AI Forensics sobre más de 20.000 imágenes generadas por Grok reveló que más de la mitad representaban a personas con poca ropa, de las cuales el 81 % eran mujeres y el 2 % parecían menores de edad.

Fuente: AFP.

La Unión Europea impuso este viernes una multa de 120 millones de euros (casi 140 millones de dólares) a la red social X, propiedad de Elon Musk, que podría provocar otra confrontación con el presidente estadounidense Donald Trump.

La sanción corresponde a las infracciones notificadas en julio de 2024 a X, cuando la UE acusó a la plataforma de engañar a los usuarios con el sistema de marca de verificación azul -que supuestamente certifica las fuentes de información-, de no ser lo suficientemente transparente respecto a la publicidad y de no respetar la obligación de acceso a los datos internos por parte de investigadores acreditados.

El jefe de la diplomacia estadounidense, Marco Rubio, reaccionó a la decisión y dijo que era un “ataque contra el pueblo estadounidense por parte de gobiernos extranjeros”.

“La era de la censura contra los estadounidenses en internet ha terminado”, añadió.

El vicepresidente estadounidense JD Vance también había denunciado los pasos que estaba dando la Unión Europea, antes incluso de que se oficializara la decisión.

Te puede interesar: Tensión en el Norte: Policía impide intento de invasión campesina

“La UE debería defender la libertad de expresión en lugar de atacar a empresas estadounidenses por tonterías”, lanzó, una declaración que Musk agradeció poco después.

La multa contra X “no tiene nada que ver con la censura”, señaló la vicepresidenta de la Comisión Europea encargada de temas digitales, Henna Virkkunen, al ser preguntada por periodistas.

“No estamos aquí para imponer las multas más altas. Estamos aquí para asegurarnos de que nuestra legislación digital se cumple”, agregó el responsable. “Si acatas nuestras reglas, no te multamos: es tan simple como eso”, enfatizó.

Se trata de la primera sanción emitida por la Comisión Europea en el marco del Reglamento de Servicios Digitales (DSA), una ley aprobada hace dos años para luchar contra los contenidos ilegales y peligrosos en línea.

Antes de que Musk comprare la plataforma en 2022, la red, que entonces se llamaba Twitter, otorgaba la marca azul (o “tick azul”) a los usuarios tras un proceso de verificación de identidad, destinado a evitar fraudes.

Pero tras adquirirla por 44.000 millones de dólares y rebautizarla “X”, Elon Musk reservó esas etiquetas a los suscriptores de pago, lo cual podría, según Bruselas, inducir un error a los usuarios.

Por otro lado, la UE amplió su investigación sobre X, al sospechar que no respeta sus obligaciones en materia de contenidos ilegales y desinformación. Sin embargo, todavía no cerró su investigación en ese frente.

El caso adquirió una cariz política por la fuerte cercanía entre Musk y el presidente estadounidense Donald Trump. Ambos habían estado muy unidos hasta su pelea el pasado junio.

En las últimas semanas, protagonizaron un nuevo acercamiento, pero no al nivel de antes.

A finales de noviembre, un grupo de responsables estadounidenses viajó a Bruselas y pidió a la UE que suavizara esas leyes, un cambio de una reducción de los aranceles estadounidenses al acero europeo.

Leé también: Trump sorprende a Paraguay con un “lo amo”, tras el sorteo de grupos del Mundial 2026

Una propuesta rechazada por los europeos, que reafirmaron el derecho soberano del bloque a adoptar y aplicar sus propias leyes.

Fuente: AFP

La empresa xAI de Elon Musk lanzó Grokipedia para competir con Wikipedia, la enciclopedia colaborativa digital creada en 2001, a la que acusó de sesgo ideológico de izquierda. La versión 0.1 del sitio web ya contaba con más de 885.000 artículos el lunes por la tarde, frente a los más de siete millones que tiene Wikipedia en su versión en inglés.

El lanzamiento de la página de Musk vino acompañado de la promesa de una nueva versión 1.0, que según el empresario será “diez veces mejor” que el portal actual, que ya es, según él, “mejor que Wikipedia”. “El objetivo de Grok y Grokipedia.com es la verdad, toda la verdad y nada más que la verdad. Nunca seremos perfectos, pero aun así nos esforzaremos por alcanzar ese objetivo”, escribió Musk en su red social X.

El lanzamiento de Grokipedia estaba previsto para finales de septiembre, pero el empresario estadounidense lo retrasó para “eliminar la propaganda”, según explicó Musk en otra publicación en X. Musk ha sido un crítico habitual de Wikipedia. En 2024, acusó al portal de estar “controlado por activistas de extrema izquierda” y pidió que se dejaran de hacer donaciones a la plataforma.

En agosto, afirmó que Wikipedia no podía “utilizarse como fuente definitiva” ya que “su control editorial tiene un sesgo extremadamente izquierdista”. El contenido de Grokipedia es generado por inteligencia artificial (IA) y el asistente generativo de IA Grok. Un artículo de Grokipedia sobre Musk indica por ejemplo que el director general de Tesla y SpaceX impulsó “debates más amplios sobre el progreso tecnológico, el declive demográfico y los sesgos institucionales, a menudo a través de X”.

El artículo también añade que lo hizo en medio de “críticas de los medios de comunicación tradicionales, que muestran una inclinación sistemática hacia la izquierda en su cobertura”. Wikipedia, creado en 2001, es una enciclopedia colaborativa gestionada por voluntarios, financiada en gran parte por donaciones, y cuyas páginas pueden ser escritas o editadas por los usuarios de Internet. Afirma tener un “punto de vista neutral” en su contenido.

Fuente: AFP.