Las autoridades de Brasil informaron ayer miércoles que ordenaron a la red social X, del multimillonario Elon Musk, que tome medidas inmediatas para impedir la creación de imágenes de carácter sexual generadas por Grok, su asistente de inteligencia artificial (IA). Varios países han iniciado procedimientos legales contra la plataforma tras la indignación internacional respecto a esta herramienta, que permite a los usuarios pedir que se desnude a personas reales a partir de fotos o vídeos.

X debe implementar "de forma inmediata medidas aptas para impedir la producción, a partir de Grok, de contenido sexualizado o erotizado de niños, niñas y adolescentes, así como de adultos que no hayan expresado su consentimiento", dijeron la fiscalía brasileña, la agencia de protección de datos ANPD y la secretaría de defensa del consumidor Senacon.

Las entidades dieron a la plataforma cinco días para cumplir con la determinación, bajo penas de multa y acciones judiciales. Según las autoridades brasileñas, tras un llamado de atención a finales de enero, X afirmó “haber eliminado miles de publicaciones y suspendido centenares de cuentas” y anunció nuevas medidas de seguridad.

Pero exámenes técnicos encontraron una “persistencia de fallas” que permite que este tipo de contenidos se generen y circulen en la plataforma, agregaron. Denunciaron que X “no fue transparente en su respuesta”. X había anunciado a mediados de enero una limitación de su herramienta de IA en los países donde la creación de este tipo de imágenes es ilegal, aunque todavía se desconoce exactamente dónde está en vigor dicha limitación.

Grok, de la empresa xAI de Musk, permitió que los usuarios modificaran imágenes reales de personas con instrucciones simples como “ponla en bikini” o “quítale la ropa”. Según el Centro para Combatir el Odio Digital (CCDH, en inglés), un observatorio que investiga los efectos dañinos de la desinformación en internet, el chatbot generó un estimado de tres millones de imágenes sexualizadas de mujeres y menores en cuestión de días.

No es la primera vez que la plataforma de Elon Musk enfrenta problemas en Brasil. En 2024, el antiguo Twitter fue suspendido 40 días en el gigante suramericano por orden del Supremo Tribunal Federal al no apegarse a una serie de decisiones judiciales relacionadas con la lucha contra la información falsa.

Fuente: AFP.

Rusia anunció este martes restricciones en Telegram, una medida que el fundador de esta mensajería, Pavel Durov, considera un intento de forzar a los rusos a usar otra plataforma local más fácil de controlar.

“La ley rusa sigue sin aplicarse (...), no se aplica ninguna medida real para combatir el fraude y el uso de la mensajería con fines criminales y terroristas”, indicó la Agencia Rusa de Supervisión de las Telecomunicaciones (Roskomnadzor) en un comunicado, citado por las agencias de prensa locales.

Los críticos y activistas de derechos humanos afirman que se trata de un intento del Kremlin de intensificar su control y vigilancia de internet, en medio de una amplia represión contra la disidencia en plena guerra en Ucrania.

Roskomnadzor advirtió que “continuará introduciendo restricciones graduales” en Telegram, que, según afirma, no ha cumplido con la legislación.

Telegram es uno de los dos servicios de mensajería más populares en Rusia, junto con Whatsapp, cuyo funcionamiento está bloqueado casi por completo en el país desde enero por las mismas razones.

“Restringir la libertad de los ciudadanos nunca es la solución correcta. Telegram defiende la libertad de expresión y la privacidad, independientemente de las presiones”, denunció Durov, quien adquirió la nacionalidad francesa, en su plataforma.

Te puede interesar: Acuerdo UE-Mercosur: Parlamento Europeo adopta salvaguardias para agricultores

El fundador acusa a Rusia de intentar “forzar a sus ciudadanos a migrar hacia una aplicación controlada por el Estado, diseñada para la vigilancia y la censura política”.

Telegram se usa ampliamente en toda Rusia, tanto como servicio de mensajería como red social, y casi todas las figuras públicas importantes, incluidos los organismos gubernamentales y el Kremlin, publican mensajes en la plataforma.

El gobierno intenta que los usuarios se decanten por Max, otra plataforma que también puede gestionar pagos y servicios gubernamentales.

Rusia ha intentado previamente prohibir Telegram pero fracasó en sus intentos de bloquear el acceso y levantó la prohibición en 2020.

La oenegé Reporteros Sin Fronteras (RSF) denunció la continuación de una “estrategia de estrangulamiento de la circulación de la información”. Recuerda que Rusia ocupa el puesto 171 de 180 en el Clasificación Mundial de la Libertad de Prensa.

Amnistía Internacional lo ha tachado de “nuevo golpe a la libertad de expresión”.

Las estafas a través de mensajerías son muy frecuentes en Rusia. Las autoridades también acusan a Ucrania de reclutar a rusos a través de estas aplicaciones para que cometan actos de sabotaje a cambio de dinero.

Varias cuentas de observadores militares rusos en Telegram criticaron las restricciones porque temen que conduzcan a una pérdida de influencia de la narrativa pro-Kremlin.

• Fuente: AFP

Lea más: Denuncian una “escalada de detenciones arbitrarias” en Cuba

La plataforma X de Elon Musk anunció el miércoles medidas para impedir que su chatbot de inteligencia artificial Grok transforme fotos de personas reales en imágenes con carácter sexual, tras críticas globales por la generación de ese tipo de contenido de mujeres y niños. El anuncio llega después de que la fiscalía de California iniciara una investigación sobre xAI, la empresa de IA de Musk, por “facilitar la producción a gran escala de montajes íntimos no consentidos (deepfakes), utilizados para acosar a mujeres y niñas en internet, principalmente vía la red social X”, indicó el fiscal general del estado, Rob Bonta, en un comunicado.

"Tenemos tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico“, agregó el fiscal. Bonta dijo que la investigación determinará si xAI violó la ley estatal después de que las imágenes explícitas fueran “utilizadas para acosar a personas en Internet”. El gobernador de California, Gavin Newsom, dijo el miércoles que la “vil” decisión de xAI de permitir la proliferación de deepfakes sexualmente explícitos lo llevó a instar al fiscal general a responsabilizar a la empresa.

X dijo que “bloqueará geográficamente la capacidad” de todos los usuarios de Grok y X para crear imágenes de personas en “bikinis, ropa interior y atuendos similares” en aquellas jurisdicciones donde esas acciones se consideren ilegales. “Hemos implementado medidas tecnológicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis”, dijo el equipo de seguridad de X en un comunicado.

“Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago”, añadió. Como “una capa adicional de protección”, la creación de imágenes y la posibilidad de editar fotos a través de la cuenta Grok de X ahora solo estaba disponible para suscriptores de pago, añadió el comunicado.

Lea más: Argentino radicado en Francia falleció por sorpresiva superola en Mar del Plata

El movimiento internacional de indignación se intensificó en las últimas semanas contra Grok y la posibilidad que ofrece de modificar imágenes, en particular las publicadas en la red social X. Esta opción estaba permitiendo a los usuarios crear ‘deepfakes’ sexualizados de mujeres y menores de edad usando indicaciones como “ponla en bikini” o “quítale la ropa”.

La semana pasada, Grok intentó desviar las críticas con una nueva política de monetización, anunciando en X que la generación y edición de imágenes quedaban “limitadas a los suscriptores de pago”.

Pero ese anuncio solo alimentó aún más la indignación: la oficina del primer ministro británico, Keir Starmer, condenó la medida por considerarla un agravio a las víctimas y “no una solución”, mientras que el regulador de medios británico, Ofcom, dijo el lunes que estaba abriendo una investigación para determinar si X incumplió la legislación del Reino Unido en relación a las imágenes sexuales.

Aumentando aún más la presión sobre la compañía de Musk, una coalición de 28 organizaciones de la sociedad civil envió ayer miércoles cartas abiertas a los directores ejecutivos de Apple y Google, instándolos a prohibir Grok y X en sus tiendas de aplicaciones ante el aumento de imágenes sexualizadas.

Indonesia y Malasia bloquearon el acceso a Grok, mientras que India dijo que X había eliminado miles de publicaciones y cientos de cuentas de usuario en respuesta a sus quejas. La comisionada francesa para la infancia, Sarah El Hairy, dijo el martes que había remitido las imágenes generadas por Grok a la fiscalía francesa, al regulador de medios Arcom y a la Unión Europea. Esta última pidió la paralización total de la generación de ese tipo de contenido.

Un análisis realizado la semana pasada por la oenegé AI Forensics sobre más de 20.000 imágenes generadas por Grok reveló que más de la mitad representaban a personas con poca ropa, de las cuales el 81 % eran mujeres y el 2 % parecían menores de edad.

Fuente: AFP.

La Unión Europea impuso este viernes una multa de 120 millones de euros (casi 140 millones de dólares) a la red social X, propiedad de Elon Musk, que podría provocar otra confrontación con el presidente estadounidense Donald Trump.

La sanción corresponde a las infracciones notificadas en julio de 2024 a X, cuando la UE acusó a la plataforma de engañar a los usuarios con el sistema de marca de verificación azul -que supuestamente certifica las fuentes de información-, de no ser lo suficientemente transparente respecto a la publicidad y de no respetar la obligación de acceso a los datos internos por parte de investigadores acreditados.

El jefe de la diplomacia estadounidense, Marco Rubio, reaccionó a la decisión y dijo que era un “ataque contra el pueblo estadounidense por parte de gobiernos extranjeros”.

“La era de la censura contra los estadounidenses en internet ha terminado”, añadió.

El vicepresidente estadounidense JD Vance también había denunciado los pasos que estaba dando la Unión Europea, antes incluso de que se oficializara la decisión.

Te puede interesar: Tensión en el Norte: Policía impide intento de invasión campesina

“La UE debería defender la libertad de expresión en lugar de atacar a empresas estadounidenses por tonterías”, lanzó, una declaración que Musk agradeció poco después.

La multa contra X “no tiene nada que ver con la censura”, señaló la vicepresidenta de la Comisión Europea encargada de temas digitales, Henna Virkkunen, al ser preguntada por periodistas.

“No estamos aquí para imponer las multas más altas. Estamos aquí para asegurarnos de que nuestra legislación digital se cumple”, agregó el responsable. “Si acatas nuestras reglas, no te multamos: es tan simple como eso”, enfatizó.

Se trata de la primera sanción emitida por la Comisión Europea en el marco del Reglamento de Servicios Digitales (DSA), una ley aprobada hace dos años para luchar contra los contenidos ilegales y peligrosos en línea.

Antes de que Musk comprare la plataforma en 2022, la red, que entonces se llamaba Twitter, otorgaba la marca azul (o “tick azul”) a los usuarios tras un proceso de verificación de identidad, destinado a evitar fraudes.

Pero tras adquirirla por 44.000 millones de dólares y rebautizarla “X”, Elon Musk reservó esas etiquetas a los suscriptores de pago, lo cual podría, según Bruselas, inducir un error a los usuarios.

Por otro lado, la UE amplió su investigación sobre X, al sospechar que no respeta sus obligaciones en materia de contenidos ilegales y desinformación. Sin embargo, todavía no cerró su investigación en ese frente.

El caso adquirió una cariz política por la fuerte cercanía entre Musk y el presidente estadounidense Donald Trump. Ambos habían estado muy unidos hasta su pelea el pasado junio.

En las últimas semanas, protagonizaron un nuevo acercamiento, pero no al nivel de antes.

A finales de noviembre, un grupo de responsables estadounidenses viajó a Bruselas y pidió a la UE que suavizara esas leyes, un cambio de una reducción de los aranceles estadounidenses al acero europeo.

Leé también: Trump sorprende a Paraguay con un “lo amo”, tras el sorteo de grupos del Mundial 2026

Una propuesta rechazada por los europeos, que reafirmaron el derecho soberano del bloque a adoptar y aplicar sus propias leyes.

Fuente: AFP