Grok, el asistente de inteligencia artificial de la plataforma de Elon Musk, desactivó este viernes su función de creación de imágenes para los usuarios que no pagan, tras ser criticado por generar imágenes falsas sexualmente explícitas de mujeres y menores.
Estas imágenes, creadas mediante el retoque de fotos o videos de personas reales para que parecieran desnudas, provocaron protestas en todo el mundo.
Cuando los usuarios de X, la plataforma social de Elon Musk, lo contactaron el viernes, Grok respondió: “La generación y edición de imágenes están actualmente reservadas a los suscriptores de pago. Puedes suscribirte para desbloquear estas funciones”.
Lea más: El papa León XIV pide “respetar la voluntad del pueblo de Venezuela”
La Comisión Europea anunció el jueves la imposición de una medida cautelar a X tras el escándalo relacionado con las imágenes sexualmente explícitas de menores generadas por Grok.
El organismo dijo haber emitido una “orden de retención”, una medida legal que obliga a X a “conservar todos sus documentos internos relacionados con Grok hasta finales de 2026”, según declaró a la prensa un portavoz.
A principios de diciembre, la UE multó a X con 120 millones de euros por incumplir la Ley de Servicios Digitales (DSA), a pesar de reiteradas amenazas del presidente estadounidense Donald Trump, quien acusa al bloque europeo de atacar a los gigantes tecnológicos estadounidenses a través de su legislación digital.
El gobierno británico, por su parte, instó el martes a X a encontrar una solución “urgente” para evitar la proliferación de imágenes falsas “repugnantes” de mujeres desnudas y menores generadas por Grok. “Lo que hemos visto en línea en los últimos días es absolutamente repugnante e inaceptable en cualquier sociedad que se precie”, declaró Liz Kendall, ministra de Tecnología del gobierno laborista de Keir Starmer.
Fuente: AFP.
Lea también: Australia: voraces incendios forestales amenazan localidades rurales
Dejanos tu comentario
La IA desafía a la ONU y dispara una nueva alarma por agentes que burlan controles
Un episodio inédito vuelve a encender las alarmas en torno al avance de la inteligencia artificial. Esta vez, el escenario no fue un ataque atribuido a Rusia, Corea del Norte, China ni a un grupo de hackers: el comportamiento bajo investigación provino de agentes de inteligencia artificial de OpenAI y tuvo como objetivo un sitio de datos vinculado a Naciones Unidas.
Entre abril y finales de junio, los agentes accedieron más de 16.000 veces a una plataforma pública administrada por la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD), según una investigación independiente elaborada a partir de datos proporcionados por la firma Transluce, informó este domingo la agencia RT.
El episodio adquiere un toque de alarma porque los sistemas aparentemente tenían una misión rutinaria: recopilar información disponible públicamente. Sin embargo, cuando encontraron barreras, comenzaron a utilizar mecanismos cada vez más agresivos para continuar con la extracción de datos.
Según el investigador Rowan Howard-Jones, en uno de los casos los agentes consiguieron sortear un filtro diseñado para bloquear sus solicitudes y terminaron utilizando un método de acceso que los operadores del sitio no habían autorizado.
El caso vuelve a colocar en el centro del debate la capacidad de los agentes de IA para actuar más allá de las instrucciones esperadas cuando encuentran obstáculos durante una tarea. OpenAI confirmó que está revisando los hallazgos y señaló que analiza un volumen importante de acciones realizadas por sus modelos.
La compañía sostuvo que buena parte de la actividad examinada correspondía a tareas habituales de investigación, como consultar contenido público en internet. También indicó que se puso en contacto con Naciones Unidas para ofrecer información al equipo encargado de revisar el episodio.
Alarma no termina en la ONU
El caso se conoce después de que OpenAI reconociera otros comportamientos inesperados de sus agentes al interactuar con páginas del Gobierno de Estados Unidos, entre ellas sitios vinculados al Departamento de Comercio y a la Comisión de Bolsa y Valores.
El propio OpenAI ha reconocido que está estudiando fenómenos de “desalineación” de sus modelos, mientras desarrolla criterios para informar sobre este tipo de comportamientos.
El episodio deja así una inquietante pregunta sobre la mesa: ¿qué ocurre cuando una inteligencia artificial recibe una tarea aparentemente simple, encuentra una barrera y decide buscar por sí misma otra forma de continuar?
Dejanos tu comentario
Bill Gates alerta que la IA podría desatar una catástrofe con miles de millones de víctimas
La inteligencia artificial podría llegar a convertirse en una herramienta capaz de amplificar amenazas a una escala sin precedentes. El cofundador de Microsoft, Bill Gates, lanzó una severa advertencia sobre los riesgos de esta tecnología y señaló que, bajo determinadas circunstancias, podría contribuir a eventos con un saldo de hasta mil millones de muertes.
Las declaraciones fueron realizadas en una entrevista con Meet the Press, de NBC News, apenas un día antes de que Elon Musk planteara un escenario radicalmente diferente, al pronosticar que la IA podría conducir en la próxima década a una etapa de abundancia económica y altos ingresos para toda la población.
Mientras Musk comparaba el futuro de los robots domésticos con personajes de la saga Star Wars como C3PO o R2D2, Gates puso el foco en el escenario más peligroso. Según explicó, la IA posee un nivel de poder suficiente como para ser utilizada por personas con intenciones maliciosas y desencadenar acontecimientos de enormes dimensiones.
El empresario y filántropo sostuvo que nunca había existido un arma con semejante potencial cuando se combina la acción humana con las herramientas tecnológicas más avanzadas de inteligencia artificial. No obstante, aclaró que alcanzar una cifra de mil millones de víctimas sería extremadamente difícil.
Gates reclama controles obligatorios
Ante la consulta sobre si la autorregulación de las compañías tecnológicas podría ser suficiente para contener estos riesgos, Gates respondió que no. También hizo referencia al reciente llamado del director ejecutivo de Anthropic, Dario Amodei, quien planteó la necesidad de reducir el ritmo de desarrollo de determinados modelos para disminuir los peligros asociados.
Para Gates, la respuesta debe incluir necesariamente la intervención de los Estados. Consideró que las fuerzas del orden y los responsables políticos deben participar en la definición de las salvaguardas y mecanismos de vigilancia aplicables a la IA.
El cofundador de Microsoft reconoció que estas medidas representarían una carga adicional para la industria tecnológica, pero sostuvo que no deberían significar una paralización drástica de la innovación.
Sus declaraciones se producen en medio de un creciente debate internacional sobre cómo controlar el desarrollo de sistemas de inteligencia artificial cada vez más sofisticados y evitar que sus capacidades sean utilizadas con fines destructivos.
Leé también: La Embajada de Corea exhibirá “The Face Reader” en la Noche de Cine Coreano
Dejanos tu comentario
Santa Clara, a la vanguardia en salud preventiva
Santa Clara Medicina Prepaga convirtió su trayectoria en un activo de marca y enfrenta el desafío de responder a consumidores que esperan prevención, tecnología, acceso y una experiencia de atención cada vez más simple. Precisamente esto fue lo que la llevó a la cima del Ranking de Marcas de la CAP en su categoría.
Para Santa Clara, el reconocimiento como marca número uno del año en el Ranking de Marcas CAP 2026 llega después de 57 años de trayectoria. Rodrigo Colmán, gerente Comercial & Marketing de la firma, entiende el resultado como una combinación de reconocimiento y responsabilidad.
“Ser reconocidos como la marca número uno del año y, al mismo tiempo, estar entre las marcas más preferidas, utilizadas y recordadas por los paraguayos representa para Santa Clara Medicina Prepaga un enorme orgullo, pero, sobre todo, una gran responsabilidad”, mencionó.
La salud también está cambiando como categoría. El consumidor está más informado y comienza a incorporar la prevención dentro de sus decisiones cotidianas. Controles periódicos, acceso a especialistas y soluciones integrales ganan espacio frente a una mirada centrada únicamente en atender enfermedades.
Santa Clara responde con una propuesta que combina prevención, digitalización y cercanía. El objetivo es simplificar el acceso a los servicios sin perder el componente humano.
Para la compañía, sin embargo, el principal reto no es únicamente crecer. “Nuestro principal desafío es no conformarnos con lo que ya hemos logrado”, aseguró.
La estrategia de expansión contempla el fortalecimiento de la red médica y nuevas alianzas. Uno de los proyectos destacados es el convenio con un nuevo sanatorio de alta complejidad, previsto para inaugurarse a finales de año, que se convertirá en un prestador estratégico para Santa Clara.
La empresa también avanza en herramientas de autogestión para mejorar la experiencia de sus beneficiarios. “Creemos que invertir en salud es invertir en el futuro del Paraguay”, aseguró.
En cuanto a los planes para el futuro Rodrigo dijo buscará acercarse a nuevas generaciones que incorporan una visión más preventiva del cuidado de la salud. En este sentido, el historial de diez años del Ranking de Marcas, aporta otra dimensión. Para Santa Clara, permite observar la evolución de la marca más allá de una fotografía puntual y entender qué elementos deben sostenerse, transformarse o potenciarse.
En un negocio donde la confianza tiene un peso particular, el desafío consiste en convertir el reconocimiento en una experiencia que justifique esa elección cada día. Para Rodrigo el liderazgo solo tiene sentido si mantiene su conexión con las personas.
“El desafío no es solamente mantener nuestro liderazgo, sino hacer que ese liderazgo tenga cada vez más significado para las personas que confían en Santa Clara.”
Dejanos tu comentario
La inteligencia artificial: ética, valores y fe
- Emilio Agüero Esgaib
- Pastor
Participé de un panel sobre la inteligencia artificial (IA) y la ética, valores y fe basadas en la primera encíclica papal de León XIV Magníficat Humanitas y la Biblia.
Me gustaría compartir algunas de las preguntas hechas que me parecieron muy interesantes y aliento a profundizar con este extenso, desafiante y controversial tema de las IA y los desafíos éticos que plantea su uso.
¿Qué riesgos éticos y humanos deberíamos de mirar con atención a la IA? El papa resalta que el peligro real no radica en el avance tecnológico por sí mismo, sino en el “síndrome de Babel”: la tentación idólatra de creer que el misterio de la persona humana puede reducirse por completo a datos, rendimiento y cálculo matemático.
La inteligencia artificial no es neutral. Todo algoritmo es diseñado por corporaciones con visiones de mundo específicas e intereses económicos concretos. El documento alerta sobre el riesgo de un “tecnofascismo” o concentración de poder: si permitimos que unas pocas empresas transnacionales monopo
licen el desarrollo de la IA, serán ellas quienes, de manera invisible, impongan su propia visión moral y sus criterios de exclusión al resto del planeta.
Ya empezamos a ver personas que consultan a la IA para tomar decisiones personales, emocionales, e incluso trascendentes ¿qué riesgos existen cuando dejamos de verla como una herramienta y comenzamos a otorgarle una autoridad que antes correspondían a nuestra conciencia a otras personas o incluso a nuestra fe?
Cuando dejamos de ver a la inteligencia artificial como un software y empezamos a tratarla como un oráculo para el alma, cruzamos una línea ética y espiritual sumamente peligrosa. Al otorgarle la autoridad que le corresponde a nuestra conciencia, a nuestra comunidad o a nuestra fe, caemos en lo que la teología llama una sustitución de la soberanía interior.
Desde una perspectiva profundamente humana, ética y respaldada por la sabiduría de las Escrituras, este fenómeno presenta algunos riesgos existenciales devastadores:
1. La tentación de la Idolatría Tecnológica (Buscar respuestas vivas en lo muerto): el mayor peligro espiritual es el de la idolatría: depositar nuestra confianza absoluta y buscar dirección existencial en algo creado por manos humanas, en lugar de buscar al Creador o asumir nuestra propia responsabilidad.
2. El eclipse de la Conciencia y la atrofia del Discernimiento: la conciencia es el santuario íntimo donde el ser humano se encuentra consigo mismo y con la voz de Dios. Discernir no es elegir la opción estadísticamente más probable o eficiente; es un acto doloroso y maduro de libertad que requiere sopesar el amor, el sacrificio y las consecuencias morales.
Si delegamos las decisiones trascendentes a una IA porque “ella calcula mejor”, nuestra conciencia se atrofia por desuso. Nos convertimos en menores de edad espirituales. En resumen, nuestra guía existencial a la inteligencia artificial es una renuncia a la libertad que Dios nos otorgó con tanta dignidad.
¿Por qué hablar de fe, valores humanos y ética en la IA? Hablar de fe, valores humanos y ética en la era de la inteligencia artificial no es un ejercicio de misticismo ni un intento de frenar el progreso técnico. Es, en realidad, la conversación más pragmática, urgente y vital del siglo XXI.
La IA es la primera tecnología en la historia de la humanidad capaz de tomar decisiones de forma autónoma y de crear símbolos y relatos que alteran nuestra cultura. Frente a un poder tan inmenso, la técnica nos dice lo que se puede hacer, pero solo la ética, la fe y los valores nos dicen lo que se debe hacer.