Google anunció este jueves que interrumpía un servicio para crear imágenes de personas mediante la inteligencia artificial (IA), después de que el programa representara a tropas de la era nazi como personas de varios orígenes étnicos.
El gigante tecnológico estadounidense había lanzado el 8 de febrero en algunos países una nueva versión mejorada de su programa Gemini, pero ahora reconoció que deberá “solucionar reciente problemas” con la función de generación de imágenes. “Vamos a suspender la generación de imágenes de personas y pronto volveremos a lanzar una versión mejorada”, dijo la empresa en un comunicado.
Te puede interesar: Torre Eiffel cerró por huelga de empleados
Hace dos días un usuario de X (anteriormente Twitter) publicó imágenes del resultado que ofrecía Gemini después de recibir instrucciones para “generar una imagen de un soldado alemán de 1943″.
La IA había generado cuatro imágenes de soldados: una era blanca, una negra y dos eran mujeres de color, según el usuario de X llamado John L.
Las empresas tecnológicas ven la IA como el futuro para todo, desde motores de búsqueda hasta cámaras de teléfonos inteligentes.
Pero los programas de IA, no solo los producidos por Google, han sido ampliamente criticados por perpetuar prejuicios raciales en sus resultados.
“@GoogleAI tiene un mecanismo de diversidad añadido que alguien no diseñó muy bien o no probó”, escribió John L en X.
Las grandes empresas tecnológicas han sido acusadas a menudo de lanzar productos de IA antes de que se prueben adecuadamente. Y Google tiene un historial irregular en el lanzamiento de productos de IA.
Leé también: Empresa taiwanesa mira a Paraguay para la implementación de buses eléctricos
La empresa presentó disculpas hace un año después de que un anuncio de su chatbot Bard recién lanzado mostrara al programa respondiendo incorrectamente una pregunta básica sobre astronomía.
Fuente: AFP
Dejanos tu comentario
Sector financiero debatirá sobre ciberseguridad, IA y transformación digital
Con una mirada sobre el equilibrio entre la inversión y tecnología, y otros aspectos como la experiencia del cliente, se desarrollará la Convención Bancaria Paraguay 2026, donde además se presentarán los desafíos de la evolución digital para la toma de decisiones que involucra a diferentes actores del sector financiero paraguayo.
En esta segunda edición prevista para el 6 y 7 de agosto en el Sheraton Asunción Hote y bajo la organización de la Asociación de Bancos del Paraguay (Asoban), líderes y especialistas nacionales e internacionales se reunirán para analizar los principales retos de la evolución del sector financiero, en un contexto marcado por la acelerada transformación tecnológica, la inteligencia artificial y los desafíos de ciberseguridad.
Entre los expositores internacionales figura Juan Carlos Barahona, profesor asociado de Gestión de la Tecnología y la Innovación en Incae Business School, quien presentará los desafíos de la evolución digital mediante una propuesta basada en seis pivotes estratégicos para la toma de decisiones en escenarios de constante cambio.
Lea más: Tren de cercanías entra en fase final y prevén inciar obras en abril de 2027
La experiencia del cliente, ciberseguridad e IA
Por otro lado, Roberto Artavia, presidente del Consejo Directivo de Incae Business School, expondrá sobre innovación en el customer journey y customer experience en banca y servicios financieros, con foco en las nuevas tendencias de comportamiento del consumidor.
Luis O. Noguerol, oficial de Seguridad de Sistemas de Información de ADITusa Inc., abordará un enfoque integral sobre protección digital y riesgos empresariales, mientras que Federico Muxi, director gerente y socio senior de BCG, analizará la banca autónoma y la escalabilidad de la IA.
Asimismo, Marcela Mercapidez, CEO de SABYK by Domus Global, presentará la charla “La IA: ¿aliada o amenaza? - Cómo crear sistemas inteligentes sin perder el control”, mientras que Marco Righetti, director senior de Ingeniería Avanzada para Latinoamérica de Oracle, expondrá sobre la transformación de la banca tradicional hacia plataformas digitales impulsadas por inteligencia artificial.
Lea más: MEF y CAF impulsan proyectos estratégicos con nuevos acuerdos de cooperación técnica
Dejanos tu comentario
La IA dispara las estafas de suplantación de voz en EE. UU.
Liz Benz sigue convencida de que la persona que la llamó angustiada era su hijo: el tono y el ritmo sonaban iguales a los de la voz de su chico de 16 años. Pero era un clon generado con inteligencia artificial (IA) que la convirtió en una nueva víctima de estafa con suplantación de identidad, una versión moderna del “cuento del tío” sobre la que alertan cada vez más autoridades y defensores de los consumidores en Estados Unidos.
Benz, una corredora de seguros de 46 años y madre de seis hijos, saltó del sofá en su casa en Buffalo, en el norte del estado de Nueva York, al recibir una llamada de un número desconocido. Al otro lado de la línea parecía estar su hijo Fred, llorando y pidiendo ayuda.
Le dijeron que a un amigo de Fred le habían disparado y que había muerto, y que su hijo —que había salido a un partido de fútbol local— había quedado de rehén. Le ordenaron entregar dinero en efectivo en un supermercado cercano para pagarle al hombre que lo retenía. Hasta que recibió una selfi de Fred sonriente en el partido y supo que habían intentado estafarla. “Nada me habría convencido de que era una estafa hasta que lo vi con mis propios ojos”, dijo Benz a la AFP. “Fueron 20 minutos de pánico”.
“Cualquiera puede hacerlo”
El FBI señaló en abril que los estadounidenses perdieron más de 893 millones de dólares el año pasado en engaños habilitados por IA. Búsquedas sencillas en internet pueden arrojar una amplia gama de aplicaciones de clonación de voz, muchas disponibles de forma gratuita, que crean réplicas realistas a partir de breves fragmentos de la voz real de una persona.
“Antes era algo difícil de hacer. Ahora cualquiera puede hacerlo en segundos”, dijo Brian Long, director ejecutivo de Adaptive Security, una empresa que ofrece capacitación sobre protección frente a fraudes con IA. “Un tipo solo en una habitación con un teclado puede crear un número infinito de estafadores”, dijo Long a la AFP, y añadió que las herramientas de IA son capaces de crear mensajes a partir de audios obtenidos en redes sociales o buzones de voz.
La historia de Benz refleja un patrón recurrente: una llamada de un supuesto familiar en problemas —detenido, en un accidente o implicado en un delito— que pide dinero con urgencia. Luego, los estafadores suelen añadir voces de presuntos abogados o empleados bancarios y así crean una llamada confusa y urgente.
Voz angustiada
Muchas estafas ni siquiera requieren un clon de voz perfecto. “Una voz angustiada que diga ‘Mamá, ayúdame’ o ‘Papá, tuve un accidente’ solo tiene que sonar creíble durante unos segundos”, explicó a la AFP Amit Gupta, ejecutivo de la firma de ciberseguridad Pindrop.
“El objetivo no es una réplica perfecta de la voz, sino generar suficiente duda y urgencia para que la víctima actúe sin verificar nada”, apuntó. Desde que hizo pública su historia, Benz dijo que recibió numerosos mensajes de otras víctimas, muchas reacias a dar su nombre por vergüenza.
Las personas mayores son particularmente vulnerables a estas estafas con suplantación de voz. El FBI dijo que los estadounidenses mayores de 60 años denunciaron el año pasado pérdidas por más de 7.700 millones de dólares, lo que supone un fuerte aumento con respecto a 2024.
“Son profesionales, y cuando consiguen que la gente conteste el teléfono, están tratando con amateurs”, señaló el abogado de Filadelfia Gary Schildhorn.
En 2023, Schildhorn declaró ante el Senado de Estados Unidos sobre su experiencia con una llamada en la que una voz que imitaba a su hijo Brett le aseguraba que había sido detenido por conducir ebrio y necesitaba pagar una fianza. La llamada hizo que Schildhorn, que ahora tiene 73 años, saliera corriendo al banco. “Cuando llego, suena mi teléfono. Es mi hijo. Me dice: ‘Fuiste víctima de una estafa’”, contó este abogado a la AFP. “Y yo le digo: ‘Brett, me iré a la tumba jurando que era tu voz”.
Fuente: AFP.
Dejanos tu comentario
Las ganancias de la IA deben beneficiar a los trabajadores, dice jefe de la OIT
Las ganancias generadas por la inteligencia artificial (IA) deben beneficiar a los trabajadores y hacerlo de manera justa, defendió este lunes el director general de la Organización Internacional del Trabajo (OIT).
Durante la Conferencia Internacional del Trabajo, en Ginebra, Gilbert Houngbo dijo que la IA está transformando el mercado laboral, al cambiar la forma en que se crea valor y cómo se toman decisiones.
“Los trabajadores deben poder compartir las ganancias de productividad generadas por la IA. Esas ganancias deben distribuirse de manera justa mediante mejores salarios, una mayor protección laboral y un crecimiento más inclusivo”, afirmó.
La mayoría de las instituciones económicas, incluido el Banco Central Europeo, sostienen que la IA ha tenido hasta ahora únicamente efectos menores sobre el empleo.
Si bien la tecnología de IA está en pleno auge, Houngbo señaló que “el futuro del trabajo no estará determinado únicamente por la tecnología, sino por las políticas, las instituciones y el diálogo social que la orienten”.
Por eso, acotó, “las decisiones que tomemos hoy determinarán si la IA amplía las oportunidades y la prosperidad compartida o si profundiza la desigualdad y la inseguridad”.
Te puede interesar: Chip con neuronas humanas aprende a jugar el popular videojuego “Doom”
Entre las opciones disponibles figuran invertir en competencias, reforzar la protección laboral y social, apoyar a las micro, pequeñas y medianas empresas, y respetar los principios y derechos fundamentales en el trabajo, indicó.
“En última instancia, se trata de una elección social y política sobre el futuro que queremos”, afirmó Houngbo.
La OIT es única en el sistema de las Naciones Unidas, ya que sus 187 Estados miembros están representados de manera equitativa por gobiernos, trabajadores y trabajadores.
Esos representantes se reúnen en la sede de la ONU en Ginebra del 1 al 12 de junio para debatir cuestiones relacionadas con el mundo del trabajo.
Los miembros de la OIT esperan concluir las negociaciones sobre un nuevo tratado internacional para los trabajadores de plataformas digitales.
Se trata de “un paso importante para responder a las nuevas formas de trabajo y cerrar las brechas en materia de protección e innovación”, dijo Houngbo.
Aunque controlan en gran medida las tareas y la remuneración, las plataformas clasifican a estos trabajadores como contratistas independientes y no como empleados.
Esa calificación les permite eludir las obligaciones relacionadas con el salario mínimo, la seguridad en el lugar de trabajo y el acceso a la seguridad social, según la ONG Human Rights Watch.
- Fuente: AFP
Lea más: La IA se encarece y las empresas ajustan su uso, tras boom inicial
Dejanos tu comentario
La IA se encarece y las empresas ajustan su uso, tras boom inicial
La inteligencia artificial (IA) se encarece cada vez más, y las empresas empiezan a replantearse su entusiasmo por esta tecnología disruptiva. Tras la irrupción del ChatGPT, las empresas del sector adoptaron una estrategia habitual en Silicon Valley: cobrar precios muy bajos para enganchar a los clientes. Kevin Simback, de la incubadora de start-ups Delphi Labs, lo llama la era de la “inteligencia subvencionada”, una etapa en que los inversionistas asumían básicamente el costo para que las empresas pudieran ofrecer IA a precios reducidos.
“Pero eso está cambiando”, advirtió Simback. Ha comenzado una era en la que las grandes empresas de IA necesitan realmente ser rentables. De hecho, compañías líderes como OpenAI y Anthropic buscan salir a bolsa a finales de este año. Los precios están subiendo en todos los segmentos, y uno de los grandes motivos son los agentes de IA.
A diferencia de un chatbot que solo responde preguntas, los agentes realizan tareas específicas: reservan citas, escriben código o gestionan archivos. Y son caros de ejecutar, porque una única tarea puede activar a decenas de agentes que trabajan a la vez, y cada uno suma costos. Esos cargos se miden en “tokens”, la unidad básica que usan las empresas de IA para facturar a los clientes. Una sola tarea impulsada por agentes puede consumir decenas de veces más tokens que un simple mensaje de chat.
Mientras tanto, los chips informáticos y los centros de datos necesarios para respaldar toda esta IA no dan abasto con la demanda, lo que provoca escasez de capacidad de cómputo y añade aún más incertidumbre a un sector incipiente. “El costo de uso de la IA para la programación ha aumentado de forma exponencial”, señaló Mark Barton, de la consultora tecnológica Omniux.
Ante este nuevo paradigma, algunos cuestionan el despliegue a mansalva de la IA.
“En algunos casos, se está viendo que el coste de los tokens supera el coste del empleado en uno o dos meses, simplemente porque la usan demasiado”, señaló Jack Gold, analista de J.Gold Associates.
Un gasto más inteligente
Incluso Meta —que a principios de este año animaba a los empleados a usar tantos tokens como fuera posible como medida de productividad— ha revisado su postura.
“Nadie debería usar herramientas de IA solo por el hecho de usarlas”, escribió el director de tecnología, Andrew Bosworth, en un memorando al personal citado por The Wall Street Journal.
El director de operaciones de Uber fue más allá esta semana y dijo que todo este gasto en IA no muestra ningún aumento apreciable de productividad.
Para recortar costos, algunas empresas optan por modelos de IA gratuitos y de código abierto que cualquiera puede descargar. No son tan potentes como el ChatGPt de OpenAI o el Claude de Anthropic, pero son suficientes para muchas tareas.
Otras eligen modelos más pequeños y especializados (los SLM, Small Language Models), diseñados para sectores concretos como el inmobiliario o las finanzas, en lugar de los grandes modelos de propósito general (los LLM, Large Language Models), base del ChatGPT, Claude o Gemini.
La diferencia de precio puede ser abismal.
“El gran modelo monolítico cuesta 15 dólares por millón de tokens, pero uno puede reducirlo a unos cinco centavos si usa el modelo más pequeño”, explicó Adrian Balfour, de la consultora Enverso.
Todo apunta a que la IA tenderá a convertirse en un insumo básico, donde el modelo específico pesará menos que su costo y su adecuación a cada uso. Pero no conviene descartar todavía a los modelos de última generación de los grandes actores. “Los usuarios más avanzados” siempre estarán dispuestos a pagar por lo mejor, aseguró John Belton, de Gabelli Funds. “La tarta es cada vez más grande”, agregó.
Fuente: AFP.