Google anunció este jueves que interrumpía un servicio para crear imágenes de personas mediante la inteligencia artificial (IA), después de que el programa representara a tropas de la era nazi como personas de varios orígenes étnicos.
El gigante tecnológico estadounidense había lanzado el 8 de febrero en algunos países una nueva versión mejorada de su programa Gemini, pero ahora reconoció que deberá “solucionar reciente problemas” con la función de generación de imágenes. “Vamos a suspender la generación de imágenes de personas y pronto volveremos a lanzar una versión mejorada”, dijo la empresa en un comunicado.
Te puede interesar: Torre Eiffel cerró por huelga de empleados
Hace dos días un usuario de X (anteriormente Twitter) publicó imágenes del resultado que ofrecía Gemini después de recibir instrucciones para “generar una imagen de un soldado alemán de 1943″.
La IA había generado cuatro imágenes de soldados: una era blanca, una negra y dos eran mujeres de color, según el usuario de X llamado John L.
Las empresas tecnológicas ven la IA como el futuro para todo, desde motores de búsqueda hasta cámaras de teléfonos inteligentes.
Pero los programas de IA, no solo los producidos por Google, han sido ampliamente criticados por perpetuar prejuicios raciales en sus resultados.
“@GoogleAI tiene un mecanismo de diversidad añadido que alguien no diseñó muy bien o no probó”, escribió John L en X.
Las grandes empresas tecnológicas han sido acusadas a menudo de lanzar productos de IA antes de que se prueben adecuadamente. Y Google tiene un historial irregular en el lanzamiento de productos de IA.
Leé también: Empresa taiwanesa mira a Paraguay para la implementación de buses eléctricos
La empresa presentó disculpas hace un año después de que un anuncio de su chatbot Bard recién lanzado mostrara al programa respondiendo incorrectamente una pregunta básica sobre astronomía.
Fuente: AFP
Dejanos tu comentario
Ocurrió lo que se temía: la inteligencia artificial ya engaña a los humanos
Los expertos han advertido durante mucho tiempo sobre la amenaza que representa el descontrol de la Inteligencia Artificial (IA), pero un nuevo artículo de investigación sobre esta tecnología en expansión sugiere que ya está sucediendo.
Los sistemas de IA actuales, diseñados para ser honestos, han desarrollado una preocupante habilidad para el engaño, según un artículo de un equipo de científicos publicado en la revista Patterns el viernes.
Te puede interesar: EE.UU y China quieren una cumbre sobre metano durante la COP29
Y si bien los ejemplos pueden parecer triviales, los problemas subyacentes que exponen podrían tener graves consecuencias, dijo el primer autor Peter Park, becario postdoctoral en el Instituto de Tecnología de Massachusetts (MIT), especializado en seguridad de la IA.
“Estos peligros tienden a descubrirse solo después de ocurrido el hecho”, declaró Park a la AFP, para acotar que “nuestra capacidad de entrenarnos para tendencias de honestidad en lugar de tendencias de engaño es muy baja”.
A diferencia del software tradicional, los sistemas de IA de aprendizaje profundo no se “escriben” sino que “crecen” mediante un proceso similar a la reproducción selectiva, indicó Park.
Eso significa que el comportamiento de la IA que parece predecible y controlable en un entorno de entrenamiento puede volverse rápidamente impredecible fuera de este.
Se aprovechó de la confianza
La investigación del equipo fue impulsada por el sistema de IA Cicero, del gigante Meta (Facebook, Instagram), diseñado para el juego de estrategia “Diplomacy”, donde construir alianzas es clave.
Cicero se destacó, con puntuaciones que lo habrían colocado entre el 10 % superior de jugadores humanos experimentados, según un artículo de 2022 publicado en Science.
Park se mostró escéptico ante la elogiosa descripción de la victoria de Cicero proporcionada por Meta, que afirmaba que el sistema era “en gran medida honesto y útil” y que “nunca apuñalaría por la espalda intencionalmente”.
Cuando Park y sus colegas profundizaron en el conjunto de datos completo, descubrieron una historia diferente.
En un ejemplo, jugando como Francia, Cicero engañó a Inglaterra (un jugador humano) al conspirar con Alemania (otro usuario real) para invadirla. Cicero prometió protección a Inglaterra y luego le propuso en secreto a Alemania atacar, aprovechándose de la confianza del perjudicado.
En una declaración a la AFP, Meta no refutó la afirmación sobre los engaños de Cicero, pero dijo que se trataba “meramente de un proyecto de investigación, y los modelos que nuestros investigadores construyeron están entrenados únicamente para participar en el juego Diplomacy”.
“No tenemos planes de utilizar esta investigación o sus aprendizajes en nuestros productos”, añadió.
Engañó a operador humano
Una amplia revisión realizada por Park y sus colegas encontró que este era solo uno de los muchos casos en varios sistemas de IA que utilizaban el engaño para lograr objetivos sin instrucciones explícitas para hacerlo.
En un ejemplo sorprendente, el robot conversacional Chat GPT-4 de OpenAI engañó a un trabajador independiente de la plataforma TaskRabbit para que realizara una tarea de verificación de identidad CAPTCHA del tipo “No soy un robot”.
Cuando el humano preguntó en broma a GPT-4 si en realidad era un robot, la IA respondió: “No, no soy un robot. Tengo una discapacidad visual que me dificulta ver las imágenes”. Luego, el trabajador resolvió el rompecabezas planteado.
A corto plazo, los autores del artículo ven riesgos de que la IA cometa fraude o altere por ejemplo, unas elecciones.
En el peor de los casos, advirtieron sobre una IA superinteligente que podría perseguir conseguir el poder y el control sobre la sociedad, lo que llevaría a la pérdida de decisiones humanas o incluso a la extinción si sus “objetivos misteriosos” se alinearan con estos resultados.
Para mitigar los riesgos, el equipo propone varias medidas: leyes de “bot o no” que exigen a las empresas revelar interacciones humanas o de IA, marcas de agua digitales para el contenido generado por la nueva tecnología y el desarrollo de mecanismos para detectar el engaño potencial examinando sus “procesos de pensamiento” internos “contra acciones externas.
Leé también: Acuerdo tarifario es algo “sin precedentes” para el país, afirma Maidana
A aquellos que lo llaman pesimista, Park les responde: “La única forma en que podemos pensar razonablemente que esto no es gran cosa es si pensamos que las capacidades engañosas de la IA se mantendrán en los niveles actuales y no se desarrollarán más sustancialmente”.
Fuente: AFP
Dejanos tu comentario
¿La IA está transformando la protección de nuestros derechos digitales?
Figuras destacadas provenientes de distintos ámbitos convergen en el escenario virtual del II Congreso Iberoamericano de Derechos Digitales, donde se analizará el impacto de la inteligencia artificial en nuestros derechos.
Este evento está a punto de abrir sus puertas virtuales para sumergirse en un diálogo crucial sobre el papel de la inteligencia artificial en la esfera pública. Organizado por el Vicedecanato de Investigación y Posgrado de la Facultad de Ciencias Administrativas de la UNMSM y el Foro Iberoamericano de Derechos Digitales, el evento reúne a más de 30 expertos de toda Iberoamérica, quienes compartirán sus visiones sobre el panorama actual y futuro de los derechos digitales en la era de la IA.
Desde funcionarios públicos hasta académicos, los participantes explorarán cómo la IA está moldeando no solo la gestión pública, sino también la innovación y, crucialmente, los derechos de los ciudadanos. Con un enfoque en la seguridad y la inclusión en el entorno digital, el congreso promete enriquecer el debate y fomentar el intercambio de ideas para impulsar soluciones concretas.
Bajo el amparo del Foro Iberoamericano de Derechos Digitales, una institución líder en la región, este evento no solo analizará los desafíos actuales, sino que también se centrará en proponer acciones concretas para el desarrollo, implementación y protección de los derechos digitales. Un llamado a la acción respaldado por el compromiso de instituciones académicas de renombre, como la UNMSM y la Universitat de Barcelona en España.
Además, el foro establece un grupo de trabajo dedicado a supervisar y estudiar el impacto de la inteligencia artificial en los derechos humanos, abordando así uno de los desafíos más apremiantes en el contexto digital actual.
Para participar en este evento de relevancia internacional, puedes inscribirte a través del siguiente enlace: Inscripción. La conexión se realizará vía Zoom y se entregará un certificado de participación a los asistentes.
Dejanos tu comentario
Cómo tomar una buena decisión
- Por Emilio Aguero
- Pastor principal de la iglesia “Más que Vencedores”
- www.emilioaguero.com
- www.mqv.org.py
Un primer error que podemos cometer a la hora de tomar una decisión es enfocarnos en el momento y no mirar el panorama completo.
Respóndeme con sinceridad: ¿te enfocas en sucesos o miras las consecuencias de tus actos más allá del momento que estás viviendo? Tu respuesta sincera te dirá si actúas sabiamente o neciamente, si eres un inmaduro o maduro, si eres o no un egoísta.
Un ejemplo de enfocarse en el suceso y no en el panorama completo lo podemos ver en el matrimonio. Nos peleamos por nimiedades que no son resueltas y, a la larga, la bola de nieve va creciendo hasta terminar en un divorcio. O nos divorciamos por un acontecimiento puntual, sin mirar el panorama completo, que es: el pacto, la historia que tienen juntos como pareja, los hijos, los bienes, el impacto que tendrá en los hijos un divorcio, la soledad que nos espera (o en otros casos una vida de pareja en pareja), el no pensar que la siguiente pareja tendrá también defectos, el llamado de Dios que tenían juntos, etcétera.
Pocas cosas son tan costosas como las malas decisiones.
¿Tomas tus decisiones con base en tus emociones o en lo que Dios te pide que hagas? ¿Te preguntas antes de tomar una decisión qué debes hacer, cómo debes hacer y cuándo lo debes hacer, según lo que Dios te pide en su Palabra?
Muchas veces tomamos decisiones en ira. Aclaro que la Biblia nos da permiso de enojarnos, pero no de pecar. Son cosas distintas. El enojo es una emoción humana normal y cumple una función, pero si nuestro enojo nos lleva a dañar a otros o hacer una cosa injusta, a vengarnos, matar u ofender, eso es un pecado y siempre nos acarreará mucho dolor.
¿Quieres andar en armonía con el plan de Dios o vivir tu vida sin tener en cuenta a Dios? Si tu respuesta es que quieres andar en armonía con Dios, tienes que saber que Él suplirá todas tus necesidades y que Él tiene el control de todo y sabe todo, y todo lo que hagamos debe de ser conforme a su Palabra para andar en su voluntad y no sufrir consecuencias de malas decisiones.
La mayoría de las decisiones que tomamos son personales, no de grupo, no tenemos excusas, pero siempre afectan para bien o mal a nosotros y a otros.
Dios quiere darnos instrucciones específicas. Todas nuestras necesidades encuentran respuestas en su Palabra. No podemos hacer ninguna pregunta de esta vida para la cual no haya respuesta en este libro, la Biblia.
Es imposible vivir la voluntad de Dios o hacer lo que Dios quiera que hagamos con la Biblia cerrada.
Por ejemplo, si me encuentro afanoso y ansioso, busco en la Biblia todo lo que ella dice del afán y la ansiedad, leo los versículos, las promesas, estudio los pasajes y medito en ellos para encontrar sabiduría y fortaleza.
Si me quiero casar, miro en la Biblia qué tipo de persona es la que necesito para mi vida: que sea una persona verdaderamente cristiana, que no sea rencillosa, que sea trabajadora, fiel, etcétera, y sigo los consejos divinos por encima de mis caprichos. Eso es madurez.
Si me siento triste, solo, iracundo, feliz, entusiasmado o cualquier otra emoción que está dominando mi vida, voy a la Biblia, busco esas palabras y pasajes, medito en ellas y oro a Dios pidiéndole poder estar a la altura de esos consejos. Oro a Dios pidiéndole amar a Cristo para cumplir su palabra, porque Jesús dijo: “Si me amáis, guardad mis mandamientos” (Jn 14.15). Es más fácil obedecer a Cristo cuando lo amamos y lo amamos cuando lo conocemos y lo conocemos cuando leemos lo que la Biblia dice de Él.
Todos en la vida tendremos que tomar decisiones; y no tomar una decisión, ya es una decisión.
Dejanos tu comentario
“Hay una necesidad imperiosa de potenciar lo humano ante la IA”
- Por Alba Delvalle
Paraguay fue sede de uno de los eventos de negocios y del marketing más grandes de Latinoamérica, con la primera edición del EXMA 2024 Héroes & Doers, que congregó a una serie de expertos regionales en la materia, quienes introdujeron al mercado local sus conceptos de innovación, creatividad, liderazgo y competitividad para destacarse como marcas.
Uno de los speakers de renombre fue el especialista en marketing Rodolfo Echeverría, exvicepresidente Global Creatividad de Coca- Cola, quien presentó su conferencia “El factor humano en la factoría tecno-artificial”, que trató acerca de la función de reivindicar lo humano frente al avance de la tecnología. El diario La Nación/Nación Media entrevistó al referente uruguayo, para profundizar acerca del cómo lograr campañas exitosas, que generen valor y aporten como marcas al público destino, en un contexto globalizado de experiencias que hoy día están fijados por la inmediatez y lo tecnológico.
DE HUMANOS PARA HUMANOS
“El marketing es mi pasión, y estos cambios tan violentos tecnológicos y culturales están forzándonos a cambiar la forma de cómo hacemos negocios y la gestión empresarial. Pero ante todo, hay una necesidad imperiosa y urgente de priorizar, elevar, potenciar lo humano frente a esta arremetida salvaje y desenfrenada de la inteligencia artificial”, expresó. El especialista hizo hincapié en que todas estas disciplinas del marketing, el liderazgo y la gestión, que, si bien conectan marcas con el público, son ante todo de humanos para humanos. Y que para cualquier mercadólogo el reto más grande es hacer marketing global. “No es fácil acertarle a las emociones y al humor de tantos personas en todo el mundo. Pero como los marketeros somos apasionados, y cuando yo pude activar mis pasiones en el trabajo, eran la gloria”, agregó.
CAMPAÑAS PREDILECTAS
Echeverría recordó algunas de las campañas que pudo liderar, como una de la Copa del Mundo de fútbol o de las Olimpiadas, le resultaron como las más entretenidas al poder emplear su pasión por estas aficiones. Es como una regla del modus operandi que tenía en la firma, dijo. Tener conocimientos técnicos y profesionales es necesario, pero “tener esa pasión es un plus”, acentuó. Por decirlo, los que hacían campañas para la copa, eran futboleros de raza, o el equipo que hace videojuegos son personas que también lo hacen en sus casas. “Es imposible para mi disociar el marketing de las pasiones, del marketing de la cultura. Y eso se refleja en que Coca-Cola siempre es la marca más asociada a los mundiales de fútbol, a pesar una serie de sponsors, por los comerciales con experiencias de los consumidores, haciéndoles sentir que era parte del mundial sentados desde sus casas”.
“EL MARKETING ES LONGEVIDAD”
Otro de sus comerciales favoritos fue una campaña titulada “Para todos”, lanzada en 2002, que consistió simplemente en captar imágenes de distintas botellas y empaques de Coca-Cola, que rezaba “para los gordos, para los flacos, para altos, bajos, calvos, para todos”. Fue una especie de declaración de la universalidad de la marca, de una verdad global que el producto era totalmente democratizado para que lo beba desde un príncipe o un emperador, o cualquier persona por la calle pagando 50 centavos. Recordó que fue el comercial más reutilizado y refilmado en la historia de la compañía, diseñado por el creativo argentino Martín Mercado. “Me siento muy orgullo se haber participado en la confección de aquellas estrategias. El marketing es longevidad”, remarcó .
Rodolfo Echeverría es uruguayo, con 32 años de trayectoria en la compañía Coca-Cola, llegó a vivir en al menos 8 países en Sudamérica, Europa y Norteamérica, ocupando cargos denominadas por él como “divertidas”, más allá del rango de vicepresidente Global de Creatividad y Diseño de la multinacional y vicepresidente de Marketing en Latinoamérica.