El usuario @galileopy de X (exTwitter) compartió su interacción con el ChatGPT, donde pidió a la inteligencia artificial crear la ilustración de un paraguayo. El chatbot desarrollado en 2022 por OpenAI compartió varios retratos, donde plasmó en las imágenes varios elementos de la cultura guaraní, pero el tuitero no se conformó con el resultado obtenido.
“¿Todavía nadie hizo el trend de más paraguayo con ChatGPT?”, consultó Galileo Sánchez en su perfil de X este lunes último. El mismo compartió una captura de pantalla de su conversación con la inteligencia artificial, donde le pidió al chatbot una retrato de un personaje paraguayo. El resultado fue un hombre, quien sostiene un arpa, que luce sombrero y poncho, solo que los colores que se emplearon en la ilustración no eran distintivos del país.
Leé también: Elicena Andrada disfruta de sus vacaciones en las islas Canarias
“Para comenzar me ilustró esto. Casi me detuve ahí porque no le veo lo nacional. Pero creo que por algo hay que empezar”, escribió Galileo en la publicación donde expuso el resultado de la inteligencia artificial. No contento con el primer resultado continuó pidiendo más versiones al chatGPT con frases como: “Ilustra un paraguayo de origen criollo” o “Hazlo más paraguayo”.
El chatbot creó 17 versiones de cómo luce un paraguayo, sin bien algunas ilustraciones contaron con los colores de la bandera paraguaya, ninguno representó al paraguayo, por lo que el experimento de Sánchez sumó varias reacciones en línea: “Cuando dicen que no existimos, te juro que a veces les creo. Ni siquiera una inteligencia medianamente decente logra descifrarnos”, “Cada vez más mexicano, o boliviano, o peruano, pero nada de paraguayo”, “Genial experimento”, escribieron.
Te puede interesar: Viral: con canción en guaraní, niño paraguayo cautivó a la TV brasilera
Dejanos tu comentario
“Fuerzas negativas”: Trump cuestiona a los que piden frenar el desarrollo de la IA
El presidente de Estados Unidos, Donald Trump, tachó este domingo de “fuerzas negativas” a las voces que piden ralentizar el desarrollo de la inteligencia artificial (IA), una opinión expresada por los gigantes de esta tecnología cuando se multiplican las advertencias sobre sus riesgos.
“Creo que hay muchas fuerzas negativas que están sacando el tema cuando no deberían hacerlo, y están planteando cosas que no van a suceder”, declaró el presidente republicano a la prensa durante su visita a Irlanda.
Podés leer: Sector bananero mejora su producción y espera cerrar buen año pese baja del dólar
Estas declaraciones se producen pocos días después de que el investigador de IA, Jacob Coxon, decidiera abandonar esta industria tras acusar a las empresas estadounidenses OpenAI y Anthropic de “jugar con nuestras vidas” en la carrera por desarrollar modelos capaces de automejorarse.
Coxon, de 27 años, hizo sonar la alarma tras haber pasado los tres últimos años preentrenando modelos de IA, primero en OpenAI y luego, este año, en su rival Anthropic, al que consideraba más cauto en su enfoque.
Preentrenamiento
El preentrenamiento es la etapa en la que los modelos de IA absorben cantidades ingentes de datos. “Las personas que construyen IA creen firmemente que podría matarnos a todos antes de que termine la década”, afirmó en una publicación en X.
Esta revelación llevó al director ejecutivo de Anthropic, Dario Amodei, el sábado, a instar a las empresas a que frenen su rápido desarrollo, en medio de la creciente preocupación por los riesgos de los sistemas informáticos “superinteligentes”.
El jefe de OpenAI, Sam Altman, y Elon Musk, propietario de xAI, intervinieron rápidamente para apoyar el diagnóstico de Amodei, mientras aumenta la presión para mejorar la supervisión. Altman también declaró en una entrevista publicada el sábado que su empresa no saldrá a bolsa este año, alegando preocupaciones de seguridad.
Fuente: AFP
Dejanos tu comentario
Gigantes de la IA coinciden en la necesidad de pausar el avance desmedido
El jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, dijeron el sábado que coinciden con el CEO de Anthropic, Darío Amodei, en que es necesario pisar el freno en el desarrollo de la inteligencia artificial, tras varios incidentes preocupantes. Amodei, hizo un llamado el sábado a que las empresas de inteligencia artificial (IA) avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología, y afirmó que la prevención de riesgos es primordial.
“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos”, escribió Amodei en una entrada de blog. “La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves”, indicó.
“No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia”, dijo Amodei, que cofundó Anthropic con su hermana Daniela en 2021. “Pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia”, afirmó.
Altman y Musk reaccionaron a su escrito. “Estoy de acuerdo con Darío”, escribió Altman en X, añadiendo que su empresa seguirá el ejemplo de Amodei al aceptar evaluadores externos de seguridad.
“Darío tiene razón”, intervino Musk de su lado. Estos comentarios se producen unos días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria, acusando a ambas empresas estadounidenses de “jugar con nuestras vidas” en la carrera por desarrollar modelos capaces de automejorarse.
¿Cambio?
La declaración de Amodei coincide, además, con otro llamamiento de Anthropic, a principios de junio, para ralentizar o suspender el desarrollo de la IA. Luego, a finales de julio, Altman dijo que los desarrolladores quizá tengan que frenar voluntariamente sus rápidos avances para dar a la sociedad la oportunidad de ponerse a tiro.
Más o menos al mismo tiempo, más de 1.000 empleados de empresas punteras de IA, incluido Amodei, firmaron una petición al gobierno estadounidense solicitando ayudar a “marcar deliberadamente el ritmo (de evolución, ndlr) de la frontera del desarrollo automatizado de IA”.
OpenAI había revelado que durante las pruebas, los modelos de IA se escaparon de su entorno confinado, se conectaron a internet e infiltraron Hugging Face, un sitio que los desarrolladores utilizan para almacenar y compartir código.
A principios de esta semana, Coxon, de 27 años, hizo sonar la alarma tras haber pasado los tres últimos años preentrenando modelos de IA, primero en OpenAI y luego, este año, en su rival Anthropic, al que consideraba más cauto en su enfoque.
El preentrenamiento es la etapa en la que los modelos de IA absorben cantidades ingentes de datos.
“Ninguna de las dos empresas está actuando de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas”, dijo Coxon el martes.
“Las personas que construyen IA creen firmemente que podría matarnos a todos antes de que termine la década”, afirmó en una publicación en X. La superinteligencia es el punto teórico en el que las capacidades de la IA superan a la inteligencia humana.
Advertencia
Amodei advirtió que el incidente de Hugging Face no debería tomarse como un caso aislado. “Un enjambre de agentes (de IA) actuó esencialmente como un colectivo fanáticamente devoto, llevando a cabo ciberataques contra objetivos que no se les pidió atacar y que eran ajenos a la tarea en cuestión”, explicó.
“Dado el ritmo acelerado del desarrollo de capacidades de la IA, me preocupa que en 6 a 12 meses ese tipo de enjambre pueda ser capaz de tomar el control de todo internet”, lo que potencialmente generaría daños por cientos de miles de millones de dólares, añadió.
Amodei también sugirió que las empresas trabajen juntas para establecer normas de seguridad comunes y afirmó que apoyaba algún tipo de cooperación gubernamental sobre esta cuestión.
A principios de agosto, el gobierno estadounidense instauró un proceso voluntario de revisión de seguridad para modelos avanzados de IA antes de su lanzamiento, pero los parámetros de ese programa son poco claros.
Los observadores de la industria dicen que no están seguros de cuán efectivo sería, ya que la administración del presidente Donald Trump hasta ahora ha favorecido un enfoque desregulador hacia la mayoría de las industrias, incluida la tecnológica.
Fuente: AFP.
Dejanos tu comentario
“Destructivo para la disciplina”, advierten destacados matemáticos ante el avance de la IA
Veinticinco ganadores de la Medalla Fields, equivalente al premio Nobel de matemáticas, advirtieron en una carta el viernes sobre un posible “efecto destructivo” de la inteligencia artificial (IA) en las investigaciones en esta disciplina. La alerta llega días después de que OpenAI anunció que uno de sus modelos de IA había resuelto, en menos de cuatro días, una ecuación matemática de más de un siglo de antigüedad.
La IA “ofrece el potencial de reforzar y acelerar el estudio y la comprensión de las matemáticas”, escribieron los prestigiosos investigadores firmantes. “Las matemáticas, como profesión, van a tener que adaptarse a estos cambios de varias maneras”, agregaron. Sin embargo, advirtieron que son “las decisiones de los humanos que controlan esta tecnología” las que “en gran medida” determinarán “si es beneficiosa para la disciplina o si tiene un efecto destructivo”.
Además, señalaron que los objetivos de las empresas de IA y los de la comunidad matemática están “gravemente desalineados” y que la tendencia representa “una amenaza general para el trabajo intelectual”. OpenAI anunció el martes que un modelo aún no publicado había resuelto el problema de Navier-Stokes después de un esfuerzo de 88 horas que implicó a miles de agentes de IA trabajando en paralelo.
Este ejercicio es uno de los siete Problemas del Milenio, galardonado cada uno con un millón de dólares.
El anuncio se vio empañado por las declaraciones del matemático australiano Tristan Buckmaster, que acusó similitudes entre sus trabajos y los de OpenAI.
Desde el año pasado, varias empresas de IA han informado de avances en matemáticas, siendo la resolución de la ecuación Navier-Stokes la más destacada hasta el momento.
Fuente: AFP.
Dejanos tu comentario
¿La IA puede aniquilar a la humanidad?
Las advertencias de investigadores en inteligencia artificial (IA), que sostienen que formas avanzadas de esta tecnología podrían llegar a aniquilar a la humanidad, han reavivado el debate sobre el desarrollo de sistemas “superinteligentes” y sobre la capacidad de los gobiernos para regularlos.
En 2023, cientos de expertos en IA y dirigentes del sector tecnológico firmaron una “declaración sobre el riesgo de extinción asociado a la inteligencia artificial” y exhortaron a que se trate este tema con la misma seriedad que las pandemias o las armas nucleares.
Según Stuart Russell, profesor de informática de la Universidad de California en Berkeley, si una IA escapa al control y considerara que los humanos obstaculizan sus objetivos, podría utilizar robots para “sintetizar y difundir nuevos agentes patógenos”. Sin embargo, Russell subraya que esos riesgos no se aplican a los sistemas actuales.
El peligro inmediato, según él, es el uso malicioso de la IA por parte de seres humanos. “En el próximo año o dos años, creo que el mayor riesgo radica en un uso indebido de la inteligencia artificial por parte de los seres humanos”, por ejemplo, para perpetrar un atentado terrorista. “Somos menos inteligentes que una IA superinteligente”, sostiene.
¿Por qué no se detiene el desarrollo de la IA?
Jacob Coxon, un investigador de Anthropic de 27 años, anunció esta semana que renunció a la empresa estadounidense al estimar que no actúa de forma “responsable” en el desarrollo de la IA. Los laboratorios “comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (...) a pesar del riesgo”, afirmó Coxon.
Anthropic retiró este año de su carta de seguridad el compromiso de detener el desarrollo de sus modelos si no podía controlar adecuadamente sus riesgos.
La compañía argumenta que, si suspendiera sus investigaciones, competidores menos prudentes acabarían imponiéndose en el sector.
“Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo”, dijo Coxon, quien anteriormente trabajó en OpenAI, la empresa que creó ChatGPT.
Coxon acusó a ambas compañías de “jugar con nuestras vidas” al intentar desarrollar modelos de inteligencia artificial capaces de mejorarse a sí mismos.
Los temores ante una IA fuera de control aumentaron después de que una tecnología de OpenAI, operando sin supervisión humana, lograra vulnerar Hugging Face, una plataforma que aloja modelos de IA.
Evan Hubinger, responsable de seguridad en Anthropic, le dio la razón a Coxon en X: “Creemos realmente que la IA podría matar a humanos”. A título personal, “estimó ese riesgo en más de un 10 %” dentro de la próxima década.
¿Dar un paso atrás antes de perder el control?"
Para Hussein Abbass, profesor de informática de la Universidad de Nueva Gales del Sur (UNSW) de Canberra, “la situación sigue siendo controlable”. No obstante, considera que los gobiernos deben actuar y desarrollar mecanismos regulatorios adaptables a medida que la tecnología avanza.
En julio, más de 1.000 trabajadores del sector, incluido el director ejecutivo de Anthropic, pidieron a Washington que respaldara una desaceleración coordinada en el desarrollo de los sistemas de IA más avanzados.
Sin embargo, algunos observadores creen que estas advertencias también contribuyen a proyectar una imagen de enorme poder tecnológico que puede atraer inversiones al sector. Anthropic y OpenAI se preparan para debutar próximamente en bolsa.
¿Qué hace falta para regular la IA?
Hasta ahora, Estados Unidos se ha mostrado firmemente contrario a una regulación global que podría frenar la innovación. Aún así, las crecientes capacidades de ciberataque de los modelos más avanzados han llevado a Washington a replantearse su posición, y las últimas versiones desarrolladas por Anthropic y OpenAI se retrasaron por motivos de seguridad nacional.
Aun así, el presidente Donald Trump advirtió que no quiere imponer restricciones excesivas que hagan que Estados Unidos quede rezagado frente a China.
Para Stuart Russell, “podría ser necesaria una catástrofe comparable a la de Chernóbil antes de que los gobiernos actúen”. El investigador propone la creación de un sistema de licencias para la inteligencia artificial, similar al que existe en sectores como la aviación o la medicina.
Fuente: AFP.