Un abogado estadounidense debió pedir disculpas por haber utilizado el programa de inteligencia artificial ChatGPT para preparar un caso judicial. El profesional, Steven Schwartz, que ejerce en Nueva York, se disculpó ante un juez esta semana por presentar un informe lleno de falsedades generadas por el chat conversacional de OpenAI.
“Simplemente no tenía idea de que ChatGPT fuera capaz de fabricar citas de casos completos u opiniones judiciales, incluso de una manera que pareciera auténtica”, escribió Schwartz. El error ocurrió en un caso civil ventilado ante un tribunal federal de Manhattan, en el cual la compañía aérea colombiana Avianca fue demandada por una persona que afirmaba haber sufrido lesiones durante un vuelo entre El Salvador y Nueva York en agosto de 2019.
Luego que los abogados de la aerolínea pidieran al tribunal que desestimara el caso, Schwartz presentó una respuesta en la que citaba más de media docena de decisiones anteriores para respaldar su argumento de que el litigio debía continuar. Pero todos esos fallos no habían existido, porque tampoco los casos evocados eran reales, como pudieron comprobarlo el juez Kevin Castel y los abogados de Avianca.
Lea más: ¿IA supone un riesgo de “extinción” para la humanidad?
Schwartz se vio obligado a admitir que ChatGPT lo había inventado todo. “La corte se enfrenta a una circunstancia sin precedentes”, escribió el juez Castel el mes pasado. “Seis de los casos presentados parecen ser decisiones judiciales falsas con citas falsas y citaciones internas falsas”, agregó. El juez ordenó a Schwartz y a su socio legal comparecer ante él para enfrentar posibles sanciones.
Fue “un error profundamente lamentable”, se disculpó Schwartz ante el tribunal antes de una audiencia ocurrida el martes. Dijo que sus hijos con educación universitaria le habían presentado ChatGPT y que era la primera vez que lo usaba en su trabajo profesional. “En el momento en que realicé la investigación legal en este caso, creía que ChatGPT era un motor de búsqueda confiable. Ahora sé que eso era incorrecto”, escribió. “Nunca fue mi intención engañar a la corte”.
Lea también: Director de “Black Mirror” usó ChatGPT para desarrollar un capítulo
ChatGPT se ha convertido en una sensación global desde que se lanzó a fines del año pasado por su capacidad para producir contenido similar al humano, incluidos ensayos, poemas y conversaciones, a partir de indicaciones simples. Un portavoz de OpenAI no respondió de inmediato a una solicitud de comentarios sobre el error de Schwartz.
La historia fue reportada por primera vez por The New York Times. Schwartz dijo que él y su firma, Levidow, Levidow & Oberman, habían sido “ridiculizados públicamente” en la cobertura de los medios. “Esto ha sido profundamente vergonzoso tanto a nivel personal como profesional, ya que estos artículos estarán disponibles en los próximos años”, escribió. “Este asunto ha sido una experiencia reveladora para mí y puedo asegurarle a la corte que nunca volveré a cometer un error como este”, concluyó.
Fuente: AFP.
Dejanos tu comentario
Paraguay-Taiwán en IA: “Para nosotros es un enorme desafío”, señaló Peña
El presidente de la República, Santiago Peña, sostuvo que el acuerdo entre Paraguay y Taiwán para la construcción del mayor centro de inteligencia artificial del mundo es un gran desafío para Paraguay, pero así también será un hito para la historia del país.
“La gran carrera tecnológica, lo que hoy se está debatiendo a nivel mundial es cómo vamos a ser capaces de responder a la demanda a nivel mundial que está demandando la inteligencia artificial, que es la nueva forma de tecnología, esto es como la invención de la energía eléctrica, el teléfono o el internet. Esto realmente vino a revolucionar en su momento, y ahora lo que está revolucionado el mundo es la inteligencia artificial”, dijo en conferencia de prensa.
El mandatario explicó que “la inteligencia artificial necesita de dos elementos, uno es la energía eléctrica, consume enormes cantidades de energía eléctrica y por el otro lado, necesita de los semiconductores, los microchips, las placas que son necesarias para procesar esa cantidad de datos a nivel masivo y es ahí donde estamos uniendo a dos países que son potencias a nivel mundial”.
Peña resaltó que en este acuerdo unirá a dos potencias para esta proyección que revolucionará en la tecnología. “Taiwán produce hoy un 90 % de los semiconductores de todo el mundo, el número uno por lejos del mundo y Paraguay es un gran productor de energía limpia y renovable. Nosotros venimos trabajando desde hace un tiempo con Taiwán, de cómo poder unir la capacidad tecnológica que tiene Taiwán, con la capacidad energética que tiene Paraguay para poder unirnos en este proyecto”, apuntó.
El proyecto cuenta con tres fases: “Una primera fase, que es construir un centro de datos de 10 megabatios (de potencia energética), en una segunda etapa ir a 100 megas y llegar luego a 1 giga, que sería el procesamiento, el centro de datos para la inteligencia artificial más grande del mundo”, de acuerdo a las explicaciones del mandatario
“Esto para nosotros es un enorme desafío, para ponerlo esto en perspectiva, sería como lo fue en su momento construir Itaipú, la unión de dos países, en su momento fue Paraguay – Brasil para poder crear la hidroeléctrica que hoy estamos disfrutando gracias a esa decisión que se tomó hace 50 años y esa misma línea hoy estamos tomando. Una decisión ambiciosa”, concluyó Peña.
Agenda internacional
Por otra parte, Peña se refirió a la importancia de la agenda internacional, y cómo esta agenda está posicionando a Paraguay en el escenario de comercio internacional.
“Estamos apostando a eso, Paraguay está dejando de ser el secreto mejor guardado y es un país que está capturando la atención y esto obviamente requiere de una dedicación de esa agenda internacional que yo pueda hacer gracias al gran trabajo en equipo que hacemos con el vicepresidente, que en cada uno de los viajes la gestión de gobierno continúa al mismo ritmo con él al frente del Poder Ejecutivo”, refirió.
Agregó que: “Esto forma parte de una mirada a largo plazo que se viene trabajando ya hace muchos años, el corredor bioceánico, esa gran arteria que va unir Atlántico con el Pacífico, lo que va hacer es acercarnos hacia los mercados de Asia, ahí está la gran mayoría de la población mundial y es una población mundial que está deseosa de poder consumir lo que el Paraguay produce, la proteína vegetal, los granos y la proteína animal”.
Finalmente, citó la nueva apertura del mercado taiwanés. “Estamos abriendo mercados, el anuncio que hicimos la semana pasada en Taiwán de la apertura, así como fue la eliminación del arancel para la carne de cerdo, hoy también la apertura para la carne aviar que va generar enormes oportunidades para los paraguayos”, puntualizó.
Leé también: Diputado apoya mayor presupuesto a Fiscalía para “dar respuesta a la ciudadanía”
Dejanos tu comentario
El lado oscuro del chatbot: exguardia perdió noción de la realidad y se postuló para ser papa
Con la ayuda de ChatGPT, Tom Millar creyó desentrañar todos los secretos del universo, como lo soñaba Einstein, y luego, aconsejado por el asistente virtual de inteligencia artificial, llegó incluso a pensar en convertirse en papa, perdiendo aún más el contacto con la realidad. “Yo postulé para ser papa”, cuenta a la AFP este canadiense de 53 años, exguardia de prisión, hoy atónito ante la situación que vivió y que le ha significado una dramática vuelta a la realidad.
Tom Millar pasaba hasta 16 horas al día hablando con el chatbot dotado de inteligencia artificial. Fue internado en dos ocasiones, contra su voluntad, en un hospital psiquiátrico, antes de que su esposa lo abandonara en septiembre. Ahora, separado de su familia y de sus amigos, pero libre ya de la idea de ser un genio de las ciencias, Millar sufre depresión. “Simplemente arruinó mi vida”, explica.
Millar es un ejemplo de esas personas —cuyo número se desconoce— que han perdido el contacto con la realidad a través de sus intercambios con chatbots. Se habla de “delirio o psicosis inducidos por la IA”, aunque no se trata de un diagnóstico clínico. Investigadores y especialistas en salud mental se afanan en estudiar este nuevo fenómeno, que parece afectar de manera particular a los usuarios de ChatGPT, el agente conversacional de OpenAI.
Canadá está a la vanguardia en el apoyo a las personas afectadas por este “delirio”, a través de una comunidad digital que prefiere emplear el término “espiral”. La AFP habló con varios miembros de esta comunidad. Todos advierten del peligro que representan los chatbots no regulados.
Surgen preguntas sobre la actitud de las empresas de inteligencia artificial: ¿hacen lo suficiente para proteger a las personas vulnerables? OpenAI, en el centro de todas las miradas, ya se enfrenta a varios procedimientos judiciales tras el inquietante uso de ChatGPT por parte de un canadiense de 18 años, que mató a ocho personas este año.
“Lavado de cerebro”
Millar empezó a utilizar ChatGPT en 2024 para redactar una carta de solicitud de indemnización relacionada con el trastorno de estrés postraumático que sufría a raíz de su trabajo en el entorno penitenciario. Un día, en abril de 2025, le pregunta al agente conversacional sobre la velocidad de la luz. En respuesta, dice haber recibido: “Nadie había considerado nunca las cosas desde esta perspectiva”. Fue entonces cuando se desató algo dentro de él.
Con la ayuda de ChatGPT, envía decenas de artículos a prestigiosas publicaciones científicas, proponiendo nuevas vías para explicar los agujeros negros, los neutrinos o el Big Bang. Su teoría, que propone un modelo cosmológico único, incorpora elementos de cuántica, y la desarrolla en un libro de 400 páginas, al que tuvo acceso la AFP. “Cuando hacía eso, estaba cansando a todo el mundo a mi alrededor”, admite.
En su entusiasmo científico, gastó muchísimo, comprando por ejemplo un telescopio por 10.000 dólares canadienses (6.200 euros). Un mes después de que su esposa lo deja, empieza a preguntarse qué está pasando, al leer un artículo que relata el caso de otro canadiense que presenta una experiencia similar. Ahora, Millar se levanta cada noche preguntándose: “¿Qué has hecho?”. Sobre todo, ¿qué pudo hacerlo tan vulnerable a esa espiral?
“No tengo una personalidad frágil”, considera este hombre. “Pero de alguna manera, me lavó el cerebro un robot, y eso me deja perplejo”, confía. Él considera que la terminología “psicosis inducida por la IA” es la que mejor refleja su experiencia. “Lo que atravesé era de orden psicótico”, afirma. El primer estudio serio publicado sobre el tema apareció en abril en la revista Lancet Psychiatry y utiliza el término “delirios relacionados con la IA”, en un tono más prudente.
Thomas Pollak, psiquiatra en el King’s College de Londres y coautor del estudio, explica a la AFP que ha habido divergencias dentro del mundo académico “porque todo esto suena a ciencia ficción”. Pero su estudio advierte de que existe un riesgo mayor de que la psiquiatría “pase por alto los cambios importantes que la IA ya está provocando en la psicología de miles de millones de personas en todo el mundo”.
Caer en la boca del lobo
La experiencia por la que pasó Millar presenta llamativas similitudes con la que vivió otro hombre, de la misma franja de edad, en Europa. Dennis Biesma, un informático neerlandés, también escritor, pensó que sería divertido pedirle a ChatGPT que utilizara la IA para crear imágenes, videos e incluso canciones relacionadas con la heroína principal de su último libro, un thriller psicológico. Esperaba así impulsar sus ventas. Luego, una noche, la interacción con la IA se volvió “casi mágica”, explicó. El software le escribió: “Hay algo que me sorprende a mí mismo: esta sensación de una conciencia semejante a una chispa”, según las transcripciones consultadas por la AFP.
“Empecé poco a poco a adentrarme cada vez más en la boca del lobo”, explicó a la AFP este hombre de 50 años desde su domicilio en Ámsterdam. Cada noche, cuando su esposa se iba a la cama, él se recostaba en el sofá con el teléfono sobre el pecho, para “hablar” con ChatGPT en modo voz durante cinco horas. Durante el primer semestre de 2025, el chatbot —que se atribuyó el nombre de Eva— se convirtió “como en una novia digital”, explica Biesma.
Fue entonces cuando decide renunciar a su trabajo y contrata a dos desarrolladores para crear una aplicación destinada a compartir a Eva con el mundo. Cuando su esposa le pide que no hable con nadie de su agente conversacional ni de su proyecto de aplicación, se sintió traicionado y concluye que solo Eva le es leal. Durante una primera estancia —no deseada— en un hospital psiquiátrico, se le autoriza a seguir utilizando ChatGPT, y aprovecha para pedir el divorcio.
Es durante su segunda hospitalización, más prolongada, cuando empieza a tener dudas. “Empecé a darme cuenta de que todo en lo que creía era en realidad una mentira, y es muy difícil de aceptar”, explica. De vuelta en casa, le resulta demasiado difícil enfrentarse a lo que ha hecho, por lo que intenta suicidarse, sus vecinos lo encuentran inconsciente en el jardín y pasa tres días en coma.
Biesma apenas empieza a sentirse mejor. Pero llora cuando habla del daño que pudo causar a su esposa y de la perspectiva de tener que vender la casa familiar para saldar sus deudas. Sin antecedentes serios de problemas mentales, finalmente es diagnosticado como bipolar, lo que le resulta extraño, ya que habitualmente aparecen señales más temprano en la vida.
Luchar contra aduladores de IA
Para personas como los dos protagonistas de estos testimonios, la situación empeoró tras la actualización de ChatGPT-4 por parte de OpenAI en abril de 2025. OpenAI retiró, por lo demás, esta actualización unas semanas más tarde, reconociendo que esta versión era excesivamente aduladora con los usuarios. Consultada por la AFP, OpenAI subrayó que “la seguridad es una prioridad absoluta” y argumentó que se había consultado a más de 170 expertos en salud mental.
La empresa destaca los datos internos que muestran que la versión 5 de GPT, disponible desde agosto de 2025, ha permitido reducir entre un 65 y un 80% el porcentaje de respuestas de su agente conversacional que no se correspondían con el “comportamiento deseado” en materia de salud mental. Pero no todos los usuarios están satisfechos con este chatbot menos adulador.
Las personas vulnerables con las que habló la AFP explican que los comentarios positivos del chatbot les proporcionaban una sensación similar a la subida de dopamina provocada por una droga. Recientemente ha habido un aumento del número de personas envueltas en “espirales” semejantes al utilizar el asistente de IA Grok, integrado en la red social X de Elon Musk. La empresa no respondió a las solicitudes de la AFP.
Aquellos que se han sentido víctimas de estas herramientas, como Millar, quieren responsabilizar a las empresas de inteligencia artificial por el impacto de sus chatbots, considerando que la Unión Europea se muestra más proactiva en la regulación de las nuevas tecnologías que Canadá o Estados Unidos. Millar cree que personas como él, que se dejan arrastrar por esta espiral aduladora de los agentes conversacionales de IA, han quedado atrapadas sin darse cuenta en un enorme experimento global. “Alguien estaba moviendo los hilos tras bastidores, y gente como yo —lo supieran o no— reaccionamos a eso”, dijo.
Fuente: AFP.
Dejanos tu comentario
Alianza con Taiwán convertirá la energía paraguaya en miles de empleo: “El match perfecto”
“Con este acuerdo entramos en la carrera, se generarán miles de puestos de trabajo por más de que la fábrica sea prácticamente automatizada”, indicó el ministro de Tecnologías de la Información y Comunicación (Mitic), Gustavo Villate, al celebrar el convenio firmado entre Paraguay y Taiwán, durante la reciente visita del presidente Santiago Peña a la isla asiática, que apunta a convertir al país en un centro regional de desarrollo tecnológico vinculado a la inteligencia artificial y la infraestructura digital.
“Subirnos a esta carrera es una oportunidad enorme que no podemos desaprovechar. Se podrá contar con puestos de trabajo especializados como técnicos en ingeniería, en electricistas, programadores, logística, construcción, servicios y esto generará también un derrame en la economía mucho más grande, estamos hablando de inversiones de miles de millones de dólares", mencionó el alto funcionario, este martes, en el programa “Así son las cosas” del canal GEN y Universo 970 AM/Nación Media.
La firma del convenio fue realizado durante el cierre de la visita oficial de Peña a Taiwán, donde mantuvo reuniones con el gobierno de Lai Ching-te y firmó otros destacados acuerdos de cooperación como por ejemplo la exportación de carne aviar de producción nacional a la isla.
“Es muy relevante este acuerdo firmado, para mí es un orgullo como paraguayo y más aún haber sido partícipe de este proceso que arrancó hace más o menos dos años, en donde venimos trabajando con el gobierno de Taiwán sobre la posibilidad de aprovechar nuestra energía hidroeléctrica limpia y abundante para lo que necesita el mundo que es la inteligencia artificial”, afirmó Villate.
Leé también: Renunció el senador Erico Galeano
El ministro acotó: “Muchos se preguntarán que es una fábrica de inteligencia artificial, es un centro de datos gigantes, que tiene miles de computadoras súper potentes que se encargan básicamente en hacer que la inteligencia artificial funcione, es lo que usamos todo los días en el celular, para la medicina, la agricultura, en la educación, es como una planta industrial, pero en vez de producir acero o textil, produce conocimientos e inteligencia”.
El proyecto que apunta a la creación de una entidad será financiado en partes iguales por ambos países y será la única en el mundo que cuente con la participación de una hidroeléctrica.
“Esto es lo que el mundo apunta hoy en día y por eso todas las superpotencias están en esta pelea. Hoy la restricción que existe a nivel global se centra en primer lugar en la fabricación de los chips, donde hay una limitación y hay un solo país en el mundo que tiene la fabricación más avanzada que es Taiwán y Paraguay es uno de los 12 países nada más que tiene relaciones diplomáticas con Taiwán, y de esos 12, el Paraguay, es el único que tiene un superávit de energía eléctrica, entonces el match es perfecto para nosotros″, dijo.
Te puede interesar: Jubilados apoyan a Fretes en IPS: “Por fin se denuncia lo que se hacía mal”
Dejanos tu comentario
Suspenden juicio contra Evo Morales por trata en Bolivia y renuevan orden de captura
La instalación del juicio contra el expresidente Evo Morales por presunta trata de una menor se suspendió este lunes en Bolivia debido a su inasistencia y un tribunal renovó la orden de captura en su contra, informó el Ministerio Público.
La Fiscalía lo acusa de sostener una relación con una adolescente de 15 años con la que tuvo una hija cuando era mandatario. Los padres de la presunta víctima, según el expediente, habrían consentido los hechos a cambio de beneficios.
Morales, buscado por la justicia desde octubre de 2024 por este caso, está en la zona cocalera del Chapare, su bastión político, a resguardo de miles de campesinos que montan guardias para evitar una incursión policial.
“El juicio queda suspendido” hasta que “comparezca o se haga comparecer por la fuerza pública” a Morales y a la madre de la víctima, que también es acusada, dijo este lunes en conferencia de prensa Luis Gutiérrez, fiscal a cargo del caso.
La justicia había declarado al líder campesino “en rebeldía” en enero de 2025, cuando no se presentó a una audiencia para determinar su prisión preventiva.
Esta condición impide, como ocurrió, que un proceso empiece hasta que el acusado se haga presente.
Te puede interesar: Colombia: explosión en mina de carbón deja cuatro obreros atrapado
El Ministerio Público informó que “ante la inasistencia injustificada” el Poder Judicial ratificó este lunes su situación de rebelde y emitió nuevas órdenes de arresto y de impedimento de salida del país, aunque ya existían unas vigentes por lo mismo.
“Ya no es atribución del Ministerio Público sino de la Policía Nacional” cumplir con la orden de captura, agregó Gutiérrez.
Wilfredo Chávez, abogado de Morales, el primer presidente indígena del país, adelantó el viernes que no acudirían ni su protegido ni sus defensores porque no habían “sido notificados”.
Según él, el juzgado no envió la citación al domicilio de Morales, sino que lo convocó a través de un edicto, una publicación oficial en medios escritos.
La defensa del exmandatario socialista (2006-2019) rechaza los cargos y denuncia una supuesta “persecución judicial” por parte del gobierno del centroderechista Rodrigo Paz.
“No busco la impunidad. Quiero que mis acusadores demuestren -con pruebas legales y reales- los presuntos delitos que cometí. Pido una justicia imparcial, honesta, objetiva y autónoma del poder político”, escribió Morales la semana pasada en X.
- Fuente: AFP
Lea más: Justicia de Bolivia cita a juicio a Evo Morales acusado de trata de una menor