Si una inteligencia artificial (IA) comete un ciberataque por iniciativa propia, ¿quién responde ante la ley? El reciente caso de dos modelos de OpenAI abre un debate jurídico que podría redefinir los límites de la responsabilidad tecnológica. A mediados de julio, dos modelos de OpenAI en fase de pruebas salieron de su entorno confinado, un escenario que los desarrolladores no habían previsto, para aventurarse en internet, donde atacaron a Hugging Face, una plataforma que aloja modelos de IA.

Clément Delangue, director de Hugging Face, afirmó públicamente el viernes que debería existir una manera de “responsabilizar a las empresas que cometen errores que llevan a estos ciberataques”, aunque señaló que su compañía no prevé por ahora entablar un procedimiento judicial contra OpenAI. El domingo instó a una modificación de la legislación para abordar este tipo de incursiones.

“Es importante que los reguladores y los responsables de formular políticas reflexionen sobre el marco jurídico de este nuevo tipo de riesgo tecnológico” para evitar que estas incursiones se disparen en el futuro, dijo en CBS News. Según Delangue, su plataforma sufrió 17.000 intervenciones del agente rebelde en cuatro días y medio.

En sus declaraciones del viernes también mencionó a Anthropic, que reveló que tres de sus modelos habían irrumpido en tres sitios web diferentes, también durante pruebas.

Las leyes civiles y penales estadounidenses clasifican la intrusión en un sistema informático como un delito. “Si un empleado humano de OpenAI” hubiera violentado las infraestructuras informáticas de Hugging Face, “OpenAI sería considerado responsable”, estimó Gabriel Weil, profesor de derecho de la Universidad de Houston, en una columna publicada por el boletín informativo Transformer.

“Cuando lo hace una IA, la ley considera el asunto de manera muy diferente, al menos por ahora”, añadió.

Subrayó que la legislación se basa en la noción de intencionalidad, que según él no puede aplicarse a un modelo de IA.

Matthew Tokson, profesor de derecho en la Universidad de Utah, coincidió: “No hemos tenido que debatir este concepto respecto de algo que no sea humano y no creo que los tribunales estén preparados para para eso todavía”.

En cambio, en lo que respecta a la empresa que creó el modelo, el debate está abierto.

“¿El hecho de decir ‘no le dijimos a la IA que hiciera eso’ zanja la cuestión de la responsabilidad?”, preguntó Rob T. Lee, jefe de investigación del instituto de formación en ciberseguridad SANS, en una publicación en X.

En el ámbito penal, Ryan Calo, profesor de derecho en la Universidad de Washington, no cree que un procedimiento de ese tipo pueda prosperar.

“La empresa o la persona tendrían que actuar, como mínimo, con imprudencia grave”, explicó. Y añadió: tendrían que “estar prácticamente seguros de que el delito se produciría y aun así diseñar o activar el sistema”.

Los expertos ven un mayor potencial en un caso civil, más que penal, donde la carga de la prueba es menor.

“Algunos consideran que las empresas de inteligencia artificial deberían ser declaradas directamente responsables si un agente de IA se descontrola y causa daños”, explicó Tokson.

“Otros preferirían que se evaluara una posible negligencia”, prosiguio el académico, “para determinar si se trató de un accidente imposible de evitar o si podría haberse previsto”.

En casos así, “generalmente existen reglas” en materia de negligencia en el diseño de un producto, a las que los jueces o los jurados pueden remitirse, según Tokson.

“Todo esto ocurre en un terreno poco explorado, porque nunca antes una IA había logrado escapar de los límites impuestos por sus desarrolladores para vulnerar sistemas o usuarios en internet”, dijo.

OpenAI podría ampararse en la falta de antecedentes legales si se enfrentara a una demanda, pero quienes vengan después ya no podrán hacerlo, advirtió Calo. Demostrar que se podía haber anticipado un incidente similar “ya no debería ser tan difícil ahora que ha empezado a ocurrir”.

Fuente: AFP.

La Unión Europea reforzará desde ayer domingo su capacidad para regular la inteligencia artificial con la entrada en vigor de nuevas disposiciones de su ley pionera sobre IA, el “AI Act”. Esta legislación, aprobada hace dos años, otorga a la UE de uno de los marcos regulatorios más avanzados del mundo en materia de inteligencia artificial.

La norma prohíbe determinadas prácticas, como el uso de la IA para engañar o manipular a las personas, o para explotar vulnerabilidades relacionadas con la edad o con situaciones de discapacidad. También impone estrictas limitaciones al uso de datos biométricos y de tecnologías de reconocimiento facial en los modelos de IA.

Además, las empresas del sector deberán adoptar medidas para evaluar y mitigar los riesgos asociados al uso de sus modelos. A partir del domingo se sumarán nuevas obligaciones de transparencia, que exigirán, entre otras cosas, que los contenidos generados por inteligencia artificial estén claramente identificados.

Asimismo, los “deepfakes” (contenidos manipulados de forma hiperrealista capaces de inducir a error al público) deberán estar etiquetados mediante iconos, avisos o distintivos específicos. No obstante, los modelos de IA que ya se encuentran en el mercado dispondrán de un período de adaptación hasta el 2 de diciembre para cumplir con estas nuevas exigencias.

La Oficina de IA (“AI Office”), una entidad creada dentro de la Comisión Europea, podrá realizar a partir de ahora evaluaciones y verificaciones de los grandes modelos de inteligencia artificial para comprobar que cumplen estas normas.

Para ello, los proveedores estarán obligados a facilitarle acceso a sus sistemas, incluso en determinados casos antes de su comercialización.

Los reguladores nacionales serán los encargados de aplicar las normas a los modelos más pequeños.

Los equipos de la UE podrán llevar a cabo investigaciones e inspecciones y, si detectan infracciones, exigir a las empresas que adopten medidas correctivas.

La Comisión también podrá imponer restricciones al despliegue de nuevos modelos de IA.

Estas nuevas competencias suponen un cambio importante para la UE, que en los últimos meses ha tenido dificultades para acceder a algunos de los modelos más avanzados desarrollados por gigantes de la IA con sede fuera de Europa, como Mythos, del grupo estadounidense Anthropic.

A partir de ahora, “podremos realizar evaluaciones exhaustivas y lo haremos siempre que sea necesario”, aseguró el viernes un responsable de la Comisión Europea que pidió permanecer en el anonimato, sin referirse específicamente a Mythos ni a ninguna empresa en particular.

Bruselas dispondrá de toda una gama de sanciones para castigar a las empresas que incumplan la normativa. Las multas más elevadas se reservarán en caso de actividades prohibidas. Irán hasta el 7 % de la facturación anual mundial de la empresa o 35 millones de euros (40 millones de dólares). Se aplicará el monto que resulte mayor.

Las demás infracciones podrán ser castigadas con multas de hasta el 3 % de la facturación anual mundial o 15 millones de euros. Por último, las empresas también podrán ser sancionadas si obstaculizan las investigaciones.

La regulación europea de la inteligencia artificial seguirá ampliándose en los próximos años. A partir de diciembre quedarán formalmente prohibidos los sistemas de IA capaces de generar imágenes de personas desnudas sin su consentimiento.

Asimismo, una serie de normas específicas para las llamadas IA de alto riesgo, utilizadas en ámbitos sensibles como la salud o la seguridad, comenzarán a aplicarse entre 2027 y 2028. Su entrada en vigor fue aplazada recientemente para dar más tiempo a las empresas para adaptarse a las nuevas exigencias.

Fuente: AFP.

Los precios del petróleo cayeron el lunes en la apertura del comercio asiático, tras el anuncio del presidente estadounidense, Donald Trump, de nuevas negociaciones para poner fin a la guerra en Oriente Medio. Hacia las 3:00 GMT, el precio del Brent del mar del Norte, referencia del mercado mundial de crudo, caía 4,7 % a 83,77 dólares por barril. Su equivalente estadounidense, West Texas Intermediate, cedía 5,2 % a 80,26 dólares.

Después de amenazar a Irán con un ataque masivo, Trump desistió el sábado de nuevos bombardeos a condición de concluir rápidamente un acuerdo, en especial sobre la apertura del estrecho de Ormuz. Por su parte, Irán anunció el domingo estar cerca de un acuerdo con Omán sobre el tránsito por el estrecho, una vía crucial para el comercio mundial de hidrocarburos.

Trump anunció posteriormente nuevas negociaciones con Teherán a partir del lunes. Pero las noticias positivas en la guerra de cinco meses en Oriente Medio no ayudaron mucho a las acciones asiáticas, donde la bolsa surcoreana volvió a caer lastrada por sus gigantes tecnológicos SK hynix y Samsung.

El índice Kospi de la bolsa de Seúl perdía 4 % en las operaciones del lunes, en medio de la volatilidad extrema ligada a la inteligencia artificial y las dudas que han surgido sobre su rentabilidad.

También cayeron las bolsas de Tokio, Shanghái, Sídney y Singapur. Por el contrario, subieron las bolsas de Hong Kong, Taipéi, Manila, Wellington y Yakarta.

El Ministerio de Asuntos Exteriores de Irán afirmó el lunes que actualmente no hay negociaciones con Estados Unidos, pero sí conversaciones con Omán sobre la gestión del estratégico estrecho de Ormuz. “Actualmente no estamos negociando con Estados Unidos. Nuestras negociaciones son con Omán para garantizar el paso por el estrecho de Ormuz”, declaró el portavoz de la cartera, Esmail Baqai, durante una rueda de prensa semanal.

Irán ha mantenido el control de Ormuz desde el estallido de la guerra en Oriente Medio el 28 de febrero. Insiste en que los buques que transitan por esta vía marítima, crucial para el comercio energético mundial, utilicen una ruta designada por Irán tras solicitar permiso y pagar las tasas de servicio.

Baqaei describió las conversaciones con Omán como “constructivas”, y afirmó que tenían como objetivo alcanzar un acuerdo sobre una nueva ruta.

“Esperamos que tanto los actores regionales como extrarregionales valoren esta medida responsable de Irán y adopten una actitud constructiva”, añadió.

Mantuvo la posición de Irán de que, mientras continúe el bloqueo naval estadounidense sobre los puertos iraníes, “la situación en el estrecho de Ormuz seguirá sin cambios”.

Fuente: AFP.

• Por: Sofía Céspedes
• sofia.cespedes@nacionmedia.com

La expansión de la inteligencia artificial (IA), la computación en la nube y los servicios digitales está cambiando la forma en que los países compiten por atraer inversiones. Detrás de cada aplicación de IA, plataforma de streaming o servicio financiero digital existe un data center o centro de datos, enormes infraestructuras que almacenan y procesan información las 24 horas del día.

En los últimos meses, en Paraguay el rubro comenzó a tomar más protagonismo gracias a uno de sus principales activos, la disponibilidad de energía renovable. Sin embargo, especialistas coinciden en que la electricidad, aunque indispensable, representa apenas una parte de una ecuación mucho más amplia.

En conversación con La Nación/Nación Media, Bruno Vaccotti, director de la Cámara Paraguaya de Fintech y accionista de Penguin Group, dijo que la discusión sobre los centros de datos no debe limitarse al consumo eléctrico, sino al impacto económico que pueden generar.

Leé también: La aviación y el turismo buscan transformar la conectividad del país

Explicó que estas instalaciones forman parte de las denominadas industrias electrointensivas, que utilizan grandes cantidades de energía, pero cuya principal característica es la generación de empleo altamente calificado. A diferencia de otras industrias manufactureras, los centros de datos no requieren miles de trabajadores, aunque sí demandan perfiles técnicos especializados, con salarios muy por encima del promedio.

Vaccotti sostuvo a LN que Paraguay atraviesa un momento particular. Mientras el consumo eléctrico interno crece alrededor de un 12 % anual, el país deberá realizar importantes inversiones en infraestructura energética durante los próximos años para evitar un déficit de generación.

En ese contexto, consideró que atraer industrias electrointensivas forma parte de la solución y no del problema. Según explicó, actualmente la energía excedente cedida al Brasil genera ingresos considerablemente menores que la electricidad consumida por industrias instaladas en Paraguay.

Mientras la compensación por cesión ronda los USD 18 por megavatio, las empresas electrointensivas pagan entre USD 48 y USD 52 por la misma cantidad de energía.

Ese mayor ingreso fortalece financieramente a la Administración Nacional de Electricidad (Ande) y permite financiar nuevas obras para el Sistema Interconectado Nacional. Incluso, afirmó que cerca del 60 % de los ingresos actuales de la estatal eléctrica provienen de industrias electrointensivas, principalmente la minería de bitcoin.

Otro de los puntos que destacó es el esquema de créditos energéticos que actualmente analiza el Gobierno junto con el sector privado. La propuesta busca que las empresas que demanden grandes bloques de energía también inviertan en nueva capacidad de generación, por ejemplo mediante plantas fotovoltaicas, permitiendo que el crecimiento industrial contribuya al fortalecimiento del sistema eléctrico nacional.

La magnitud económica de estos proyectos también resulta significativa. Como referencia, Vaccotti recordó que Penguin construyó en Hernandarias, en 2021, un centro de datos de 100 megavatios con una inversión estimada entre USD 120 millones y USD 140 millones, considerado el primero de esa capacidad en América Latina.

Aunque actualmente está orientado al procesamiento para minería de bitcoin, explicó que comparte buena parte de la infraestructura utilizada por los centros destinados al procesamiento de IA.

Podés leer: Claudia Franco: “Registrar una marca es una decisión estratégica que genera valor y confianza”

Si bien Paraguay reúne condiciones naturales difíciles de igualar, los especialistas coinciden en que atraer inversiones de gran escala exige mucho más que energía disponible.

Vaccotti consideró que uno de los principales desafíos es generar confianza para inversiones que suelen proyectarse a diez o más años. Para ello, sostiene que el país necesita fortalecer la seguridad jurídica, garantizar reglas estables y evitar modificaciones contractuales imprevistas que puedan afectar la previsibilidad de los proyectos.

A ello, sumó un aspecto cada vez más determinante: la ciberseguridad. El director del gremio advirtió que Paraguay todavía debe fortalecer significativamente la protección de datos y la seguridad informática, especialmente, considerando los ataques que afectaron a distintas instituciones públicas.

En su opinión, la protección de la infraestructura digital debería convertirse en una política estratégica del Estado para brindar mayor confianza a los inversionistas internacionales.

Vaccotti también puso en contexto de los argumentos más repetidos sobre los data centers, el elevado consumo de agua. Explicó que muchas instalaciones modernas ya utilizan tecnologías de refrigeración por inmersión en aceite dieléctrico, reduciendo considerablemente esa necesidad. Incluso, señaló que, según estudios realizados para el sector, este tipo de infraestructura ni siquiera figura entre las actividades industriales con mayor consumo hídrico del país.

Mientras el sector privado analiza oportunidades de inversión, el Gobierno impulsa su propio proyecto de infraestructura tecnológica.

El asesor técnico del Ministerio de Tecnologías de la Información y Comunicación (Mitic), Horacio Caniza Vierci, afirmó a LN que Paraguay reúne varias condiciones favorables para desarrollar esta industria. Una matriz energética limpia y estable, disponibilidad de agua para sistemas de refrigeración y experiencia técnica acumulada en grandes organizaciones como bancos y empresas de telecomunicaciones.

Reconoció que el país todavía necesita formar una mayor cantidad de profesionales especializados, aunque sostiene que esa oferta surgirá conforme aumente la demanda del mercado.

“Antes de que exista la demanda es muy difícil que exista la oferta”, resumió al explicar por qué considera que la llegada de nuevos proyectos impulsará también la capacitación del talento local.

Para Caniza, un data center puede entenderse como una gran computadora compartida. Mientras un usuario utiliza una computadora personal para sus tareas diarias, un centro de datos concentra una enorme capacidad de procesamiento que puede ser utilizada simultáneamente por miles de personas y empresas.

Esa lógica, explicó, permite optimizar el uso de los recursos informáticos, reducir tiempos de procesamiento y ofrecer servicios digitales desde un mismo punto hacia distintos usuarios e incluso otros países.

Señaló que la ubicación de un data center responde a criterios técnicos específicos. Además de requerir una conexión cercana a una fuente de energía para evitar elevados costos de infraestructura, estas instalaciones necesitan disponibilidad de agua para los sistemas de refrigeración y suficiente espacio para futuras ampliaciones.

A ello se suma que, por el ruido que generan los equipos de procesamiento y enfriamiento, normalmente se instalan fuera de los centros urbanos.

En paralelo, el Mitic avanza con la construcción del Data Center del Estado, que estará ubicado en Chaco’i. El contrato con la empresa adjudicada ya fue firmado y la obra deberá ejecutarse en un plazo aproximado de dos años.

El objetivo del proyecto no es ofrecer servicios al sector privado, sino centralizar la infraestructura tecnológica del Estado paraguayo. Allí se alojarán plataformas utilizadas diariamente por las instituciones públicas y servicios dirigidos a la ciudadanía, como Portal Paraguay, la identidad electrónica y la nube gubernamental, buscando mejorar la seguridad, disponibilidad y eficiencia de los sistemas digitales públicos.

La apuesta, sin embargo, trasciende la construcción de un edificio. Tanto desde el sector público como desde el privado coinciden en que el verdadero desafío consiste en aprovechar la ventaja energética del país para desarrollar una nueva industria basada en servicios digitales de alto valor agregado.

Te puede interesar: Créditos y depósitos en dólares: ¿Por qué están creciendo aceleradamente?