La humanidad podría estar acercándose a un punto de no retorno. Esa es la estremecedora advertencia del investigador de seguridad en inteligencia artificial Paul Christiano, quien sostiene que, si se desarrolla una superinteligencia sin mecanismos de seguridad y alineación mucho más sólidos, los seres humanos podrían perder definitivamente el control de la tecnología.

El escenario que plantea es extremo: “la mayoría de las personas podrían morir” si una inteligencia artificial superinteligente llegara a escapar de los mecanismos diseñados para mantenerla bajo control. Christiano considera que no se trata de una amenaza lejana que pueda ser ignorada, sino de un riesgo que podría aumentar rápidamente a medida que las capacidades de estos sistemas se disparen, advirtió este jueves a través de la agencia RT.

Esta advertencia adquiere todavía mayor peso porque Christiano acaba de incorporarse a la junta directiva de la organización sin fines de lucro de OpenAI y a su Comité de Seguridad y Protección. El especialista, que anteriormente trabajó en investigación de alineación en OpenAI, dejó claro que su llegada no significa que avale las actuales prácticas de seguridad de la compañía.

Por el contrario, considera que la carrera por desarrollar sistemas cada vez más poderosos podría estar avanzando más rápido que la capacidad de la industria para garantizar que esos sistemas permanezcan controlables.

Te puede interesar: Concretan la primera aplicación de tobillera electrónica en Saltos del Guairá

El escenario más inquietante comienza cuando la propia IA pueda participar de forma masiva en la investigación y desarrollo de nuevas inteligencias artificiales.

Christiano advierte que esto podría generar una peligrosa reacción en cadena. Una IA más capaz podría ayudar a crear otra todavía más avanzada, que a su vez sería capaz de mejorar nuevamente la tecnología. El resultado podría ser una “explosión de inteligencia”, con un ritmo de evolución imposible de seguir para los seres humanos.

Según su planteamiento, una aceleración de este tipo podría hacer que en cuestión de meses se produzcan avances algorítmicos que normalmente habrían requerido años.

Y allí aparecería el escenario más temido: una tecnología capaz de evolucionar a una velocidad que las estructuras humanas de supervisión, regulación y seguridad simplemente no puedan alcanzar.

Christiano sostiene que, si los seres humanos construyen una superinteligencia sin resolver adecuadamente el problema de la alineación, podrían perder el control sobre ella de manera permanente.

En otras palabras, el temor no se limita a que una IA cometa errores, genere información falsa o provoque daños puntuales. El escenario extremo sería que los humanos ya no tuvieran la capacidad de detener, modificar o dirigir un sistema mucho más inteligente y autónomo.

El especialista considera que la industria tecnológica todavía no está haciendo lo suficiente para llevar este riesgo a un nivel aceptable. Su advertencia se suma a otras voces del sector que, durante esta semana, han reclamado controles más estrictos ante el avance de sistemas cada vez más autónomos.

Leé también: ¡Bajate de la nube! tiktoker aconseja no creerse superior por unos likes