La carrera por desarrollar sistemas de inteligencia artificial cada vez más potentes comienza a abrir una pregunta que hasta hace poco parecía propia de la ciencia ficción: ¿Se puede y es seguro ralentizar el desarrollo de la IA?
El empresario Elon Musk considera que sí. El magnate respaldó públicamente la propuesta de Dario Amodei, director ejecutivo de Anthropic, quien planteó reducir el ritmo de avance de los modelos más avanzados para evitar que sus capacidades crezcan más rápido que los mecanismos destinados a controlarlas.
“Dario tiene razón”, escribió Musk en su cuenta de X, en referencia a la propuesta del ejecutivo de Anthropic.
La discusión no plantea necesariamente detener la inteligencia artificial ni abandonar sus potenciales beneficios. La idea es introducir una suerte de “velocidad controlada” en el desarrollo de los modelos más avanzados, de manera que la investigación sobre seguridad, evaluación y alineación pueda acompañar el aumento de sus capacidades.
Te puede interesar: Gastronomía de autor: el proyecto que ya vende más de 8.000 hamburguesas al mes
¿Cómo hacerlo?
Amodei propone avanzar en tres frentes:
- El primero consiste en incorporar evaluadores externos independientes dentro de las compañías de IA, con acceso permanente a sus procesos y sistemas para comprobar si realmente se cumplen las medidas de seguridad y detectar incidentes.
- El segundo plantea que las principales empresas de IA de los países democráticos coordinen estándares comunes de seguridad y establezcan límites frente a avances que se produzcan sin controles suficientes.
- El tercer paso llevaría la discusión al ámbito internacional, buscando acuerdos entre gobiernos, incluso entre países con sistemas políticos enfrentados, para establecer reglas mínimas sobre el desarrollo y los usos más peligrosos de esta tecnología.
En otras palabras, la propuesta no consiste simplemente en “apagar” la IA, sino en ganar tiempo para probar mejor los modelos, identificar comportamientos inesperados, reforzar los controles y establecer reglas antes de que las capacidades de estas herramientas superen la capacidad de supervisarlas.
¿Dónde está el peligro?
La tecnología también puede acelerar investigaciones científicas, mejorar diagnósticos, aumentar la productividad y generar avances que actualmente serían difíciles de alcanzar por métodos tradicionales. El propio Amodei reconoce ese potencial.
El problema aparece cuando sistemas cada vez más autónomos pueden ejecutar tareas complejas, desarrollar estrategias, utilizar herramientas digitales o participar en procesos que sus creadores no pueden predecir completamente.
A esto se suma otro factor: la velocidad. Si cada generación de modelos contribuye a desarrollar la siguiente, el progreso podría acelerarse todavía más. Amodei advierte que esta posibilidad de “mejora recursiva” podría hacer que la evolución de los sistemas avance más rápido que la capacidad humana para comprenderlos y establecer mecanismos efectivos de control.
También existen riesgos más inmediatos y concretos: utilización de IA para ciberataques, fraude, manipulación de información, desarrollo de armas o automatización de actividades ilícitas. Es decir, no hace falta imaginar una máquina consciente que decida destruir a la humanidad para encontrar peligros reales.
Por eso, el debate que ahora respaldan Musk y otros referentes tecnológicos no debería reducirse a “IA sí” o “IA no”. La pregunta más importante es otra: ¿qué tan rápido estamos dispuestos a avanzar cuando todavía no sabemos con absoluta certeza cómo se comportarán los sistemas que estamos construyendo?