- Por George Leal Jamil
- Profesor FDC, Brasil
La expresión “inteligencia artificial” ha pasado definitivamente a formar parte de nuestras vidas. En los negocios, en el ocio, en las demandas vinculadas a la salud, el turismo, la convivencia, la alimentación… todo se ve claramente impactado por la disponibilidad de recursos de IA. Se trata de plataformas y de incorporaciones a nuestros servicios habituales, como los clientes de correo electrónico, Microsoft Office, aplicaciones de movilidad, reserva de espacios, transporte, finanzas personales, así como interfaces y utilidades de uso cotidiano. En todas partes, la IA se hace presente.
Sin embargo, la aparición de esta nueva “ola” presenta señales de fenómenos ya ocurridos en otras oportunidades, al mismo tiempo que introduce elementos inéditos. La prisa por adoptar y afirmar que ya se “dispone” de una IA para la atención al cliente y la realización de negocios es una característica bien conocida. Ocurrió con la adopción de sistemas de información como los ERP y CRM, muchos de ellos en proyectos que nunca se completaron según lo previsto; también con los movimientos de descentralización de la informática, mediante la adquisición masiva de microcomputadoras y portátiles conectadas en red, bajo la promesa de “apagar los mainframes”. Podrían citarse muchos otros ejemplos que ayudan a comprender cómo estas euforias suelen generar problemas en la correcta difusión y apropiación de nuevos recursos y servicios.
Lo que sin duda resulta novedoso en esta ocasión es el hecho de que no se trata de una propuesta estática, sino de un proceso en constante evolución. La IA que se dio a conocer en 2022, con la demostración de ChatGPT en una versión rudimentaria y gratuita, que ya en aquel momento causó gran asombro y dio lugar a dilemas que luego se revelaron menos consistentes, ha atravesado múltiples transformaciones.
Existen corrientes que sostienen que incluso recursos considerados revolucionarios, como el método RAG de actualización de modelos, ya no resultan tan útiles, y que la IA predictiva presenta limitaciones frente a las soluciones actuales. De este modo, nos encontramos en un proceso continuo de innovaciones, y no simplemente en la difusión de una única innovación consolidada y definida.
Al acompañar diversos proyectos que buscan aplicar inteligencia artificial –caracterizados por el uso de recursos de IA, en ocasiones integrados internamente a soluciones como aplicaciones o interfaces web– observamos que reaparecen problemas tradicionales junto con otros nuevos. Estos generan decepciones iniciales e incluso pueden derivar en cuestiones jurídicas, al discutirse plazos, alcances y costos muy distintos de los originalmente planificados. En este artículo presento un marco general de estos problemas, con el objetivo de incentivar al lector a desarrollar una conciencia crítica sobre ellos y a prevenir posibles fallas.
De manera incuestionable, las estimaciones excesivas y las ambiciones desmedidas están en el centro de los principales errores en proyectos de IA. En ocasiones, se espera que la automatización de procesos existentes actúe como una optimización milagrosa, generando mejoras que nadie había previsto ni considerado. A modo de ejemplo, en un caso real que acompañé recientemente, la contratación de un sistema automático de envío de publicaciones, notificaciones y correos electrónicos fue considerada como algo “excesivamente inteligente”, que supuestamente seleccionaría clientes a partir de múltiples criterios, algunos de los cuales ni siquiera contaban con datos disponibles para ser analizados en el nivel pretendido.
Precisamente aquí reside también el origen de otros problemas: el dominio real del contexto en el que se aplicarán los servicios basados en IA. En este camino destacan dos situaciones frecuentes. La primera se refiere a procesos inestables, con problemas de configuración o de alineación con la estrategia empresarial, todavía improvisados o sin una adecuada depuración y recolección de datos. En muchos casos, los proyectos de IA –al igual que en olas anteriores del mercado– son percibidos como soluciones que, una vez implementadas, corregirán automáticamente los errores de configuración existentes. Esta corrección, sin embargo, debería ser un presupuesto del proyecto desde su inicio y, evidentemente, añade una complejidad sustancial a la definición del alcance del propio proceso objetivo. No se trata de algo simple y exige medidas claras de gestión de la implementación. Entre ellas, cabe mencionar la necesidad de pruebas exhaustivas (muy exhaustivas, dado que el sistema sustituirá algo que ya está en funcionamiento, aunque sea de forma imperfecta), una implementación progresiva y una gestión eficaz de la comunicación y de los riesgos.
Otro aspecto derivado de la falta de dominio del contexto del proyecto futuro es la calidad de los datos. En primer lugar, conviene matizar la afirmación de que “cuantos más datos, mejor para implementar IA”. No siempre. Solo los datos correctos, precisos, actualizados y conformes a las normas aportan un valor real. Este aspecto implica conocer con exactitud los formatos, los mecanismos de identificación, validación y actualización, así como las fuentes de los datos. Este último punto, en particular, ha sido frecuentemente una fuente de problemas, cuando no se evalúa adecuadamente el origen de los datos, su forma de almacenamiento o su vigencia para reflejar los hechos y fenómenos del mercado. Por ejemplo, captar señales de insatisfacción del cliente únicamente en el punto de venta –sin consultar directamente al consumidor– puede generar una elevada proporción de respuestas clasificadas como “otros”, es decir, reacciones indefinidas que, de haberse consultado al cliente, podrían reflejar descontento por precios, plazos de entrega, indisponibilidad temporal del producto, entre otros factores. Las fuentes deben ser observadas con extremo cuidado para garantizar la captura efectiva de los datos esenciales para la toma de decisiones organizacionales.
Aún en relación con los datos, es fundamental comprender si estos se refieren efectivamente a lo mismo: al mismo proceso, al mismo hecho, al mismo objeto. Por ejemplo, un código de identificación de producto puede contener, en un sistema comercial, una estructura con puntos y guiones. En otra etapa del proceso, ese mismo código puede almacenarse simplemente como una cadena de caracteres, sin ningún tipo de identificación estructurada. Dos sistemas distintos, dos procesos diferentes, que tratan el mismo dato de forma heterogénea, impidiendo su comparación y, por ende, un procesamiento correcto. Se trata de problemas aparentemente simples, pero frecuentes y, en muchos casos, difíciles de identificar.
Finalmente, es indispensable considerar las cuestiones relacionadas con la gestión de personas. Fue ampliamente visible la huelga ocurrida en Hollywood, Estados Unidos, por parte de editores y desarrolladores de contenidos para películas, documentales y series, motivada, entre otros factores, por el temor a la sustitución de guionistas, escritores y revisores por sistemas basados en IA. Tras un período prolongado, ampliamente difundido a nivel global debido al prestigio de esa industria, aparentemente se alcanzó un acuerdo. No obstante, los entornos y plataformas de IA continúan utilizándose allí y en todo el mundo para la producción de contenidos. La cuestión central sigue siendo: ¿existe preparación, concienciación y formación de las personas para la integración de la IA en el entorno laboral y organizacional? La situación más delicada se refiere a la amenaza al status quo del ejercicio de las tareas y del trabajo: ¿se producirán cambios de gran magnitud? ¿Habrá discontinuidades, con riesgo de despidos? ¿Se mantendrán las condiciones de remuneración? ¿Existe la posibilidad de trabajar con la IA en lugar de ser sustituido por ella? Afortunadamente, esta última perspectiva –considerar la IA como un asistente– ha prevalecido recientemente, facilitando su adopción y haciendo más viables los cambios. Todas estas cuestiones requieren un trabajo dedicado por parte de la gestión de las empresas e instituciones, para que los colaboradores adopten la IA en su entorno laboral, un factor esencial para el éxito de los proyectos.
En esta breve reflexión, he presentado algunos de los problemas más frecuentes, con la intención de ayudar al lector en el recorrido inevitable hacia la correcta adopción de soluciones basadas en IA en el ejercicio de su trabajo. Se trata de un proceso en curso, en un escenario dinámico y en constante evolución que, sin duda, merecerá nuevos análisis en el futuro. ¡Éxito en sus proyectos basados en IA!