Shadow AI: Riesgo emergente y habilitación

Resumen

La Inteligencia Artificial Generativa ha emergido como un catalizador de cambio, entregando agilidad al negocio, pero planteando un desafío fundamental: gobernarla con propósito y confianza. Esta democratización impulsa a los usuarios a convertirse en desarrolladores, lo que genera la Shadow AI (TI en la Sombra), donde las soluciones se implementan fuera del marco de gobernanza por la necesidad de velocidad. El artículo examina la Shadow AI de forma constructiva, argumentando que la respuesta no es prohibir, sino habilitar. Se revisan lecciones históricas de riesgos (ej. hojas de cálculo) para justificar la necesidad de un enfoque proactivo de la función de Riesgos, que debe actuar como facilitador seguro, según el Dominio 2 (ISACA CRISC, 2024), superando actitudes conservadoras que imponen controles desalineados con el costo/beneficio. Se destaca la importancia de integrar a los desarrolladores en el proceso de seguridad, mientras sus roles se transforman de la codificación rutinaria hacia la gestión de infraestructura de IA y la arquitectura de prompts, requiriendo recapacitación. Se concluye que la IAdebe ser un facilitador del negocio, requiriendo un paraguas de gobierno centralizado para canalizar la innovación de la sombra hacia una adopción estratégica y segura. Herramientas como el CASB (Cloud Access Security Broker) son esenciales para lograr la visibilidad y el control efectivo en entornos cloud.