IA Generativa y Ciberseguridad
Gobernanza, riesgos emergentes y oportunidades para un futuro digital responsable
Resumen
La Inteligencia Artificial Generativa (GenAI) se ha consolidado como el catalizador más influyente de la transformación digital contemporánea. Su capacidad para producir contenido original, automatizar análisis complejos y expandir las capacidades cognitivas humanas está redefiniendo procesos empresariales, educativos y gubernamentales. Sin embargo, esta tecnología también reconfigura el panorama de amenazas: informes recientes, como el Microsoft Digital Defense Report 2025 (Microsoft, 2025), el IBM Threat Intelligence Index 2025 (IBM, 2025) y el ENISA Threat Landscape 2025 (ENISA, 2025), evidencian un repunte en ataques hiperpersonalizados, deepfakes operativos y variantes de malware asistidas por IA. Paradójicamente, la GenAI también es la clave para fortalecer los mecanismos de defensa, pues acelera la detección de anomalías y optimiza la respuesta ante incidentes. Este artículo analiza esa dualidad bajo la óptica del NIST Cybersecurity Framework 2.0 (NIST, 2024), con énfasis en la función Govern como base de la gobernanza algorítmica. Asimismo, se examina el uso ético de la tecnología en la academia y la empresa, junto con su impacto en la brecha digital global. Finalmente, se proponen líneas de investigación críticas para un entorno donde la velocidad del cambio exige decisiones informadas.
Citas
Accenture. (2024, January 16). Securing the digital core: Elevating cybersecurity for the AI-driven enterprise. Retrieved from Accenture: https://www.accenture.com/us-en/insights/cybersecurity/securing-digital-core
Accenture. (2025, July 10). Empowering a secure autonomous AI future. Retrieved from Accenture Security Blog: https://www.accenture.com/us-en/blogs/security/empowering-secure-autonomous-ai-future
Accenture. (2025, June 26). State of Cybersecurity Resilience 2025. Retrieved from Accenture: https://www.accenture.com/us-en/insights/security/state-cybersecurity-2025
ENISA. (2025, October 01). ENISA Threat Landscape 2025. Retrieved from ENISA: https://www.enisa.europa.eu/publications/enisa-threat-landscape-2025
IBM. (2025, February 24). X-Force Threat Intelligence Index 2025. Retrieved from IBM: https://www.ibm.com/reports/threat-intelligence
ISC2. (2025, September 09). 2025 Cybersecurity Hiring Trends: Skills Deep Dive. Retrieved from ISC2: https://www.isc2.org/Insights/2025/09/cybersecurity-hiring-trends-skills-deep-dive
Microsoft. (2025, October 16). Microsoft Digital Defense Report 2025. Retrieved from Microsoft Security Insider: https://www.microsoft.com/en-us/security/securityinsider/intelligence-reports/microsoft-digital-defense-report-2025
MITRE. (2023, August 01). ATLAS: Adversarial Threat Landscape for AI Systems. Retrieved from MITRE ATLAS: https://atlas.mitre.org/
NIST. (2024, February 26). The NIST Cybersecurity Framework (CSF) 2.0. Retrieved from NIST: https://www.nist.gov/cyberframework
OECD. (2023, November 22). OECD Digital Education Outlook 2023: Global Standards for AI in Education. Retrieved from OECD iLibrary: https://www.oecd.org/en/publications/oecd-digital-education-outlook-2023_c74f03de-en.html
UNESCO. (2023, September 07). Guidance for generative AI in education and research. Retrieved from UNESCO Digital Library: https://unesdoc.unesco.org/ark:/48223/pf0000386693
WEF. (2025, January 13). Global Cybersecurity Outlook 2025. Retrieved from World Economic Forum: https://www.weforum.org/publications/global-cybersecurity-outlook-2025/
