Revista Sistemas

Inteligencia artificial generativa

2025-12-17T08:32:47-08:00

El contexto de un mundo NAVI (No lineal, Acelerado, Volátil e Interconectado) (McCowan et al., 2025) no anuncia una época de cambios, si no un cambio de época. Un momento en la historia de la humanidad y un punto de inflexión donde la inteligencia artificial (IA) cambia drásticamente la sociedad de forma global, transformando cada sector e industria retando su conocimiento y abriendo nuevas oportunidad de eficiencia y renovación.

Shadow AI: Riesgo emergente y habilitación

2025-12-17T08:32:46-08:00

La Inteligencia Artificial Generativa ha emergido como un catalizador de cambio, entregando agilidad al negocio, pero planteando un desafío fundamental: gobernarla con propósito y confianza. Esta democratización impulsa a los usuarios a convertirse en desarrolladores, lo que genera la Shadow AI (TI en la Sombra), donde las soluciones se implementan fuera del marco de gobernanza por la necesidad de velocidad. El artículo examina la Shadow AI de forma constructiva, argumentando que la respuesta no es prohibir, sino habilitar. Se revisan lecciones históricas de riesgos (ej. hojas de cálculo) para justificar la necesidad de un enfoque proactivo de la función de Riesgos, que debe actuar como facilitador seguro, según el Dominio 2 (ISACA CRISC, 2024), superando actitudes conservadoras que imponen controles desalineados con el costo/beneficio. Se destaca la importancia de integrar a los desarrolladores en el proceso de seguridad, mientras sus roles se transforman de la codificación rutinaria hacia la gestión de infraestructura de IA y la arquitectura de prompts, requiriendo recapacitación. Se concluye que la IAdebe ser un facilitador del negocio, requiriendo un paraguas de gobierno centralizado para canalizar la innovación de la sombra hacia una adopción estratégica y segura. Herramientas como el CASB (Cloud Access Security Broker) son esenciales para lograr la visibilidad y el control efectivo en entornos cloud.

Pormenores de la Inteligencia Artificial

2025-12-17T08:32:45-08:00

“Mi trabajo busca impulsar la transformación digital responsable en el sector público. Dirijo equipos interdisciplinarios para diseñar políticas de gobernanza tecnológica y desarrollar soluciones éticas de IA, especialmente en los ámbitos judicial y administrativo”, indica la entrevistada en este número de la revista Sistemas.

Diagnóstico de la preparación de Colombia para la implementación de la recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial (IA)

2025-12-17T08:32:44-08:00

Este artículo presenta un resumen de los resultados de la aplicación de la Metodología de Evaluación del Estadio de Preparación (RAM) de la UNESCO para evaluar la capacidad de Colombia para implementar la Recomendación sobre la Ética de la Inteligencia Artificial (IA). El análisis por dimensiones revela fortalezas importantes en el marco jurídico, y notables desarrollos en los sistemas estadísticos a cargo del DANE (Departamento Administrativo Nacional de Estadística). Sin embargo, persisten desafíos estructurales significativos: el gasto en Investigación y Desarrollo (I+D+i) es bajo, limitando la generación de soluciones propias. También existen importantes brechas digitales a nivel territorial (urbano-rural) y de género en la formación CTIM (Ciencia, Tecnología, Ingeniería y Matemáticas). Las principales recomendaciones de política se centran en el aumento de la inversión en I+D+i y el fortalecimiento de la gobernanza interinstitucional y la supervisión de riesgos en tecnologías de IA a nivel sectorial.

Los asuntos más relevantes de la IA en opinión de algunos expertos

2025-12-17T08:32:43-08:00

Hoy la inteligencia artificial (IA) dejó de ser una promesa para convertirse en una realidad estratégica. Las organizaciones que entienden esto saben que la IA no es solo tecnología: es un habilitador que impulsa la transformación del modelo de negocio y la experiencia del cliente.

Introducción a los riesgos algorítmicos.

2025-12-17T08:32:41-08:00

La acelerada incorporación de la inteligencia artificial (IA) y los agentes autónomos obliga a las organizaciones a revisar detalladamente los resultados de su implementación, ya que los modelos basados en machine learning generan respuestas que muchas veces no corresponden a una lógica esperada, sino a un patrón estadístico predeterminado. Esta nueva realidad ha dado lugar al riesgo algorítmico, un riesgo emergente definido como la posibilidad de daño, pérdida financiera o afectación de la reputación empresarial que surge del uso, despliegue o explotación maliciosa de sistemas de IA, que hace evidente las limitaciones propias de los modelos tradicionales de seguridad y control. Por tanto, este artículo propone adoptar una perspectiva ampliada de seguridad que incluye la autenticidad, la utilidad y la posesión como nuevos elementos a revisar, además de introducir el concepto de auditoría algorítmica como un proceso de aseguramiento crítico previo al despliegue de iniciativas con inteligencia artificial. Finalmente, este documento presenta un enfoque holístico de la seguridad denominado “Confianza por Diseño”, que opera como marco integrador que vincula la ética, la equidad y la explicabilidad, junto con la seguridad y la privacidad, como una postura proactiva para la gestión de riesgos empresariales en la era de la IA.

Inteligencias Paralelas

2025-12-17T08:32:40-08:00

La relación entre las redes neuronales biológicas y las redes neuronales artificiales constituye uno de los diálogos científicos más fértiles de la actualidad. Aunque surgieron en contextos distintos, ambos sistemas buscan comprender y modelar la inteligencia desde perspectivas complementarias: la biología mediante la exploración de sinapsis, plasticidad y circuitos funcionales, y la computación mediante arquitecturas matemáticas capaces de aprender a partir de datos. Este artículo examina los principios fundamentales de cada enfoque y analiza sus puentes conceptuales, evitando reducir uno al otro. Se abordan temas como la organización del conectoma, la dinámica sináptica, la evolución histórica de las redes artificiales y su capacidad para procesar información mediante optimización estadística. Asimismo, se exploran escenarios de convergencia como las interfaces cerebro–computador, la computación neuromórfica y las analogías emergentes entre el olvido biológico y los métodos de machine unlearning. A través de este análisis, se muestra que la interacción entre neurociencia e inteligencia artificial no persigue imitación estructural, sino inspiración funcional y expansión mutua. La comparación crítica entre ambos sistemas permite comprender mejor sus alcances, límites y posibilidades, y abre nuevas vías para el desarrollo de tecnologías que complementen, y no sustituyan, las capacidades humanas.

“Text to Anything”

2025-12-17T08:32:39-08:00

La IA generativa es considerada una tecnología de propósito general y se ha convertido en tema recurrente y central en el día a día de los individuos y las organizaciones. La abundante oferta de servicios, la rápida evolución de capacidades de estas herramientas y la feroz competencia entre los gigantes tecnológicos han despertado grandes expectativas entre los inversionistas, usuarios y observadores de estas tecnologías. Este documento da cuenta de un ejercicio de titulado “Text to Anything”, llevado a cabo en un ambiente universitario (nivel pregrado y posgrado) en ciencias empresariales. Se exploraron de manera guiada diversas herramientas y casos de uso de la inteligencia artificial para la creación de diferentes tipos de contenidos (texto, código, audio, video) a partir de indicaciones en lenguaje natural, mejor conocidos por el anglicismo: prompts. Este ejercicio se llevó a cabo en diferentes momentos y dejo entre otras las siguientes observaciones: la primera es que la velocidad de las innovaciones nos debe llevar crear estrategias de transformación digital organizacional. Segundo, es necesario profundizar la alfabetización digital de nuestros colaboradores para que habilite y desbloquee el potencial de la IAGenerativa. Tercero, existe un desconocimiento generalizado del cómo funcionan estos sistemas. Por último, encontramos desconocimiento de las vulnerabilidades y los riesgos asociado al uso inadecuado de estas herramientas. Este artículo comenta sobre estos retos y provee una serie de recomendaciones para que las organizaciones contemporáneas puedan hacer una transición hacia la creación de valor a través de la experimentación ágil y la identificación de casos de uso escalables.

La burbuja de la IA generativa: “a feature not a bug”

2025-12-17T08:32:38-08:00

Este artículo se pregunta si hay una burbuja especulativa de inteligencia artificial generativa. Responde que sí, pero que esto es una simplificación que de poco nos sirve para tomar decisiones. Las burbujas son parte inevitable y necesaria de toda revolución tecnológica, tras su estallido se da paso a los nuevos modelos que se generan. Además, en entornos de innovación es natural que solo pocos sean exitosos. Ya antes se vio un fenómeno similar en la burbuja puntocom, pero ahora las burbujas pueden ser más rápidas, simultáneas o extendidas. En consecuencia, invertir mejor en IAimplica tener una mirada del ecosistema digital y organizaciones ambidiestras, capaces de asumir riesgos de manera equilibrada para innovar exitosamente.

Los mitos y realidades de la IA

2025-12-17T08:32:37-08:00

En este artículo se presentan al lector no técnico, algunos de los mitos actuales alrededor de la Inteligencia Artificial (IA) incluyendo conceptos para aclararlos. Novedad, crisis existenciales que plantea a los no legos, y otros. El objetivo principal es entender las novedades tecnológicas y evaluar así su mejor utilización. Posteriormente el autor se concentra en cuatro temas importantes para el futuro de la IA y de la computación avanzada: la metadata de los objetos generados computacionalmente por la IA, la importancia del contexto en el entendimiento del lenguaje natural, la regulación al desarrollo y al uso de la IA, para concluir en la importancia de la organización inteligente.

IA Generativa y Ciberseguridad

2025-12-17T08:32:37-08:00

La Inteligencia Artificial Generativa (GenAI) se ha consolidado como el catalizador más influyente de la transformación digital contemporánea. Su capacidad para producir contenido original, automatizar análisis complejos y expandir las capacidades cognitivas humanas está redefiniendo procesos empresariales, educativos y gubernamentales. Sin embargo, esta tecnología también reconfigura el panorama de amenazas: informes recientes, como el Microsoft Digital Defense Report 2025 (Microsoft, 2025), el IBM Threat Intelligence Index 2025 (IBM, 2025) y el ENISA Threat Landscape 2025 (ENISA, 2025), evidencian un repunte en ataques hiperpersonalizados, deepfakes operativos y variantes de malware asistidas por IA. Paradójicamente, la GenAI también es la clave para fortalecer los mecanismos de defensa, pues acelera la detección de anomalías y optimiza la respuesta ante incidentes. Este artículo analiza esa dualidad bajo la óptica del NIST Cybersecurity Framework 2.0 (NIST, 2024), con énfasis en la función Govern como base de la gobernanza algorítmica. Asimismo, se examina el uso ético de la tecnología en la academia y la empresa, junto con su impacto en la brecha digital global. Finalmente, se proponen líneas de investigación críticas para un entorno donde la velocidad del cambio exige decisiones informadas.