Inteligencia artificial explicable y transparencia algorítmica: desafíos y progresos en decisiones automatizadas
Palabras clave:
Inteligencia artificial explicable, transparencia algorítmica, decisiones automatizadas, ética digital, gobernanza tecnológicaResumen
La creciente dependencia de sistemas automatizados en ámbitos como la salud, la justicia, las finanzas y la administración pública ha intensificado la necesidad de comprender cómo funcionan los modelos de inteligencia artificial (IA) que influyen en decisiones de alto impacto. La inteligencia artificial explicable (XAI) surge como una respuesta a la opacidad algorítmica, promoviendo mecanismos que permitan interpretar, auditar y justificar las predicciones o recomendaciones generadas por los sistemas inteligentes. Más allá de la eficiencia técnica, la explicabilidad se convierte en un principio ético y jurídico indispensable para garantizar la confianza pública, prevenir sesgos discriminatorios y asegurar la protección de derechos fundamentales. En este contexto, se observa un avance significativo en técnicas de interpretabilidad, desde modelos intrínsecamente transparentes hasta herramientas poshoc que facilitan la visualización de patrones internos. Sin embargo, persisten desafíos relevantes como la estandarización de métricas, la tensión entre rendimiento y explicabilidad, y la necesidad de marcos regulatorios sólidos que definan responsabilidades y límites de uso. La consolidación de la XAI representa un punto de inflexión para la gobernanza algorítmica, permitiendo una interacción más segura, equitativa y comprensible entre humanos y sistemas automatizados.
Descargas
Referencias
Alayón Miranda, S. (2024). El problema de la interpretabilidad de la inteligencia artificial y su impacto en la administración pública. Revista Canaria de Administración Pública, 3, 175–202. https://revistacanarias.tirant.com/index.php/revista-canaria/article/view/42
Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016). Machine bias: There’s software used across the country to predict future criminals. And it’s biased against blacks. ProPublica, Online Edition.
Corvalán, J. G. (2018). Inteligencia artificial: retos, desafíos y oportunidades – Prometea: la primera inteligencia artificial de Latinoamérica al servicio de la Justicia. Revista de Investigações Constitucionais, 5(1), 295-316. https://doi.org/10.5380/rinc.v5i1.55334
European Commission. (2021). Proposal for a regulation of the European Parliament and of the Council laying down harmonized rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts. European Commission. https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex:52021PC0206
Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). AI4People-an ethical framework for a good AI society: Opportunities, risks, principles, and recommendations. Minds and Machines, 28(4), 689–707. https://doi.org/10.1007/s11023-018-9482-5
García-Vera, Y. S., & Juca-Maldonado, F. X. (2026). Inteligencia Artificial Aplicada a la Contabilidad: Flujos, buenas prácticas y control. Sophia Editions.
Guidotti, R., Monreale, A., Ruggieri, S., Turini, F., Giannotti, F., & Pedreschi, D. (2018). A survey of methods for explaining black box models. ACM Computing Surveys, 51(5), 1-42. https://doi.org/10.1145/3236009
Hernández Sampieri, R., Fernández, C., & Baptista, P. (2014). Metodología de la investigación. 6ta. Ed. Mc. Graw Hill Eduaction, México.
Hulsen, T. (2023). Explainable Artificial Intelligence (XAI): Concepts and challenges in healthcare. AI (Basel, Switzerland), 4(3), 652–666. https://doi.org/10.3390/ai4030034
Ibarra-Pincay, M., & Alcívar-Cevallos, R. (2024). Tendencias de la Inteligencia Artificial Explicable en el Área de Psicología. Revista Científica INGENIAR: Ingeniería, Tecnología E Investigación, 7(13), 80-101. https://journalingeniar.org/index.php/ingeniar/article/view/162
Lundberg, S. M., & Lee, S.-I. (2017). A unified approach to interpreting model predictions. 31st Conference on Neural Information Processing Systems (NIPS 2017). Long Beach, USA.
McGrath, A., & Jonker, A. (2024). What is AI interpretability? IBM Knowledge Center. https://www.ibm.com/es-es/think/topics/interpretability
Molnar, C. (2020). Interpretable Machine Learning. Lulu.com.
Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura. (2024). Ética de la inteligencia artificial. UNESCO. https://www.unesco.org/es/artificial-intelligence/recommendation-ethics
Ribeiro, M. T., Singh, S., & Guestrin, C. (2016). "Why should I trust you?": Explaining the predictions of any classifier. 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York, United States.
Descargas
Publicado
Número
Sección
Licencia
Derechos de autor 2026 Génesis Karolina Robles-Zambrano, Ingrid Joselyne Diaz-Basurto, Deinier Ros-Álvarez, Verónica Zuleyka Ramírez-Bósquez
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
Los autores que publican en la Revista UGC están de acuerdo con los siguientes términos:
1. Derechos de Autor
Los autores conservan los derechos de autor sobre sus trabajos sin restricciones. Los autores otorgan a la revista el derecho de primera publicación. Para ello, ceden a la revista, de forma no exclusiva, los derechos de explotación (reproducción, distribución, comunicación pública y transformación). Los autores pueden establecer otros acuerdos adicionales para la distribución no exclusiva de la versión de la obra publicada en la revista, siempre que exista un reconocimiento de su publicación inicial en esta revista.
© Los autores.
2. Licencia
Los trabajos se publican en la revista bajo la licencia de Atribución-NoComercial-CompartirIgual 4.0 Internacional de Creative Commons (CC BY-NC-SA 4.0). Los términos se pueden consultar en: https://creativecommons.org/licenses/by-nc-sa/4.0/deed.es
Esta licencia permite:
- Compartir: copiar y redistribuir el material en cualquier medio o formato.
- Adaptar: remezclar, transformar y crear a partir del material.
Bajo los siguientes términos:
- Atribución: ha de reconocer la autoría de manera apropiada, proporcionar un enlace a la licencia e indicar si se ha hecho algún cambio. Puede hacerlo de cualquier manera razonable, pero no de forma tal que sugiera que el licenciador le da soporte o patrocina el uso que se hace.
- NoComercial: no puede utilizar el material para finalidades comerciales.
- CompartirIgual: si remezcla, transforma o crea a partir del material, debe difundir su creación con la misma licencia que la obra original.
No hay restricciones adicionales. No puede aplicar términos legales ni medidas tecnológicas que restrinjan legalmente a otros hacer cualquier cosa que la licencia permita.
