Mitigación de fugas de datos e inyección de prompts en chatbots universitarios mediante arquitectura perimetral desacoplada
DOI:
https://doi.org/10.62452/40j21f47Palabras clave:
Modelos de Gran Lenguaje, inyección de prompts, fuga de datos, inteligencia artificial, arquitectura descentralizada, educación superior, ciberseguridadResumen
La educación superior está adoptando rápidamente herramientas de Inteligencia Artificial Generativa, situación que ha expuesto a las universidades a vulnerabilidades críticas de ciberseguridad, principalmente la inyección de prompts y la fuga de datos. El presente estudio diseña y evalúa una arquitectura de un agente conversacional descentralizado que funciona como un asistente virtual de asignatura, considerando las recomendaciones de ciberseguridad del cuerpo docente. El enfoque metodológico es teórico experimental, la investigación se desarrolla en tres fases: un diagnóstico de conocimiento de ciberseguridad de los docentes mediante un cuestionario digital, el diseño de un middleware perimetral que mitigue la fuga de datos y sea eficaz ante la inyección de prompts, y la evaluación experimental del diseño. Los resultados experimentales demuestran que el diseño de la arquitectura propuesta reduce significativamente la exposición de datos y la vulnerabilidad ante inyecciones de prompts. La investigación aporta una solución práctica y replicable que fortalece la privacidad, la seguridad de la información y la adopción responsable de la IA en el entorno universitario.
Descargas
Referencias
Alafnan, M. A., Dishari, S., Jovic, M., & Lomidze, K. (2023). ChatGPT as an educational tool: Opportunities, challenges, and recommendations for communication, business writing, and composition courses. Journal of Artificial Intelligence and Technology, 3(2), 60–68. https://doi.org/10.37965/jait.2023.0184
Anghel, C., Craciun, M. V., Cocu, A., Anghel, A. A., & Istrate, A. (2026). SteadyEval: Robust LLM exam graders via adversarial training and distillation. Computers, 15(1). https://doi.org/10.3390/computers15010055
Chroma Core Inc. (2024). The open-source embedding database (Version 0.5.x) [Software]. https://www.trychroma.com/
Cotton, D. R. E., Cotton, P. A., & Shipway, J. R. (2024). Chatting and cheating: Ensuring academic integrity in the era of ChatGPT. Innovations in Education and Teaching International, 61(2), 228–239. https://doi.org/10.1080/14703297.2023.2190148
De Freitas, J., & Cohen, I. G. (2025). Disclosure, humanizing, and contextual vulnerability of generative AI chatbots. NEJM AI, 2(2). https://doi.org/10.1056/aipc2400464
Dzhaliuk, N., Sabodashko, D., Khoma, V., Khoma, Y., Kolchenko, V., & Podpora, M. (2026). Comparative evaluation of machine learning methods for protecting LLMs from prompt injection attacks. International Journal of Information Security, 25. https://doi.org/10.1007/s10207-026-01264-8
Gamez Lagos, N. M. (2025). Asistente virtual académico basado en sistemas LLM para procesar y extraer información normativa de instituciones de educación superior. https://www.researchgate.net/publication/395710153_Asistente_Virtual_Academico_Basado_en_Sistemas_LLM_para_Procesar_y_Extraer_Informacion_Normativa_de_Instituciones_de_Educacion_Superior
Gayathri, T., Durusoju, S., Mergoju, L., & Reddy, P. V. (2025). MedicAI: AI-powered system for enhanced medical information access. 9th International Conference on Inventive Systems and Control (ICISC). Coimbatore, India.
Giapantzis, K., Bountakas, P., Zarras, A., Farao, A., Bolgouras, V., & Xenakis, C. (2026). Adaptive DeSeTra: Adaptive deformable-span self-attention transformer for LLM security. Information Sciences, 754. https://doi.org/10.1016/j.ins.2026.123670
Gundu, T. (2023). Chatbots: A framework for improving information security behaviours using ChatGPT. En S. Furnell & N. Clarke (Eds.), Human aspects of information security and assurance: HAISA 2023 (Vol. 674, pp. 418–431). Springer.
Johno, H., Amakawa, A., Komaba, A., Tozuka, R., Johno, Y., Sato, J., Yoshimura, K., Nakamoto, K., & Ichikawa, S. (2026). Open-source offline-deployable retrieval-augmented large language model for assisting pancreatic cancer staging. Japanese Journal of Radiology. https://doi.org/10.1007/s11604-026-02049-8
Kumar, S. S., Cummings, M. L., & Stimpson, A. (2024). Strengthening LLM trust boundaries: A survey of prompt injection attacks. 4th International Conference on Human-Machine Systems (ICHMS). Toronto, Canada.
Li, Y., Fu, X., Verma, G., Buitelaar, P., & Liu, M. (2025). Mitigating hallucination in large language models (LLMs): An application-oriented survey on RAG, reasoning, and agentic systems. arXiv. http://arxiv.org/abs/2510.24476
Luo, H., & Ji, C. (2025). Federated learning-based data collaboration method for enhancing edge cloud AI system security using large language models. 5th International Symposium on Computer Technology and Information Science (ISCTIS 2025) (pp. 163–166). IEEE. Xi'an, China.
Microsoft. (2023). Presidio: Data protection and anonymization SDK [Software]. Microsoft Open Source. https://presidio.dataprivacystack.org/
Ollama. (2023). Get up and running with Llama 3 and other large language models locally [Software]. https://ollama.com/
Rebuff AI. (2023). Rebuff: Prompt injection detection service for LLM applications [Software]. GitHub. https://github.com/rebuff-ai/rebuff
Saad, M., Mughal, S. F., Mustafa, M., Ahmed, I., & Masood, A. (2025). Assessing and mitigating multi-turn jailbreak vulnerabilities in large language models: A Crescendo attack study. 27th International Multitopic Conference (INMIC 2025). Islamabad, Pakistan.
Streamlit. (2026). Streamlit Community Cloud. Snowflake Inc. https://share.streamlit.io/
Toro, Y., Toro, I., Calvo, C., Urquizo, D., & Chapalbay, M. (2025). Implementación de un asistente virtual de inteligencia artificial en universidades latinoamericanas. Invecom, 6(3). https://revistainvecom.org/index.php/invecom/article/view/4258/4885
Trinks, M., Gondim, J., & Albuquerque, R. (2023). Multi-agent architecture for passive rootkit detection with data enrichment. In M. V. Garcia & C. Gordón-Gallegos (Eds.), CSEI: International Conference on Computer Science, Electronics and Industrial Engineering (CSEI 2022) (Vol. 678, pp. 29–41). Springer.
Descargas
Publicado
Número
Sección
Licencia
Derechos de autor 2026 Jorge Wilson Saa-Saltos, Nancy Magali Rodríguez-Gavilanes (Autor/a)
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
Los autores que publican en la Revista Metropolitana de Ciencias Aplicadas (REMCA), están de acuerdo con los siguientes términos:
1. Derechos de Autor
Los autores conservan los derechos de autor sobre sus trabajos sin restricciones. Los autores otorgan a la revista el derecho de primera publicación. Para ello, ceden a la revista, de forma no exclusiva, los derechos de explotación (reproducción, distribución, comunicación pública y transformación). Los autores pueden establecer otros acuerdos adicionales para la distribución no exclusiva de la versión de la obra publicada en la revista, siempre que exista un reconocimiento de su publicación inicial en esta revista.
© Los autores.
2. Licencia
Los trabajos se publican en la revista bajo la licencia de Atribución-NoComercial-CompartirIgual 4.0 Internacional de Creative Commons (CC BY-NC-SA 4.0). Los términos se pueden consultar en: https://creativecommons.org/licenses/by-nc-sa/4.0/deed.es
Esta licencia permite:
- Compartir: copiar y redistribuir el material en cualquier medio o formato.
- Adaptar: remezclar, transformar y crear a partir del material.
Bajo los siguientes términos:
- Atribución: ha de reconocer la autoría de manera apropiada, proporcionar un enlace a la licencia e indicar si se ha hecho algún cambio. Puede hacerlo de cualquier manera razonable, pero no de forma tal que sugiera que el licenciador le da soporte o patrocina el uso que se hace.
- NoComercial: no puede utilizar el material para finalidades comerciales.
- CompartirIgual: si remezcla, transforma o crea a partir del material, debe difundir su creación con la misma licencia que la obra original.
No hay restricciones adicionales. No puede aplicar términos legales ni medidas tecnológicas que restrinjan legalmente a otros hacer cualquier cosa que la licencia permita.
