Mitigación de fugas de datos e inyección de prompts en chatbots universitarios mediante arquitectura perimetral desacoplada
DOI:
https://doi.org/10.62452/40j21f47Palavras-chave:
Modelos de Gran Lenguaje, inyección de prompts, fuga de datos, inteligencia artificial, arquitectura descentralizada, educación superior, ciberseguridadResumo
La educación superior está adoptando rápidamente herramientas de Inteligencia Artificial Generativa, situación que ha expuesto a las universidades a vulnerabilidades críticas de ciberseguridad, principalmente la inyección de prompts y la fuga de datos. El presente estudio diseña y evalúa una arquitectura de un agente conversacional descentralizado que funciona como un asistente virtual de asignatura, considerando las recomendaciones de ciberseguridad del cuerpo docente. El enfoque metodológico es teórico experimental, la investigación se desarrolla en tres fases: un diagnóstico de conocimiento de ciberseguridad de los docentes mediante un cuestionario digital, el diseño de un middleware perimetral que mitigue la fuga de datos y sea eficaz ante la inyección de prompts, y la evaluación experimental del diseño. Los resultados experimentales demuestran que el diseño de la arquitectura propuesta reduce significativamente la exposición de datos y la vulnerabilidad ante inyecciones de prompts. La investigación aporta una solución práctica y replicable que fortalece la privacidad, la seguridad de la información y la adopción responsable de la IA en el entorno universitario.
Downloads
Referências
Alafnan, M. A., Dishari, S., Jovic, M., & Lomidze, K. (2023). ChatGPT as an educational tool: Opportunities, challenges, and recommendations for communication, business writing, and composition courses. Journal of Artificial Intelligence and Technology, 3(2), 60–68. https://doi.org/10.37965/jait.2023.0184
Anghel, C., Craciun, M. V., Cocu, A., Anghel, A. A., & Istrate, A. (2026). SteadyEval: Robust LLM exam graders via adversarial training and distillation. Computers, 15(1). https://doi.org/10.3390/computers15010055
Chroma Core Inc. (2024). The open-source embedding database (Version 0.5.x) [Software]. https://www.trychroma.com/
Cotton, D. R. E., Cotton, P. A., & Shipway, J. R. (2024). Chatting and cheating: Ensuring academic integrity in the era of ChatGPT. Innovations in Education and Teaching International, 61(2), 228–239. https://doi.org/10.1080/14703297.2023.2190148
De Freitas, J., & Cohen, I. G. (2025). Disclosure, humanizing, and contextual vulnerability of generative AI chatbots. NEJM AI, 2(2). https://doi.org/10.1056/aipc2400464
Dzhaliuk, N., Sabodashko, D., Khoma, V., Khoma, Y., Kolchenko, V., & Podpora, M. (2026). Comparative evaluation of machine learning methods for protecting LLMs from prompt injection attacks. International Journal of Information Security, 25. https://doi.org/10.1007/s10207-026-01264-8
Gamez Lagos, N. M. (2025). Asistente virtual académico basado en sistemas LLM para procesar y extraer información normativa de instituciones de educación superior. https://www.researchgate.net/publication/395710153_Asistente_Virtual_Academico_Basado_en_Sistemas_LLM_para_Procesar_y_Extraer_Informacion_Normativa_de_Instituciones_de_Educacion_Superior
Gayathri, T., Durusoju, S., Mergoju, L., & Reddy, P. V. (2025). MedicAI: AI-powered system for enhanced medical information access. 9th International Conference on Inventive Systems and Control (ICISC). Coimbatore, India.
Giapantzis, K., Bountakas, P., Zarras, A., Farao, A., Bolgouras, V., & Xenakis, C. (2026). Adaptive DeSeTra: Adaptive deformable-span self-attention transformer for LLM security. Information Sciences, 754. https://doi.org/10.1016/j.ins.2026.123670
Gundu, T. (2023). Chatbots: A framework for improving information security behaviours using ChatGPT. En S. Furnell & N. Clarke (Eds.), Human aspects of information security and assurance: HAISA 2023 (Vol. 674, pp. 418–431). Springer.
Johno, H., Amakawa, A., Komaba, A., Tozuka, R., Johno, Y., Sato, J., Yoshimura, K., Nakamoto, K., & Ichikawa, S. (2026). Open-source offline-deployable retrieval-augmented large language model for assisting pancreatic cancer staging. Japanese Journal of Radiology. https://doi.org/10.1007/s11604-026-02049-8
Kumar, S. S., Cummings, M. L., & Stimpson, A. (2024). Strengthening LLM trust boundaries: A survey of prompt injection attacks. 4th International Conference on Human-Machine Systems (ICHMS). Toronto, Canada.
Li, Y., Fu, X., Verma, G., Buitelaar, P., & Liu, M. (2025). Mitigating hallucination in large language models (LLMs): An application-oriented survey on RAG, reasoning, and agentic systems. arXiv. http://arxiv.org/abs/2510.24476
Luo, H., & Ji, C. (2025). Federated learning-based data collaboration method for enhancing edge cloud AI system security using large language models. 5th International Symposium on Computer Technology and Information Science (ISCTIS 2025) (pp. 163–166). IEEE. Xi'an, China.
Microsoft. (2023). Presidio: Data protection and anonymization SDK [Software]. Microsoft Open Source. https://presidio.dataprivacystack.org/
Ollama. (2023). Get up and running with Llama 3 and other large language models locally [Software]. https://ollama.com/
Rebuff AI. (2023). Rebuff: Prompt injection detection service for LLM applications [Software]. GitHub. https://github.com/rebuff-ai/rebuff
Saad, M., Mughal, S. F., Mustafa, M., Ahmed, I., & Masood, A. (2025). Assessing and mitigating multi-turn jailbreak vulnerabilities in large language models: A Crescendo attack study. 27th International Multitopic Conference (INMIC 2025). Islamabad, Pakistan.
Streamlit. (2026). Streamlit Community Cloud. Snowflake Inc. https://share.streamlit.io/
Toro, Y., Toro, I., Calvo, C., Urquizo, D., & Chapalbay, M. (2025). Implementación de un asistente virtual de inteligencia artificial en universidades latinoamericanas. Invecom, 6(3). https://revistainvecom.org/index.php/invecom/article/view/4258/4885
Trinks, M., Gondim, J., & Albuquerque, R. (2023). Multi-agent architecture for passive rootkit detection with data enrichment. In M. V. Garcia & C. Gordón-Gallegos (Eds.), CSEI: International Conference on Computer Science, Electronics and Industrial Engineering (CSEI 2022) (Vol. 678, pp. 29–41). Springer.
Downloads
Publicado
Edição
Seção
Licença
Copyright (c) 2026 Jorge Wilson Saa-Saltos, Nancy Magali Rodríguez-Gavilanes (Autor/a)
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
Os autores que publicam na Revista Metropolitana de Ciencias Aplicadas (REMCA), concordam com os seguintes termos:
1. Direitos autorais
Os autores mantêm direitos autorais irrestritos sobre suas obras. Os autores concedem ao periódico o direito de primeira publicação. Para tal, cedem à revista, em caráter não exclusivo, direitos de exploração (reprodução, distribuição, comunicação pública e transformação). Os autores podem firmar acordos adicionais para a distribuição não exclusiva da versão publicada do trabalho no periódico, desde que haja reconhecimento de sua publicação inicial nesta revista.
© Os autores.
2. Licença
Os trabalhos são publicados na revista sob a licença Creative Commons Atribuição-NãoComercial-CompartilhaIgual 4.0 Internacional (CC BY-NC-SA 4.0). Os termos podem ser encontrados em: https://creativecommons.org/licenses/by-nc-sa/4.0/deed.pt
Esta licença permite:
- Compartilhar: copiar e redistribuir o material em qualquer meio ou formato.
- Adaptar: remixar, transformar e desenvolver o material.
Nos seguintes termos:
- Atribuição: Você deve dar o crédito apropriado, fornecer um link para a licença e indicar se alguma alteração foi feita. Você pode fazer isso de qualquer maneira razoável, mas não de uma forma que sugira que o licenciante endossa ou patrocina seu uso.
- Não comercial: você não pode usar o material para fins comerciais.
- Compartilhamento pela mesma licença: se você remixar, transformar ou criar a partir do material, deverá distribuir sua criação sob a mesma licença do trabalho original.
Não há restrições adicionais. Você não pode aplicar termos legais ou medidas tecnológicas que restrinjam legalmente outros de fazerem qualquer coisa que a licença permita.
