Studentų atsiliepimų vertinimas pasitelkiant sentimentų analizę ir BERT transformerių modelius
DOI:
https://doi.org/10.59476/mtt2026.v1i22.771Keywords:
transformeriai, BERT, studentų atsiliepimai, sentimentų analizėAbstract
Straipsnyje nagrinėjamas natūralios kalbos apdorojimo metodų, ypač transformerių architektūros neuroninių tinklų, taikymas studentų atsiliepimų apie dėstomą dalyką analizei. Švietimo institucijoms susiduriant su dideliais tekstinių komentarų kiekiais, tradiciniai analizės metodai tampa neefektyvūs, todėl sentimentų analizė ir teminis modeliavimas suteikia galimybę automatizuotai identifikuoti studentų nuomonės tendencijas, stipriąsias ir silpnąsias studijų proceso puses. Tyrime naudojamas daugiakalbis dvikryptis transformacinio kodavimo būdas – (Bidirectional Encoder Representations from Transformers, BERT) modelis, gebantis atlikti sentimentų klasifikavimą trijose kategorijose – teigiami, neutralūs ir neigiami. Šis BERT modelis gali būti taikomas net ir tekstams, parašytiems kalbomis, kurių modelis tiesiogiai neapima, pvz., lietuvių kalbai. Analizei taikytas pavyzdinis duomenų rinkinys iš „Kaggle“ šaltinio, kuris sudarytas iš 185 studentų atsiliepimų. Gauti rezultatai rodo aukštą modelio tikslumą atpažįstant teigiamas nuotaikas – su dideliu tikslumu (precision) (0,954) ir įsiminimu (recall) (0,932), todėl gaunama aukšta parametro f1 reikšmė – 0,943, tačiau mažesnį tikslumą klasifikuojant neigiamas ir neutralias nuomones, kas siejama su duomenų klasių disbalansu. Taip pat atliktas teminis modeliavimas, leidžiantis identifikuoti pagrindines studentų minimas temas, tokias kaip akademinis krūvis, studijų medžiagos kokybė, egzaminų aiškumas ar infrastruktūros trūkumai. Tai leidžia atskleisti, kaip ta pati tema (pvz., egzaminai) vertinama skirtingai – vieni studentai gali teigiamai vertinti egzaminų aiškumą, kiti neigiamai jų sudėtingumą. Tokia metodika atspindi tikrąją nuomonių įvairovę ir leidžia detaliau analizuoti studijų kokybės aspektus. Iš pateiktų rezultatų matyti, kad iš bendrų komentarų skaičiaus 743 komentarų negalima priskirti jokiai temai, nes apklausos dalyviai parašė bendro pobūdžio žodžius arba frazes, tokias kaip tikslus, geras, patenkinamas ir t. t. Esant pakankamai dideliam tekstinių atsiliepimų skaičiui, skirstymas pagal atskiras temas leidžia apibendrinti turimą informaciją. Ši metodika suteikia galimybę giliau suprasti studentų patirtis ir priimti duomenimis grįstus sprendimus studijų kokybės gerinimui. Tyrimo rezultatai patvirtina, kad transformerių architektūra yra tinkama ir efektyvi priemonė studentų atsiliepimų analizei, o siūloma metodika gali būti taikoma realių apklausų duomenims, siekiant nuosekliai tobulinti dėstymo procesą.
References
1. Alamoudi, H., Aljojo, N., Munshi, A., & Alghoson, A. (2023). Arabic Sentiment Analysis for Student Evaluation using Machine Learning and the AraBERT Transformer. Engineering, Technology and Applied Science Research, 13(5), 11945–11952. https://doi.org/10.48084/etasr.6347
2. Bahdanau, D., Cho, K., & Bengio, Y. (2016). Neural Machine Translation by Jointly Learning to Align and Translate. https://doi.org/10.48550/arXiv.1409.0473
3. Bello, A., Ng, S-C., & Leung, M-F. (2023). A BERT Framework to Sentiment Analysis of Tweets. Sensors, 23(1), 506. https://doi.org/10.3390/s23010506
4. Bergmann, D., & Stryker, C. (n.d.). What is an attention mechanism? IBM. https://www.ibm.com/think/topics/attention-mechanism
5. Dang, N. C., Moreno-Garcıa, M. N., & De la Prieta, F. (2020). Sentiment analysis based on deep learning: A comparative study. Electronics, 9(3), 483. https://doi.org/10.3390/electronics9030483
6. Devlin, J., Chang, M. W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, 1, 4171–4186. https://doi.org/10.18653/v1/N19-1423
7. Yang, S., Xing, J., Liu, Zh., & Sun, Y. (2025). Short-Text Sentiment Classification Model Based on BERT and Dual-Stream Transformer Gated Attention Mechanism. Electronics, 14(19), 3904. https://doi.org/10.3390/electronics14193904
8. Kastrati, Z., Dalipi, F., Imran, A., Sh., Nuci, K., P., & Wani, M., A. (2021). Sentiment analysis of students’ feedback with NLP and deep learning: A systematic mapping study. Applied Sciences, 11(9), 3986. https://doi.org/10.3390/app11093986
9. Nandwani, P., & Rupali, V. (2021). A review on sentiment analysis and emotion detection from text. Social Network Analysis and Mining, 11(1), 81. https://doi.org/10.1007/s13278-021-00776-6
10. Oghu, E., Ogbuju, E., Abiodun, T., & Oladipo, F. (2023). A Review of Sentiment Analysis Approaches for Quality Assurance in Teaching and Learning. Bulletin of Social Informatics Theory and Application, 6(2), 177–188. https://doi.org/10.31763/businta.v6i2.581
11. Pang, B., & Lee, L. (2008). Opinion mining and sentiment analysis. Foundations and Trends in Information Retrieval, 2(1–2), 1–135. https://doi.org/10.1561/1500000011
12. Pilicita-Garrido, A., & Barra, E. (2024). Sentiment Analysis With Transformers Applied to Education: Systematic Review. International Journal of Interactive Multimedia and Artificial Intelligence, 9(2), 72–83. https://doi.org/10.9781/ijimai.2025.02.008
13. Pires, T., Schlinger, E., & Garrette, D. (2019). How multilingual is multilingual BERT? https://doi.org/10.48550/arXiv.1906.01502
14. Setiawan, H., Fatichah, C., & Saikhu, A. (2023). Multilabel Classification of Student Feedback Data Using BERT and Machine Learning Methods. In 2023 14th International Conference on Information & Communication Technology and System (ICTS), 147–152. https://doi.org/10.1109/ICTS58770.2023.10330849
15. Shaik, T., Tao, X., Dann, C., Xie, H., Li, Y., & Galligan, L. (2023). Sentiment analysis and opinion mining on educational data: A survey. Natural Language Processing Journal, 2, 100003. https://doi.org/10.1016/j.nlp.2022.100003
16. Singh, S., Mahmood, A. (2021). The NLP Cookbook: Modern Recipes for Transformer based Deep Learning Architectures. arXiv preprint arXiv, 2104.10640. https://doi.org/10.48550/arXiv.2104.10640
17. Tian, H., Gao, C, Xiao, X., Liu, H., He, B., Wu, H., Wang, H., & Wu, F. (2020). SKEP: Sentiment knowledge enhanced pre-training for sentiment analysis. arXiv preprint arXiv, 2005.05635. https://doi.org/10.48550/arXiv.2005.05635
18. Wu, Y., Jin, Zh., Shi, Ch., Liang, P., & Zhan, T. (2024). Research on the Application of Deep Learning-based BERT Model in Sentiment Analysis. arXiv preprint arXiv, 2403.08217. https://doi.org/10.48550/arXiv.2403.08217
Downloads
Published
Issue
Section
License
Copyright (c) 2026 Ana Usovaitė
This work is licensed under a Creative Commons Attribution 4.0 International License.
