Perbandingan Word2vec dan FastText Pada Long Short-Term Memory Dalam Analisis

Abstract

Perkembangan media sosial menyebabkan penggunaan bahasa menjadi semakin dinamis sehingga banyak kata memiliki makna dan polaritas sentimen yang berbeda tergantung pada konteks kalimat. Dalam kajian linguistik, kondisi ini berkaitan dengan semantic shift, khususnya contextual polarity shift. Kondisi tersebut menjadi tantangan dalam analisis sentimen berbasis machine learning karena model perlu memahami perubahan makna kata berdasarkan konteks penggunaannya. Penelitian ini bertujuan membandingkan performa Word2Vec dan FastText pada model Long Short-Term Memory (LSTM) dalam analisis semantic shift pada teks media sosial berbahasa Indonesia. Dataset penelitian dibangun melalui integrasi beberapa dataset Kaggle, yaitu INA Tweets PPKM Dataset, Indonesian Hate Speech Dataset, dan SMSA. Data melalui tahap prapemrosesan berupa cleaning, normalisasi, penghapusan data duplikat, serta penyaringan kalimat pendek. Penelitian ini juga menambahkan variasi kalimat yang merepresentasikan contextual polarity shift pada data pelatihan. Proses klasifikasi dilakukan menggunakan dua model arsitektur LSTM dengan embedding Word2Vec dan FastText . Evaluasi model menggunakan accuracy, precision, recall, Macro F1-score, confusion matrix, dan Shift Robustness Score. Hasil penelitian menunjukkan bahwa model LSTM dengan FastText memperoleh performa terbaik dengan accuracy sebesar 0.8945 dan Macro F1-score sebesar 0.8909, lebih tinggi dibandingkan Word2Vec. FastText juga menghasilkan Shift Robustness Score sebesar 1.0098, sedangkan Word2Vec sebesar 1.0026. Hasil tersebut menunjukkan bahwa FastText lebih efektif dalam memahami semantic shift pada teks media sosial berbahasa Indonesia. Model terbaik kemudian digunakan untuk menganalisis opini masyarakat terhadap isu 17+8 Tuntutan Rakyat pada data komentar TikTok dan diimplementasikan dalam aplikasi Mobile. Social media has led to increasingly dynamic language use, where words may express different meanings and sentiment polarities depending on context. In linguistics, this phenomenon is associated with semantic shift, particularly contextual polarity shift. This creates challenges for machine learning-based sentiment analysis because models must capture contextual variations in word meaning. This study compares Word2Vec and FastText embeddings within a Long Short-Term Memory (LSTM) model for semantic shift analysis on Indonesian social media text. The dataset was constructed by integrating several Kaggle datasets, including the INA Tweets PPKM Dataset, Indonesian Hate Speech Dataset, and SMSA. Data preprocessing involved cleaning, normalization, duplicate removal, and filtering short sentences. Additionally, synthetic variations representing contextual polarity shift were added to the training data. The classification process employed two LSTM architectures using Word2Vec and FastText embeddings. Model evaluation used accuracy, precision, recall, Macro F1-score, confusion matrix, and Shift Robustness Score. Results show that LSTM with FastText achieved the best performance, with an accuracy of 0.8945 and Macro F1-score of 0.8909, outperforming Word2Vec. FastText also achieved a Shift Robustness Score of 1.0098 compared to 1.0026 for Word2Vec. These findings indicate that FastText is more effective in capturing semantic shift in Indonesian social media text. The best model was then used to analyze public opinion on the 17+8 People’s Demands issue from TikTok comments and implemented in a mobile applications.