Sentiment and Emotion Classification of Indonesian E-Commerce Reviews via Multi-Task BiLSTM and AutoML Benchmarking

情感分析和情绪识别是自然语言处理领域的两个重要研究方向。近年来，随着深度学习技术的发展，这两个领域取得了显著进展。特别是在低资源语言的情感分析中，深度学习模型展示了其优越性。然而，印尼市场的评论由于其非正式的词汇、领域特定的缩写和拼写变化，仍然是一个挑战。现有的研究表明，深度学习模型在用户生成的评论文本中表现优异，但印尼市场的评论由于其非正式的词汇、领域特定的缩写和拼写变化，仍然是一个挑战。

印尼电商评论中混合了标准词汇、俚语、区域借词、数字缩写和表情符号，使得基于词典的情感分析工具在实际应用中不够可靠。现有的研究表明，深度学习模型在用户生成的评论文本中表现优异，但印尼市场的评论由于其非正式的词汇、领域特定的缩写和拼写变化，仍然是一个挑战。

本文的核心创新在于结合了TF-IDF与AutoML的传统方法与BiLSTM和TextCNN的深度学习方法，形成了一种多任务学习框架。该框架不仅在情感和情绪分类中表现出色，还提供了一个灵活的模型注册系统，可以通过简单的字符串键切换配置。此外，本文还提供了一个全面的预处理模块，显著提高了模型的鲁棒性。

• �� 使用TF-IDF向量化对预处理后的文本序列进行特征提取。
• �� 采用PyCaret AutoML框架训练和交叉验证一系列分类模型，包括逻辑回归、随机森林、LightGBM、Extra Trees和SVM。
• �� 使用PyTorch实现的双向长短时记忆网络（BiLSTM），具有共享编码器和两个任务特定的输出头。
• �� 预处理模块应用了14个顺序清理步骤，包括一个从市场语料库中汇编的140条俚语词典。
• �� 四种配置被基准测试：BiLSTM基础版、BiLSTM改进版、BiLSTM大版和TextCNN。
• �� 训练使用类加权交叉熵损失、ReduceLROnPlateau调度和早停策略。

实验设计包括使用PRDECT-ID数据集，该数据集包含5400条来自29个印尼电商类别的产品评论。实验采用了两条分类管道：第一条使用TF-IDF向量化与PyCaret AutoML进行标准分类器的交叉验证；第二条是一个PyTorch双向长短时记忆网络（BiLSTM），具有共享编码器和两个任务特定的输出头。实验中使用了类加权交叉熵损失、ReduceLROnPlateau调度和早停策略。

在二元情感分类任务中，TF-IDF与最佳AutoML模型表现最佳，准确率、精确率、召回率和F1均达到0.9574。相比之下，深度学习模型的F1得分在0.8474到0.8609之间。在五类情绪分类任务中，TextCNN模型表现最好，准确率为0.5399，Macro-F1为0.5077，AUC为0.8458。实验结果表明，情绪分类比情感分类更具挑战性，所有模型的表现均较低。

该研究的应用场景包括印尼电商平台的自动化情感分析，特别是对于需要处理包含俚语、区域借词和表情符号的非正式文本的场合。该方法可以帮助电商平台更好地理解用户的情感和情绪，从而提高用户体验和满意度。

该方法在情绪分类任务中的表现仍有提升空间，特别是在处理类别不平衡时。虽然预处理模块有效，但其复杂性可能导致处理时间较长，影响实时应用。模型在处理极端非正式或新兴俚语时可能表现不佳。未来的研究方向包括优化情绪分类模型的性能，特别是在类别不平衡的情况下。此外，可以探索更高效的预处理方法，以减少处理时间并提高实时应用的可行性。