核心发现
方法论
本文采用hyperspherical contrastive learning（超球面对比学习）方法，通过设计CircularCSE损失函数，将情感标签在超球面上逼近圆环结构。模型基于nGPT架构，利用正则化和角度距离调节标签间关系，结合多种数据集（如Emolit、Empathetic Dialogue）进行训练。通过调节超参数，验证模型在低维空间中的可解释性与高维空间中的判别能力，比较SINCERE、SoftCSE和提出的CircularCSE的性能差异。
关键结果
- CircularCSE在低维空间中表现出优越的结构可解释性，能在PCA和MDS降维后保持明显的圆环结构，V-Measure最高达0.75，且在心理学距离指标（CD-r）上优于其他方法，达0.76，显示出良好的心理一致性。
- 在高维、多标签细粒度分类任务中，传统方法如SINCERE表现出更强的判别能力（V-Measure最高0.76），但在结构一致性（CD-r）方面较差；而CircularCSE在保持结构一致性方面表现更佳，但判别能力略逊一筹。
- 实验揭示了低维结构与高判别性能之间的权衡，表明在追求心理模型的同时，模型的判别能力受到限制，反映出深度学习与心理模型的本质冲突。
研究意义
本研究首次在深度学习中系统引入心理学中的情感圆环模型，验证了其在情感表示中的几何合理性，为情感理解与解释提供了新的理论基础。模型的可解释性增强，有助于AI的透明性和安全性，推动情感计算与人机交互的发展，同时揭示了深度模型在结构设计上的潜在限制，为未来多模态、多任务情感系统的构建提供指导。
技术贡献
提出基于超球面对比学习的CircularCSE损失函数，明确引导情感标签在超球面上形成圆环结构。结合nGPT架构，利用几何正则化实现情感空间的低维可视化与心理一致性。通过系统性比较不同对比损失的判别能力与结构一致性，揭示了低维几何结构对模型可解释性的促进作用与高维判别性能的限制，为深度模型几何结构的研究提供新思路。
新颖性
首次在标准语言模型中成功构建情感圆环结构，利用超球面几何正则化实现情感标签的几何对齐，突破了传统基于欧几里得空间的局限。该方法创新性地结合心理学模型与深度学习，提出硬约束的CircularCSE损失，显著提升模型的心理一致性，为情感表示的几何理解提供新范式。
局限性
- 模型在高维空间或标签数较多时，圆环结构的判别能力明显下降，说明低维几何结构在复杂任务中的适用性有限。
- 当前方法依赖预定义的情感距离和标签布局，缺乏自动学习和适应不同情感体系的能力，限制了泛化性。
- 模型训练成本较高，特别是在大规模数据集上，超球面正则化和角度调节带来额外计算负担。
未来方向
未来将探索多模态情感表示，将视觉、语音等信息融入超球面几何框架，提升模型的多维情感理解能力。同时，研究自适应距离调节机制，增强模型在多样化情感体系中的泛化能力，推动心理学模型与深度学习的深度融合。
AI 总览摘要
心理学中的情感圆环模型长期以来被用来描述情感的连续性与对立性，然而在深度学习中，情感表示的几何结构尚未得到充分探索。本文提出一种基于超球面对比学习的情感嵌入方法，旨在将情感标签在高维空间中逼近一个圆环结构，从而增强模型的可解释性和心理一致性。通过设计CircularCSE损失函数，将标签间的距离与心理学中的圆环距离对应，结合nGPT架构，实现情感空间的低维可视化。实验结果显示，该方法在低维空间中能清晰呈现情感的圆环结构，V-Measure最高达0.75，心理距离指标（CD-r）也优于其他方法，达0.76，验证了其在结构一致性方面的优势。然而，在高维或标签丰富的场景中，圆环结构的判别能力下降，反映出低维几何结构与深度模型高维判别性能的根本冲突。这一发现揭示了心理模型在深度学习中的应用限制，也为未来多模态、多任务情感系统的设计提供了理论基础。总体而言，本研究推动了情感表示的几何理解，兼顾模型的可解释性与判别能力，为AI情感理解提供了新的思路。
深度分析
研究背景
情感模型的发展经历了从离散情感到连续空间的演变，Russell的情感圆环模型（1980）成为心理学中的经典，强调情感在价值与唤醒两个维度上的连续性。深度学习中，情感表示多依赖于向量空间的距离或簇结构，早期研究多关注欧几里得距离或余弦相似度，缺乏对几何结构的系统分析。近年来，研究发现某些概念（如时间、数字）在模型中呈现周期性、圆环等非线性结构，启发了将心理学模型引入深度学习的尝试。本研究借鉴此趋势，试图在语言模型中明确引入情感圆环结构，验证其几何合理性与实用性，旨在弥合心理学与深度学习的认知鸿沟。
核心问题
当前情感表示多为高维空间中的簇或距离关系，缺乏明确的几何结构，难以实现直观的可解释性。虽然心理学模型提供了情感的低维几何描述，但在深度模型中未被有效利用。如何在保持判别性能的同时，将情感标签在空间中逼近心理模型的圆环结构，是一个尚未解决的难题。现有方法多在欧几里得空间中引入角度或距离约束，但难以确保模型在高维空间中形成稳定的圆环结构，且缺乏系统性验证。
核心创新
本研究的核心创新在于提出超球面对比学习（hyperspherical contrastive learning）框架，明确引导情感标签在超球面上形成圆环结构。引入CircularCSE损失函数，将标签间的角度距离与心理学中的圆环距离对应，硬性约束模型在超球面上的几何布局。结合nGPT架构，利用正则化和几何角度调节，实现低维可视化与高维判别的平衡。此方法突破了传统欧几里得空间限制，为情感表示的几何结构提供了新途径，兼顾模型可解释性与判别性能。
方法详解
- �� 数据集构建：采集并合成情感标签，确保标签在圆环上均匀分布。• 模型架构：采用nGPT架构，利用正则化确保嵌入在超球面上。• 损失函数设计：引入CircularCSE，硬性调节标签间角度距离，确保在超球面上形成圆环结构。• 训练过程：在预训练模型基础上，冻结底层参数，仅训练头部，优化角度距离与几何关系。• 评价指标：采用V-Measure评估聚类效果，使用心理距离指标（CD-r）衡量结构一致性。• 实验分析：比较不同方法在低维与高维空间中的表现，验证几何结构的稳定性。
实验设计
采用Emolit、Empathetic Dialogue等真实数据集，合成数据PersonaGen，确保标签多样性。训练不同模型（如mE5、Qwen3-Embedding-4B、Llama-3.2-3B），比较SINCERE、SoftCSE与CircularCSE的性能。评估指标包括V-Measure和心理距离指标（CD-r），同时通过PCA和MDS降维分析结构可视化。实验设计还包括不同标签数和空间维度的敏感性测试，验证模型在复杂场景下的稳定性与泛化能力。
结果分析
CircularCSE在低维空间中表现出优异的结构可解释性，V-Measure最高达0.75，心理距离指标（CD-r）达0.76，优于其他方法。高维场景下，判别能力下降，反映出低维几何结构的限制。实验还揭示了不同对比损失在判别与结构一致性上的权衡，强调低维模型在心理一致性方面的优势与高维模型的判别优势的矛盾。这些结果验证了几何正则化在情感表示中的有效性与局限性。
应用场景
该模型可应用于情感分析、心理健康监测、智能客服等场景，提升模型的可解释性和用户信任度。通过明确情感空间的几何结构，增强人机交互的自然性和透明度。未来，结合多模态信息，将情感表示扩展到视觉、语音等领域，推动情感计算的跨模态融合。
局限与展望
模型在高维或标签丰富场景中表现有限，低维结构难以适应复杂情感体系。依赖预定义距离和标签布局，缺乏自适应能力。训练成本较高，超球面正则化带来额外计算负担。未来需优化算法效率，增强模型泛化能力。
通俗解读 非专业人士也能看懂
想象你在一个工厂里，所有的产品都要按照一定的规则摆放。传统上，产品可能随意堆放，但如果你希望它们按照颜色或用途分类，就需要设计一套规则。这个研究就像是在工厂里用一条看不见的线，把不同的情感标签在一个圆圈上排好。这样一来，类似的情感（比如快乐和兴奋）就会挨得很近，而相反的情感（比如悲伤和愤怒）则会相对远一些。通过让模型学习这种“圆圈摆放”，它能更直观地理解情感之间的关系，就像工厂里按照规则摆放产品一样。这不仅让模型的理解变得更像人类，还能帮助我们更好地解释它的行为。虽然这种方法在简单场景下效果很好，但在复杂的情感类别中，保持圆圈的结构就变得困难，就像工厂里产品太多，规则变得难以维护一样。
简单解释 像给14岁少年讲一样
想象你在学校的操场上，大家都站成一个圈。你发现，喜欢运动的朋友都挨得很近，而不喜欢运动的朋友则离得远远的。这个圈子帮你快速知道谁喜欢什么，谁不喜欢什么。科学家们也想让电脑像你一样理解情感，他们用一种特殊的“圈子”模型，把不同的情感（比如开心、难过、愤怒）排成一个圆圈。这样，类似的情感就会挨得很近，不喜欢的情感则会离得远远的。为了让电脑学会这个“情感圈”，研究人员设计了一种特别的训练方法，让电脑的“情感记忆”在空间里形成一个漂亮的圆环。实验发现，这样的模型不仅能让电脑更直观地理解情感，还能让它的表现更像人类的感觉。虽然在简单的情感分类中效果很好，但在复杂的情感世界里，保持这个“情感圈”变得更难，就像操场上的朋友太多，圈子难以保持整齐一样。这项研究让我们更接近让电脑理解人类情感的梦想，也提醒我们，模型的结构设计需要在理解和区分能力之间找到平衡。
原文摘要
Psychological research has long utilized circumplex models to structure emotions, placing similar emotions adjacently and opposing ones diagonally. Although frequently used to interpret deep learning representations, these models are rarely directly incorporated into the representation learning of language models, leaving their geometric validity unexplored. This paper proposes a method to induce circular emotion representations within language model embeddings via contrastive learning on a hypersphere. We show that while this circular alignment offers superior interpretability and robustness against dimensionality reduction, it underperforms compared to conventional designs in high-dimensional settings and fine-grained classification. Our findings elucidate the trade-offs involved in applying psychological circumplex models to deep learning architectures.