The Sparse Frontier: Sparse Attention Trade-offs in Transformer LLMs
稀疏注意力在Transformer LLM中提高长序列处理能力,使用Quest和Vertical-Slash方法。
Piotr Nawrot, Robert Li, Renjie Huang 等
稀疏注意力在Transformer LLM中提高长序列处理能力,使用Quest和Vertical-Slash方法。
Piotr Nawrot, Robert Li, Renjie Huang 等
引入基于Transformer的嵌入与超网络,提升多分布最优传输映射学习效率。
Mingchen Jiang, Peng Xu, Xichen Ye 等
提出了Bias-Eli-W PnP估计器,显著减少了KITTI数据集上的定位误差。
Guangyang Zeng, Yuan Shen, Ziyang Hong 等
通过大规模数学题库、代码集成与候选方案筛选,构建最先进的数学推理模型。
Ivan Moshkov, Darragh Hanley, Ivan Sorokin 等
LiLaVe方法通过提取LLM的隐藏状态信号,显著提高生成任务效率和准确性。
Bartosz Piotrowski, Witold Drzewakowski, Konrad Staniszewski 等
ManipDreamer通过动作树和视觉引导提升机器人操作模型,PSNR提升至21.05。
Ying Li, Xiaobao Wei, Xiaowei Chi 等
提出一种高效的零样本主题驱动视频生成框架,仅用1%计算资源。
Daneul Kim, Jingxu Zhang, Wonjoon Jin 等
提出MR. Video,基于MapReduce原则实现长视频理解,提升准确率超10%。
Ziqi Pang, Yu-Xiong Wang
π0.5模型通过多源异构数据实现机器人在新环境中的广泛泛化,控制多阶段复杂任务。
Physical Intelligence, Kevin Black, Noah Brown 等
提出e-Partitioning原理,实现FDR控制的充分必要条件,优化eBH、BY等方法。
Jelle Goeman, Rianne de Heide, Aldo Solari
提出SPECI,基于技能提示的层次化持续模仿学习架构,显著提升机器人操控性能。
Jingkai Xu, Xiangli Nie
Eagle 2.5通过自动降噪采样和图像区域保持技术,提升长视频理解能力,模型参数达8B,达成72.4%的Video-MME性能。
Guo Chen, Zhiqi Li, Shihao Wang 等
提出HAF-VT,结合视觉文本模态,利用层次注意力模型提升跨域序列推荐性能。
Wangyu Wu, Zhenhong Chen, Siqi Song 等
基于大规模语言模型的自动化“金块”提取与RAG评估框架,验证与人工标注高度相关。
Ronak Pradeep, Nandan Thakur, Shivani Upadhyay 等
采用Prompt引导ChatGPT基于定制错误类型识别LSP翻译中的错误,准确率达64.1%。
Joachim Minder, Guillaume Wisniewski, Natalie Kübler
提出新方法提升多模态大语言模型的空间推理能力,显著提高了模型在空间任务上的表现。
Huanyu Zhang, Chengzu Li, Wenshan Wu 等
提出WindVE,利用CPU-NPU协作提升向量嵌入并发度,最高提升22.3%。
Jinqi Huang, Xuebing Yu, Yi Xiong 等
基于期望自由能的规划通过变分推断实现,融合目标和信息获取,提升可扩展性。
Bert de Vries, Wouter Nuijten, Thijs van de Laar 等
提出MARFT,结合Flex-MG和模块化算法,优化LaMAS多智能体微调,显著提升性能。
Junwei Liao, Muning Wen, Jun Wang 等
Twin-Co框架结合多轮对话与内部优化,提升图像生成的准确性和质量,实验中CLIP得分提升至0.338。
Jianhui Wang, Yangfan He, Yan Zhong 等