领域 ALL
特色 ALL
请选择
速览
今日热度
TEST-Reinforcement Learning Based Multi-modal Feature Fusion Network for Novel Class Discovery|DEBUG-TEST
Award AK's Picks Multimodal Intelligence MMF ML RL MARL UL SSL Clustering Algorithm
5.56w
热度
2023年08月26日
随着深度学习技术的发展，监督学习已经达到了超越人类的表现。研究人员为不同的数据模态设计了许多相应的模型，在监督任务中取得了优秀的结果。然而，随着多个领域数据的指数增长，未标记数据的识别和分类逐渐成为一个热门话题。本文采用了强化学习框架来模拟人类的认知过程，以有效地解决开放集领域中的新类别发现问题。我们采用了一种成员到领导者的多智能体框架来从多模态信息中提取和融合特征，旨在获得更全面的特征空间理解。此外，这种方法促进了自监督学习的整合，以增强模型训练。我们采用了一种聚类方法，具有不同的约束条件，从严格到宽松，允许在训练阶段为未标记数据的子集生成可靠的标签。这个迭代的过程类似于人类对未知数据的探索学习。这些机制根据从环境反馈中获得的奖励来更新网络参数。这个过程可以有效地控制探索学习的程度，确保在未知数据类别的学习准确性。我们通过采用OS-MN40、OS-MN40-Miss和Cifar10数据集，在3D和2D领域中展示了我们方法的性能。我们的方法取得了竞争性的结果。基于文本条件的人类动作生成技术越来越受欢迎，它允许用户通过自然语言进行交互。现有的方法通常根据单个输入句子生成短而孤立的动作。然而，人类的动作是连续的，可以持续很长时间，并且包含丰富的语义信息。创建能够精确响应文本描述流的长时间、复杂动作，特别是在在线和实时环境中，仍然是一个重大挑战。此外，将空间约束纳入基于文本条件的动作生成中带来了额外的挑战，因为它需要将文本描述所指定的动作语义与几何信息（如目标位置和3D场景几何）对齐。为了解决这些局限性，我们提出了DartControl，简称DART，这是一种基于扩散模型的自回归动作基元模型，用于实时文本驱动的动作控制。我们的模型利用潜在扩散模型有效地学习了一个紧凑的动作基元空间，该空间同时依赖于动作历史和文本输入。通过根据先前的历史和当前文本输入自回归地生成动作基元，DART实现了由自然语言描述驱动的实时、顺序动作生成。此外，所学的动作基元空间允许精确的空间动作控制，我们将其表述为潜在噪声优化问题或通过强化学习解决的马尔可夫决策过程。我们提出了两种方法的有效算法，展示了我们模型在各种动作合成任务中的多功能性和卓越性能。实验表明，我们的方法在动作的真实感、效率和可控性方面优于现有的基准方法。视频结果可以在项目页面上查看：https://zkf1997.github.io/DART/。
PDF
解读
Towards Feasible Dynamic Grasping: Leveraging Gaussian Process Distance Field, SE(3) Equivariance and Riemannian Mixture Models
Award AK's Picks Embodied AI and Robotics Imitation Learning RC
4.46w
热度
2023年11月05日
本文提出了一种利用高斯过程距离场（GPDF）、SE（3）等变性和黎曼混合模型实现可行的动态抓取的新方法。我们旨在提高机器人在物体可能移动的动态任务中的抓取能力。所提出的方法结合了物体形状重建、抓取采样和抓取姿态选择，以实现在这种情况下的有效抓取。通过利用GPDF，该方法准确地建模了物体的形状和物理特性，从而实现了精确的抓取规划。SE（3）等变性确保了采样的抓取姿态对物体的姿态是等变的。此外，采用黎曼高斯混合模型来测试可达性，提供了一种可行和适应性强的抓取策略。采样的可行抓取姿态被用作高斯混合模型和高斯过程分别制定的新型任务或关节空间反应控制器的目标。实验结果表明，所提出的方法在生成可行的抓取姿态和在动态环境中成功抓取方面具有有效性。（视频链接：https://www.youtube.com/watch?v=wjIVrwTzTOc&t=70s）
许愿开讲
PDF
解读
Towards A Natural Language Interface for Flexible Multi-Agent Task AssignmentTowards A Natural Language Interface for Flexible Multi-Agent Task Assignment Task AssignmentTowards A Natural Language Interface for Flexible Multi-Agent Task Assignment
AK's Picks LLM SFT Other LLM NLP PEDS APGO Agent Multi-agent Collaboration Human Agent Interaction
6665
热度
2023年10月31日
任务分配和调度算法是自主协调大型机器人或AI代理团队的强大工具。然而，这些系统所做的决策往往依赖于由领域专家设计的组件，这些组件对于非技术终端用户来说很难理解或修改以达到自己的目的。在本文中，我们提出了一个灵活的自然语言界面的初步设计，用于任务分配系统。我们的方法旨在使用户在任务分配系统的决策过程中拥有更多的控制权，并使这些决策更加透明。用户可以通过自然语言命令指导任务分配系统，这些命令被应用为混合整数线性规划（MILP）的约束条件，使用大型语言模型（LLM）。此外，我们提出的系统可以提醒用户其命令可能存在的潜在问题，并与他们进行纠正对话，以找到可行的解决方案。最后，我们描述了我们在模拟环境Overcooked中计划进行的用户评估，并描述了发展灵活透明的任务分配系统的下一步计划。
许愿开讲
PDF
解读
DoGE: Domain Reweighting with Generalization Estimation
Award LLM PTSAD ML NNGTB LFDDR
5554
热度
2023年10月23日
预训练数据语料库的覆盖范围和组成显著影响大型语言模型的泛化能力。传统上，预训练语料库由各种来源域（例如CommonCrawl、Wikipedia、Github等）组成，根据一定的采样概率（域权重）进行采样。然而，目前的方法缺乏一种原则性的方法来优化域权重以实现最终的泛化目标。我们提出了基于泛化估计的域重新加权（DoGE），其中我们基于基于梯度的泛化估计函数评估的最终泛化目标的贡献重新加权每个域的采样概率。首先，我们使用最小-最大优化训练一个小规模代理模型以获得重新加权的域权重。在每个步骤中，通过镜像下降更新域权重以最大化整体泛化增益。最后，我们使用获得的域权重来训练一个更大规模的完整语言模型。在SlimPajama-6B数据集上，使用通用泛化目标，DoGE实现了更好的平均困惑度和零-shot推理准确性。在域外泛化任务上，DoGE大幅降低了目标域上的困惑度。我们进一步应用参数选择方案来提高泛化估计的效率。
许愿开讲
PDF
解读
Irreducible Curriculum for Language Model Pretraining
LLM PTSAD ML LFDDR
4455
热度
2023年10月23日
自动数据选择和课程设计是训练大型语言模型的挑战，只有少数现有方法能够比标准训练取得改进。此外，当前的方案侧重于领域级别的选择，忽视了每个单独训练点的更细粒度的贡献。在大型语言模型上应用传统的数据点选择方法很困难：大多数在线批处理选择方法执行两次前向或后向传递，这会带来相当大的额外成本。为了缓解这些障碍，我们提出了“不可约课程”作为语言模型预训练的课程学习算法，该算法优先考虑具有更高可学性的样本。具体而言，为了避免过高的额外计算开销，我们使用小规模代理模型模拟样本损失沿主模型的训练轨迹。我们在RedPajama-1B数据集上的实验表明，与随机均匀基线和反课程策略相比，在所有7个领域中，验证困惑度均有持续改善。我们的方法还减少了网络的尖锐度，并展示了更好的MMLU基准的5-shot准确性。
许愿开讲
PDF
解读
Dissecting In-Context Learning of Translations in GPTs
LLM CoT Other LLM NLP NMT APGO
4445
热度
2023年10月24日
最近关于利用大型语言模型（LLMs），如GPT-3进行机器翻译（MT）的工作大多集中在选择少量样本以进行提示。在这项工作中，我们尝试更好地理解演示属性在通过高质量的领域内演示的扰动中上下文学习翻译方面的作用。我们发现，对称扰动源-目标映射会产生截然不同的结果。我们表明，源端扰动的影响惊人地小，而目标端扰动可以大大降低翻译质量，这表明输出文本分布在上下文学习翻译中提供了最重要的学习信号。我们提出了一种名为Zero-Shot-Context的方法，在零样本提示中自动添加此信号。我们证明它提高了GPT-3的零样本翻译性能，甚至使其与少量样本提示的翻译相竞争。
许愿开讲
PDF
解读
WiscSort: External Sorting For Byte-Addressable Storage
AI Systems and Hardware EDIO Other AI Sys & HW
4445
热度
2023年07月12日
我们提出了WiscSort，这是一种针对现有和未来的字节可寻址存储（BAS）设备的高性能并发排序新方法。WiscSort通过在排序过程中分割键和值来利用随机读取，同时通过线程池调度进行干扰感知调度，避免I/O带宽降低。我们引入了BRAID模型，该模型包括BAS设备的独特特征。许多最先进的排序系统不符合BRAID模型，提供次优性能，而WiscSort展示了符合BRAID的有效性。我们展示了WiscSort在标准排序基准测试中比竞争方法快2-7倍。我们评估了键值分离对不同键值大小的有效性，并将我们的并发优化与各种其他并发模型进行了比较。最后，我们模拟了通用BAS设备，并展示了我们的技术如何在各种硬件属性组合下表现良好。
许愿开讲
PDF
解读
Beyond Sentiment: Leveraging Topic Metrics for Political Stance Classification
NLP TSIC NER Other NLP
4444
热度
2023年10月24日
这篇文章指出，情感分析因仅捕捉语料库的总体语调而广受批评，在准确反映文本中的潜在结构和政治立场方面存在缺陷。本研究引入主题度量，即从提取的主题转换成的虚拟变量，作为姿态分类中情感度量的替代和补充。通过使用Bestvater和Monroe（2023）确定的三个数据集，本研究展示了BERTopic在提取连贯主题方面的熟练程度以及主题度量在姿态分类中的有效性。实验结果显示，与早期政治科学研究中普遍使用的Dirichlet分配（LDA）和非负矩阵分解（NMF）等传统方法相比，BERTopic提高了17.07%到54.20%的连贯性得分。此外，我们的结果表明，主题度量在姿态分类方面优于情感度量，性能提高了高达18.95%。我们的发现表明，主题度量在上下文丰富的文本和姿态与情感相关性较弱的语料库中特别有效。情感和主题度量的组合在大多数情况下实现了最佳性能，并可以进一步解决仅依赖情感和主题度量得分较低的限制。
许愿开讲
PDF
解读
Model-enhanced Vector Index
NLP VDIT RecSys / IR DRSA Neural Search
500
热度
2023年09月23日
基于嵌入的检索方法构建向量索引，以搜索与查询表示最相似的文档表示，由于低延迟和良好的召回性能，它们在文档检索中得到广泛应用。最近的研究表明，深度检索解决方案提供更好的模型质量，但受到无法接受的服务延迟和无法支持文档更新的限制。本文旨在通过端到端深度生成模型增强向量索引，利用深度检索模型的可微分优势，同时保持良好的服务效率。我们提出了模型增强向量索引（MEVI），它是一个不同iable的模型增强索引，由双塔表示模型授权。MEVI利用残差量化（RQ）码本来连接序列到序列的深度检索和基于嵌入的模型。为了大大减少推理时间，我们不是通过长的顺序步骤来解码唯一的文档ID，而是首先在少量步骤中生成一些候选文档的语义虚拟聚类ID，然后利用适应良好的嵌入向量在候选虚拟聚类中进一步执行细粒度搜索以查找相关文档。我们从实证上证明，我们的模型在常用的学术基准MSMARCO Passage和自然问题上实现了更好的性能，并且具有与密集检索解决方案相当的服务延迟。
许愿开讲
PDF
解读
Ensemble of Task-Specific Language Models for Brain Encoding
ML LM FT AI4S GSMEP PINNs
400
热度
2023年10月24日
语言模型已经被证明足够丰富，能够编码我们大脑特定感兴趣区域的fMRI激活。以往的研究已经探索了从为流行的自然语言处理任务学习到的表示中进行迁移学习，以预测大脑的反应。在我们的研究中，我们通过将10个流行的语言模型（2个句法和8个语义）创建成一个集成模型来提高这种编码器的性能。通过我们的集成方法，我们在所有感兴趣区域上平均超过当前基准线10%。
许愿开讲
PDF
解读