整理大模型领域 13 篇最新研究论文，涵盖 SciCode 科学编码基准评估、SmolLM 小语言模型系列、Lynx 幻觉检测模型、FlashAttention IO 优化、Speculative RAG 检索增强生成优化、过去时态拒绝训练漏洞、MAVIS 多模态数学指令微调、Still-Moving 文生视频定制框架、CharacterGen 3D 人物生成、视频扩散对齐奖励梯度、LLM 基准测试评估方法、万亿 token 检索扩展及词汇 Scaling Laws 等主题。内容涉及模型效率、安全性、多模态能力及评估体系等多个方面。
由于语言模型（LM）在许多具有挑战性的任务上已经超过普通人类的水平，开发具有挑战性、高质量和贴近现实的评估变得越来越困难。
为了解决这一问题，来自伊利诺伊大学厄巴纳 - 香槟分校、卡内基梅隆大学的团队及其合作者研究了 LM 在生成代码解决实际科学研究问题方面的能力。他们邀请了包括数学、物理、化学、生物学和材料科学在内的 16 个自然科学子领域的科学家和 AI 研究人员，创建了一个新的编码基准——SciCode。
这些问题自然分解为多个子问题，每个子问题涉及知识调用、推理和代码合成。总体而言，SciCode 包含了从 80 个挑战性主问题中分解出的 338 个子问题，并提供可选描述，说明有用的科学背景信息，以及科学家注释的黄金标准解决方案和用于评估的测试用例。
在测试的模型中，Claude 3.5-Sonnet 表现最好，但在最现实的情况下仅能解决 4.6% 的问题。研究团队认为，SciCode 既展示了现代 LM 在成为有用科学助手方面的进展，也为未来科学 AI 的构建和评估提供了启示。
目前，人们对可在本地设备上运行的小语言模型越来越感兴趣。这一趋势涉及通过蒸馏或量化来压缩大模型，以及从零开始在大型数据集上训练小模型。这些方法不仅显著降低了推理成本，还提高了用户隐私，同时催生了新应用。微软的 Phi 系列、Meta 的 MobileLLM 证明，经过精心设计和训练的小模型可以取得惊人的成果。然而，这些模型的数据策划和训练细节大多未公开。
在这项工作中，来自 Hugging Face 的研究团队推出了一系列小语言模型 SmolLM，包括 135M、360M 和 1.7B 三个参数规模。评估结果表明，在测试常识推理和世界知识的各种基准测试中，SmolLM 模型在其规模类别中优于其他模型。这项研究再次证明了小语言模型可以通过在高质量数据集上的高效训练实现高性能，在规模和性能之间取得很好的平衡。
检索增强生成（RAG）技术旨在减少大语言模型（LLM）中的幻觉。然而，LLM 仍可能产生与检索内容不符或相矛盾的信息。
为此，来自 Patronus AI 和 Contextual AI 的研究团队推出了一个最新的幻觉检测 LLM——LYNX，其能够对复杂的真实幻觉场景进行高级推理。为了评估 LYNX，他们推出了一个包含来自各种现实领域的 15000 个样本的全面幻觉评估基准 HaluBench。
实验结果显示，LYNX 在 HaluBench 上优于 GPT-4o、Claude-3-Sonnet 以及其他开源和闭源的 LLM 裁判模型。
由于自注意力机制在序列长度上的时间和内存复杂度是平方级的，transformer 在处理长序列时既慢又占用大量内存。尽管近似注意力方法试图通过降低计算复杂度来解决这一问题，但往往未能实现实际的加速效果。
来自斯坦福大学和纽约州立大学水牛城分校的研究团队认为，一个缺少的原则是让注意力算法具备 IO 感知能力，即考虑 GPU 内存各级之间的读写操作。因此，他们提出了一种 IO 感知的精确注意力算法 FlashAttention，其利用分块技术减少 GPU 高带宽内存（HBM）和 GPU 片上 SRAM 之间的内存读写次数。
他们分析了 FlashAttention 的 IO 复杂度，表明它需要比标准注意力更少的 HBM 访问，并且在一定范围的 SRAM 大小下是最优的。他们还将 FlashAttention 扩展到块稀疏注意力，得到了比任何现有近似注意力方法更快的近似注意力算法。
FlashAttention 加快了 transformer 的训练速度：在 BERT-large（序列长度 512）上相较于 MLPerf 1.1 训练速度纪录提升了 15% 的端到端加速，在 GPT-2（序列长度 1K）上加速 3 倍，在长距离竞技场（序列长度 1K-4K）上加速 2.4 倍。FlashAttention 和块稀疏 FlashAttention 使 transformer 能够处理更长的上下文，从而生成更高质量的模型（GPT-2 的困惑度提高 0.7，在长文档分类中提升 6.4 分），并实现全新的功能：首次在 Path-X 挑战（序列长度 16K，准确率 61.4%）和 Path-256（序列长度 64K，准确率 63.1%）上实现超过随机水平的性能。
检索增强生成（RAG）将大语言模型（LLM）的生成能力与外部知识源结合，以提供更准确和最新的响应。近期的 RAG 进展集中于通过迭代 LLM 优化或通过额外的指令微调获得的自我批评能力来改善检索结果。
在这项工作中，来自加州大学圣地亚哥分校和谷歌的研究团队提出了 Speculative RAG 框架，利用较大的通用语言模型（LM）高效验证由较小的精简专家 LM 并行生成的多个 RAG 草稿。每个草稿从不同的检索文档子集中生成，提供多样化的证据视角，同时减少每个草稿的输入 token 数量。该方法增强了对每个子集的理解，并减轻了长上下文中的位置偏差。研究团队的方法通过将起草任务委托给较小的专家 LM，并让较大的通用 LM 对草稿进行一次验证，从而加速了 RAG。
广泛的实验表明，Speculative RAG 在 TriviaQA、MuSiQue、PubHealth 和 ARC-Challenge 基准上实现了最先进的性能，同时减少了延迟。在 PubHealth 上，与传统 RAG 系统相比，准确性显著提高了多达 12.97%，而延迟减少了 51%。
拒绝训练被广泛用于防止大语言模型（LLM）生成有害、不良或非法的输出。来自瑞士洛桑联邦理工学院的团队揭示了当前拒绝训练方法中的一个有趣的泛化缺陷：仅仅将有害请求重新表述为过去时（例如，将'如何制作燃烧瓶？'改为'人们过去如何制作燃烧瓶？'），往往足以绕过许多最先进的 LLM。
研究团队系统地评估了这种方法在 Llama-3 8B、GPT-3.5 Turbo、Gemma-2 9B、Phi-3-Mini、GPT-4o 和 R2D2 模型上的效果，使用 GPT-3.5 Turbo 作为重新表述（reformulation）模型。例如，对 GPT-4o 的简单攻击成功率从直接请求的 1% 增加到使用来自 JailbreakBench 的有害请求进行 20 次过去时重新表述后的 88%，并使用 GPT-4 作为绕过评估的裁判。
有趣的是，研究团队还发现，将请求重新表述为将来时的效果较差，这表明拒绝防护措施往往认为过去的历史问题比假设的未来问题更无害。此外，团队在微调 GPT-3.5 Turbo 上的实验表明，当过去时示例明确包含在微调数据中时，可以防御过去时的重新表述。
总体而言，研究结果强调，广泛使用的对齐技术（如 SFT、RLHF 和对抗训练）在对齐被研究模型时可能不够稳定，并不总能按预期泛化。
多模态大语言模型（MLLM）近年来成为学术界和工业界的一个重要焦点。尽管它们在一般多模态场景中表现出色，但在视觉上下文中的数学问题解决能力仍然不足。
为此，来自香港中文大学和北京大学的研究团队及其合作者，确定了 MLLM 中的三个关键领域需要改进：数学图表的视觉编码、图表与语言的对齐以及数学推理能力。这提出了对大规模、高质量数据和视觉数学训练管道的迫切需求。研究团队提出了首个针对 MLLM 的数学视觉指令微调范式——MAVIS，其涉及一系列数学视觉数据集和专门的 MLLM。
针对这三个问题，MAVIS 包含了三个逐步的训练阶段。首先，研究团队策划了 MAVIS-Caption，由 558K 图表 - 标题对组成，通过对比学习微调一个数学专用的视觉编码器（CLIP-Math），旨在改进图表的视觉编码。其次，团队利用 MAVIS-Caption，通过投影层将 CLIP-Math 与大语言模型（LLM）对齐，增强数学领域的视觉 - 语言对齐。第三，团队引入了 MAVIS-Instruct，包括 900K 精心收集和注释的视觉数学问题，用于最终指令微调 MLLM，提升数学推理能力。在 MAVIS-Instruct 中，团队为每个问题纳入了完整的推理链（CoT），并最小化文本冗余，从而使模型更集中于视觉元素。
在各种数学基准测试中，例如 MathVerse，MAVIS-7B 在开源 MLLM 中表现出色，比其他 7B 模型高出 11.0%，比第二名的 LLaVA-NeXT（110B）高出 3.0%，展示了团队方法的有效性。
近年来，定制化文生图（T2I）模型取得了巨大的进展，特别是在个性化、风格化和条件生成等领域。然而，将这一进展扩展到视频生成仍处于起步阶段，主要是由于缺乏定制化视频数据。
在这项工作中，来自 Google DeepMind 的研究团队及其合作者，提出了一个新型文生视频（T2V）模型定制通用框架——Still-Moving，其无需任何定制化视频数据。该框架适用于一种显著的 T2V 设计，即视频模型建立在 T2I 模型之上。团队假设可以访问一个仅在静态图像数据上训练的定制化 T2I 模型（例如，使用 DreamBooth 或 StyleDrop）。直接将定制化 T2I 模型的权重插入 T2V 模型中，通常会导致显著的伪影或对定制化数据的不足遵循。
为了克服这个问题，团队训练了轻量级的空间适配器，以调整由注入的 T2I 层生成的特征。重要的是，团队的适配器是在'冻结视频'（即重复图像）上训练的，这些冻结视频是从定制化 T2I 模型生成的图像样本构建的。这个训练过程由一个新颖的运动适配器模块支持，允许他们在这种静态视频上训练，同时保留视频模型的运动先验。在测试时，研究团队去除运动适配器模块，只保留训练好的空间适配器。这恢复了 T2V 模型的运动先验，同时遵循定制化 T2I 模型的空间先验。
研究团队在个性化、风格化和条件生成等多种任务上展示了他们方法的有效性。在所有评估的场景中，研究团队的方法无缝地将定制化 T2I 模型的空间先验与由 T2V 模型提供的运动先验结合起来。
在数字内容创作领域，从单张图像生成高质量的 3D 角色具有挑战性，尤其是考虑到各种身体姿势的复杂性以及自遮挡和姿势歧义问题。
为此，来自清华大学和 VAST 的研究团队推出了 3D 角色高效生成框架——CharacterGen。该框架引入了一个简化的生成管道以及一个图像条件的多视角扩散模型。该模型有效地将输入姿势校准为规范形式，同时保留输入图像的关键属性，从而应对各种姿势带来的挑战。研究团队的另一核心组件是基于 transformer 的可泛化稀疏视角重建模型，它促进了从多视角图像创建详细的 3D 模型。他们还采用了纹理反向投影策略，以生成高质量的纹理图。
此外，研究团队还策划了一个包含多种姿势和视角的动漫角色数据集，用于训练和评估该模型。通过定量和定性实验，研究团队对该方法进行了全面评估，结果显示其在生成高质量形状和纹理的 3D 角色方面表现出色，适用于后续的动画等应用。
卡耐基梅隆大学研究团队在构建基础视频扩散模型方面取得了显著进展。由于这些模型是使用大规模无监督数据进行训练的，因此将这些模型适配到特定的下游任务变得至关重要。通过监督微调来适配这些模型需要收集目标视频数据集，这既具有挑战性又非常繁琐。
在这项工作中，研究团队在视觉判别模型基础上，利用通过偏好学习的预训练奖励模型来调整视频扩散模型。这些模型包含相对于生成的 RGB 像素的密集梯度信息，这对于在复杂搜索空间（如视频）中的高效学习至关重要。
团队展示了从这些奖励模型向视频扩散模型反向传播梯度可以实现计算和样本效率的对齐。团队展示了在各种奖励模型和视频扩散模型上的结果，表明该方法在奖励查询和计算方面比之前的无梯度方法学习效率更高。
近年来，语言模型（LM）的进展催生了多个基准，这些基准旨在评估这些模型的通用能力。然而，一个关键任务是评估这些基准本身的有效性。这通常通过基准一致性测试（Benchmark Agreement Testing，BAT）来完成，其中新基准与已建立的基准进行验证，使用某些一致性度量（例如排名相关性）。尽管 BAT 对基准构建者和用户至关重要，但目前没有标准化的程序来进行这种一致性测试。这一不足可能导致无效结论，产生对基准的怀疑，并破坏正确选择适用基准的能力。
通过分析 40 多个主要基准，来自 IBM Research AI 和 MIT 的研究团队展示了一些被忽视的方法选择如何显著影响 BAT 结果，从而潜在地削弱结论的有效性。为了应对这些不一致性，研究团队提出了一套 BAT 最佳实践，并展示了如何利用这些方法显著提高 BAT 的鲁棒性和有效性。
为了促进采用和推动未来研究，他们推出了一个用于 BAT 的 Python 包——BenchBench，并发布了一个设计用于通过同类评估基准的元基准——BenchBench-leaderboard。研究结果强调了标准化 BAT 的必要性，以确保在不断发展的语言模型研究领域中基准评估的鲁棒性和有效性。
关于训练数据量和参数数量的 scaling laws 使我们能够预测不同配置下预训练语言模型（LM）的成本效益权衡。
在这项研究中中，来自华盛顿大学的研究团队考虑了 scaling 的另一个维度：推理时可用的数据量。具体而言，研究团队发现增加检索型语言模型使用的数据存储库的大小可以单调地提高语言建模和多个下游任务的性能，而没有明显的饱和现象，即使是较小的模型在大型数据存储库的增强下，也优于仅使用较大语言模型的知识密集型任务。
通过绘制不同数据存储库、模型和预训练数据大小的计算最优 scaling 曲线，研究团队展示了使用更大数据存储库可以在相同训练计算预算下显著提高模型性能。团队通过构建一个名为 MASSIVEDS 的 1.4 万亿 token 数据存储库（这是迄今为止最大和最具多样性的开源检索型语言模型数据存储库），并设计了一个高效的管道，以计算上可访问的方式研究数据存储库的 scaling。最后，研究团队分析了改进检索器、数据存储库质量过滤以及其他设计选择对观察到的 scaling 趋势的影响。
总体而言，实验结果表明，数据存储库大小应被视为语言模型效率和性能权衡的一个重要组成部分。
对大语言模型（LLM）scaling 的研究主要集中在模型参数和训练数据规模上，而忽视了词汇规模的作用。香港大学和 Sea AI Lab 研究团队通过训练参数从 3300 万到 30 亿、字符数量达到 5000 亿的模型，探讨了词汇规模对 LLM scaling laws 的影响。
研究团队提出了三种互补的方法来预测计算最优的词汇规模：IsoFLOPs 分析、导数估计和损失函数的参数拟合。该方法得出相同的结果：最优词汇规模取决于可用的计算预算，更大的模型需要更大的词汇规模。然而，大多数 LLM 使用的词汇规模过小。例如，团队预测 Llama2-70B 的最优词汇规模应至少为 216K，是其 32K 词汇量的 7 倍。团队通过在不同 FLOPs 预算下训练 3B 参数的模型来实证验证他们的预测。
采用团队预测的最优词汇规模可以在下游任务中显著提高性能，相比常用的词汇规模效果更佳。通过将词汇规模从传统的 32K 增加到 43K，团队在相同 2.3e21 FLOPs 的计算预算下，将 ARC-Challenge 的性能从 29.1 提升到 32.0。团队的研究强调了在高效 scaling 中共同考虑模型参数和词汇规模的必要性。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online
将 Markdown（GFM）转为 HTML 片段，浏览器内 marked 解析；与 HTML转Markdown 互为补充。 在线工具，Markdown转HTML在线工具，online
