【论文阅读12】Circle Loss：一统 Softmax 与 Triplet，从“线性”到“圆形”的优化视角

优质文章学习记录

— 10 min read
论文题目：《Circle Loss: A Unified Perspective of Pair Similarity Optimization》

目录

前言：两大门派的恩怨

派系一：基于分类的学习 (Classification-based)

派系二：基于度量的学习 (Metric Learning / Pairwise Learning)

为什么要提这个？（Circle Loss 的动机）

1. 万物归一 —— 统一视角 ()

1.1 统一 Loss 公式

1.2 计算量的“降维打击”

2. 证明 Softmax 和 Triplet 都是“特例”

2.1 退化为 Softmax ()

2.2 退化为 Triplet ()

3. 发现缺陷 —— 拒绝“死板”的优化

3.1 什么是“不够灵活”？

3.2 引入动态权重 ()

3.3 Circle Loss 最终形态

4. 几何解释 —— 为什么叫“Circle”？

4.1 决策边界的演变

4.2 圆形的意义

5. 梯度验证 —— 数学上的实锤

前言：两大门派的恩怨

派系一：基于分类的学习 (Classification-based)

  • 代表：Softmax, SphereFace, CosFace, ArcFace。
  • 原文描述：“优化样本和权重向量之间的相似性” (optimize the similarity between samples and weight vectors)。
  • 通俗解释（找老师）：

公式特征：

$x \cdot W$

。

训练目标：学生（样本

$x$

）必须尽可能靠近自己的班主任（ 

$W_{y_i}$

 ），远离别人的班主任。

逻辑：模型预先设立了 10,000 个“教室”（类别），每个教室有一个“班主任”（ 

$W$

 ）。

权重

$W$

：被看作是类中心（Class Center）或者代理（Proxy）。

派系二：基于度量的学习 (Metric Learning / Pairwise Learning)

  • 代表：Triplet Loss, Contrastive Loss。
  • 原文描述：“优化样本之间的相似性” (optimize the similarity between samples)。
  • 通俗解释（找朋友）：
    • 逻辑：模型从数据堆里随便抓两个人。
    • 训练目标：如果这两个人是同一个人（Positive Pair），就拉近他们；如果是不同人（Negative Pair），就推开他们。

公式特征：

$x_1 \cdot x_2$

。

没有

$W$

：这里没有固定的“教室”和“班主任”。

为什么要提这个？（Circle Loss 的动机）

在 Circle Loss 之前，大家觉得这是两套完全不同的逻辑：

  • 用 Softmax (ArcFace) 的人觉得 Triplet Loss 收敛太慢，采样太麻烦（组合爆炸）。
  • 用 Triplet Loss 的人觉得 Softmax 只能处理闭集（Closed-set），不灵活。

Circle Loss 的伟大之处在于它说了一句：

“别吵了，其实你们俩在数学本质上是一回事！”

Circle Loss 认为：

Triplet：其实就是把另一个样本

$x_j$

  当作临时的“中心”。

Softmax/ArcFace：其实就是把

$W$

当作一种特殊的“样本”（只有一个样本的类）。

它们的目标都是：最大化类内相似度 ( 

$s_p$

 )，最小化类间相似度 ( 

$s_n$

 )。

1. 万物归一 —— 统一视角 (

$L_{uni}$

)

        Circle Loss 的第一步贡献，是建立了一个统一的 Loss 框架。作者敏锐地发现，无论是分类还是配对，本质目标都是：最大化正样本分数

$s_p$

，最小化负样本分数

$s_n$

。

1.1 统一 Loss 公式

作者首先推导出了一个通用公式

$L_{uni}$

(Unified Loss)：

$L_{uni} = \log \left[ 1 + \sum_{i=1}^K \sum_{j=1}^L \exp(\gamma(s_n^j - s_p^i + m)) \right]$
$m$

：间隔（Margin）。

$\gamma$

：缩放因子（Scale Factor）。

$s_n^j$

：第

$j$

个负样本对的相似度。

$s_p^i$

：第

$i$

个正样本对的相似度。

这个公式的直观含义很简单：要在

$Loss$

最小化过程中，迫使

$(s_n - s_p)$

越小越好。

1.2 计算量的“降维打击”

上面的公式有一个双重求和

$\sum \sum$

，这意味着要计算所有正负样本的配对，计算量是

$O(K \times L)$

。

利用指数运算法则

$e^{a-b} = e^a \cdot e^{-b}$

，作者做了一个精彩的数学变换：

$L_{uni} = \log \left[ 1 + \underbrace{\sum_{j=1}^L \exp(\gamma(s_n^j + m))}_{\text{}} \cdot \underbrace{\sum_{i=1}^K \exp(\gamma(-s_p^i))}_{\text{}} \right]$

                                   负样本集合                 正样本集合

这一步变换至关重要。它将复杂的 “成对比较” 解耦成了独立的  “正样本组”  和  “负样本组” 计算。这解释了为什么 Circle Loss 能够像 Softmax 一样高效训练，而不需要像 Triplet Loss 那样进行繁重的样本挖掘。

2. 证明 Softmax 和 Triplet 都是“特例”

为了证明

$L_{uni}$

是真正的大一统，我们看看它是如何退化成我们熟悉的 Loss 的。

2.1 退化为 Softmax (

$L_{am}$

)

如果我们设定只有一个正样本（

$K=1$

，即当前样本

$x$

和它的类中心

$W$

），忽略常数 1，公式就变成了：

$L_{am} = - \log \frac{\exp(\gamma(s_p - m))}{\exp(\gamma(s_p - m)) + \sum_{j=1}^{N-1} \exp(\gamma s_n^j)}$

解读： 这正是我们熟悉的 CosFace / AM-Softmax！

这意味着：分类 Loss 只是 Circle Loss 在

$K=1$

时的特例。

2.2 退化为 Triplet (

$L_{tri}$

)

如果我们把

$\gamma$

设为无穷大（

$\gamma \to +\infty$

），根据 LogSumExp 的极限性质，公式变成了：

$L_{tri} = \lim_{\gamma \to +\infty} \frac{1}{\gamma} L_{uni} = \max [ s_n^j - s_p^i ]_+$

解读： 这正是 Triplet Loss 的核心逻辑（Hard Mining）！

这意味着：Triplet Loss 只是 Circle Loss 在

$\gamma$

趋于无穷大时的极限情况。

3. 发现缺陷 —— 拒绝“死板”的优化

既然统一了江湖，为什么还需要 Circle Loss？

因为作者发现，之前的 CosFace/ArcFace 存在一个致命的“不够灵活”的问题。

3.1 什么是“不够灵活”？

在

$L_{uni}$

中，我们是在优化

$(s_n - s_p)$

。当我们对它求导时，梯度是常数（或者说是 1）。

这意味着什么？

  • 困难样本（分错了）：模型用 1 的力度去推它。
  • 简单样本（分对了）：模型依然用 1 的力度去推它。

这就好比老师辅导学生，对考 30 分的学生和考 99 分的学生布置一样的作业。这显然浪费了算力，且效率低下。

3.2 引入动态权重 (

$L_{circle}$

)

为了让模型懂得“因材施教”，作者引入了动态权重

$\alpha$

：

$L_{circle} = \log \left[ 1 + \sum_{j=1}^L \exp(\gamma \alpha_n^j s_n^j) \cdot \sum_{i=1}^K \exp(-\gamma \alpha_p^i s_p^i) \right]$

其中，权重

$\alpha$

的定义是“自我配速”（Self-paced）：

$\alpha_p^i = [O_p - s_p^i]_+, \quad \alpha_n^j = [s_n^j - O_n]_+$
  • 机制详解：

如果样本简单（

$s_p$

接近目标

$O_p$

），

$\alpha_p$

 变小

$\rightarrow$

几乎不练。

如果样本很难（

$s_p$

远小于目标

$O_p$

），

$\alpha_p$

变大

$\rightarrow$

加权猛练！

3.3 Circle Loss 最终形态

将动态权重

$\alpha$

和 Margin 结合，我们就得到了最终公式：

$L_{circle} = \log \left[ 1 + \sum_{j=1}^L \exp(\gamma \alpha_n (s_n - \Delta_n)) \cdot \sum_{i=1}^K \exp(-\gamma \alpha_p (s_p - \Delta_p)) \right]$

4. 几何解释 —— 为什么叫“Circle”？

这是论文最精彩的几何视角。

4.1 决策边界的演变

Circle Loss: 由于引入了与

$s$

相关的权重 

$\alpha$

，优化项变成了关于

$s$

的二次项 (

$s^2$

)。其决策边界方程演变为：

Softmax/CosFace: 优化目标是

$s_p - s_n = m$

。在坐标系中，这是一条直线。

$(s_n - \frac{O_n + \Delta_n}{2})^2 + (s_p - \frac{O_p + \Delta_p}{2})^2 = C$

在特定参数下，它简化为：

$(s_n - 0)^2 + (s_p - 1)^2 = 2m^2$

4.2 圆形的意义

从直线变成圆弧，不仅仅是好看。

这意味着模型在优化

$s_p$

和

$s_n$

时，不再是僵硬的 1:1 兑换，而是根据它们各自离“完美状态”

$(0, 1)$

的距离来动态调整梯度方向。这就赋予了 Loss 更大的灵活性。

5. 梯度验证 —— 数学上的实锤

最后，为了证明“动态权重”真的有效，作者直接给出了梯度公式：

$\frac{\partial L}{\partial s_n} \propto \alpha_n = (s_n - O_n)$
$\frac{\partial L}{\partial s_p} \propto \alpha_p = (O_p - s_p)$

一句话总结：梯度的强弱，正比于样本的难度。

这彻底解决了传统 Loss 在简单样本上浪费梯度的问题，让模型能够全神贯注地攻克那些“死活分不开”的 Hard Cases。

Read more

Flutter 三方库 llm_json_stream 的鸿蒙化适配指南 - 掌控 LLM 流式 JSON 解析、大模型解析实战、鸿蒙级精密 AIGC 专家

Flutter 三方库 llm_json_stream 的鸿蒙化适配指南 - 掌控 LLM 流式 JSON 解析、大模型解析实战、鸿蒙级精密 AIGC 专家

欢迎加入开源鸿蒙跨平台社区：https://openharmonycrossplatform.ZEEKLOG.net Flutter 三方库 llm_json_stream 的鸿蒙化适配指南 - 掌控 LLM 流式 JSON 解析、大模型解析实战、鸿蒙级精密 AIGC 专家 在鸿蒙跨平台应用执行大型语言模型（LLM）的流式交互（如实时获取大模型生成的结构化 JSON 数据、处理非完整的 JSON 片段解析或是实现一个具备极致反馈速度的 AI 驱动表单）时，如果依赖传统的 jsonDecode，极易在处理“不完整字符串（Chunk）”、“语法中断”或“非预期的文本噪声”时陷入解析异常死循环。如果你追求的是一种完全对齐流式解析规范、支持实时恢复 JSON 结构且具备极致容错性能的方案。今天我们要深度解析的 llm_json_stream—
告别996：GitHub Copilot将我的开发效率提升300%的实战记录

告别996：GitHub Copilot将我的开发效率提升300%的实战记录

👋 大家好，欢迎来到我的技术博客！ 📚 在这里，我会分享学习笔记、实战经验与技术思考，力求用简单的方式讲清楚复杂的问题。 🎯 本文将围绕AI这个话题展开，希望能为你带来一些启发或实用的参考。 🌱 无论你是刚入门的新手，还是正在进阶的开发者，希望你都能有所收获！ 文章目录 * 告别996：GitHub Copilot将我的开发效率提升300%的实战记录 * 引言：从疲惫到高效 * 什么是GitHub Copilot？🤖 * 效率提升300%的核心场景 * 1. 快速生成样板代码 * 2. 自动编写单元测试 * 3. 智能调试与注释 * 集成Copilot到工作流 * 步骤1：设置合理的期望 * 步骤2：结合IDE使用 * 步骤3：代码审查与调整 * 高级用法：超越代码生成 * 数据库查询优化 * API接口设计 * 正则表达式助手 * 数据支撑：效率提升分析 * 避坑指南：常见问题与解决 * 1. 可能生成过时或不安全代码
AI绘画：数字艺术的未来

AI绘画：数字艺术的未来

AI绘画：数字艺术的未来 随着人工智能技术的飞速发展，AI绘画正逐渐成为艺术创作的新趋势。GPU算力租赁的出现，为广大创作者提供了前所未有的机会，使得无论是专业艺术家，还是普通用户，都能轻松进入AI绘画的创作世界。本文将深入探 随着技术的不断进步，传统的艺术创作方式正在发生深刻变革。AI绘画，作为人工智能技术在艺术领域的重要应用，已经成为数字艺术创作的一大亮点。过去，创作一幅精美的艺术作品往往需要画家拥有扎实的绘画基础和艺术技巧，且创作过程中需要大量的时间和精力投入。而现在，AI绘画则通过机器学习和深度学习算法，模拟艺术家的创作过程，快速生成充满创意的艺术作品。 AI绘画的出现，降低了艺术创作的技术门槛，使得普通人也可以轻松体验到创作的乐趣。尽管AI绘画具有极大的潜力，但其背后也依赖着强大的计算资源。AI绘画的实现需要进行复杂的图像生成和模型训练，这些计算任务对硬件的要求极高。因此，想要进行高质量的AI绘画创作，往往需要昂贵的GPU设备和强大的算力支持。 GPU算力租赁的崛起 在这种背景下，GPU算力租赁应运而生。对于创作者来说，租赁GPU算力意味着他们无需承担高昂的硬件费用

Stable Diffusion AIGC 视觉设计实战教程之 09-ControlNet 插件

ControlNet 插件 ControlNet 概述 ControlNet（控制网）是由 lllyasviel 团队于 2023 年提出的神经网络架构，核心是为了解决在 Stable Diffusion 中如何让图像生成变得更加可控的问题，是 Stable Diffusion 迈向工业化的非常重要的一步。 ControlNet 通过预处理器提取参考图中的姿态、深度、边缘等结构信息，再由 ControlNet 模型转换为检查点模型能够理解的生成条件，让生成图像精准遵循参考图的布局与结构，彻底解决生图结构失控的痛点，是 Stable Diffusion 中实现精准控图的核心插件。 ControlNet 插件的应用场景： * 插画创作：基于线稿生成高精度彩色插画，保留线条构图。 * 角色设计：基于姿势参考图生成指定动作的角色形象，如游戏角色战斗姿势等。 * 建筑可视化：根据图纸生成写实风格的建筑效果图。 * 3D 模型辅助生成：根据深度图、法线图控制生成图像的空间立体感，辅助 3D 建模纹理绘制。 * 摄影修图：