惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
Stack Overflow Blog
Stack Overflow Blog
云风的 BLOG
云风的 BLOG
G
Google Developers Blog
J
Java Code Geeks
C
Check Point Blog
Last Week in AI
Last Week in AI
Microsoft Azure Blog
Microsoft Azure Blog
Blog — PlanetScale
Blog — PlanetScale
月光博客
月光博客
Vercel News
Vercel News
The GitHub Blog
The GitHub Blog
L
LangChain Blog
有赞技术团队
有赞技术团队
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
博客园 - 司徒正美
IT之家
IT之家
Martin Fowler
Martin Fowler
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
T
Tailwind CSS Blog
U
Unit 42
Jina AI
Jina AI
Microsoft Security Blog
Microsoft Security Blog
I
InfoQ

博客园 - ace--碳水化合物

用ClaudeCode改简历 韦达定理 韦达定理1 梯形1 总平均分 m1 曲线相关 曲线 不等式 抛硬币 错位排列"(全错位)问题 11 1 两圆阴影面积 English1 Tidio 官方帮助中心 ERP 相关系统介绍 蝉翼定理 选配法 利润最大化公式 写在失业的一段话 排列组合-组合 在线简历 概率论与数理统计学习章节 绝对值 比例五大定理 算术平均值与几何平均值 等价符号 公因数与最大公因数 容斥原理
平稳核函数(stationary kernel)
ace--碳水化合物 · 2026-05-26 · via 博客园 - ace--碳水化合物

平稳核函数是一类在空间统计和机器学习(尤其是高斯过程)中非常常用的核函数。它的核心假设是:两个点的相似性,只取决于它们的相对距离,而与它们所处的绝对位置无关。

这被称为平移不变性


1. 数学定义

一个核函数 \(k(x, x')\) 是平稳的,当且仅当它可以写成:

\[k(x, x') = k(x - x') \]

更常见的写法是只依赖于距离 \(r = \|x - x'\|\)

\[k(x, x') = k(r) \]

这意味着,无论你在地图的北京还是纽约,只要两个点之间的相对位移向量一样,它们的相关性就完全相同。


2. 为什么叫“平稳”?

这个概念借用了时间序列分析中的“弱平稳过程”,但用在空间/函数领域:

  • 函数性质在空间各处一致:如果用一个平稳核生成高斯过程,那么该过程的统计特性(如平滑度、变异性)在所有输入位置都是一样的。
  • 没有“特殊区域”:它假定空间是同质的,没有某个区域的变化天然比其他地方更剧烈。
  • 机器学习视角:它等价于对函数赋予了一个平移不变的先验——你事先并不知道函数的峰值会在哪里出现。

3. 典型例子

核函数 公式 \(k(x, x')\)\(\tau = |x - x'|\) 场的特点
平方指数 / RBF \(\exp\left(-\frac{\tau^2}{2\ell^2}\right)\) 极其平滑,无穷阶可微
Matérn 族 \(\frac{2^{1-\nu}}{\Gamma(\nu)}\left(\sqrt{2\nu}\frac{\tau}{\ell}\right)^\nu K_\nu\left(\sqrt{2\nu}\frac{\tau}{\ell}\right)\) 平滑度可调,\(\nu=0.5\) 为指数核(粗糙),\(\nu \to \infty\) 趋近于 RBF
指数核 \(\exp\left(-\frac{\tau}{\ell}\right)\) Ornstein-Uhlenbeck 过程,连续但不可微
γ-指数核 \(\exp\left(-\left(\frac{\tau}{\ell}\right)^\gamma\right)\)\(0 < \gamma \leq 2\) 控制平滑度,\(\gamma=2\) 即 RBF

所有这些都只依赖 \(\tau\),所以都是平稳的。


4. 对偶视角:频率域

根据 Bochner 定理,任何平稳核都是某个正有限测度的傅里叶变换

\[k(\tau) = \int e^{i \tau^\top \omega} d\mu(\omega) \]

这意味着:

  • 平稳核有一个功率谱密度
  • 核的平滑度由频谱在高频的衰减速度决定:RBF 的频谱全频率非零且快速衰减(无穷平滑);Matérn 的频谱有代数衰减尾巴(有限平滑)。
  • 这种视角把核设计问题,转化为对函数频率成分的假设。

5. 平稳 vs. 非平稳核

特性 平稳核 非平稳核
定义 \(k(x, x') = k(x - x')\) 不能写成这种形式
输入空间 假定统计性质各处相同 允许特性随位置变化
典型例子 RBF、Matérn 神经网络核、线性核、带输入依赖长度的核
应用场景 平稳环境建模、标准回归/分类 空间非平稳数据、函数在不同区域平滑度不同的情况

一个非平稳的例子:假设要建模地形高度,山区变化剧烈,平原变化平缓。平稳核用全局统一的“长度尺度”参数,无法同时很好地刻画这两种区域。这时就需要非平稳核(如让长度尺度本身也是位置的函数 \(\ell(x)\))。


6. 总结

在机器学习中,如果你没有特别的先验知识认为输入空间有结构差异,平稳核通常是默认的合理选择。RBF 和 Matérn 几乎是高斯过程回归的“标准配置”,它们都是平稳核。

需要我展开讲 Matérn 核如何通过 \(\nu\) 参数精细控制函数的平滑度吗?这在物理建模中经常用到。