Fantasy-JXF
  • Introduction
  • 机器学习
    • 机器学习基础
    • 机器学习实践
    • 机器学习算法
    • 集成学习
  • 深度学习
    • 深度学习基础
    • 深度学习实践
    • CNN
    • RNN
    • 优化算法
    • 序列建模
    • 《深度学习》整理
    • 术语表
  • 自然语言处理
    • NLP发展趋势
    • 自然语言处理基础
    • 句嵌入
    • 词向量
    • 多模态
    • 视觉问答(VQA)综述
    • 深度查询理解
      • 综述
  • 计算机视觉
    • 基本模型
  • 数学
    • 概率论
    • 微积分的本质
    • 深度学习的核心
  • 算法
    • 字符串
    • 数据结构
    • 数据结构Advanced
    • 双指针
    • 动态规划
    • 区间问题
    • 排列组合
    • 数学问题
    • 洗牌/采样/随机数
    • 大数运算
    • 海量数据处理
    • IO模板
    • 必备算法
    • LeetCode
    • 剑指Offer
    • 面试真题
  • 编程
    • C++基础
    • C++面向对象
    • C++左值与右值
    • Python基础
  • 笔试面经
    • 360
    • iHandy
    • 作业帮
    • 字节跳动
    • 小米
    • 度小满
    • 快手
    • 招行
    • 搜狐畅游
    • 滴滴
    • 爱奇艺
    • 百度
    • 百度2
    • 百度3
    • 百词斩
    • 腾讯
    • 迅雷
    • 顺丰
    • 旷视
    • 爱笔
    • 魔门塔
    • 搜狐
由 GitBook 提供支持
在本页
  • Index
  • 指数加权平均(指数衰减平均)
  • 偏差修正

这有帮助吗?

  1. 深度学习

术语表

上一页《深度学习》整理下一页自然语言处理

最后更新于6年前

这有帮助吗?

Index

指数加权平均(指数衰减平均)

- 博客园

  • 加权平均

    • 假设 θi 的权重分别为 ρi,则 θi 的加权平均为:

  • 指数加权平均

    注意到越久前的记录其权重呈指数衰减,因此指数加权平均也称指数衰减平均

  • 示例:设 ρ=0.9, v0=0

    其中 v_t 可以近似认为是最近 1/1-ρ 个值的滑动平均(ρ=0.9时,0.1 * 0.9^9 ≈ 0.038),更久前的记录其权重已近似为 0。

偏差修正

  • 指数加权平均在前期会存在较大的误差

    • 注意到只有当 t -> ∞ 时,所有权重的和才接近 1,当 t 比较小时,并不是标准的加权平均

  • 示例:设 ρ=0.9, v0=0

    • 当 t 较小时,与希望的加权平均结果差距较大

  • 引入偏差修正

    • 偏差修正只对前期的有修正效果,后期当 t 逐渐增大时 1-ρ^t -> 1,将不再影响 v_t,与期望相符

指数加权平均(指数衰减平均)
偏差修正
什么是指数加权平均、偏差修正? - 郭耀华