Research indexJournal article
弱条件下随机梯度算法性能分析
杨, 刘, 丁
Science in China Series F-Information Sciences (in Chinese)1 Dec 2008Open access
NobleIDark:/48914/w1/20260521/C226F1C3DOI10.1360/zf2008-38-12-2173
Journal articleOpen access
弱条件下随机梯度算法性能分析
杨, 刘, 丁 · Science in China Series F-Information Sciences (in Chinese) · 2008
NobleIDark:/48914/w1/20260521/C226F1C3DOI10.1360/zf2008-38-12-2173
Abstract
在弱条件下, 利用随机鞅理论详细研究了随机梯度辨识算法的收敛性能. 分析表明, 只要信息向量是持续激励的(或数据乘积矩矩阵条件数有界), 过程噪声是零均值不相关的, 那么参数估计一致收敛于真参数. 这一结论并不要求一些文献中所作的苛刻假设成立, 既没有假设噪声方差和高阶矩存在, 又没有假设系统是平稳和各态遍历的, 也没有假设强持续激励条件成立. 这一贡献放松了随机梯度算法的收敛条件. 噪声方差有界和无界时的仿真例子证明了提出的收敛结论.