中科大-凸优化 笔记（lec47）-最速下降法
本文共 520 字，大约阅读时间需要 1 分钟。
全部笔记的汇总贴（视频也有传送门）：
一、梯度下降法
d k + 1 = − ∇ f ( x k ) f ( x k + 1 ) − P ∗ f ( x k ) − P ∗ ≤ 1 − m M ≤ 1 − min { 2 m γ α m a x , 2 m γ β M } K ∼ log ( f ( x k ) − P ∗ ) 线 性 收 敛 d^{k+1}=-\nabla f(x^k)\\\frac{f(x^{k+1})-P^*}{f(x^k)-P^*}\le1-\frac mM\le1-\min\{2m\gamma\alpha_{max},\frac{2m\gamma\beta}M\}\\ K\sim \log(f(x^k)-P^*)\;\;\;\;\;线性收敛 dk+1=−∇f(xk)f(xk)−P∗f(xk+1)−P∗≤1−Mm≤1−min{ 2mγαmax,M2mγβ}K∼log(f(xk)−P∗)线性收敛
二、最速（陡）下降法
三、Gradient与Steepest Gradient的变种
1）坐标轮换法
2）若 f ( x ) f(x) f(x)在某些点不可微
例：
下一章传送门：
转载地址：http://aepq.baihongyu.com/
你可能感兴趣的文章
MySQL执行计划解读
查看>>
mysql执行顺序与索引算法
查看>>
mysql批量update优化_Mysql中，21个写SQL的好习惯，你值得拥有呀
查看>>
mysql批量update操作时出现锁表
查看>>
MYSQL批量UPDATE的两种方式
查看>>
mysql批量修改字段名（列名）
查看>>
MySQL批量插入数据遇到错误1213的解决方法
查看>>
mysql技能梳理
查看>>
MySQL报Got an error reading communication packets错
查看>>
Mysql报错Can‘t create/write to file ‘/tmp/#sql_3a8_0.MYD‘ (Errcode: 28 - No space left on device)
查看>>
MySql报错Deadlock found when trying to get lock； try restarting transaction 的问题解决
查看>>
MySQL报错ERROR 1045 (28000): Access denied for user ‘root‘@‘localhost‘
查看>>
Mysql报错Packet for query is too large问题解决
查看>>
mysql报错级别_更改MySQL日志错误级别记录非法登陆（Access denied）
查看>>
Mysql报错：too many connections
查看>>
MySQL报错：无法启动MySQL服务
查看>>
mysql授权用户，创建用户名密码，授权单个数据库，授权多个数据库
查看>>
mysql排序查询
查看>>
MySQL排序的艺术：你真的懂 Order By吗？
查看>>
MySQL排序的艺术：你真的懂 Order By吗？
查看>>