-
实践贝叶斯优化:BayesianOptimization
资源介绍
贝叶斯优化
贝叶斯优化学习代码
什么是贝叶斯优化?
一种使用高斯过程优化黑盒函数 f (x) 的技术(可能) 我想有效地搜索并找到 x_opt = argmax_x f (x)。 假设评估 f (x) 需要时间。程序大致如下。
t = 0,D_t = {}
x_t = argmax A (x | D_t)
y_t = f (x_t)
D_ {t + 1} = D_t \cup {(x_t, y_t)}
到 1. 因为 t = t + 1
所以代替了难以直接优化的f(x)迭代优化 A (x | D_t),这很容易(可能)直接优化。 A(x)被称为Acquisition函数,下面的大部分都是著名的。
最大平均值 (MM) 设 x_t 是使 GP 的后验分布的均值最大化的点
改进概率 (PI)设 x_t 是目前更新最好的概率最高的点
预期改进 (EI)让 x_t 成为最大化您可以针