AutoML HPO 学习笔记(二)- Hyperopt 和 TPE

  |  

版权声明:本文原创,转载请留意文尾,如有侵权请留言,谢谢

引言

  Hyperopt[2] 是一个可以自动挑选模型和超参的 python 库,最近看了它的开发者在2011发表的原始论文[1],Hyperopt挑选模型和参数主要利用了 random search 和 TPE 两种搜索方法,前者很简单,本文就不说了,这篇文章记录记录 TPE 的思想,它主要也是基于 GP 和 Bayes optimization 的。

Ensemble Selection 笔记

  |  

版权声明:本文原创,转载请留意文尾,如有侵权请留言,谢谢

引言

  最近参加了一个AutoML的比赛,在集成的地方花了挺多的功夫,没想到集成方法居然和康奈尔大学2004年发表的一篇论文有点类似,其中提出了 Ensemble Selection 的集成方法,和我想的有异曲同工之处,但是人家想的要比我完善的多,所以记录下,这篇康奈尔大学的论文也可以说是集成学习的入门之作了。

AutoML HPO 学习笔记(一)- 贝叶斯优化

  |  

版权声明:本文原创,转载请留意文尾,如有侵权请留言,谢谢

引言

  最近开始入门AutoML,说到AutoML,就要说到调参,说到调参,就要说到贝叶斯优化,本文记录了一些关于贝叶斯优化的知识点,主要通过了Refer中的三篇论文来进行学习。

读《自私的基因》--父母为啥总是无私的

  |  

版权声明:本文原创,转载请留意文尾,如有侵权请留言,谢谢

  读完了理查德·道金斯的《自私的基因》,作者是英国著名的演化理论学者,很显然他也是个达尔文主义者。这本书著于1976年,书中的某些观点到现在似乎已经成了常识,但是阅读完了整本书还是感觉挺醍醐灌顶,振聋发聩的。

机器学习基础(十二)- 强化学习笔记

  |  

版权声明:本文原创,转载请留意文尾,如有侵权请留言,谢谢

引言

  主要记录关于强化学习的一些笔记,强化学习主要分为基于动态规划的有模型学习和基于蒙特卡洛方法的免模型学习。

机器学习基础(十一)- 半监督学习笔记

  |  

版权声明:本文原创,转载请留意文尾,如有侵权请留言,谢谢

引言

  主要记录下半监督学习的一些方法,包括生成式方法,半监督SVM,图半监督学习,基于分歧的方法和半监督聚类。

机器学习基础(十)- 特征选择笔记

  |  

版权声明:本文原创,转载请留意文尾,如有侵权请留言,谢谢

引言

  和降维类似,特征选择(Feature Selection)也是一个处理高维数据的主流技术,本文主要记录了过滤式、包裹式和嵌入式三种特征选择方法。
  为了方便起见,本文假定数据中不涉及冗余特征,都为离散型,并且假定初试的特征集合包含了所有的重要信息。

您是第 位小伙伴 | 本站总访问量 | 已经写了 670.2k 字啦

载入天数...载入时分秒...