NAS 学习笔记(十四)- GDBT-NAS

  |  

版权声明:本文原创,转载请留意文尾,如有侵权请留言, 谢谢

引言

  本文分享一篇MSRA 2020 年关于 NAS 的论文 [1],文中提出了 GDBT-NAS 算法,它主要用 GBDT 作为 NAS 算法中预测 candidate architecture 的 predictor,同时它还将 GBDT 作为 search space 的 pruner ,思想还是比较简单的,本文对它做简单记录。

NAS 学习笔记(十三)- NASP

  |  

版权声明:本文原创,转载请留意文尾,如有侵权请留言, 谢谢

引言

  最近读了一篇 WWW2020 的论文[1],它在协同过滤中应用 NAS,其中提出的 SIF 算法本文就不做介绍了。本文介绍 SIF 里用到的 NAS 算法 NASP [2],这两篇文章的作者都是第四范式的一个大佬,NASP 发表在 AAAI2020,本文对它作一个简单的笔记。

NAS 学习笔记(十二)- SemiNAS

  |  

版权声明:本文原创,转载请留意文尾,如有侵权请留言, 谢谢

引言

  本文分享一篇微软 2020 年在 CVPR 上关于 NAS 的论文 [1],文中提出了 SemiNAS 算法,它结合了半监督学习,并且论文中主要利用微软之前提出的 NAO 来结合半监督学习,并且首次把 NAS 应用到 Text To Speech(TTS) 任务上。

NAS 学习笔记(十一)- GreedyNAS

  |  

版权声明:本文原创,转载请留意文尾,如有侵权请留言, 谢谢

引言

  本文继续分享一篇商汤 2020 年在 CVPR 上关于 NAS 的论文 [1],文中提出了 GreedyNAS 算法,它也是一种 One-Shot NAS,有点是对 supernet 做了贪心操作,本文对它做简单的笔记。

NAS 学习笔记(九)- FairNAS

  |  

版权声明:本文原创,转载请留意文尾,如有侵权请留言, 谢谢

引言

  本文分享一篇小米 2020 年的关于 NAS 的论文 [1],它和我们上文介绍的 SPOS 非常像,不同的只是将其中的 uniform sampling 改成了公平采样,本文对它做简单的笔记。

NAS 学习笔记(八)- SPOS

  |  

版权声明:本文原创,转载请留意文尾,如有侵权请留言, 谢谢

引言

  本文分享一篇旷视 2019 年的关于 NAS 的论文 [1],论文中提出了 SPOS(Single Path One-Shot) 算法,它是 One-Shot 的,并且作者提出了一种 Single Path 的 supernet,以及用 uniform sampling ,值得一提的是论文中采取 search 的方法是 evolutionary algorithm,本文对它做简单的笔记。

NAS 学习笔记(七)- NAO

  |  

版权声明:本文原创,转载请留意文尾,如有侵权请留言,谢谢

引言

  NAO(Neural Architecture Optimization 1Renqian)[1] 是微软发表的一篇 NAS 的论文,它和 DARTs 一样都是搜索空间在 continuous space 上优化和搜索 architecture ,但是本质上又很不一样,本文对它做一些笔记。

强化学习笔记(八)- 连续空间的确定性策略

  |  

版权声明:本文原创,转载请留意文尾,如有侵权请留言,谢谢

引言

  之前我们说的基本都是离散空间内的算法,本文记录连续空间内的算法。在连续空间内,动作的个数往往是无穷的,很难计算出 \(\max_a q(s,a;\boldsymbol{\theta})\)。面对这个问题,我们可以在策略梯度中引入确定性策略。

您是第 位小伙伴 | 本站总访问量 | 已经写了 609.3k 字啦

载入天数...载入时分秒...