面向边缘设备的轻量神经网络 --报告

其他 2021-04-03 18:43:52 阅读次数: 0

黄高 清华大学自动化系助理教授
2020.12.10
在这里插入图片描述
在这里插入图片在这里插入图片描述
描述

在这里插入图片描述

在这里插入图片描述
轻量化的模型
神经网络结构搜索
动态模型

transformer在视觉里面的结构设计

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
右边三个 是 结构搜索出来的模型，更大的搜索空间

NAS四个关键问题

离散搜索问题
在这里插入图片描述
怎样将神经网络结构的设计问题 转换为 搜索问题？
在这里插入图片描述

搜索集定义的很好，即使随便挑一个出来 也能做的非常好~
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
基于可微分的方法进行优化

在这里插入图片描述

动态神经网络的工作

在这里插入图片描述
imageNet

在这里插入图片描述
在这里插入图片描述
大模型到底比小模型好在哪里？
总有一些不典型的照片~
在这里插入图片描述
在这里插入图片描述
正确预测出来 有点挑战， 增加几十层 增加作对这种异常模型的机率。

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
空间自适应
在这里插入图片描述
人眼不会在所有的像素上面花费同样的时间，
希望神经网络和人眼一样，不在背景上面花费太多时间

在这里插入图片描述

高效 稀疏的快速计算，其他地方通过快速插值来完成~
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
强化学习

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

猜你喜欢

转载自blog.csdn.net/weixin_41521681/article/details/112000394
今日推荐
周排行
四大线程池详解
如何高效使用Vim
Mogodb的常用操作总结
Spyder默认页面布局调整
SAR日志分析
OAuth是一个关于授权（authorization）的开放网络标准，在全世界得到广泛应用，目前的版本是2.0版。 本文对OAuth 2.0的设计思路和运行流程，做一个简明通俗的解释，主要参考材料为R
WebService中注解开发，CXF，Spring整合，Rest风格
2019考研英语一 Text1分析
windows下安装docker详细步骤
CentOS 7/6系统升级内核版本到5.2.2
每日归档
更多
2024-08-05(0)
2024-08-04(0)
2024-08-03(0)
2024-08-02(0)
2024-08-01(0)
2024-07-31(0)
2024-07-30(0)
2024-07-29(0)
2024-07-28(0)
2024-07-27(0)

代码天地 © 2018 codetd.com

境外服务器   最新电视剧2022