ADM-201 dump PMP dumps pdf SSCP exam materials CBAP exam sample questions

英特尔的深度学习技术 – 译学馆
未登录,请登录后再发表信息
最新评论 (0)
播放视频

英特尔的深度学习技术

Deep Learning with Intel

在棒上深度学习?
谁需要飞车?
大家好 我是西拉杰!
这是一个很酷的小设备
叫做”英特尔Movidius神经计算棒”
今天就讲讲这个
它是世界上第一款基于USB的
深度学习推理套件
它很小 很漂亮
可用它在各种主机设备上学习AI编程
我用着很顺手
待会儿将通过
部署深度学习网络来演示计算机视觉
更重要的是
这代表AI未来将走向终端 而非云
尽管目前集中式云计算很好使
但它终究不能打破物理定律
只有杰夫·迪恩(谷歌牛人)可以做到
数据传输要等 光速也是恒定的
随着人们越来越多地使用实时服务
等待世界各地数据中心的响应将变得很漫长
延迟对于无人驾驶汽车的关键任务系统
及视频聊天等类似消费者服务影响很大
大多数因特网底层架构
都运行在基于规则的系统之上
背后没有任何学习技术
若对这种架构进行升级
需要对所有互联网的使用情况见解独到
例如 每个制造工厂都不相同
即使它们使用相同的设备
只用一个云上创建的AI模型 无法
为不同工厂制定供应链
因为这些终端并不总是与云端相连
即使相连
将训练或实时决策用的大量实时数据
移到云端的代价太大
在本地按特定工厂的需求设置的AI模型
能实现更快速的实时决策
这也为许多创业公司提供了机会
来创建各种AI流程工具
而不是一个流程通吃
因为架构 数据和特定应用需求不同
各类公司都在投资部署终端AI
因为即使只提高一点点生产率
公司收入都会明显上升
另外 将数据存于本地而非发送给第三方
还能提高安全性
神经计算棒NCS 就是这类设备的完美示例
它允许任何人在本地测试并部署AI模型
同时具有超低功率 只消耗一瓦特
它不需要账户记录
因为数据一直存于本地 也比较有安全感
你可以运行大量的深度学习应用程序
这包括图片 也就是计算机视觉
接下来演示一下用该设备
获取实时对象分类的流程
我们在很多网站上都能找到这种计算棒
我倾向于亚马逊网站
毕竟Prime是继切片面包后最伟大的事物
神经计算棒目前支持两种深度学习框架
TensorFlow和Caffe
但使用这些框架训练的模型
需要转换格式才能应用
NCSDK中的三个库有助于实现转换
“Compiler”将模型转换为专有格式
“Profiler”用逐层统计法评估模型性能
“Checker”将设备上运行神经网络得到的结果
与纯Tensorflow或Caffe的结果对比
我们可以从GitHub中克隆NCSDK进行安装
运行”make install”来编译
完成后 我们可以用NCS神经计算棒
克隆社区项目NCAppZoo接口
首先导入”mvncapi”模块来访问它的API
然后通过”EnumerateDevices”函数
检查USB设备
我们甚至可以将多个神经计算棒
连接到同一应用程序处理器
来提升推理性能
但现在 我们先只用一个
找到预先编译好的 “AlexNet”模型
它使用大量带有相关标签的图片来训练
把它加载到神经计算棒中
我们直接从本地文件夹中读取图片
然后将它转移到神经计算棒 用于推理
所有神经网络处理都在计算棒上完成
这为其它任务释放CPU和内存资源
我们可以将图片加载到神经计算棒中
但需要调整它的大小
以匹配预先训练好的网络定义的维度
相应地转换配色方案并将数据类型转换为数组
并将图片作为张量加载至计算棒
我们可以从设备中检索结果
并打印出来以供查看
最后 为了避免内存泄露
我们可以释放使用过的内存
当在图像上运行时
它会立即按照相似性顺序预测图片类别
非常棒!
从这段视频中请记住三点
Movidius神经计算棒 让任何人
都可以在终端即本地测试部署AI模型
这点很有用 因为它比云端的延迟更低
而且数据存储在你的机器上 安全性更高
使用NCSDK 我们只需几行代码
就能在设备上轻松测试大量深度学习应用
只要点一下订阅按钮
我就会让你成为一位AI大师
现在 我自己也要训练一下了
谢谢观看!

发表评论

译制信息
视频概述

英特尔的Movidius神经计算棒,如何使任何人在AI终端即本地通过TensorFlow和Caffe测试部署AI模型。允许快速决策,并提供更高的数据安全性。

听录译者

收集自网络

翻译译者

孤鹜

审核员

审核员_MZ

视频来源

https://www.youtube.com/watch?v=KuM67WfTXBQ

相关推荐