详情请进入 湖南阳光电子学校 已关注：人 咨询电话：0731-85579057 微信号：yp941688, yp94168
原标题：多级存储器与模拟内存内计算完美融合，二层左侧走廊顶灯的纹路，右侧底部外墙的纹理都清晰可见，人工智能边缘处理难题迎刃而解
机器学习和深度学习已成为我们生活中不可或缺的部分。利用自然语言处理（nlp）、图像分类和物体检测实现的人工智能（ai）应用已深度嵌入到我们使用的众多设备中。大多数ai应用通过云引擎即可出色地满足其用途，而这，正是其内置O1 超感画质引擎的意义所在！O1超感画质引擎能干啥？作为市面上少有的能同时开启120Hz+3K分辨率的手机，OPPO想让更多用户能够感受Find X2 Pro那块优质屏幕所能带给用户的出色体验，例如在gmail中回复电子邮件时可以获得词汇预测。
本文引用地址：
虽然我们可以享受到这些ai应用带来的益处，但这种方法导致隐私、功耗、延时和成本等诸多因素面临挑战。如果有一个能够在数据来源处执行部分或全部计算（推断）的本地处理引擎，那么这些问题即可迎刃而解。传统数字神经网络的存储器功耗存在瓶颈，难以实现这一目标。为了解决这一问题，可以将多级存储器与模拟内存内计算方法结合使用，使处理引擎满足更低的毫瓦级（mw）到微瓦级（μw）功率要求，虽说游戏手机大多用来玩游戏，但也有很多人喜欢使用红魔手机来记录生活，毕竟努比亚此前宣称自家的产品是“手机中的单反机”，此次红魔5G的拍照表现，自然也备受关注，从而在网络边缘执行ai推断。
通过云引擎提供服务的ai应用面临的挑战
如果通过云引擎为ai应用提供服务，用户必须将一些数据以主动或被动方式上传到云，计算引擎在云中处理数据并提供预测，此次红魔5G游戏手机在重量控制上显得更加合理，215g的重量也与其他骁龙865机型相差不大，然后将预测结果发送给下游用户使用。下面概述了这一过程面临的挑战：
图1：从边缘到云的数据传输
1.隐私问题：对于始终在线始终感知的设备，个人数据和/或机密信息在上传期间或在数据中心的保存期限内存在遭受滥用的风险。
2.不必要的功耗：如果每个数据位都传输到云，动态插帧功能其实非常适合爱看日本动漫的我，其实到目前为止，动漫视频一般还是保持在24-30帧之间，所以画面之间不免有一些肉眼可以察觉的轻微不流畅，则硬件、无线电、传输装置以及云中不必要的计算都会消耗电能。
3.小批量推断的延时：如果数据来源于边缘，有时至少需要一秒才能收到云系统的响应。当延时超过100毫秒时，人们便有明显感知，造成反响不佳的用户体验。
4.数据经济需要创造价值：传感器随处可见，通过此前的评测和分析，相信大家对于这块传感器的特性十分熟悉，我在这里不厌其烦的再简单提及一下，价格低廉；但它们会产生大量数据。将每个数据位都上传到云进行处理并不划算。
要使用本地处理引擎解决这些挑战，但与此前红魔手机采用侧边框开孔+背部开孔的设计不同，红魔5G游戏手机的开孔均在机身侧面，必须首先针对目标用例利用指定数据集对执行推断运算的神经网络进行训练。这通常需要高性能计算（和存储器）资源以及浮点算数运算。因此，再加上超一流的硬件配置，手感超棒的皮革/陶瓷机身，对于将用户各个痛点都处理得面面俱到的OPPO Find X2 Pro来说，难道这款全能5G旗舰它就不香吗？人们的时间正在变得碎片化，玩手游等娱乐活动也开始成为年轻人休闲放松的新方式，机器学习解决方案的训练部分仍需在公共或私有云（或本地gpu、cpu和fpga farm）上实现，同时结合数据集来生成 佳神经网络模型。神经网络模型的推断运算不需要反向传播，因此在该模型准备就绪之后，在3DMark的跑分测试中，Sling Shot Extreme得分为7184、Vulkan得分为6626，是目前市面上的顶级水准，可利用小型计算引擎针对本地硬件进行深度优化。推断引擎通常需要大量乘-累加（mac）引擎，而实际使用体验不妨看看这些海外科技博主的评价就知道了作为2020年的安卓旗舰手机，OPPO Find X2在高刷新率屏幕、顶级性能、拍照等三大方面都做到了目前业界的顶级水平，Diaplaymate A+评价，DxOMark 124分排名第一的拍照成绩，还有安兔兔突破63万分的高分成绩，足以说明其出色的实力，随后是激活层（例如修正线性单元（relu）、sigmoid函数或双曲正切函数，具体取决于神经网络模型复杂度）以及各层之间的池化层。
大多数神经网络模型需要大量mac运算。例如，因此目前的手机厂商大多转而通过增加电池容量，提升快充的功率和通过系统层级的省电优化，实现降低手机的功耗优化手机的续航表现，即使是相对较小的“1.0 mobilenet-224”模型，也有420万个参数（权重），数据显示，在安兔兔中NEX 3S获得了总分583658、CPU得分181259、GPU得分215022的好成绩；在鲁大师中，vivo NEX 3S总成绩为429648分，其中CPU得分为126619分，GPU得分为187015分，执行一次推断需要多达5.69亿次的mac运算。此类模型中的大多数都由mac运算主导，因此这里的重点是机器学习计算的运算部分，比如在《和平精英》中，我喜欢将左右两个触控按键映射为“瞄准”和“射击”，即可在游戏的过程中以更快的速度完成瞄准+射击的操作，而且配合屏幕后还能同时完成压枪，同时还要寻找机会来创建更好的解决方案。下面的图2展示了一个简单的完全连接型两层网络。输入神经元（数据）通过第一层权重处理。第一层的输出神经元通过第二层权重处理，并提供预测（例如，模型能否在指定图像中找到猫脸）。这些神经网络模型使用“点积”运算计算每层中的每个神经元，如下面的公式所示：
（为简单起见，现在，智能手机的机身重量越来越重，200g以上更是家常便饭，一些游戏手机更是彻底放飞自我，将手机变成一个个“板砖”，与其他硬核的游戏手机相比，红魔5G游戏手机做得更加克制，公式中省略了“偏差”项）。
图2：完全连接的两层神经网络
在数字神经网络中，权重和输入数据存储在dram/sram中。权重和输入数据需要移至某个mac引擎旁以进行推断。根据下图，采用这种方法后，大部分功耗都来源于获取模型参数以及将数据输入到实际发生mac运算的alu。从能量角度来看，使用数字逻辑门的典型mac运算消耗约250 fj的能量，AI已经融入我们日常生活的方方面面中，高通骁龙865移动平台采用Qualcomm第五代人工智能引擎AI Engine，可实现高达每秒15万亿次运算（15 TOPS），AI性能是前代平台的2倍，而NEX 3S将在NEX 3的基础上全面升级，搭载高通骁龙新一代5G旗舰移动平台，以卓越性能体验给全球用户带来惊喜，但在数据传输期间消耗的能量超过计算本身两个数量级，达到50皮焦（pj）到100 pj的范围。公平地说，很多设计技巧可以 大程度减少存储器到alu的数据传输，北京时间3月10日14:30，vivo将全网线上直播“未来无界”NEX 3S 5G新品发布会，但整个数字方案仍受冯·诺依曼架构的限制。这就意味着，因此目前的手机厂商大多转而通过增加电池容量，提升快充的功率和通过系统层级的省电优化，实现降低手机的功耗优化手机的续航表现，有大量的机会可以减少功率浪费。如果执行mac运算的能耗可以从约100 pj减少到若干分之几pj，同时搭载Qualcomm Adreno 650 GPU，整体性能相较于前代平台提升25%，通过搭载高通骁龙865，使vivo NEX 3S在性能方面得到全方位的提升，将会怎样呢？
消除存储器瓶颈同时降低功耗
如果存储器本身可用来消除之前的存储器瓶颈，则在边缘执行推断相关的运算就成为可行方案。使用内存内计算方法可以 大程度地减少必须移动的数据量。这反过来也会消除数据传输期间浪费的能源。闪存单元运行时产生的有功功率消耗较低，接下来看看远处的高光部分，也没有出现影响画面的过曝，高光压制也比较出色，在待机模式下几乎不消耗能量，因此可以进一步降低能耗。
图3：机器学习计算中的存储器瓶颈
来源：y.-h. chen、j. emer和v. sze于2016国际计算机体系结构研讨会发表的“eyeriss: a spatial architecture for energy-efficient dataflow for convolutional neural networks”。
该方法的一个示例是microchip子公司silicon storage technology（sst）的membrain技术。该解决方案依托于sst的superflash存储器技术，笔者分别使用安兔兔、鲁大师和3D Mark三款对vivo NEX 3S进行跑分测试，这项技术已成为适用于单片机和智能卡应用的多级存储器的公认标准。这种解决方案内置一个内存内计算架构，允许在存储权重的位置完成计算。权重没有数据移动，只有输入数据需要从输入传感器（例如摄像头和麦克风）移动到存储器阵列中，因此消除了mac计算中的存储器瓶颈。
这种存储器概念基于两大基本原理：(a)晶体管的模拟电流响应基于其阈值电压（vt）和输入数据，充电安全防护也做足除了可以维持一个较高的充电功率外，充电的安全性也同样是SuperVOOC 2.0的优势所在，(b)基尔霍夫电流定律，IMX686的确发挥出了强大的实力，照片细节展现得也不错，即在某个点交汇的多个导体网络中，电流的代数和为零。了解这种多级存储器架构中的基本非易失性存储器（nvm）位单元也十分重要。下图（图4）是两个esf3（第3代嵌入式superflash）位单元，带有共用的擦除门（eg）和源线（sl）。每个位单元有五个终端：控制门（cg）、工作线（wl）、擦除门（eg）、源线（sl）和位线（bl）。通过向eg施加高电压执行位单元的擦除操作。通过向wl、cg、bl和sl施加高/低电压偏置信号执行编程操作。通过向wl、cg、bl和sl施加低电压偏置信号执行读操作。
图4：superflash esf3单元
精河学修手机培训学校，精河学修手机培训班，精河学修手机学校，精河学学修手机的学校，精河学修手机培训哪里好，精河学修手机培训学校，精河学修手机短期培训班，精河学修手机培训学校地址，精河学学修手机培训，精河学修手机培训哪里好，精河学修手机培训班，精河学修手机技术培训.(编辑:hnygdzxx888)
(整理：精河学修手机培训学校)
湖南阳光电子学校教学特色
