江苏龙网


首页 > 人文 >>

光学|光学计算有望改变游戏规则的AI性能

『江苏龙网摘要:光学|光学计算有望改变游戏规则的AI性能|芯片|尼克·哈里』Lightmatter的目的是通过展示该测试芯片来证明其处理器设计方法是可靠的。该公司是最早提供针对AI推理工作负载量身定制的工作光学计算(硅光子学)芯片的公司之一。Lightmatter将于2021年秋季推出其首个商业产品,该产品是基于该演示器的后继产品的带光学计算...



按关键词阅读:

_原题为 光学计算有望改变游戏规则的AI性能
[据美国电子工程网站8月24日报道]麻省理工学院的分公司Lightmatter开发用于人工智能加速的光学计算处理器 , 本周在Hot Chips 32上展示了一种测试芯片 。 利用硅光子学和MEMS技术 , 处理器以毫瓦激光光源为动力 , 以光速(在硅中)执行矩阵矢量乘法 。 与基于晶体管的芯片(包括最新的GPU)相比 , 计算速度要快几个数量级 , 而且功耗很小 。
Lightmatter的目的是通过展示该测试芯片来证明其处理器设计方法是可靠的 。 该公司是最早提供针对AI推理工作负载量身定制的工作光学计算(硅光子学)芯片的公司之一 。
【光学|光学计算有望改变游戏规则的AI性能】Lightmatter将于2021年秋季推出其首个商业产品 , 该产品是基于该演示器的后继产品的带光学计算芯片的PCIe卡 。 专为数据中心AI推理工作负载而设计 。
硅光子技术的进步-通过硅芯片传播光-使复杂的片上结构成为可能 , 可以对其进行操纵 , 以与传统的基于晶体管的电子器件完全不同的方式执行MAC操作 。 由于基于晶体管的芯片达到了Dennard缩放的极限 , 因此单位面积的功耗增加了 , 并且冷却技术的实际极限无法跟上更大的芯片 。 因此 , 存在具有节能优势的不同技术的空间 。
Lightmatter首席执行官尼克·哈里斯(Nick Harris)在EE Times接受热芯片采访之前说:“我们通过使用一种完全不同的物理类型解决了整个能量缩放问题 。 ”“这意味着我们可以使用一组不同的规则进行扩展 , 因此[光学计算]更快 , 能耗更低 。 ”
究竟有多快 , 有多低能量?
哈里斯说:“我们可以利用现有的AI数据中心 , 将能源消耗减少20倍 , 而物理足迹减少5倍 。 ”“而这只是我们正在构建的第一代产品 。 未来的路途很长 。 ”
哈里斯强调说 , 该测试芯片是作为该技术的演示器而构建的 , 并且在基准测试中表现不佳 , 但他坚持认为 , 在实际应用中 , Lightmatter的演示器仍将击败AI加速器的市场领导者Nvidia的Ampere A100 。 哈里斯说 , 与A100相比 , Lightmatter的芯片在BERT和Resnet-50推理等工作负载上提供20倍的能源效率和至少5倍的吞吐量 。
芯片设计
实际上 , Lightmatter的芯片是两个垂直堆叠的芯片 。 最上面是一个12nm ASIC , 用于存储内存并协调位于下面的90nm光学计算机芯片的控制 。 两个管芯均在GlobalFoundries上使用标准CMOS工艺制造 。
光子处理器具有64 x 64光子矩阵矢量乘积计算器;数据在不到200皮秒的时间内传播到整个芯片 , 比晶体管计算要快几个数量级 , 晶体管计算需要多个时钟周期 。 计算引擎由50毫瓦的激光驱动 。
哈里斯认为 , 这种低功耗光学计算芯片的优势之一是可以与控制/内存ASIC进行3D堆叠 。 基于晶体管的计算芯片会散发过多的热量 。 哈里斯指出 , 堆叠的芯片缩短了ASIC上的操作数存储区与光子芯片上的计算元件之间的跟踪线-从数据转换器到光学计算引擎的距离不到总路由的1毫米 。 反过来 , 这改善了延迟和功耗 。
哈里斯说:“这里有一个很好的积极反馈回路 。 ”“省电让我们可以堆叠 , 而堆叠可以节省更多功率 。 ”
DAC接收数字输入信号 , 将其转换为模拟电压 , 并使用该电压来驱动激光器(该技术已在光纤发送器中广泛使用) 。 来自该激光器的光进入计算阵列 。 计算元素是马赫曾德尔干涉仪(MZI) 。 进入MZI的相干光分为两部分 , 每半部分的相位调整不同 。 将具有不同相位的信号组合会导致相长或相消干涉 , 从而有效地调制通过MZI的光的亮度(该调制可被视为乘法运算) 。 在波导(承载光的“电线”)相遇的地方 , 信号被有效地加在一起 。 这是光MAC的基础 。 从计算阵列输出的光到达光电二极管 , 光电二极管的信号通过ADC馈送 , 以便与其余数字电路接口 。
MZI中的关键操作是通过机械方式实现的 , 用于改变光的相位 。 在他的Hot
Chips演讲中 , Lightmatter副总工程师Carl Ramey解释说 , 光子学芯片使用纳米光学机电系统(NOEMS) 。 与MEMS器件类似 , 波导结构通过在下面蚀刻而悬挂 , 然后通过向其上方和下方的电容器板添加电荷来偏转 。 这样可以成功地将光的相位更改为所需的数量 。
“NOEMS设备具有一些非常惊人的性能 , ”Ramey说 。 “它们的损耗极低 , 静态功耗几乎为零 。 我们只需将一些电子倾倒到小电容器上 , 几乎没有泄漏-电容足够小 , 致动所用的动态功率也确实很小 。 [这些结构]也可以以相对较高的速度启动 , 最高可达数百兆赫 。 ”
节约能源
拉米说 , Lightmatter的演示器具有64 x 64计算元素 , 但是可以很容易地扩大规模 。
他说:“类似于基于晶体管的脉动阵列 , 计算量与面积成线性比例关系 。 ”
“延迟也随着阵列的尺寸而缩放 。 因此 , 在典型的流水线晶体管设计中 , 您需要64个时钟周期来执行此处的操作 , 从左到右 。 我们的延迟也会随着阵列尺寸而增加 , 但速度要快三个数量级 。 因此 , 即使是一千乘一千的阵列 , 其延迟也将大大低于纳秒 。 ”


来源:(网络)

【江苏龙网】网址:http://www.jiangsulong.com/a/2020/0828/0RQbU542020.html

标题:光学|光学计算有望改变游戏规则的AI性能


上一篇:Mate|华为Mate 30 Pro新版本入网:摄像头缩水

下一篇:招聘|特斯拉上海超级工厂新项目开启新一轮招聘:涉九部门近千人


生活

【我家庭院美如画 】 王凤兰家的鸟语花香

阅读(49)

在这方庭院中居住,生活也变得诗意起来。王凤兰告诉记者,她家的小花园里目前一共养了36种花,每一种她都能叫得出名字,并且熟悉它们的习性。 处处美景,步步花香。王凤兰家渐...

人文

Intel|苹果15年前的决定如何冲击今天的英特尔?

阅读(46)

在英特尔的案例中,这个小变化就是它的芯片没有被苹果用于iPhone。每一代计算机的规模都是前一代的十倍以上。当英特尔每年生产数亿芯片的时,手机行业每年的销量是数以十亿计。苹果选择了ARM并选择台积电代工其ARM芯片。他的结论并不是很多人认同,英特尔在芯...

人文

法制|害怕列入“黑名单”压力当头急履行

阅读(33)

李某偿还部分本金及利息后,便不再履行还款义务,卢氏县某贷款公司将李某、赵某及杨某诉至卢氏县法院。法院审理后依法判决李某、赵某偿还剩余借款本金5.1万元及利息,杨某对上述款项承担连带保证责任。判决生效后,李某、赵某、杨某三人均未履行义务,卢氏县...

人文

感冒药|感冒药可以治疗感冒?只能缓解症状

阅读(31)

第二,感冒药无法治疗感冒,因为感冒药杀不死病毒,能杀死病毒的,只有人体的免疫系统。第三,感冒的症状会持续一星期左右,无论服药与否,都会自动痊愈。所以,我们平时自行服用的感冒药主要功效是缓解症状,也就是让你感觉好受点,但并不能缩短病程。因此,...

人文

月下追寻者|为什么宁愿房子空着,也不愿意出租?看完后才知道有多“精明”!

阅读(24)

如果遇到毛坯房,出租前还需要装修,装修成本好几万,不到两年又要转卖出去,往往砸进去的这些简装,在卖房时是收不回来的,基本是白送,别人不嫌弃就算好的了。即使收到开发商的精装房,如果租出去的时间不多久又要转卖房子,往往得不偿失;最明显的一点就是...

人文

洋河梦之蓝|洋河”梦之蓝M6+”热销背后的探秘

阅读(36)

而在刚刚过去的中秋、国庆两节期间,洋河股份部分市场的梦之蓝M6+销售可以用"爆单"来形容。"产品火爆的背后,是洋河以匠心精神推进企业高质量发展,以及市场持续深入转型的成果。"一位来自南京的梦之蓝M6+经销商张先生表示。坚守工匠精神...

人文

海珠:“文明来敲门”,创建齐参与

阅读(45)

8月15日上午 , “文明在身边 , 创建齐参与”争创第六届全国文明城市——广州市新时代文明实践 “绿色生活”主题月活动暨全市社区宣传活动启动仪式如期举行 。 南都采访人员了解到 , 启动仪式后 , 广州地区创建办将会同有关部门深入辖区内入户宣传 , 进一...

人文

持续高温天气后 英国多地迎来雷雨交加

阅读(43)

当天15时,英格兰南部德文郡和肯特郡之间已经发生雷暴天气。英国广播公司称,18时,英国南部发生了约1.2万次闪电。因大雨滂沱,一些道路被关闭。 AD_SURVEY_Add_AdPos("7004636");12日,一列行驶的火车在苏格兰阿伯丁郡脱轨,造成三人死亡,数人受伤。英国苏...

人文

比尔·盖茨回应“甩锅中国论”:中国一开始做了很多正确的事,本以为能做得好的美国却做得特别差

阅读(21)

主进出法里德·扎卡里亚(Fareed Zakaria)在节目中提问盖茨:“(疫情时代)有人责备中国掩盖事拭魅本相,欺骗了世界其他国度,是以称他们应当对此负责,你怎么看?”盖茨表示,“嗯,我不认为这是一个及时的问题,因为它不会影响我们今天的行动。”“中国一...