九游体育官网:地平线黄畅:将边缘AI芯片做到极致,给自主机器人造计算平台
作者:九游体育发布时间:2024-12-28
【新智元导读】AI技术的应用场景开始向移动设备转移,AI芯片作为产业的根基,是将AI技术从云端转移到终端的重要一环。地平线联合创始人&副总裁黄畅详细介绍了边缘AI芯片及其中关键技术,他表示,地平线希望构建自主机器人的计算平台,开放的工具链是一个最好的敲门砖。若想了解更多AI芯片资讯,欢迎来新智元 AI 朋友圈与大咖一起讨论~
人工智能不断发展,AI芯片越发炙手可热。
近几年,AI技术关注落地,应用场景开始向移动设备转移,如汽车上的自动驾驶、手机上的人脸识别等。产业的需求促进技术的进步,而AI芯片作为产业的根基,必须达到更强的性能、更高的效率、更小的体积,才能完成AI技术从云端到终端的转移。
地平线联合创始人&副总裁黄畅在地平线就是主要负责芯片、平台工具链算法等工作,他在以“AI 元力,重启未来”为主题的AI World 2019 世界人工智能峰会上,做了《软硬结合,打造高效开放的边缘AI芯片》主题演讲,主要介绍地平线的AI边缘计算芯片和相关业务,并以此为切口分享了对AI芯片行业的想法九游体育。

黄畅认为从计算机发展史来看,计算终端不断变迁。面向未来,每个人会有多个智能计算设备,尤其是各种以自主机器人形式出现在我们身边的设备,这是一个非常巨大的市场。
而在终端和数据激增的时代,边缘计算是应对终端数量激增和海量数据计算挑战的一个关键。
15年创立时,地平线想把AI计算从云端带到边缘,但是研究发现算法在未来并不是核心问题,而是足够平价高效的计算平台。于是,地平线创立时就决定把软件和硬件结合在一起,做自己的AI计算芯片。
关于为什么在边缘侧做这件事情?黄畅说:“最根本的原因在于机器人这种模式,本质上的诉求就是计算、智能、控制的去中心化,尤其是你需要它完成各种操作时。”
地平线联合创始人&副总裁黄畅
黄畅谈到,5G技术给了边缘计算一个很好的助力,“这使得我们在云和端之间找到一个很好的中间节点去利用边缘侧,尤其在5G基站附近的小型计算数据中心节点更好地去得到更高效、性价比更高的计算解决方案,同时它仍然是一个非常靠近边缘能够独立运作的计算节点。”
地平线深耕驾驶领域,看到很多传统的驾驶领域的芯片巨头在芯片里面也集成了AI的核,后来发现它们集成的AI核能够加速的算法是非常传统的,有些方案没有看到算法向前发展的演进趋势。
由此,地平线提出不应该以传统芯片里面大家所声称的TOPS作为衡量AI芯片的性能,并想重新定义有效的算力对AI来说应该是什么样的。黄畅解释道,“我们追求的是真实的TOPS/美元”。NineGameSports
重新定义AI处理器性能的评估方式,针对场景,基于一个受限于对延迟或者精度要求的情况下,其中一大难题是怎么定义Performance?地平线的目标是,尽可能地提升数据的处理能力。
这里面有三个要素,最终全面的优化,芯片的优化、算法的优化,确定下来以后,上限就已经确定了,什么样的算法跑什么样的处理架构。上限确定了,还需要强大的开发工具链支持。其中相关相关的典型编译器和Runtime的优化,使你的算法以尽可能接近100%的利用率运行在硬件上。如果追求最终效能的全面极致优化,这三个都要能掌握,能够去改变。
如何实现软硬协同优化:基于复杂的AI计算系统判定AI芯片走向,将算法、编译器和芯片架构充分结合以联合优化
为实现软硬件协同优化,必须判断算法向前演进的趋势,抓住市场最主流的算法确定芯片走向,但这不是追求单一的算法模型加速。
需要哪种类型的加速?哪些计算需要进行硬件加速?它们的占比大概是多少?最合适的计算和存储架构是什么样的?
这应该针对应用场景中一个复杂的AI计算系统全面去考虑,将其最终结合在一起。