当软件的进步超过硬件的进步时怎么办?您只需开始构建自己的硬件。
谷歌周一表示,其下一款旗舰手机——Pixel6 和 Pixel 6 Pro 将于今年秋季推出——这些新设备将由一款名为Tensor 的定制处理器提供动力。
谷歌指出,这颗芯片是公司芯片专家在过去四年中与机器学习和人工智能专家共同设计的成果,它专为即将推出的 Pixel 手机中的所有基于 Android 的魔法而打造。
这个芯片的发布,非常契合当今科技行业巨头越来越热衷为其手机、笔记本电脑和其他小工具打造定制化处理器的趋势。
根据谷歌硬件主管 RickOsterloh 的说法,该公司已经达到了用其他公司芯片构建的极限。“问题总是归结为硬件能力,”Osterloh 说。“你真的能够进行必要的处理来真正运行复杂的高级 AI 模型吗?毫无疑问,使用现成的技术会遇到不同的限制。所以几年前,我们就决定,如果我们要真正为未来创新,我们将需要建立自己的系统。”
当Osterloh 说“几年前”时,他指的是谷歌在 2016 年发布的第一款计算机芯片。谷歌将这个名为张量处理单元 (TPU) 的芯片称为对公司开源机器学习平台 TensorFlow 的致敬。这些 TPU 是专用芯片,旨在支持机器学习。但它们也是为大型数据中心内的 AI 服务器而构建的。
新推出的 Tensor 芯片则将就在您手中或口袋中的 Pixel 设备中出现——至少,在10 月份上市的Pixel 6 手机上都会如此。
“我们之所以用这个名字,其目的是希望能够借助它,在移动设备上真正有效地运行 TensorFlow,”Osterloh 说。通过构建自己的定制移动芯片,谷歌不仅在其手机上使用了 Google-y 人工智能;他们加入了苹果和三星的行列,这两家公司都为他们的顶级消费电子产品设计了定制芯片。
他们也正在深入芯片供应链的复杂世界(同时仍与芯片制造商高通为其低端Pixel 手机保持关系,至少目前如此)。在全球芯片短缺的情况下,他们做得很好。
新款 Pixel 6 背面的摄像头模块将于10 月上市。照片:谷歌
几年来,谷歌一直在生产一些最好的智能手机相机,它在强大的机器学习和人工智能模型的帮助下做到了这一点——也就是所谓的计算摄影,而不是将更大的相机传感器塞进手机。
像这样的软件特权应该可以让Pixel 手机从众多其他 Android 手机中脱颖而出,即使谷歌并没有销售那么多的Pixel 。Pixel可能不是最快的手机,但 Pixel 可以筛选来电以查看它是否是机器人电话,被动地识别咖啡店正在播放的音乐,并在 Instagram 上实时转录视频,即使你离线。
到目前为止,Pixel 手机一直由高通处理器驱动,该处理器为在美国销售的大多数(非苹果)手机赋能。谷歌新的 Tensor 芯片仍然基于与高通和其他移动处理器相同的 ARM 架构,因此客户无需担心会失去与现代应用程序或任何类型的兼容性。Osterloh 表示,谷歌的低端 Pixel 手机(如即将推出的 Pixel 5A)仍将使用高通骁龙芯片。
但通过设计自己的芯片,谷歌能够更好地优化其硬件和软件——这正是苹果开发自己的处理器而不是在 Mac上依赖英特尔芯片的原因。它足够强大,可以在设备上处理密集的 AI 和 ML 模型(无需依赖远程云服务器)。Osterloh 没有透露具体是谁在制造 Tensor,但他说:“我们设计、拥有并驱动它。这是我们的芯片。”
这对下一波Picel浪潮究竟意味着什么?Osterloh 表示,目前几乎所有由 AI 和机器学习驱动的 Pixel 功能(例如相机应用程序中的夜视或人像模式)都会在使用更少计算资源的情况下变得更好。但它也将实现以前不可能实现的功能。
他的第一个例子是谷歌工程师的孩子在室内对着相机挥手拍下的照片。它是使用 Pixel 6 Pro 拍摄的,但禁用了所有 AI 和 ML 功能。灯光不是很好,孩子在动,拿着相机的人也在动,这就是为什么孩子的脸和手波模糊的原因。Osterloh 然后将其与打开 AI 和 ML 模型时拍摄的照片进行了比较。孩子的面部特征变得更加清晰。“我们想要做的是让用户了解他们的意图并捕捉这个非常有趣的时刻,”他说。
为了达到这个效果,Pixel 会从主传感器拍摄一张正常曝光的照片,然后从超广角相机拍摄一张快速曝光的照片。它结合了两者,因此可以从超宽但准确的色彩和来自主传感器的噪声中获得清晰度。然后,Tensor 芯片会校正运动——拍摄对象的手波,以及由摄影师的手引起的相机抖动。它还运行人脸检测模型,以识别并确保拍摄对象的脸部优先对焦。
“这是通过一系列实时并行运行的不同复杂机器学习模型完成的,一次融合来自多个不同传感器的图像,”Osterloh 说。“这就是我们想要用 Tensor 做的事情,这就是它使之成为可能的原因。” Pixel 相机足够聪明,知道它并不总是需要对每张照片都使用两个传感器,只是在面临挑战时才这样做。
另一个需要改进的领域是视频质量。与静态摄影能力相比,Pixel 手机因其视频性能低下而受到批评。
“在视频上运行许多相同的算法和机器学习技术真的很难,因为有太多的处理发生,”Osterloh 说。“我们真的能力有限,过去无法进行任何这种转变,但有了 Pixel 6,我们就做到了。有了 Tensor,我们就做到了。”
Osterloh 展示了三款手机拍摄的视频对比:iPhone 12 Pro Max、Pixel 6 Pro 和 Pixel 5。拍摄对象是日落时分的湖边田野,这是一个具有挑战性的场景,将测试任何手机的 HDR 功能。Pixel 5 的视频有一个过于明亮的太阳,草太绿了,而不是你期望从日落中获得的更逼真的金黄色调。
iPhone 12 Pro Max 的剪辑更接近您在现实生活中看到的内容,但在某些区域它被洗掉了,并且附近帐篷的白平衡关闭了。Pixel 6 Pro 的镜头提供了逼真的阴影,同时保持了您希望在这种场景中看到的自然色彩。
这是一项受控测试,因此很难确切地说这些新 Pixel 的视频质量会好多少。例如,Osterloh 没有任何剪辑来展示 iPhone 擅长的 Pixel 的视频稳定性。不过,在简短的演示中,Pixel 6 似乎比在 Pixel 5上捕获的视频更清晰,色彩更准确.
除了提高相机性能外,Tensor 芯片还会影响 Pixel 的所有其他部分。谷歌表示,随着该公司Titan M 安全协处理器的更新版本与 Tensor 芯片一起运行,新手机的安全性将会得到改进。(该公司表示,它计划在 Pixel 发布前后发布包含更多安全相关细节的白皮书。)
Osterloh 展示的另外两个与 Tensor 相关的更新与 Live Transcribe 相关的应用,它可以即时自动转录视频,以及谷歌键盘应用程序 Gboard 中的语音听写。
在设备上实时转录视频通常需要强大的计算能力。借助 Tensor,Pixel 6 手机能够同时进行转录和翻译,法国主持人的视频证明了这一点,该视频在屏幕底部将 Pixel 文字转换为英语。(翻译是否准确,我不能说。)这也对电池寿命有影响:Osterloh说,与 Pixel 5 一样,它的功耗约为 50%。
通过 Gboard 的语音听写,Osterloh 与 Pixel 交谈以编写和发送消息。听写很快,虽然最初漏掉了一个标点符号,但在 Osterloh 说完之后又补上了,因为它理解了整个段落的上下文。您也可以说“清除”或“发送”来删除或发送信息;该软件会理解您的语气和意图,因此它会知道什么时候是命令而不是句子中的单词。
谷歌对其 Tensor 软件功能的重大展示与典型的智能手机发布不同:传统的做法通常是首先展示的是闪亮的新硬件,然后是对手机功能的更深入了解。然而谷歌在这次发布上并没公布Pixel 6 的硬件规格。
在写本文的时候,Osterloh 提供了 Pixel 6 和 Pixel 6 Pro 来展示所有这些改进。很明显,这两款新手机共享相同的超广角摄像头和主传感器,可以比 Pixel 5 多收集 150% 的光线,从而实现更明亮、更清晰的低光图像。不过,Pro 是更大的手机,它还有一个额外的 4 倍光学长焦相机镜头。
不过,这款手机的外部设计已经彻底改造。所有的摄像头都位于横跨整个手机背面的粗水平条中,而不是标准的左对齐摄像头凸块。有多种颜色可供选择,相机条上方的顶部采用强调色,模仿原始 Pixel 的双色调设计。
“如果我们要彻底改变引擎盖下的东西,我们也应该真正改变产品的设计,”Osterloh 说。“Pixel 一直以摄影着称,这让这一点变得非常清楚。”
除了中央安装的自拍相机和显示屏指纹扫描仪之外,谷歌并没有分享关于 Pixel 的太多其他硬件信息。Osterloh 表示,该公司将在秋季接近 Pixel 6 正式发布时进行更详细的介绍。他也没有分享新手机或即将推出的 Pixel5A 的定价——预计 Pixel 5A 会比旗舰机型便宜。
Osterloh 表示,谷歌仍计划像过去几年那样为较旧的 Pixels 带来一些新功能,但它仍然取决于硬件是否能够处理它。更积极的消息是,Pixel6 系列可能会获得更长的软件支持。像三星这样的竞争对手正在提供四年的安全更新和三个 Android 操作系统升级,但谷歌却一直坚持三年的支持。
Osterloh 说:“我们正在研究我们的最终数字,我们肯定看到了扩展它的可能性,所以我们对此感到很兴奋。”
谷歌对自有芯片的投资突显了该公司对消费硬件的承诺,尽管谷歌在全球智能手机市场的份额仍仅为个位数。Osterloh 表示,随着时间的推移,Tensor 芯片可能会出现在其他消费设备中,这将有助于其摊销在 TPU 上的投资成本。
Moor Insights & Strategy 的高级分析师 Anshel Sag 表示:“构建自己的芯片只能在您可以扩展的情况下持续,并且在竞争环境中需要大量的人力来维持这一点。” “这就是为什么 Apple 在 iPhone、iPad 和 Mac 上构建其芯片,并在如此多的型号上分摊这些芯片。”
那么,Tensor 与苹果公司的仿生芯片相比如何,苹果公司喜欢吹捧其为性能王者?Osterloh 还没有准备好分享新谷歌芯片的基准测试。Sag 说,他认为谷歌很难在移动芯片上完成一些尚未完成的事情。“我认为谷歌不会立即超越 Apple 的团队,因为 Apple 在芯片方面取得了多代成功,”Sag 说。
不过,谷歌智能手机业务的一个可能对其有利的因素是其手机销量相对较低。全球对半导体的紧缩预计将持续数月,并影响从汽车出货量到家用电器再到小工具的方方面面。Sag 表示,如果谷歌今年推出这种片上系统,该公司可能在大约两年前订购了晶圆,并且几乎可以肯定他们已经就他们预计销售的手机数量进行了谈判。“这并不多,”Sag总结道。
“现在半导体中的几乎所有东西都受到限制,”Osterloh 说。“对于这个特定的芯片,我们有很多控制权,我们认为 Pixel 6 系列不会受到限制。所以这是积极的。但是”产品中的半导体如此之多,就像在每个电子产品中一样,这绝对是一个难题。今年肯定影响了我们。”