在巨頭環伺的邊緣計算市場上,對于谷歌來說,Coral 的吸引力不一定是收入,而是有關人工智能如何應用到重要場景的信息與經驗。
Coral 是一個由谷歌硬件和軟件組件組成的平臺,主打汽車和醫療健康場景。盡管綁定谷歌生態以實現差異化競爭,但目前 Coral 的大部分訂單都是單個組件,只有少數客戶以10K 起購。
去年三月,谷歌推出名為 Coral 的本地終端 AI 平臺,包含 TPU、Coral Dev Board、USB 加速器和攝像頭等四個部分。
平臺強調以低功耗水平提高出色的 ML 推理性能,能夠以良好的功率表現執行 MobileNet v2等最先進的移動視覺模型,且 fps 可達100以上。
基于 Coral 平臺,谷歌發布了五款設備,分別是售價不到1000元人民幣的單板計算機「Coral Dev Board」(由 Edge TPU 模塊和 Baseboard 組成)、支持 Raspberry Pi 或 Debian Linux 計算機的 USB 加速器、對應 Dev Board 的500萬像素鏡頭模塊、 Dev Board 的系統模塊(SoM),和輕易將機器學習加速器 Edge TPU 與現有計算機系統整合的 PCI-E 加速器。
備有 Edge TPU 機器學習加速的 Coral Dev Board
最初,項目在選定地區推出了 Beta 版,經過六個多月的反饋與改進,去年10月,Coral 從 Beta 版畢業,在更多地區推出面向全球發行的版本。
1 Coral 起源
盡管 Coral 的目標客戶是企業,但項目起源于谷歌「AIY」系列自助機器學習工具。2017年,谷歌曾推出 AIY kit,借由樹莓派 (Raspberry Pi) 電腦支持,任何人都可以自己制作智能音箱和智能相機。
雖然項目在 STEM 玩具和制造商市場上取得了巨大成功,但是 AIY 的團隊也很快就注意到,一些客戶只是想按照指示來制作玩具,但也有一些客戶想把硬件改造成自己的產品原型,為了迎合這些顧客,Coral 應運而生。
2019年,已經推出 Dev Board、USB Accelerator 以及多款 PCIe Accelerator 產品組合,已經在全球36個國家進行部署。在今年的 CES 大展上,谷歌進一步更新平臺,推出多款產品,擴大應用面。
第一款新產品是 Accelerator Module 加速模組,這款多芯片模組包括了 Edge TPU ASIC,并支持 PCIe 與 USB 接口,可以嵌入定制的印刷電路設計,是谷歌和日本電子零件制造商 Murata 共同打造的。
第二款產品則是 Dev Board Mini 開發板,體積比 Dev Board 體積更小,搭載 MediaTek 8167s SoC,可達成720P 解析度影像編碼/解碼以及電腦視覺運用,功耗更低、更加經濟實惠,兩者預計在2020上半年正式上市。
Google 亦打造不同版本的 Coral 系統模組(SoM),除了原本的1GB LPDDR4配置之外,新增了2GB 與4GB 配置的版本。
人工智能的快速發展和日趨成熟,已經讓機器人得以執行此前僅能由人類完成的各項任務。
為了在工廠產線上進行質量控制,可以設置 AI 驅動的攝像頭發現缺陷;為了高效處理大量醫療數據,人們可以借助機器學習識別潛在的腫瘤,幫助醫生預防和及時治療。
不過,這些應用場景只有在數據處理足夠快速和安全的前提下才能完成。如果在工廠環境中,AI 攝像頭需要數分鐘時間來處理圖像,那就沒有實際意義。如果需要將患者數據傳送到云端,必然會帶來醫療數據被泄露的風險。而谷歌的 Coral 項目正希望解決這些問題。
來自 (人工智能) 設備的數據,通常被發送到大型數據中心,機器學習模型可以在這里得以高速運行。Coral 的產品經理 Vikram Tank 解釋道,Coral 是一個由谷歌的硬件和軟件組件組成的平臺,可以幫助用戶構建具有本地人工智能的設備,也就是說,在邊緣設備上為神經網絡提供硬件加速。
像開發板(如上)一樣,Coral 的產品可以用于制作新 AI 設備原型。
2兩大核心場景
Coral 不僅旨在幫助工程師和研究人員將新模型帶出數據中心并帶入設備,從而在邊緣高效運行 TensorFlow 模型,本質上,它也是邊緣硬件在農業,醫療保健到制造業等行業新應用的核心。
試想一輛以每小時65英里行駛的汽車,穿越10英尺的距離僅耗時100毫秒,這意味著任何延遲都會當事人的生命風險,如果可以在設備端就進行數據分析和計算,而不必受限于緩慢的網絡延遲,看到信號燈轉變紅色立刻停車,當事人會安全許多。
在醫學領域,將分析處理留在設備端,也能很大程度改善隱私問題。特別是對于那些利用圖像識別對超聲圖像進行實時分析的醫療設備制造商來說,將病患圖像發送到云端,無疑成為黑客攻擊的一個薄弱環節,如果在設備上進行圖像進行分析,這些敏感數據就不會超出醫生與病患的控制范圍。
有市場分析師預測,到2020年,邊緣端的 AI 芯片和搭載其的計算機將超過7.5億個/臺,到2024年將增長到15億個。盡管其中大多數將安裝在諸如電話之類的消費類設備中,但絕大部分將運用于行業中的企業客戶例如汽車和醫療保健。
Coral 產品經理明確表示,單身工程師們可以用這些硬件打造智能棉花糖分揀機或者喂鳥器,但項目的長期重點客戶是汽車和醫療健康行業。
谷歌的 Edge TPU,也是大多數 Coral 產品的核心。
3綁定生態的差異化競爭
谷歌認識到,有越來越多的行業已經認識到本地化 AI 的價值,也確實在推動設備上的機器學習。
在今年的 I/O 大會上,除了在 I/O 大會上展示的 Pixel 4設備上的語音識別模型外,他們還宣布了「本地家庭 SDK」,允許連接的家庭設備無需與云端即可進行直接操作
但是,谷歌面臨的問題是,有幾十家公司的目標與 Coral 類似。特別是巨頭們邊緣端 AI 布局的完善和實力正在進一步增強,邊緣端芯片市場競爭也因此變得更加激烈。
比如,這是蘋果從一開始就采取的策略,特別是 John Giannandrea 離開谷歌,擔任蘋果機器學習和人工智能主管之后。最近,蘋果又將 Xnor.ai 收入囊中。這家創業公司的重點是機器學習和圖像識別工具,這些技術可以在低功耗設備上運行,不需要依靠云計算架構。在此之前,蘋果收購了主打隱私的人工智能初創公司 Silk Labs。
Jetson 是英偉達在面向嵌入式市場的產品線,正是對標英特爾 Movidius。區別于其他邊緣 SoC 的特點,Jetson 家族強調并行運行多個神經網絡。截至目前,Jetson 已發布四個系列,主要部署在邊緣與終端應用上,適用于機器人、無人機和智能攝像頭等應用。
不過,繼英偉達最小邊緣超算后,英特爾再推10倍提升 VPU,與之抗衡。
在中國市場,華為推出首款面向邊緣計算品牌昇騰,除了瞄準機器人、智能制造等終端智能產品,同時也是華為在安防智能攝像頭和邊緣計算的重要布局。
對此,Coral 團隊表示,考慮到市場上有大量的競爭對手,他們將硬件與谷歌的人工智能服務生態系統緊密整合,從而使自己與眾不同。事實上,芯片、云培訓、開發工具等,也一直是谷歌人工智能服務的關鍵優勢。比如,Coral 就有一個專門服務硬件編譯的人工智能模型庫。
Coral 與谷歌的人工智能生態系統緊密結合,以至于基于 TPU 的邊緣硬件只能與谷歌的機器學習框架 TensorFlow 兼容,對于市場潛在用戶來說,這些深度綁定可能會適得其反。
Kneron 在接受媒體采訪時曾表示,盡管谷歌進入這個市場驗證并推動了這個領域的創新,但是,Coral 產品專為谷歌平臺設計,而他們的產品支持市場上所有主要 AI 框架和模型。
可以肯定的是,谷歌肯定不會像推行云端 AI 服務那樣大力推廣 Coral。一位熟悉內情的消息人士告訴媒體,Coral 的大部分訂單都是某個組件 (例如 AI 加速器和開發板),只有少數客戶以10K 份起購。
不過,在機器學習不可避免地從云端走向邊緣的過程中,對谷歌來說,Coral 的吸引力不一定是收入,而是提供了有關人工智能如何應用到重要場景的信息與經驗。