高性能なだけ、あるいは低消費電力なだけではダメ
AIプロセッサーは性能と消費電力のバランスが重要
ただここまでやっても中身がどうなってるのかに関する説明がなかったのだが、今年3月のLiney Spring Processor Conferenceでやっと中身に関して若干であるが解説があった。もっとも最初のページからして下の画像の通り。ざっくりとしすぎである。
ResNet-50をフルにぶん回すと1223fps/3Wだから、407.7fps/Wということになる。連載614回のexpedraが主張する2000fps/Wにはおよばないが、この数字は決して低くはない。
Resnet-50は昨年の段階で5年、Yolo-v3ですら3年遅れのネットワークであり、実際の現場ではもっと新しいネットワークが使われることを考えると、Resnet-50の性能だけで議論しても仕方がないという話である
そもそも、精度とパフォーマンス、消費電力はトレードオフの関係にある、というのがHailo Techの主張である。
6つのカメラストリームを30fpsで処理できるのはいいが、解像度は640×640ピクセルで、正直製品として使うのには厳しい気がする。ちなみにmAPは精度(mean Average Precision)のことだ
例えば監視用カメラの場合、精度とスループットは重視されるが、(外部の電源が期待できるから)消費電力に関しての要求は低い。これがビデオを利用した人物確認(人間の数を数えるだけ)などで良ければ、解像度は落とせる(=精度を下げられる)ので、より高い性能をより少ない消費電力で実現できるとする。
ところが移動式ロボットなどになると精度も重要だし、電池式の稼働になるから消費電力は落としたい。しかし、処理性能を高めにしないとロボットの稼働速度が遅くなるのでバランスが重要になる。
ある意味、ロボットがものすごくゆっくりにしか動かないのなら、処理性能が遅くてもつじつまは合わせられるが、普通そういうケースはない(最低でも人間なみのスピードが求められる)ので、それに見合う処理性能も必須となる
この場合、カメラの解像度は720P以上が必要だが、カメラそのものは1台で済ます(逆に複数台カメラが必要なら、それだけHailo-8の数を増やす)というバーターでこれを実現するとしている。

この連載の記事
-
第852回
PC
Google最新TPU「Ironwood」は前世代比4.7倍の性能向上かつ160Wの低消費電力で圧倒的省エネを実現 -
第851回
PC
Instinct MI400/MI500登場でAI/HPC向けGPUはどう変わる? CoWoS-L採用の詳細も判明 AMD GPUロードマップ -
第850回
デジタル
Zen 6+Zen 6c、そしてZen 7へ! EPYCは256コアへ向かう AMD CPUロードマップ -
第849回
PC
d-MatrixのAIプロセッサーCorsairはNVIDIA GB200に匹敵する性能を600Wの消費電力で実現 -
第848回
PC
消えたTofinoの残響 Intel IPU E2200がつなぐイーサネットの未来 -
第847回
PC
国産プロセッサーのPEZY-SC4sが消費電力わずか212Wで高効率99.2%を記録! 次世代省電力チップの決定版に王手 -
第846回
PC
Eコア288基の次世代Xeon「Clearwater Forest」に見る効率設計の極意 インテル CPUロードマップ -
第845回
PC
最大256MB共有キャッシュ対応で大規模処理も快適! Cuzcoが実現する高性能・拡張自在なRISC-Vプロセッサーの秘密 -
第844回
PC
耐量子暗号対応でセキュリティ強化! IBMのPower11が叶えた高信頼性と高速AI推論 -
第843回
PC
NVIDIAとインテルの協業発表によりGB10のCPUをx86に置き換えた新世代AIチップが登場する? -
第842回
PC
双方向8Tbps伝送の次世代光インターコネクト! AyarLabsのTeraPHYがもたらす革新的光通信の詳細 - この連載の一覧へ













