SEMICON Japan Virtual 未来を探る視点1

2020年11月13日（金）

SEMICON Japan Virtual 未来を探る視点１

AIの応用拡大には、新たな発想で開発された半導体が欠かせない

株式会社エンライト 伊藤 元昭

生活の中で、仕事の場で、AIが身近なところで当たり前のように利用されるようになりました。「Siri」「Cortana」などAI音声アシスタントを利用して、情報検索やスケジュールの設定などに利用している人も多いのではないでしょうか。また、オフィスの中ではAIを使った手書き文字認識を使った文書整理、工場の中ではAI画像認識による製品検査などを活用している人もいるかもしれません。AIは、より高精度な推論能力や高度な判断が可能な技術へと急速に進化し、その応用範囲も急拡大しています。

普及と応用拡大のカギはAIチップ

これまでAIの性能向上と応用拡大は、ソフトウェア面での進化によるところが大きかったように思えます。ところが現在、より多様な応用において高度なAIを活用するためには、ハードウェアの進化、特に半導体チップの進化が欠かせないという認識が広がってきました（図1）。

図1  AIの応用拡大の鍵は半導体
出典：Adobe Stock

AIの応用分野は、ニューラルネットワーク・モデルを汎用的なGPUやCPUの上で動作させることで切り開いてきました。特に米NVIDIAは、同社製GPU向けの汎用並列コンピューティング・プラットフォーム「CUDA」を大学を中心に積極配布したことが奏功。CUDAを利用してAI関連の画期的な研究成果が数多く生まれ、AI関連処理に最も適した半導体チップとしての地位を不動にしました。そして、現在では同社の株式時価総額は、米Intelを超えるまで成長するに至っています。

ところが、より多くの用途、場面でAIを利用し、利用者の数を増やしていくためには、汎用チップだけで演算処理を実行したのでは不都合な点が目立ってきました。研究室ならば、比較的大きな演算能力を思う存分使って高度なAIを動かすことができます。しかし、そのAIを社会実装する際には、手軽に使え、小型、低コスト、低消費電力で、同時に多数の人が利用できる仕組みへと作り変えなければなりません。その際、AI関連処理に最適化したAIチップが不可欠になります。

AIシステムは、莫大なデータを教材として認識や判断のスキルを学ぶ「学習」という処理と、与えられたデータの状態を学習済みニューラルネットワークを使って認識・判断する「推論」という2つの処理を対にして構成されています。一般に、学習はより高い演算能力を持つクラウドで、推論はクラウドもしくはデータを収集し、処理結果を活用する現場（エッジ）で実行しています。そして、より高度なAIを広く応用するため、クラウド側とエッジ側、双方でAIチップの活用を見据えたAIチップの開発が進んでいます。

すべてのプラットフォーマーが独自チップを開発

付加価値の高いクラウドサービスの提供を通じて、いまや世界中のあらゆる産業に絶大な影響力を持つ米国のGAFAM（Google、Apple、Facebook、Amazon、Microsoft）や中国のBATH（Baidu、Alibaba、Tencent、Huawei）など巨大プラットフォーマーは、例外なく独自のAIチップを開発しています。独自チップを保有しないと、他社との競争に勝てないと考えているからです。

AI関連処理に用いるニューラルネットワークには、様々な種類があります。大雑把な分類をするだけでも、画像認識などに向く「CNN（Convolutional Neural Networ）」、自然言語処理に向く「RNN（Recurrent Neural Network）」、少ないデータで効率的な学習が可能な「強化学習」などがあります。AIチップには、ASICの開発環境を使って、特定用途の専用回路を設計して搭載することになります。このため、自社で提供するAI関連サービスに適した回路を搭載したAIチップが必要になるのです。

例えば、Facebookの技術戦略担当ディレクターであるVijay Rao氏は、あるイベントの基調講演の中で「当社では1日当たり200兆回以上の予測処理や60億回の言語翻訳を実行している。これほど膨大な推論処理をCPUやGPUに担わせると消費電力が大きくなりすぎる」と語っています。そして、同社は、少ない消費電力で推論を処理できるAIチップの開発に踏み切りました。一方、Googleは、AIチップ「TPU（Tensor Processing Unit）」を2016年に実践投入し、同社の検索サービス「Google Search」、翻訳サービス「Google Translate」、写真ストレージサービス「Google Photos」、さらにはクラウドサービス「Cloud TPU」などに活用しながら改良を重ね、早くも第4世代チップ「TPU v4」を投入しています。

日本でも同様の動きが出てきています。ディープラーニング技術で多くの製造業企業と共同プロジェクトを進めているベンチャー企業、Preferred Networksは、SEMICON Japan 2018で、神戸大学の牧野淳一郎教授のグループと共同開発している最中の独自AIチップ「NM-Core」を披露しました(図2)。同社が開発したニューラルネットワークのモデルを柔軟に開発できる独自フレームワーク「Chainer」に最適化したチップです。そして、2020年6月の同社ブログの中で、予定通りに開発が進み、MN-Coreを搭載した大規模クラスター「MN-3」の第一期構築分が動き始めたことを明らかにしています。

図2　Preferred Networksが独自のAIチップを披露
（左）独自AIチップ「MN-Core」とそれを搭載したボード、（右）MN-Coreのチップ内構成
出典：左は筆者が撮影、右はPreferred Networks

iPhone搭載のSoCに見るエッジ側での組み込みAIの今

エッジ側で用いるAIチップの開発は、さらに多くの機器メーカー、半導体メーカーによって進められています。その典型例が、既に世界中で数億人単位の人が利用しているAI関連処理の専用回路を搭載したエッジ端末「iPhone」を開発・販売する米Appleです。

スマートフォンやタブレット端末のようなバッテリー駆動の携帯情報機器にAIを搭載するためには、クラウド側で使うチップにも勝る洗練された回路の専用化が求められます。同社は、2020年10月に最新の自社開発SoC「A14 Bionic」を搭載した新型「iPhone 12」を発売しました。A14 Bionicは、台湾TSMCの5nmプロセスで118億トランジスターを集積したチップです（図2）。同社は、毎年新しいSoCを投入してその都度性能向上を図っていますが、前世代に対する今年のSoCの改善ポイントはAI関連処理の高性能化でした。

機械学習の能力を高めるNeural Engineを、従来チップの2倍に当たる16コア搭載。毎秒11兆回の演算を可能にして、機械学習モデルの処理速度を80%性能向上しています。チップ上でのNeural Engineの占有率で比べると、GPUとほぼ同等、CPUよりも大きい約1/4が割かれている計算です。いかに同社がAI関連処理を重視しているかが分かります。さらに、チップ上に2個搭載されている高速CPUコアにもCPU専用の第2世代機械学習アクセラレータを組み込んでいます。これによって、機械学習で頻繁に行なう行列乗算を前世代よりも70％高速化しました。A14 Bionicでは、AI関連の処理を、機械学習アクセラレータを搭載したCPU、GPU、Neural Engineの3つを目的に応じて使い分け、画像認識、自然言語学習、動きの分析など多様な用途での最適な処理を端末上で行えるようにしているのです。

図2　Appleが新型iPhoneに搭載した「A14 Bionic」
出典：Appleが提供した写真に筆者が加筆

AI関連処理の強化によって、スマートフォンがまさに“知能化した端末”へと仕上げることができました。例えば、カメラで写真を撮った際には、被写体と背景をそれぞれをAIで認識して、個別に最適な絵作りして誰でも美しい写真が撮れるようにしています。これは、プロの写真家がデジタル写真を撮った後に、画像処理して仕上げる作業を一瞬で行うようなものです。もちろん、こうした演算演算はCPUやGPUを使っても実行することができます。しかし、はるかに多くのリソースと消費電力を費やさないと同等の演算を実行することはできません。

組み込みAIの覇権を巡る競争はこれから

現在、自動車や産業機器、家電製品、社会インフラの設備などに組み込まれる電子システムで、自律制御の実現に向けた知能化が進んでいます。そして、現場で収集したデータをリアルタイム処理し、迅速に制御できる機能が求められています。データをクラウドに転送し、送り返された処理結果に基づいて機器や設備を制御したのでは間に合わない応用が多いからです。このため、多くの組み込みシステムの中核チップとして、iPhoneのSoCと同様にAI関連処理の専用回路を搭載した、マイコンやFPGAなどを利用することになるでしょう。

既に、ほとんどのマイコンメーカーが、AI向けのアクセラレータなどの開発・商品化に取り組んでいます。例えばルネサス エレクトロニクスは、「マイコンにもAIを」というスローガンを掲げて、組み込みAI技術「e-AI」を自社マイコンに投入。既に、自社の半導体工場の製造ラインの欠陥チップの検出などに利用し、熟練作業者と同等の認識精度を実現するなど多くの成果を上げています。

2020年9月13日、NVIDIAが、ソフトバンクグループ傘下の英Armを、最大400億米ドル（約4兆2000億円）で買収すると発表しました。AI向けチップで企業価値を高めてNVIDIAと、2019年に年間220個のチップに搭載された組み込みCPU向けコアの開発元という極めて興味深い組み合わせです。NVIDIAのCEOであるJensen Huang氏は従業員への手紙の中で「NVIDIAの世界をリードするGPUとAI技術でArmのIPライセンス・ポートフォリオをさらに拡大していく」と述べています。要するに、組み込みAIの領域で覇権を目指すということなのです。NVIDIAのAIでの実績をAIに最適化したコアに注ぐことで、強力なプラットフォームが出来上がる可能性があります。近い将来、この分野では激しい競争が繰り広げられることでしょう。

2020年12月11日から開催される「SEMICON Japan Virtual」では、初日の11日15時30分から「パネルディスカッション：AIが切り開く未来と技術チャレンジ」と題したキーノートセッションが予定されています。日本を代表するAIの研究者である東京大学 松尾豊教授と斬新な半導体技術の開発で数々の実績を持つ同大学　黒田忠広教授が対談。AIによって切り開かれる未来の可能性と、そのハードウェア基盤となる半導体技術の最先端について議論します。AIの技術の発展とその方向性、そしてその動きを加速するための半導体のあるべき姿を垣間見る貴重な機会となることでしょう。