2019年6月、マサチューセッツ大学アマースト校の研究チームより衝撃的な研究結果が発表された。それはたった1つのAIモデルの訓練の際に発生するCO2の量が約284トンにものぼるということである。これは乗用車５台が製造から廃車までに放出する’それ’に匹敵する量である。
例えば、AI研究を行う非営利団体「OpenAI」が発表したルービックキューブを完成させるアルゴリズムの開発には、原発１基が3時間に出力する電力が消費された。（「OpenAI」はこの事実については否定している）また、今後、情報通信やコンピュータの演算による電力消費量は大幅に増えることが予想されている。このような状況に対処する取り組みについてみていきたいと思う。
機械学習に伴う環境破壊の現状
アレンAI研究所によると、機械学習に必要な計算は数ヶ月ごとに倍増しており、ここ数年で推定30万倍に増加しており、こうした計算によって膨大なCO2が排出されている。米国エネルギー省によると、米国の電力使用量全体の約2％はデータセンターによるものだ。全世界では、データセンターは年間約200Twhの電力を消費している。
これは原子力発電所の年間発電量の20倍にも及ぶ。さらに、今後も著しい成長が続くと見込まれているため、データセンターが2025年までに地球全体の電力の10分の1を消費する可能性があると指摘されている。こうした消費電力の増加の影響は環境破壊だけにとどまらず、財政的コストの増加により、新興国の研究者や企業が機械学習の研究を行うのを困難にする可能性もある。
環境にやさしいAIへの取り組み
１つ目は、MITの発表したAIモデルのトレーニングシステム「Once-for-all」ネットワークである。
「これは様々なプラットフォームごとに調整可能な多数のサブモデルで構成される事前訓練済みのソリューションであり、各サブモデルでは、ハードウェアの電力と速度の限界と精度・遅延とのトレードオフ関係に基づき、最適なサブモデルを選択する仕組みとなっている」
https://thebridge.jp/2020/05/mit-aims-for-energy-efficiency-in-ai-model-training
よってモデリングの計算が効率化されCO2排出量を従来のものよりかなり抑えることに成功した。さらにこのシステムでは精度や効率が落ちることもなく、処理速度は1.5倍から2.6倍に改善した。
２つ目は、パラメータ調整手法の改善による消費エネルギーの削減方法である。パラメータ調整とは、ニューラルネットワークなどの機械学習手法で使用されるもので、パラメータを1つ加えるごとに解の数が増え、計算量も増えるので、これをうまく調整することが重要なのである。
３つ目は、オーストリアのグラーツ工科大学の研究者が開発した分散型の機械学習アルゴリズム「e-prop」である。これは、人間の脳のニューロン間の処理を参考にすることにより、消費電力の節約に成功した。さらに、完全にオンラインで動作するため、メモリとプロセッサ間のデータ通信が減り、エネルギー効率が上昇した。また、機械学習を用いた特定の用途向けアプリケーションを他の用途のために調整しようとすると、電力消費量が大幅に増加するため、一から開発する方が効率よく開発できるという。
異なるアプローチ
Googleは、再生可能エネルギーの導入により、自社のデータセンターのCO2排出量は実質ゼロであると主張している。Microsoftは、2030年までに同社がこれまでに排出したすべてのCO2を相殺する計画を発表した。超低消費電力デバイスにも注目が集まっている。現在の半導体の素材ではオフ状態時に無視できないオフ電流が流れる。
しかし、結晶性酸化物半導体を用いることで、極めて低いオフ電流が実現し、消費電力の大幅な減少が見込まれている。また、AIの導入により他の分野のエネルギー消費量が減るため、CO2排出量は相殺されているとも指摘されている。
こうした動きは国内にもみられる。（株）ソシオネクストはディープラーニング推論処理向けの「量子化DNN（ディープニューラルネットワーク）エンジン」を搭載したAIチップを開発している。これは、ディープラーニング推論処理を高速かつ低消費電⼒で実行するために最適化された「量子化 DNN エンジン」を搭載しており、高度な AI 処理を小型・省電⼒のエッジコンピューティング機器単体で実行することが可能である。
AIは環境を守るのか破壊するのか？：まとめ
人工知能開発に伴う膨大な消費電力の問題は環境に悪いだけでなく、さらなる人工知能の発展の足かせとなっている。ゆえにこの問題を解決することは、この業界にとって重要な課題だといえる。今は、人工知能が人類を救う箱舟となるか、滅ぼす悪魔となるか、その瀬戸際と言えうるだろう。
参考URL
・Amazon, Google, Microsoft: Here’s Who Has the Greenest Cloud | WIRED
・Challenges | Free Full-Text | On Global Electricity Usage of Communication Technology: Trends to 2030 (mdpi.com)
・[1906.02243] Energy and Policy Considerations for Deep Learning in NLP (arxiv.org)
・ja (jst.go.jp)
・[1907.10597] Green AI (arxiv.org)
・sn_pr20200317_01j (socionext.com)
・New learning algorithm should significantly expand the possible applications of AI – News (humanbrainproject.eu)