GPU
> @kazunori_279: GPUは重みのメモリ転送がボトルネックかつ爆消費電力の大きな要因。そこでTPUでは128x128=16384個の演算器をメモリ通さずに数珠つなぎしてメモリ転送を激減させているのだ（NVIDIAは4x4） 。ここがめちゃくちゃ重要かつ伝わりにくいので、昔がんばって動画をつくった。
転送速度がボトルネック
TPUはメモリ転送を少なくしている
選び方・レビューの読み方
>TGP250Wオーバーのハイエンドグラボなら70～75度前後
>TGP200W以下のミドルクラスのグラボなら60～70度のGPU温度で
>ファン回転数は
>1200～1500RPM前後で安定動作するならGPU温度とファン回転数の釣り合いが良好
>1000RPM以下で動作するなら非常に高性能なクーラー