データ並列性
データを複数に分割して、分割したデータに対して並列に処理を行う方法
例えば、
ベクトルv_1=(1,2,7,4)と
v_2=(5,3,1,8)の加算を考えたとき、1ステップずつ実行する場合以下のようになる。
v_1 + v_2
= ( 1+5 , 2+3 , 7+1 , 4+8 )
= ( 6 , 2+3 , 7+1 , 4+8 )
= ( 6 , 5 , 7+1 , 4+8 )
= ( 6 , 5 , 8 , 4+8 )
= ( 6 , 5 , 8 , 12 )
この演算について、もし演算機が4つあった場合は、それぞれのステップを同時に実行できる。