大量のHDDに並列Plottingしたらどうなるか
11並列Plottingを仕掛けて1日経ちました。
あまりにも遅い。進捗が悪すぎたため、フェーズ2途中で滞ってるPlottingを2つほど中断しました。CPUも遊んじゃってるし、ディスクのI/Oもかなり余裕ありそうな感じ。
だいぶスッキリしました。それでもちょい遅い…
最初に開始したplotが完成しました。82833.704sec…約23時間かかりました。SAS HDD4台によるRAID0をキャッシュにしていたものになります。
他のもだいたい22時間~23時間といったところです。つまり、RAID0がまったく意味をなしていない。ディスクI/Oとは別の部分がボトルネックになっているようですね。9並列でもちょっと厳しそうなので次は少し減らしてみます。
仮に、9並列で23時間かかるとすると、平均2.5h/plotの計算になります。
Core i7-7700KでSATA SSD 2TBに5並列で行っているPlotが2h/plotなのでもう少し効率上げたいところです。RAID0のディスクを増やして単品のディスクよりRAID0のが速い状態になれば丁度いいかな。
ファンコン追加
Fan Controllerを購入しました。$15程度。
安物だったけど、びっくりするくら安っぽいつくりです。オールプラスチックで軽い。中身は多分スカスカです。
余ってる12cmFANを接続してHDDやらHBAカードやらマザーボードのチップセットを冷やすことにします。
ちょっと触れないくらいアツアツだったので、もしかしたらplotが遅すぎる原因はサーマルスロットリングかもしれません。
次なる検証
HDDでRAID0したらどれくらい効果あるのか探りたいのです。ランダム性能がたいして変わらないから単品と大差ないという予想ですが、、、。また、いくつまでの並列プロットがOKなのか探りたいと思います。
2TB SAS HDDx4のRAID0を2つ、2TB SATA HDDx4のRAID0を1つ、SATA単品が2つ、USBが1つの6プロット並列で動かして見ようと思います。
Windowsの機能でRAID0(ストライピング)しています。
始める前にCrystal Disk Markをやってみました。単品ディスクの結果は昨日の日記を見てください。
SASよりSATAのが速いのが悔しい。
そういえばUSBでは測ってなかったなぁとやってみたら明らかにUSB2.0だった。
気づいてよかった。
前回の11連plotではCPUがかなり遊んでしまっていたので、今回は調子にのって24スレッド指定しました。RAMは適当に9536MiB。RAMはどうせ速度差は殆ど出ません。経験則ですが、スレッド数は盛れるだけ持ったほうが早くおわるような気がしています。
他は1時間くらいあけて順次Plotを開始する予定…さてどうなるか。
今日のチア農場
ついに500プロット達成!しかし勝てない。プロット数は33増加です。そりゃPC増やしたんだから効率あがるのはあたりまえ。少し検証やらが続くので安定はしませんが、、、
ソロに比べてHPOOLは着実に報酬入るんですよねぇ。今後はちょっとずつHPOOL側のPlotも増やしていこうかなぁ。
マイニングフレームにHDDガン積みして一日経ちました。若干たわんでる気がしなくもないけど、なんとか大丈夫そう。
ディスカッション
コメント一覧
私も並列を試しています。DELLのR720xdというサーバーで20コア40スレッド。メモリは128GB(DDR3)のECC。
このサーバーの初日は18plot作るのに22時間かかりました。sasなんですが、カードが6Gbpsで遅いんですよね~。18個のHDDで個別並列のためアクセスが遅い感じです。設定はそれぞれ2スレッド、メモリ4GB、128バケットです。
二日目の今日はランダムアクセスの速度を上げるために
64バケットでメモリ8GBを9個。
32バケットでメモリ16GBを1個。
128バケットでメモリ4GBを8個で実験してます。
ちなみに12Gbps対応のカードとDDR4メモリの機種だと8個別並列で12時間で終わりました。
貴重な情報ありがとうございます!
なるほど、バケット量を変えるという発想なかったです。行き詰まったら試してみようかな。
さすがに12GbpsのSASは速いですね…
7台 単SSD/HDDに7並列プロットして、全部32スレ指定(16コアなので)してもネットブラウズ動画視聴できるくらい快適にプロットしてます。
うちも入手次第RAIDですかね、ガンガン使うのはテンポラリなんだから1個にまとめちゃいたいです。
プロット開始2日目で17プロット/dayでした。
開始2日でなかなかのPlot効率ですね。
12コア24スレ指定のPCではリモデでカクつくので、動画視聴できるのはすごいと思いますよ、さすが3950X