制御に使用されているソフトウェア
たくさんの計算機を並べて膨大な計算を行わせるためには、それを制御するためのソフトウェアが必要になります。これはスケジューラやキューイングシステム、ジョブ管理システムなどと呼ばれ、商用のものからオープンソースのものまで多数存在します。これだけ聞くと難しそうですが、われわれがレンダーサーバで使用しているBackburnerや Deadline、Qube!などもこの仲間です。
京では富士通が開発したParallelnaviが使用されています。また、TSUBAME3.0ではUNIVA Grid Engineを採用しています。そのほかTorque（PBS）、NQS、LFSといったソフトウェアが広く使われているようです。
CG界隈ではどうでしょうか。Weta Digitalでは以前はAlfredを使用していたものの、Plowを独自に開発して現在はそちらを使用しています。ILMはこれまた自社開発のObaQを使用しています（していた？ 最近の情報が見つからないので詳細は不明です）。ObaQ はアカデミー賞も受賞しています。また、こちらのページに動作中の画面などが映っています。ちなみにObaQの名前の由来は日本の漫画の主人公だそうです。そういえば何だか聞いたことあるような名前ですね。オバ...... :-) Pixar Animation Studiosも独自開発でTractorを使用・販売しています。
そのほかのプロダクションも独自開発するか、Deadline、Qube! といったシステムを使用しており、スーパーコンピュータで使用されているものを選択している例はとても少ないです。これはちょっと面白い傾向ですね。私の印象では、ユーザー層のちがいからスケジューラの本体の機能よりも、GUIを含めたトータルのパッケージに注力しているのかなという気がします。
今回使用するソフトウェア
全体の概略が見えてきたところで、手元に環境をつくっていきます。今回使用するのはHTCondorという、アメリカのウィスコンシン大学で30年（！！）にわたって開発が行われ、今もアクティブな活動が続けられているソフトウェアです。
前述のTorque（PBS）、NQS、LFSに比べてシェアは高くないようですが、いくつかの点で非常に魅力的です。
・Windows版も公式サポートしており、インストーラを使って簡単に導入できる
・クライアントPCの空き時間にジョブを実行することが最初から想定されている
・長期に渡って開発されており、近日中にプロダクトがなくなる心配が少ない
・オープンソースソフトウェアであり、無料で使用できる
・少ないながらもMayaなどを動作させた実績がある
全ての環境をLinuxに移行しているプロダクションには特にメリットにはならないですが、映像制作をしているとどうしてもWindowsがないとできない作業というのが存在します。処理の自動化をする場合でもそこに対応できないと困ってしまうので、公式にWindowsがサポートされているのはとても助かります。また、インストーラを使って手軽に環境構築できるのもありがたいです。加えて、クライアントPCの空き時間にジョブを実行するのはプロダクションではよく行われているので、この機能が標準で存在するのは嬉しいです。Mayaを動かした実績も"Rendering Maya Projects With Condor"としてドキュメント化されています（大分古いですが）。実際のところ、ここで書かれているような専用のツールを用意しなくてもMayaのジョブを実行することは可能です。
反面、デメリットとしては標準のモニタリング用GUIが存在しません。標準では全てコマンドラインからの操作になるので、コマンドラインインターフェイスに慣れていない初心者の方にとってはちょっとハードルが高いです。
※ とは言っても世間的に見れば、われわれが普段触れているファンシーでゴテゴテしたGUIツールが山ほど揃った環境の方が特殊ではあるのですが。
ただ、探せばHTCondor用のGUIインターフェイスを作成している方もいます。例えばCondor GUIはWindows版の実行ファイルも用意されており、ダウンロードして実行するだけで使用できます。管理者向けの環境もElasticsearchやGrafanaといった一般的に使用されているツールを使って構築する事例が紹介されていたりします。
次回予告
次回からは、実際にHTCondorの環境構築を行い、レンダリングやそのほかサーバ上で可能な処理を実行できるようにしていきます。これらのジョブの実行はHTCondorに限らずBackburnerやDeadlineといったソフトウェアでも同様のことができるので、上手く応用することで手元にある環境の改善につながるヒントを見つけられるでしょう。
第8回の公開は、2019年1月上旬を予定しております。
プロフィール
