Wan 2.2 テキストから動画とは
Wan 2.2 は3つのオープンモデルとともに登場しました。Wan2.2-T2V-A14B がテキストから動画のモデルで、270億パラメータ、各ステップで140億が動作する専門家混合型の拡散トランスフォーマーです。高ノイズ側の専門家が全体のレイアウトを決め、低ノイズ側の専門家が細部を仕上げます。Wan2.2-I2V-A14B は既存の画像を動かし、Wan2.2-TI2V-5B は両方をこなす小型のハイブリッドで、民生用 GPU で 720p・24 fps で動きます。
Wan 2.1 と比べ、2.2 のモデルは画像を66%、動画を83%多く使って学習され、照明・構図・コントラスト・色調の詳細なラベルが付いています。だからプロンプトでは、「soft lighting」「warm colors」「low angle shot」といった映像用語で光や構図を指定できます。いずれもアリババ自身のプロンプト語彙にある言葉です。
動画プロンプトの書き方
動画プロンプトは静止画ではなく短い場面を描写します。うまくいく構成の一つは、被写体・動作・舞台・カメラ・スタイルです:「赤いキツネが松林の新雪を歩き、カメラの方へ顔を向ける、ローアングルのトラッキングショット、柔らかな朝の光、シネマティック」。各要素は、書かなければモデルが勝手に決める点を埋めます。
- 被写体と動作:被写体は1つ、動詞のあるはっきりした動作を1つ。5秒で足りるのは仕草、歩き、手振りまでで、物語には足りません。
- 舞台:場所と時間帯が光を決めます。
- カメラ:固定、パン、ティルト、トラッキング、寄り、ドローン撮影。指定しなければモデルが選びます。
- スタイル:シネマティック、ドキュメンタリー、アニメ、クレイアニメ、35mm フィルム。スタイル語は1つで十分。
動作は平易な文で書きます。アリババ自身のプロンプト例のように、光や構図はキーワードで指定できますが、タグの羅列では動きを説明できません。ネガティブプロンプトは定番の欠陥に使います(ぼやけ、ちらつき、歪んだ手、余分な指、透かし、字幕)。ただし、効くのはガイダンスが1を超えるときだけで、4ステップの Lightning LoRA ワークフローはガイダンス1で動くため、ネガティブプロンプトを無視します。
設定と生成時間
公式の既定値は 16 fps で81フレーム、480p または 720p、40ステップ、ガイダンス3〜4です。ComfyUI のワークフローでは20ステップ・ガイダンス3.5、Lightning LoRA を使う場合は4ステップ・ガイダンス1です。公式の設定では、データセンター用 GPU の H100 1枚で 480p のクリップに約5分半かかり、720p は同じフレーム数でその約3倍かかります。シードは画像生成と同じで、固定すれば2つのプロンプトを比べられ、変えれば同じプロンプトの別テイクが得られます。アスペクト比は生成前に選び、通常は 16:9 か 9:16。後から変えることはできません。
1回ごとに時間がかかるので、480p でプロンプトを試してから 720p で再実行します。ただし、ノイズの形が変わるため、480p のテイクのシードを使っても 720p では別のクリップになります。悪い結果の多くは、動作が多すぎるプロンプトや矛盾したカメラ指示が原因で、設定のせいではありません。
テキストから動画がまだできないこと
モデルが想定している長さは5秒、81フレームで、それ以上は崩れていきます。動画内の長い文字は信頼できません。手や、複数人の速く複雑なやり取りはまだよく失敗します。物理は正確というより「もっともらしい」程度で、水・布・髪はよく動きますが、ボールの跳ね方は間違うことがあります。音声はありません。狙った見た目が欲しいなら画像から動画の方が簡単です。Stable Diffusion、SDXL、Flux で最初のフレームを作り、Wan 2.2 で動かしましょう。
Wan 2.2 T2V をローカルで動かす
ウェイトは Hugging Face にあり、ComfyUI、Diffusers、公式リポジトリで動きます。アリババが「80 GB のカードが必要」とする公式スクリプトでは、14B の T2V モデルの VRAM 使用量はピーク時に 480p で約 41 GB、720p で約 60 GB です。ComfyUI なら、fp8 チェックポイントとオフロードを使って 24 GB のカードでも動きますが、1本に数分かかります。5B モデルは RTX 4090 で 720p の5秒クリップを10分以内に生成します。ComfyUI なら 8 GB のカードに収まります。それ未満なら、クラウド GPU か、このサイトの無料デモをお使いください。このデモは、最初のフレームになる画像から動画を作ります。