AI動画編集
モーショントランスファーとは?
モーショントランスファーとは、ある動画の動きを取り出して別のキャラクターに適用するAI動画編集です。モデルは演者のポーズとタイミングをフレームごとに読み取り、画像や説明文から新しいキャラクターを生成して、ダンスから肩をすくめる動作まで、同じ動きを同じタイミングでさせます。
執筆:DreamBenchチーム。更新。
モーショントランスファーの概要
概要
- 別名
- ツールによって、モーションコントロール、ポーズ転写、ダンス転写とも呼ばれます。
- 入力
- ドライビング動画(演技)とターゲット(新しいキャラクターの画像または説明)。
- 出力
- 同じ動きを同じタイミングで演じる新しいキャラクター。
- 保つもの
- ポーズ、タイミング、多くの場合カメラも。演者の顔、体、服は引き継ぎません。
- 向いている用途
- ダンスやトレンド、キャラクターアニメーション、マスコットを使った広告、プリビジュアライゼーション。
- 苦手なもの
- 手、交差した手足、非常に速い動き、人間の形から大きく離れた体。
モーショントランスファーのビフォーアフター
オリジナル
Morph版よく見ると、2つはフレーム単位では同じではありません。Morphはカメラをより低く近い位置に置き、冒頭の投げ技をクローズアップで見せています。これは生成によるモーショントランスファーによくあることです。演技の流れ、つまりタイミングとポーズは引き継がれ、カメラと細部は新しく生成されます。
モーショントランスファーの仕組み
演技
人が動いているクリップ。動きの元になります。
動き
フレームごとに読み取ったポーズ:関節とタイミングだけで、見た目の情報はなし。
新しいキャラクター
同じ瞬間に同じポーズで生成された、別のキャラクター。
モーショントランスファーは2段階で働きます。まず、ポーズモデルがすべてのフレームで演者を読み取ります。頭、肩、肘、手、腰、膝、足がどこにあるかです。その結果は、演者の見た目を一切含まない、動く骨格です。
次に、動画モデルがその骨格をガイドにして、新しいキャラクターをフレームごとに生成します。キャラクターの見た目は画像または説明で決まります。Everybody Dance Now(2018年)やAnimate Anyone(2023年)などの研究システムがこの手法を確立し、現在の動画モデルはこれを1回の処理に組み込んでいます。骨格に加えて、奥行きや顔も読み取る場合があります。
ガイドとなる処理は、多くの場合ControlNetのように作られています。ControlNetは2023年の手法で、学習済みの画像モデルに、エッジ、深度、人物のポーズといった空間的な制御を加えます。ポーズは体の位置を導き、それ以外はすべてモデルが描きます。
モーショントランスファーの種類
| 読み取るもの | 引き継がれる | |
|---|---|---|
| 全身のポーズ転写 | 骨格:頭、肩、ひじ、手、腰、ひざ、足 | ダンス、歩き、身ぶり、格闘を、そのタイミングごと |
| 顔と表情の転写 | 顔のポイント:目、眉、口、頭の向き | 表情、まばたき、頭の動き、口の形 |
| カメラモーショントランスファー | シーンの中でカメラがどう動いたか | プッシュイン、オービット、手持ちの揺れなど。人の体の動きではない |
モーショントランスファー、モーションキャプチャ、ロトスコープ
| 出力 | 用途 | |
|---|---|---|
| モーショントランスファー | 新しいキャラクターの完成した動画 | SNS動画、広告、手早いアニメーション |
| モーションキャプチャ | 3Dリグ用のアニメーションデータ | ゲーム、映画、3Dキャラクター |
| ロトスコープ | 映像をなぞって描いた輪郭や絵 | VFX、手描きアニメーション |
モーショントランスファーの用途
- トレンド:ペット、アニメのキャラクター、歴史上の人物がダンスを踊る。
- 本物の出演者のように動くマスコットやブランドキャラクター。
- キーフレームなしのアニメーション:スマホで動きを演じて、キャラクターに渡します。
- プリビジュアライゼーション:代役でシーンの段取りを決め、それを最終的なキャラクターで確認する。
モーショントランスファーがうまくいかない場面
- 手と指:小さく動きが速いため、読み違えられやすく、ぼやけたり本数が増えたりします。
- 重なり:腕が体の前で交差したり、2人が触れ合ったりすると、ポーズの読み取りが混乱します。
- まったく違う体:人間のダンスをヘビや車に渡しても、対応させる関節がありません。
- 速さ:非常に速い動きやモーションブラーがあると、骨格のフレームが抜け落ちます。
- 一貫性:新しいキャラクターの顔や服が、動くうちにずれていくことがあります。時間的一貫性をご覧ください。
Morphが動きをコピーせずにクリップを編集したのはなぜですか? Morphは文章からタスクを読み取ります。誰かに動きをさせる、まねさせる、なぞらせる、クリップのように踊らせるという文や、「森の空き地にいるカートゥーンのキツネ」のように誰かがどこかにいることだけを描く文は、その動きで新しい動画を作ります。「置き換える」「消す」「変える」のような変更の動詞で始まる文は、誰かに動きをさせる内容でない限り、クリップそのものを編集します。読み違えていたら、実行する前に「動きをコピー」に切り替えてください。どちらを作るかは、作成画面の文章の下に表示されます。
自分で撮影した演技か、使う権利のある演技を使いましょう。実在の人物が、していないことをしているように本人の同意なく見せないでください。
DreamBenchでのモーショントランスファー
Morphで「動きをまねる」を選び、4〜30秒のクリップをアップロードするかテンプレートを選んで、その動きを演じるキャラクターを画像でタグ付けします。Morphは元のタイミングを保ちます。これはMorphの5つの編集のひとつです。ほかの編集についてはAI動画編集をご覧ください。
| 制限 | その意味 | |
|---|---|---|
| ドライビングクリップ | アップロードしたMP4、MOV、WebM、またはテンプレート。4〜30秒の範囲 | 動きのある部分を選びます。料金は固定の基本料金に、選んだ範囲の1秒ごとの料金を加えたもので、実行前に表示されます。 |
| キャラクター | PNG、JPEG、WebPの画像を最大4枚、各10MBまで。文章では@Image1〜@Image4で指す | キャラクターの鮮明な画像が顔、体、服を決め、クリップが決めるのは動きだけです。 |
| 実在の人物 | 写真はちょうど1枚。動きをする人物の写真で、本人か同意した人であることをチェックボックスで確認します | 写真は、その背景も含めて、顔を受け付ける処理レーンでクリップの動きに合わせて動かされます。 |
| 書かれた言葉 | 最大2000文字。「同じ動きをする」「こんなふうに踊る」と書くと、Morphは自動で「動きをコピー」に切り替わる | 変更を表す動詞がなく、新しいキャラクターを説明するだけの文も、動きをまねる指示として読まれます。Morphの判断が違っていたら、自分で切り替えてください。 |
| 出力 | 480pのプレビュー、その後「HDにする」で1080pまたは720p。元のサウンドは残ります | ダンスは元の音楽に乗ったままです。1080pのレンダリングはプレビューのテイクをそのまま仕上げ、720pは新たにレンダリングします。 |
よくある質問
モーショントランスファーはディープフェイクや顔の入れ替えですか?
ディープフェイクになることはあります。アニメのキャラクターや自分のキャラクターを動かすのは違いますが、実在の人物がしていないことをしているように、本人の同意なしに見せるのはディープフェイクで、お住まいの地域では違法になる場合があります。顔の入れ替えではありません。顔の入れ替えは動画を保ったまま顔の持ち主を変えますが、モーショントランスファーは動きだけを保ち、顔も体も含めて新しいキャラクターを生成します。
動画のダンスをキャラクターに踊らせるには?
動画のダンスをキャラクターに踊らせるには、1人が全身で写っていて、カメラが固定された4〜30秒のクリップを使います。Morphで「動きをまねる」を選び、クリップをアップロードし、画像でキャラクターをタグ付けします。Morphは元の動画のタイミングを保ったまま、そのキャラクターが踊る映像を生成します。
モーショントランスファーに3Dモデルは必要ですか?
いいえ。AIのモーショントランスファーは、動画と、画像または説明があれば使えます。リグが必要なのは、3Dアニメーション用のモーションキャプチャです。
いちばん確実に転写できる動きはどんな種類ですか?
全身がフレームに収まった1人の人物が、ほぼ固定のカメラの前で適度な速さで動くもの。ダンス、歩き、ジェスチャーなどです。速い回転、交差した手足、手、2人が触れ合う動きは、いちばん不安定です。手は小さく速いためポーズモデルが読み違えやすく、動画モデルがぼかしたり指を増やしたりします。交差したり触れ合ったりする2人の演者はポーズの読み取りを混乱させるので、1人ずつ転写してください。
どんな動画でも動きの参照に使えますか?
技術的にはほとんどのクリップが使えますが、自分で撮影したか、権利を持っている演技だけを使ってください。Morphで使えるクリップは4〜30秒です。
モーショントランスファーとキャラクターの一貫性はどう関係していますか?
モーショントランスファーはキャラクターの動き方を決め、キャラクターの一貫性は見た目を保ちます。良い結果には両方が必要です。正しい動きと、最初のフレームから最後まで変わらない顔と服です。
良いドライビング動画の条件は?
無地の背景の前で、全身がフレームに収まった1人の人物。光は安定していて、カメラはあまり動かないもの。はっきりしていて速すぎない動きが、最もきれいに転写されます。
モーショントランスファーでカメラの動きは残りますか?
たいていはそうですが、常にではありません。動きの節目とポーズは引き継がれますが、生成ツールは上の格闘シーンの編集でカメラを低く近くに置いたように、構図を変えることがあります。重要なら、カメラは撮影時のまま保つよう指示してください。
人間の動きを動物やアニメキャラクターに移せますか?
はい、スケルトンを当てられる手足のある体ならできます。上の格闘シーンは3匹の猫が演じています。ヘビや車にはポーズを受け取る関節がないので、結果がずれていきます。
モーショントランスファーにはお金がかかりますか?
トライアルを用意しているツールもあります。DreamBenchでは無料アカウントを作成してプランを選び、Morphの編集1回ごとにプランのクレジットを使います。
動画のダンスを自分に踊らせることはできますか?
はい。DreamBenchで動画のダンスを自分に踊らせるには、Morphで「実在の人物」をオンにし、動きを演じる人物の写真をちょうど1枚追加して、本人か許可を得た人物であることのチェックボックスにチェックを入れます。写真は、その背景も含めて、顔を受け付ける処理レーンでクリップの動きに合わせて動かされます。初期設定では、Morphは実在の顔を拒否します。使うのは自分の顔か、許可を得た顔だけにしてください。
モーショントランスファーで元の動画のサウンドは残りますか?
DreamBenchのモーショントランスファーでは、元の動画のサウンドが残ります。最後に、「サウンドを追加中」と表示される工程で、クリップ自体のサウンドが新しい動画の下に戻されるので、ダンスは元の音楽に乗ったままで、セリフも話された場所でそのまま聞こえます。「クリップのサウンドを残す」のスイッチは標準でオンです。エディターで自分の音源を加えたい場合はオフにしてください。投稿する権利のある音楽だけを使ってください。
ダンスの途中でキャラクターの顔が変わるのはなぜですか?
ダンスの途中でキャラクターの顔が変わるのは、新しいキャラクターのすべてのフレームが生成され、骨格が決めるのは体の位置だけだからです。顔はフレームごとに元の画像とモデルの記憶から描き直され、速い回転、顔を横切る手、長いクリップはずれる機会を増やします。キャラクターの画像は明るくはっきりしたもの1枚にし、クリップの中で動きがゆっくりした部分を選び、編集する範囲を短くして、気に入ったものをHDでレンダリングしてください。
関連ページ
DreamBenchでは
出典
- Everybody Dance NowarXiv(に確認)
- Animate Anyone: Consistent and Controllable Image-to-Video Synthesis for Character AnimationarXiv(に確認)
- Adding Conditional Control to Text-to-Image Diffusion ModelsarXiv(に確認)
DreamBenchは独立したプラットフォームで、このページに登場する企業との提携や、それらの企業による推奨はありません。