二人の会話動画を作るAIを比較する話者と口の同期を確かめる
会話動画は、声が聞こえるだけでなく、誰が話しているか、口と表情が音声に合い、二人の位置と背景が崩れないかで選びます。
二人を一度に生成する機能があるかだけでなく、人物ごとに演技を作って合成する方式も比較対象にします。Runwayの公式チュートリアルはAct-Twoを使った複数人物の会話を、共通の背景動画と人物ごとの出力を合成する手順で説明しています。Google Veo 3.1のネイティブ音声や参照画像は別の候補軸です。この記事は会話の生成結果を新規検証したものではありません。
この記事の目次
会話動画で固定する情報を決める
二人の会話は、声の自然さだけでなく、話者の割り当て、発話の順序、口の開閉、視線、身体の向き、背景の位置がそろって初めて内容が伝わります。最初に台詞を話者A・Bへ分け、同時に話す箇所、間、相づち、画面に表示する字幕を決めます。
人物の表情や背景を生成するカットと、正確な製品説明や固有名詞を読む音声は、同じ工程に押し込めない方が確認しやすいことがあります。話者の顔を保ちたいのか、演技動画を移したいのか、静止画から会話させたいのかで候補の入力が変わるため、モデル名より先に目的を分けます。
| 条件 | 記入すること | 確認方法 |
|---|---|---|
| 話者 | A・Bの顔、衣装、位置、声、台詞の担当 | 台詞の行IDと人物を同じ表で照合する |
| 演技 | 視線、相づち、表情、手の動き、沈黙の長さ | 音声だけ、映像だけ、音声と映像の順に見る |
| 画面 | 二人の全体・寄り、背景、照明、字幕、比率 | カットの切替で位置・光・背景が飛ばないか確認する |
話者を作る方式を比較する
会話動画の候補は、二人を一度に作る方式だけでなく、人物ごとの演技を共通背景へ合成する方式も並べます。下表は公式資料に書かれた入力とワークフローを要約したものです。日本語の発音、口の同期、自然な視線を実際に試聴・再生した結果ではありません。
| 候補 | 公式仕様上の特徴 | 実案件で確認すること |
|---|---|---|
| Runway Act-Two | 演技動画とキャラクター画像/動画を入力し、動き・表情・音声を移す。公式の複数人物チュートリアルでは人物ごとに出力して合成 | 話者ごとの演技動画、口の動き、同じ背景・照明、合成時の位置合わせ |
| Runway Character Script to Video | キャラクター画像とテキスト原稿または音声を入力し、台詞を届けるキャラクター動画を作るアプリとして案内 | 二人分の画像・原稿・声を別々に作れるか、日本語の発音と話者切替、視線を確認 |
| Google Veo 3.1 | 動画内音声、参照画像、画像から動画、始点・終点フレーム、16:9/9:16を公式APIが案内 | 一つのカットで二人を維持できるか、話者と音声の対応、字幕との同期を確認 |
| Gemini Omni Flash | 公式の動画API説明で、テキスト・画像・音声・動画の複数入力と、会話的な動画編集を案内 | 修正指示を何度も加えたとき、話者・背景・口の同期が保持されるかを確認 |
Runwayの複数人物チュートリアルは、Act-Two自体が単一キャラクター入力を前提とし、人物ごとに出力した映像を共通の背景へ合成する流れを示しています。二人を一発で作れるという説明へ置き換えず、必要な生成本数、合成、位置調整、音の編集を見積もりに含めます。
音声・口・背景を分けて確認する
まず音声ファイルまたは原稿だけを確認し、誰が何を話すかを確定します。次に音声を映像へ重ね、口の動きが始まるタイミング、語尾の閉じ方、相づちの表情を見ます。最後に二人の映像を同時に再生し、背景・照明・位置の連続性を検査します。話者の声が自然でも口がずれていれば、会話動画としては修正対象です。
人物ごとに分ける方式
人物AとBの演技動画を別に用意し、同じ背景動画へ合成する場合は、背景の時間・照明・カメラを共通にします。人物レイヤーの位置とマスクを記録し、声の開始時刻をそろえます。
一つのカットで作る方式
二人を一つのカットへ入力する場合は、話者の取り違え、顔の混ざり、字幕の話者表示を確認します。モデルが音声を生成しても、固有名詞や日本語の読みは原稿と照合します。
長い会話を一度に作らず、1往復を基準にしてから延長する方が、修正箇所を指定しやすくなります。延長・編集を使う場合も、同じ背景と最後のフレームを共有できるか、重複フレームや間の不自然さがないかを確認します。
比較用の架空ブリーフを作る
依頼先に会話動画を比較してもらうときは、話者の台詞、声の素材、人物画像、背景、画角、字幕、修正単位を同じ表にします。下表は説明用の架空例で、実在人物・顧客案件・生成結果・会話品質を示しません。
| 目的 | 担当者Aが課題を聞き、担当者Bがサービスの解決方法を20秒で説明する |
|---|---|
| 素材 | A・Bの正面画像、背景画像、話者ごとの声サンプル、確認済みの台本 |
| 台詞 | A:質問2行、B:回答3行。話者ID、読み、間、字幕を行ごとに記録 |
| 固定条件 | Aは左、Bは右、背景の窓は固定、字幕は下部、16:9基準 |
| 比較経路 | 人物別の演技合成、キャラクター画像+原稿、動画内音声の3経路 |
| 検収 | 話者、読み、口、視線、字幕、背景、音量を別項目で確認 |
このブリーフは比較条件の例です。台詞の内容、話者の声、人物の権利、モデルの日本語対応を確認済みという意味ではありません。
話者違いと同期ずれを確認する
会話動画のチェックは、音声の自然さ・口の同期・話者の位置・背景・字幕を分けます。行IDと時刻を付けて、「00:07のBの語尾で口が止まる」「Aの字幕がBの発話中に表示される」のように書きます。原因を推測して一括修正せず、再生成・音声差し替え・字幕編集・合成位置調整のどれかを選びます。
| 症状 | 確認するもの | 依頼先へ聞くこと |
|---|---|---|
| 話者が入れ替わる | 台詞行、声、画面左右、字幕ラベル | 人物別に出力し直せるか。合成時に位置を固定できるか |
| 口と音声がずれる | 子音の開始、語尾、無音の間、相づち | 音声だけ差し替えるのか、口の映像を再生成するのか |
| 目線・表情が不自然 | 話者交代、質問への反応、沈黙の長さ | 演技動画を使えるか、表情だけを修正できるか |
| 背景が切り替わる | カットの境界、人物レイヤー、照明・影 | 共通のベース動画を作るか、背景を編集で固定できるか |
音声を後から差し替えられるかは、モデルの生成機能ではなく制作工程・編集データの有無にも左右されます。納品時に、完成動画、字幕原稿、音声の版、話者別の確認記録が必要かを決めておくと、別の候補へ切り替えるときも比較しやすくなります。
購入・外注の条件に落とす
外注では「二人が話す動画」だけでなく、台本、話者別音声、人物画像、演技動画、背景動画、字幕、口の同期、合成、修正の担当を分けて聞きます。人物ごとに作る方式なら、合成と位置合わせが追加工程です。動画内音声を使う方式でも、原稿の正確さ・声の利用条件・字幕の責任者は別途確認します。
見積もりには、1往復の尺、話者数、画面比率、台詞の変更回数、音声差し替えの扱い、人物・声・台本の利用許諾、編集データの有無を記入します。日本語の固有名詞や数字があるなら比較用原稿へ入れます。日本語ナレーションの比較で読み・間・修正の項目もそろえられます。
話者の割り当て、声、口の同期、背景、字幕、合成と修正を同じ文面で伝えます。
出典・確認日
- Runway「Performance Capture with Act-Two」:演技動画、キャラクター画像/動画、音声・表情・ジェスチャーの入力説明。
- Runway「Creating Multi-Character Dialogues with Act-Two」:共通背景と人物ごとの出力を合成する公式チュートリアル。
- Runway「Character Script to Video」:キャラクター画像と原稿または音声で台詞を作るアプリの説明。
- Google AI for Developers「Video generation in the Gemini API」:Gemini Omni Flashの複数入力・会話的編集とVeoの位置付け。
- Google AI for Developers「Generate videos with Veo 3.1」:参照画像、始点・終点、動画内音声の仕様。
- 日本語ナレーションAIの選び方:読み・間・修正を分ける確認方法。
公式ページの確認日:2026年10月19日。この記事では会話動画の生成・試聴・口の同期テストを行っていません。候補欄は公式仕様と公式ワークフローを整理したもので、日本語の自然さ、話者の保持、口の同期、費用、納期、順位を保証しません。実案件では権利を確認し、短い1往復で話者・音声・口・字幕を検収してから尺を延ばしてください。