AI 视频生成
什么是文生视频?
文生视频,即 T2V,是把书面提示词变成一段新视频片段的 AI 视频生成。你描述主体、动作、场景、镜头和风格;模型生成一段短片,通常 4 到 15 秒,每一帧都根据文字凭空生成,部分模型还会生成匹配的声音。
作者:DreamBench 团队。更新于 。
文生视频概览
概览
- 输入
- 一段提示词:从几个词到几段话都可以。
- 输出
- 一个镜头,通常为 4 到 15 秒(少数模型可达 30 秒);部分模型还会加上对白和声音。
- 由你决定的部分
- 只有文字写到的内容。其余一切都由模型决定。
- 最适合
- 创意、氛围、风景、空镜、风格化场景。
- 不擅长
- 特定的面孔或产品、准确的文字、众多人物、较长的动作。
文生视频模型的原理
文生视频的原理是用海量配有描述的视频片段训练模型,让它学会哪些词对应哪些画面和动作。生成时,它先对你的提示词进行编码,从一段整个片段大小的随机噪声开始,一步步去除噪声,直到剩下与文字相符的画面。
提示词
你的文字:主体、动作、镜头、光线。
文本编码器
把文字转换成视频模型能理解的数字。
噪声
一块随机数值,大小相当于压缩后的整段视频。
去噪
在提示词的引导下,模型一步步去除噪声,所有帧同时进行。
解码器
把压缩后的结果还原成全尺寸的画面。
视频
以固定帧率和尺寸输出的画面;部分模型会同时生成声音。
除了文字,没有任何东西约束它,所以文生视频模型拥有所有模式中最大的自由度,这既是它的优势,也是它的弱点:同一条提示词运行两次,会得到两段不同的视频片段。想深入了解整个流程,请参阅 AI 视频生成。
生成式视频与脚本转视频工具
有些号称文生视频的工具并不生成画面。它们拿到脚本后挑选匹配的素材片段,再配上 AI 配音和字幕。文字转语音范围更窄:只把脚本变成声音,完全没有画面。文生视频模型的工作方式不同:它生成每一帧,所以你看到的一切都不是实拍的。
如果你已经有一张图片,展示了片段应有的样子,那就从它开始:图生视频会把你的图片作为首帧,再生成动作。
提示词生成器又是另一回事:它只写提示词,不生成视频。AI 视频提示词生成器把几项选择变成一段镜头描述,顺序就是模型阅读的顺序,并提供 Veo 3.1、Seedance 2.5 和 Kling 3.0 的预设;视频片段仍由视频模型生成。
如何写文生视频提示词
视频模型读提示词的方式,就像读一份镜头描述。每个部分写得越清楚,模型需要猜的就越少。一个实用的顺序是:
| 要写什么 | 示例 | |
|---|---|---|
| 主体 | 人物或事物,加上重要的细节 | 一位身穿黄色雨衣的老渔夫 |
| 动作 | 一个清晰的动作,用现在时描述 | 从小船的船舷边拖起一张渔网 |
| 背景 | 地点和时间 | 黎明时分灰色的海面上,海鸥在头顶盘旋 |
| 运镜 | 景别和运镜 | 中景,缓慢推近 |
| 光线与风格 | 光线、色彩、胶片质感 | 柔和的阴天光线,低饱和色调,35mm 胶片颗粒 |
| 声音 | 适用于能生成声音的模型 | 海浪拍打船身,远处传来海鸥的叫声 |
- 一条提示词对应一个镜头:模型生成的是一个连续镜头,所以只描述一个机位和一个动作。
- 描述你想看到的,而不是你不想看到的:“空荡荡的街道”比“没有人”效果更好。
- 说明运镜方式,否则模型会自己选一种。
- 屏幕上的文字要简短,或者干脆不放,之后再添加。
拆解一段真实的文生视频描述
这段视频是在 DreamBench 上根据下方的描述,用 Veo 3.1 以 1080p 带声音生成的。它之所以是好描述,是因为每句话都给了模型可以呈现的内容,没有一句是它做不到的。
- Veo 3.1
- 16:9
- 1080p
- 15 秒
- 带声音
原样呈现的描述
Underwater at sunrise: light shafts sweep across a coral reef as a sea turtle glides through a school of silver fish that parts around it like a curtain. A ray lifts from the sand in a slow wingbeat of silt. The turtle rises toward the glittering surface and breaks it into the sun. Muffled underwater ambience, then one clear breath.| 原文 | 它们解决了什么 | |
|---|---|---|
| 场景与时间 | “Underwater at sunrise … a coral reef” | 镜头在哪里,以及光线的颜色。 |
| 光线 | “light shafts sweep across” | 模型能渲染出的可见、移动的光线。 |
| 主体与动作 | “a sea turtle glides through a school of silver fish that parts around it like a curtain” | 一个主体、一个清晰的动作,以及周围事物如何反应。 |
| 次要动态 | “A ray lifts from the sand in a slow wingbeat of silt” | 第二个更慢的动态,让主体周围的画面不至于静止。 |
| 一个结尾 | “The turtle rises toward the glittering surface and breaks it into the sun” | 镜头在哪里结束,让视频片段有个完整的形态。 |
| 声音 | “Muffled underwater ambience, then one clear breath” | 听到什么,以及何时变化。 |
引号里是描述的英文原文:提示词用模型能理解的任何语言都可以。
从弱提示词到强提示词
大多数弱提示词不是写错了,而是写得太短。下面每一步都补充一类信息,每一步都替模型省去一个原本会随机做出的选择。
| 提示词 | 模型仍需猜测的内容 | |
|---|---|---|
| 1 | 一只海龟在游泳。 | 所有东西:地点、光线、镜头、风格、动作的时长。 |
| 2 | 日出时分,一只海龟在珊瑚礁上方游动。 | 镜头、周围的动态、结尾和声音。 |
| 3 | 日出时分,一只海龟滑过珊瑚礁,穿过一群银色的鱼。镜头在它身旁缓慢跟拍。 | 镜头如何结束,以及我们听到什么。 |
| 4 | 日出时分,一只海龟滑过珊瑚礁,穿过一群银色的鱼,鱼群在它周围散开。镜头在它身旁缓慢跟拍。它向上游去,冲出水面,迎向阳光。先是沉闷的水下声音,然后是一声清晰的呼吸。 | 很少:剩下的只有纹理和细节,而这正是模型最擅长的。 |
一个镜头、一次运镜、一句台词
一段描述可以要求一个不间断的镜头、一次缓慢的运镜和一句台词,甚至是另一种语言的台词。这段用 Seedance 2.5 生成的 30 秒视频,从舀汤的勺子到最后的微笑写成一个连续镜头,厨师的台词用的是日语。
- Seedance 2.5
- 16:9
- 720p
- 30 秒
- 带声音
原样呈现的描述
One unbroken take inside a tiny late-night ramen shop, steam everywhere. An old chef ladles broth with total focus, tastes it, pauses, and says quietly in Japanese: 「五十年、同じスープ。まだ完璧じゃない。」("Fifty years, the same soup. Still not perfect.") Without a cut he turns, sets the finished bowl in front of a young customer at the counter, and watches him take the first sip — allowing himself the smallest smile as the camera drifts slowly closer through the steam. No cuts, no cutaways: one continuous shot from ladle to smile.人们用文生视频做什么
- 氛围短片和概念片,在投入拍摄成本之前先试验一个创意。
- 空镜:城市风光、自然景观、质感画面和人群,用于穿插在其他镜头之间。
- 围绕一个引人注目的画面或瞬间制作的社交媒体短视频。
- 会动的故事板,让导演和客户看到同一个场景。
- 用于演示、音乐和现场活动的背景画面和循环视频。
DreamBench 上的文生视频模型
DreamBench 上的每个视频模型都能根据文字生成视频。它们的区别在于声音、能否同时接收尾帧,以及渲染的清晰度:
| 模型 | 声音 | 首尾帧 | 分辨率 | 画面比例 |
|---|---|---|---|---|
| Seedance 2.5 | 可开可关 | 是 | 480p, 720p, 1080p | 1:1 · 16:9 · 9:16 · 4:3 · 21:9 |
| Seedance 2.0 | 可开可关 | 是 | 720p, 1080p, 4K | 1:1 · 16:9 · 9:16 · 4:3 · 21:9 |
| Veo 3.1 | 始终开启 | 是 | 720p, 1080p, 4K | 16:9 · 9:16 |
| Kling 4.0 | 始终开启 | 是 | 720p, 1080p | 1:1 · 16:9 · 9:16 · 4:3 · 21:9 |
| Kling 3.0 | 可开可关 | 是 | 720p, 1080p | 1:1 · 16:9 · 9:16 · 4:3 · 21:9 |
| Wan 3.0 | 始终开启 | 是 | 720p, 1080p | 1:1 · 16:9 · 9:16 · 4:3 |
| Wan 2.7 | 可开可关 | 是 | 720p, 1080p | 1:1 · 16:9 · 9:16 · 4:3 |
| Grok Imagine 1.5 | 始终开启 | 仅首帧 | 720p, 1080p | 1:1 · 16:9 · 9:16 · 4:3 |
| MiniMax H3 | 始终开启 | 是 | 720p, 1080p | 1:1 · 16:9 · 9:16 · 4:3 · 21:9 |
| HappyHorse 1.1 | 始终开启 | 仅首帧 | 720p, 1080p | 1:1 · 16:9 · 9:16 · 4:3 · 21:9 |
| LTX-2.3 | 可开可关 | 是 | 720p, 1080p, 4K | 16:9 · 9:16 |
| Vidu Q2 | 可开可关 | 仅首帧 | 720p, 1080p | 1:1 · 16:9 · 9:16 · 4:3 |
没有哪个模型适合所有描述。模型列表中每个模型的页面都给出了它的时长、分辨率和声音选项;用同一份描述在两个模型上测试并比较。
| 你可以设置的内容 | 何时决定 | |
|---|---|---|
| 时长 | 4 到 300 秒,以整秒计:Starter 最长 30 秒,Plus 为 2 分钟,Ultra 和 Studio 为 5 分钟 | 在生成之前决定。大多数模型的单个镜头为 8 到 15 秒,Seedance 2.5 和 Wan 3.0 最长 30 秒,所以更长的要求会被写成多个镜头。 |
| 画幅 | 1:1、16:9、9:16、4:3 或 21:9 | 在生成之前决定。Veo 3.1 和 LTX-2.3 只渲染 16:9 和 9:16。 |
| 分辨率 | Seedance 2.5 支持 480p,所有模型都支持 720p 和 1080p,Seedance 2.0、Veo 3.1 和 LTX-2.3 支持 4K | 在生成之前决定。更高的档位耗时更长,每秒消耗的积分也更多。 |
| 声音 | Veo 3.1、HappyHorse 1.1、Grok Imagine 1.5、MiniMax H3 和 Wan 3.0 始终开启;其他模型有开关 | 在生成之前决定。台词写在提示词里,就像厨师那句一样。 |
| 原文 | 任意长度的描述,用模型能理解的任何语言 | 最后才读取:以上所有项都在模型看到任何文字之前就已确定。 |
文生视频的不足之处
DreamBench 上的文生视频
在 DreamBench 上,你不需要自己写每一条提示词。你只要描述想要的影片,DreamBench 就会写出镜头列表,并为每个视频片段写出完整的提示词,包括镜头、光线、动作和声音,然后用你选择的模型渲染,例如 Seedance 2.5、Veo 3.1 或 Kling 3.0。添加角色或产品的图片,它们就会在每个镜头中作为参考图使用。
常见问题
T2V 是什么意思?
T2V 是 text to video(文生视频)的缩写:根据文字提示词生成视频。I2V(image to video,图生视频)和 V2V(video to video,视频生视频)是另外两种常见模式的名称。
文生视频需要多长时间?
每段视频片段需要不到一分钟到几分钟不等,取决于模型、时长和分辨率。更高的画质和声音通常需要更长时间。
文生视频能做出一整部影片吗?
无法一次完成。模型一次只生成一个镜头,所以一部影片要先规划成镜头列表,再逐个生成每个镜头,DreamBench 根据你的描述做的正是这件事。
文生视频和图生视频有什么区别?
文生视频只从文字出发,所以一切看起来是什么样子都由模型构想。图生视频从你提供的图片出发,图片决定了首帧;很多人会先做一张满意的静态图,再让它动起来。
使用 AI 视频生成器需要懂编程或 AI 吗?
不需要。你只需用平常的话写出想看到的内容。在 DreamBench 上,你描述影片,每个镜头的提示词会自动为你写好。
为什么我的视频和提示词不符?
你的 AI 视频与提示词不符,是因为模型对某些词的权重高于其他词,并用训练中常见的内容填补空白。把最重要的东西放在最前面,只写一个动作和一种运镜,描述你想看到的而不是要避免的,并检查设置:片段时长、画面比例和起始帧在模型读到第一个字之前就已经定好了。
文生视频能生成声音、音乐和语音吗?
在能生成声音的模型上可以:对白、音效和环境声与画面一同生成,提示词里写的台词会由角色说出来,就像上面拉面片段中厨师的日语台词那样。上表列出了哪些模型能生成声音;其余模型生成无声视频。想要精确指定的音乐,建议事后再加。
可以用英语以外的语言写文生视频提示词吗?
可以。本页的说明是用英文写的,但提示词可以用模型能理解的任何语言,台词还可以再换一种语言,就像拉面示例片段那样。
可以为 TikTok 或 Reels 生成竖屏的文生视频片段吗?
可以。DreamBench 上的每个视频模型都能渲染 9:16;AI 视频生成页面上的跑步者片段就是用 Kling 3.0 生成的 9:16。请在生成前选好比例,因为生成后的片段不裁剪就无法改变画幅。
为什么我的 AI 视频里的文字拼错了?
模型学的是文字看起来的样子,而不是怎么拼写,所以招牌和字幕会出现错误或凭空造出的字母。请不要在提示词里写画面中的文字,之后在编辑器里添加。
文生视频要花钱吗?
这取决于应用。在 DreamBench 上,生成第一个片段前,你需要注册免费账号并选择套餐,每个片段都会消耗套餐中的积分。Starter 套餐的视频上会显示一个小的 DreamBench 水印;更高的套餐会去除它。
文生视频提示词应该写多长?
文生视频提示词的长度,应该刚好把模型原本要猜的每一项都定下来,不必更长:一个主体、一个动作、场景、运镜、光线和声音,一个镜头写下来就是几句话。上面那段海龟描述有 60 个词,只给模型留下纹理和细节去决定;改写表里的一行版本则把一切都留给了模型。
文生视频能渲染什么分辨率?
DreamBench 上的文生视频在所有模型上都能以 720p 或 1080p 渲染,在 Seedance 2.5 上可以用 480p 作为更省积分的草稿,在 Seedance 2.0、Veo 3.1 和 LTX-2.3 上可达 4K;Starter 套餐止步于 1080p,其他套餐可达 4K。分辨率在模型读取提示词之前就已确定,更高的档位耗时更长,每秒消耗的积分也更多,所以请用 720p 打草稿,再以更高分辨率渲染要保留的那一版。
文生视频能生成一个连续的 30 秒镜头吗?
文生视频可以在单个镜头能达到这个长度的模型上生成一个连续的 30 秒镜头:Seedance 2.5 和 Wan 3.0 能渲染最长 30 秒的一镜到底,上面的拉面片段就是这样在 Seedance 2.5 上生成的,描述中写了“不剪辑、不切镜”。其他大多数模型的单个镜头为 8 到 15 秒,所以在它们上面要求 30 秒会被写成两个或更多镜头,每个衔接处有一次剪切。
相关内容
在 DreamBench 上
DreamBench 工具
模型页面
来源
本页介绍的是 DreamBench 自己的工具和模型,信息来自产品本身所用的同一套数据表。