跳到主要内容

AI 视频生成

什么是文生视频?

文生视频,即 T2V,是把书面提示词变成一段新视频片段的 AI 视频生成。你描述主体、动作、场景、镜头和风格;模型生成一段短片,通常 4 到 15 秒,每一帧都根据文字凭空生成,部分模型还会生成匹配的声音。

作者:DreamBench 团队。更新于 。

文生视频概览

概览

输入
一段提示词:从几个词到几段话都可以。
输出
一个镜头,通常为 4 到 15 秒(少数模型可达 30 秒);部分模型还会加上对白和声音。
由你决定的部分
只有文字写到的内容。其余一切都由模型决定。
最适合
创意、氛围、风景、空镜、风格化场景。
不擅长
特定的面孔或产品、准确的文字、众多人物、较长的动作。

文生视频模型的原理

文生视频的原理是用海量配有描述的视频片段训练模型,让它学会哪些词对应哪些画面和动作。生成时,它先对你的提示词进行编码,从一段整个片段大小的随机噪声开始,一步步去除噪声,直到剩下与文字相符的画面。

  1. 提示词

    你的文字:主体、动作、镜头、光线。

  2. 文本编码器

    把文字转换成视频模型能理解的数字。

  3. 噪声

    一块随机数值,大小相当于压缩后的整段视频。

  4. 去噪

    在提示词的引导下,模型一步步去除噪声,所有帧同时进行。

  5. 解码器

    把压缩后的结果还原成全尺寸的画面。

  6. 视频

    以固定帧率和尺寸输出的画面;部分模型会同时生成声音。

文生视频的处理流程。提示词引导每一步去噪,所有帧同时进行。

除了文字,没有任何东西约束它,所以文生视频模型拥有所有模式中最大的自由度,这既是它的优势,也是它的弱点:同一条提示词运行两次,会得到两段不同的视频片段。想深入了解整个流程,请参阅 AI 视频生成。

生成式视频与脚本转视频工具

有些号称文生视频的工具并不生成画面。它们拿到脚本后挑选匹配的素材片段,再配上 AI 配音和字幕。文字转语音范围更窄:只把脚本变成声音,完全没有画面。文生视频模型的工作方式不同:它生成每一帧,所以你看到的一切都不是实拍的。

如果你已经有一张图片,展示了片段应有的样子,那就从它开始:图生视频会把你的图片作为首帧,再生成动作。

提示词生成器又是另一回事:它只写提示词,不生成视频。AI 视频提示词生成器把几项选择变成一段镜头描述,顺序就是模型阅读的顺序,并提供 Veo 3.1、Seedance 2.5 和 Kling 3.0 的预设;视频片段仍由视频模型生成。

如何写文生视频提示词

视频模型读提示词的方式,就像读一份镜头描述。每个部分写得越清楚,模型需要猜的就越少。一个实用的顺序是:

视频提示词的组成部分
要写什么示例
主体人物或事物,加上重要的细节一位身穿黄色雨衣的老渔夫
动作一个清晰的动作,用现在时描述从小船的船舷边拖起一张渔网
背景地点和时间黎明时分灰色的海面上,海鸥在头顶盘旋
运镜景别和运镜中景,缓慢推近
光线与风格光线、色彩、胶片质感柔和的阴天光线,低饱和色调,35mm 胶片颗粒
声音适用于能生成声音的模型海浪拍打船身,远处传来海鸥的叫声
  • 一条提示词对应一个镜头:模型生成的是一个连续镜头,所以只描述一个机位和一个动作。
  • 描述你想看到的,而不是你不想看到的:“空荡荡的街道”比“没有人”效果更好。
  • 说明运镜方式,否则模型会自己选一种。
  • 屏幕上的文字要简短,或者干脆不放,之后再添加。

拆解一段真实的文生视频描述

这段视频是在 DreamBench 上根据下方的描述,用 Veo 3.1 以 1080p 带声音生成的。它之所以是好描述,是因为每句话都给了模型可以呈现的内容,没有一句是它做不到的。

原样呈现的描述

Underwater at sunrise: light shafts sweep across a coral reef as a sea turtle glides through a school of silver fish that parts around it like a curtain. A ray lifts from the sand in a slow wingbeat of silt. The turtle rises toward the glittering surface and breaks it into the sun. Muffled underwater ambience, then one clear breath.
在 Veo 3.1 上文生视频:主体、动作、光线和声音,每样只写一次,并按发生的顺序排列。 在 DreamBench 上制作,发布于 。
这段描述每一部分的作用
原文它们解决了什么
场景与时间“Underwater at sunrise … a coral reef”镜头在哪里,以及光线的颜色。
光线“light shafts sweep across”模型能渲染出的可见、移动的光线。
主体与动作“a sea turtle glides through a school of silver fish that parts around it like a curtain”一个主体、一个清晰的动作,以及周围事物如何反应。
次要动态“A ray lifts from the sand in a slow wingbeat of silt”第二个更慢的动态,让主体周围的画面不至于静止。
一个结尾“The turtle rises toward the glittering surface and breaks it into the sun”镜头在哪里结束,让视频片段有个完整的形态。
声音“Muffled underwater ambience, then one clear breath”听到什么,以及何时变化。

引号里是描述的英文原文:提示词用模型能理解的任何语言都可以。

从弱提示词到强提示词

大多数弱提示词不是写错了,而是写得太短。下面每一步都补充一类信息,每一步都替模型省去一个原本会随机做出的选择。

同一个想法,四种写法
提示词模型仍需猜测的内容
1一只海龟在游泳。所有东西:地点、光线、镜头、风格、动作的时长。
2日出时分,一只海龟在珊瑚礁上方游动。镜头、周围的动态、结尾和声音。
3日出时分,一只海龟滑过珊瑚礁,穿过一群银色的鱼。镜头在它身旁缓慢跟拍。镜头如何结束,以及我们听到什么。
4日出时分,一只海龟滑过珊瑚礁,穿过一群银色的鱼,鱼群在它周围散开。镜头在它身旁缓慢跟拍。它向上游去,冲出水面,迎向阳光。先是沉闷的水下声音,然后是一声清晰的呼吸。很少:剩下的只有纹理和细节,而这正是模型最擅长的。

一个镜头、一次运镜、一句台词

一段描述可以要求一个不间断的镜头、一次缓慢的运镜和一句台词,甚至是另一种语言的台词。这段用 Seedance 2.5 生成的 30 秒视频,从舀汤的勺子到最后的微笑写成一个连续镜头,厨师的台词用的是日语。

原样呈现的描述

One unbroken take inside a tiny late-night ramen shop, steam everywhere. An old chef ladles broth with total focus, tastes it, pauses, and says quietly in Japanese: 「五十年、同じスープ。まだ完璧じゃない。」("Fifty years, the same soup. Still not perfect.") Without a cut he turns, sets the finished bowl in front of a young customer at the counter, and watches him take the first sip — allowing himself the smallest smile as the camera drifts slowly closer through the steam. No cuts, no cutaways: one continuous shot from ladle to smile.
在 Seedance 2.5 上生成的一个不间断镜头,30 秒,带声音。描述中的“No cuts, no cutaways”要求模型不要在片段内部剪辑。 在 DreamBench 上制作,发布于 。

人们用文生视频做什么

  • 氛围短片和概念片,在投入拍摄成本之前先试验一个创意。
  • 空镜:城市风光、自然景观、质感画面和人群,用于穿插在其他镜头之间。
  • 围绕一个引人注目的画面或瞬间制作的社交媒体短视频。
  • 会动的故事板,让导演和客户看到同一个场景。
  • 用于演示、音乐和现场活动的背景画面和循环视频。

DreamBench 上的文生视频模型

DreamBench 上的每个视频模型都能根据文字生成视频。它们的区别在于声音、能否同时接收尾帧,以及渲染的清晰度:

DreamBench 上的视频模型:声音、首尾帧、分辨率和画面比例
模型声音首尾帧分辨率画面比例
Seedance 2.5可开可关是480p, 720p, 1080p1:1 · 16:9 · 9:16 · 4:3 · 21:9
Seedance 2.0可开可关是720p, 1080p, 4K1:1 · 16:9 · 9:16 · 4:3 · 21:9
Veo 3.1始终开启是720p, 1080p, 4K16:9 · 9:16
Kling 4.0始终开启是720p, 1080p1:1 · 16:9 · 9:16 · 4:3 · 21:9
Kling 3.0可开可关是720p, 1080p1:1 · 16:9 · 9:16 · 4:3 · 21:9
Wan 3.0始终开启是720p, 1080p1:1 · 16:9 · 9:16 · 4:3
Wan 2.7可开可关是720p, 1080p1:1 · 16:9 · 9:16 · 4:3
Grok Imagine 1.5始终开启仅首帧720p, 1080p1:1 · 16:9 · 9:16 · 4:3
MiniMax H3始终开启是720p, 1080p1:1 · 16:9 · 9:16 · 4:3 · 21:9
HappyHorse 1.1始终开启仅首帧720p, 1080p1:1 · 16:9 · 9:16 · 4:3 · 21:9
LTX-2.3可开可关是720p, 1080p, 4K16:9 · 9:16
Vidu Q2可开可关仅首帧720p, 1080p1:1 · 16:9 · 9:16 · 4:3

没有哪个模型适合所有描述。模型列表中每个模型的页面都给出了它的时长、分辨率和声音选项;用同一份描述在两个模型上测试并比较。

DreamBench 上的文生视频设置,以及各项何时决定
你可以设置的内容何时决定
时长4 到 300 秒,以整秒计:Starter 最长 30 秒,Plus 为 2 分钟,Ultra 和 Studio 为 5 分钟在生成之前决定。大多数模型的单个镜头为 8 到 15 秒,Seedance 2.5 和 Wan 3.0 最长 30 秒,所以更长的要求会被写成多个镜头。
画幅1:1、16:9、9:16、4:3 或 21:9在生成之前决定。Veo 3.1 和 LTX-2.3 只渲染 16:9 和 9:16。
分辨率Seedance 2.5 支持 480p,所有模型都支持 720p 和 1080p,Seedance 2.0、Veo 3.1 和 LTX-2.3 支持 4K在生成之前决定。更高的档位耗时更长,每秒消耗的积分也更多。
声音Veo 3.1、HappyHorse 1.1、Grok Imagine 1.5、MiniMax H3 和 Wan 3.0 始终开启;其他模型有开关在生成之前决定。台词写在提示词里,就像厨师那句一样。
原文任意长度的描述,用模型能理解的任何语言最后才读取:以上所有项都在模型看到任何文字之前就已确定。

文生视频的不足之处

  • 仅凭文字,它无法知道某个特定的人、产品或 Logo;这些请使用参考图,就像参考生视频那样,并在每个镜头中都保留它,以获得一致的角色。
  • 招牌和字幕经常出现拼写错误。
  • 包含多个步骤的复杂动作会被缩短、合并或打乱顺序。
  • 人群、手和相互接触的物体,最先暴露错误。
  • 当模型跟丢了某个细节时,视频就会闪烁或漂移:这是时序一致性的失败。

为什么我的片段在动作完成前就结束了?片段的长度在模型读取提示词之前就已固定,所以动作是被塞进这个长度里的:需要更长时间的动作会被缩短、丢步,或在动作中途结束。请写一个能装进你所订秒数的动作,或者订更长的片段;上面的改写表正是因此每个镜头只保留一个动作。

DreamBench 上的文生视频

在 DreamBench 上,你不需要自己写每一条提示词。你只要描述想要的影片,DreamBench 就会写出镜头列表,并为每个视频片段写出完整的提示词,包括镜头、光线、动作和声音,然后用你选择的模型渲染,例如 Seedance 2.5、Veo 3.1 或 Kling 3.0。添加角色或产品的图片,它们就会在每个镜头中作为参考图使用。

常见问题

T2V 是什么意思?

T2V 是 text to video(文生视频)的缩写:根据文字提示词生成视频。I2V(image to video,图生视频)和 V2V(video to video,视频生视频)是另外两种常见模式的名称。

文生视频需要多长时间?

每段视频片段需要不到一分钟到几分钟不等,取决于模型、时长和分辨率。更高的画质和声音通常需要更长时间。

文生视频能做出一整部影片吗?

无法一次完成。模型一次只生成一个镜头,所以一部影片要先规划成镜头列表,再逐个生成每个镜头,DreamBench 根据你的描述做的正是这件事。

文生视频和图生视频有什么区别?

文生视频只从文字出发,所以一切看起来是什么样子都由模型构想。图生视频从你提供的图片出发,图片决定了首帧;很多人会先做一张满意的静态图,再让它动起来。

使用 AI 视频生成器需要懂编程或 AI 吗?

不需要。你只需用平常的话写出想看到的内容。在 DreamBench 上,你描述影片,每个镜头的提示词会自动为你写好。

为什么我的视频和提示词不符?

你的 AI 视频与提示词不符,是因为模型对某些词的权重高于其他词,并用训练中常见的内容填补空白。把最重要的东西放在最前面,只写一个动作和一种运镜,描述你想看到的而不是要避免的,并检查设置:片段时长、画面比例和起始帧在模型读到第一个字之前就已经定好了。

文生视频能生成声音、音乐和语音吗?

在能生成声音的模型上可以:对白、音效和环境声与画面一同生成,提示词里写的台词会由角色说出来,就像上面拉面片段中厨师的日语台词那样。上表列出了哪些模型能生成声音;其余模型生成无声视频。想要精确指定的音乐,建议事后再加。

可以用英语以外的语言写文生视频提示词吗?

可以。本页的说明是用英文写的,但提示词可以用模型能理解的任何语言,台词还可以再换一种语言,就像拉面示例片段那样。

可以为 TikTok 或 Reels 生成竖屏的文生视频片段吗?

可以。DreamBench 上的每个视频模型都能渲染 9:16;AI 视频生成页面上的跑步者片段就是用 Kling 3.0 生成的 9:16。请在生成前选好比例,因为生成后的片段不裁剪就无法改变画幅。

为什么我的 AI 视频里的文字拼错了?

模型学的是文字看起来的样子,而不是怎么拼写,所以招牌和字幕会出现错误或凭空造出的字母。请不要在提示词里写画面中的文字,之后在编辑器里添加。

文生视频要花钱吗?

这取决于应用。在 DreamBench 上,生成第一个片段前,你需要注册免费账号并选择套餐,每个片段都会消耗套餐中的积分。Starter 套餐的视频上会显示一个小的 DreamBench 水印;更高的套餐会去除它。

文生视频提示词应该写多长?

文生视频提示词的长度,应该刚好把模型原本要猜的每一项都定下来,不必更长:一个主体、一个动作、场景、运镜、光线和声音,一个镜头写下来就是几句话。上面那段海龟描述有 60 个词,只给模型留下纹理和细节去决定;改写表里的一行版本则把一切都留给了模型。

文生视频能渲染什么分辨率?

DreamBench 上的文生视频在所有模型上都能以 720p 或 1080p 渲染,在 Seedance 2.5 上可以用 480p 作为更省积分的草稿,在 Seedance 2.0、Veo 3.1 和 LTX-2.3 上可达 4K;Starter 套餐止步于 1080p,其他套餐可达 4K。分辨率在模型读取提示词之前就已确定,更高的档位耗时更长,每秒消耗的积分也更多,所以请用 720p 打草稿,再以更高分辨率渲染要保留的那一版。

文生视频能生成一个连续的 30 秒镜头吗?

文生视频可以在单个镜头能达到这个长度的模型上生成一个连续的 30 秒镜头:Seedance 2.5 和 Wan 3.0 能渲染最长 30 秒的一镜到底,上面的拉面片段就是这样在 Seedance 2.5 上生成的,描述中写了“不剪辑、不切镜”。其他大多数模型的单个镜头为 8 到 15 秒,所以在它们上面要求 30 秒会被写成两个或更多镜头,每个衔接处有一次剪切。

前往术语表查看更多

来源

本页介绍的是 DreamBench 自己的工具和模型,信息来自产品本身所用的同一套数据表。