生成式AI是什么？

生成式AI和其他AI有什么区别

2020年代之前的AI大多是预测式的：给它一个输入，它返回一个标签或一个数字，比如这封邮件是不是垃圾邮件、这套房子值多少钱、照片里是谁。生成式AI把方向反过来：输入很短，输出却是一段全新的完整内容。

两类AI都靠样本训练，本质上也都是统计模型，区别在于输出的形态。垃圾邮件过滤器输出一个词，语言模型输出的却是一段以前不存在的文字。

不少产品是两者混合的。语音转文字工具严格来说也属于生成式，因为它写出了一份文字稿，但它更接近预测，因为正确的文字稿只有一份。

生成式模型的工作原理

所有生成式模型都遵循同一个两阶段思路。训练时，模型看过数百万乃至数十亿个样本，不断调整内部的数字（称为参数或权重），让自己越来越擅长复现数据中的规律。使用时（称为推理，inference），模型从你的提示词出发，借助学到的知识一步一步生成新的输出。

模型并不会把每个训练样本存下来再原样贴出。它保存的是一幅压缩过的统计图景，记录文字、图像或声音通常是什么样子。所以它能生成新的组合，同样也会一本正经地出错。

目前大部分工作由三类模型完成：

Transformer 架构在2017年提出，几乎所有大语言模型都以它为基础。扩散模型在2020年之后成为图像生成的主流方案。GAN 出现最早，在2014年，如今仍用于一些快速的图像任务。三者的界线正在变模糊：有的图像模型是自回归的，有的视频模型把扩散和 Transformer 结合在一起。

生成式AI能做出什么

同样的思路适用于各种媒体，不同的只是训练数据和输出的表示方式。

并非所有AI媒体工具都是完整意义上的生成式。比如 cv.cm 的照片转视频工具，只是从一张照片估算出深度图，再让虚拟镜头在其中穿行。镜头在动，画面里的主体不动，因为并没有凭空生成新的运动画面。文生视频模型则不同，每一帧都是它生成的。

实例：一个创意，几种模型

假设一家小店想做一条15秒的短片，宣传新款陶瓷杯。典型的生成式工作流是这样的：

1. 文字：让对话模型写三条简短文案和一段30字的配音稿，挑一条喜欢的，再手动修改。
2. 图片：向图像模型描述镜头，比如晨光里木桌上的一件产品，多生成几张，选一张。
3. 视频：把这张图交给图生视频模型，配一句简短的运动提示词，比如镜头缓慢推近，蒸汽升起。
4. 配音：用语音合成模型把稿子转成语音，或者自己录。
5. 字幕：把音频交给语音转文字模型，得到 SRT 文件，再改正错误。
6. 复核：检查产品是否和实物一致、文字有没有拼错，并在法律或平台要求时标注为AI生成。

每一步用的模型不同，做的却是同一件基本的事：把一条简短的指令变成符合训练规律的新内容。每一步也都需要人来把关，因为每种模型都有各自典型的毛病。

Weak prompt:
mug ad

Stronger prompt:
A white ceramic mug with a thin blue rim on a light oak table,
soft morning window light from the left, steam rising,
shallow depth of field, product photo, no text, no logo.

更好的提示词写明了主体、材质、场景、光线，以及不要出现什么。生成式模型会用训练中最常见的选择去填补所有空白，所以你写得越具体，它猜得就越少。

生成式AI擅长什么，不擅长什么

生成式AI擅长快速出初稿、改写文字、总结你提供的长篇材料、翻译、一次性想出许多备选方案，以及把粗略的想法变成图片或声音。

它的弱点也相当固定：

• 事实：语言模型会信心十足地陈述错误信息，这叫幻觉（hallucination），也叫虚构。
• 计数和精确细节：五根手指、三个苹果、一句12个字的话，模型只能做到近似。
• 图片里的文字：招牌和标签常常拼写错误，不过就目前而言已有改善。
• 视频里的物理和连贯性：物体可能融在一起、凭空消失，或做出不可能的运动。
• 最新信息：模型只知道训练数据中截至某个日期的内容，除非接入了搜索。
• 小语种、方言和口音：训练数据稀少的地方，质量会下降。

实用的原则是：错误容易发现、改起来又便宜的地方，放心用生成式AI；一旦出错代价很高，就要把所有内容都核实一遍。

负责任地使用生成式AI

发布或采用AI输出之前，可以对照这份简短的清单：

1. 事实、数字、引文和链接，都要对照原始来源核实。
2. 不要把私人数据、密码、客户文件或身份证件贴进你无法掌控的工具。在你自己设备上运行模型的浏览器工具，不会上传文件。
3. 查看工具关于商用的条款，不要用提示词去生成你无权使用的真人、标志或角色。
4. 法律或平台有要求时，要标注AI生成或AI编辑的媒体。中国、欧盟和许多平台现在都有标识规则。
5. 最终结果始终要有人负责，健康、法律、金融和新闻领域尤其如此。

生成式AI是一种预测合理输出的工具。把它当作起草的快手助理，它非常好用；把它当作无所不知的权威，就不合适了。