生成式AI可以写邮件、总结文档、创作图像、生成代码,还能帮你头脑风暴。但它在底层到底是怎样运作的?
面向初学者的简单回答是:生成式AI从样本中学习规律,把这些规律存入模型,并在你给出提示词时用它们生成新的内容。它不像人一样思考、感受或理解;它是利用训练过程中学到的数学关系,来预测并生成符合你请求的输出。
下面将用通俗语言解释几个核心概念,包括训练、token、神经网络、提示词、文本生成、图像生成,以及为什么AI工具有时会出错。
什么是生成式AI?
生成式AI是一类能够创造新内容的人工智能。这些内容可以是文本、图像、音频、视频、计算机代码、摘要、提纲,或其他形式的输出。
据IBM介绍,生成式AI指的是基于从数据中学到的规律来创建新内容的AI系统:什么是生成式AI?。
这使它不同于那些只负责分类、排序或检测的AI系统。例如:
- 垃圾邮件过滤器会预测一封邮件是否是垃圾邮件。
- 推荐系统会为你可能喜欢的电影或商品排序。
- 生成式AI写作工具会创作新的段落、邮件或故事。
- 生成式图像工具会根据文字描述生成新的图像。
在实际应用中,许多AI系统会结合预测、分类、检索和生成等能力。但生成式AI的定义性特征在于:它会产出新内容,而不仅仅是给已有内容贴标签或排序。
简化理解:学习规律并创造内容
理解生成式AI最简单的方式是:
1. 它学习大量样本。
2. 它从样本中发现规律。
3. 它利用这些规律生成新的东西。
对文本模型来说,样本是大量书面语言;对图像模型来说,样本是图像,通常还配有文字描述;对代码模型来说,样本包括编程模式;对音频或视频系统来说,样本可能包括声波、画面帧、字幕或其他表示形式。
模型通常并不是从一个庞大数据库里逐字复制粘贴。这种说法过于简化。实际上,在训练过程中,它会调整大量内部数值设置,以便识别关系并生成可能合适的输出。这些学到的设置通常被称为参数。
一个有用的类比是:它像是规模更大、能力更灵活的自动补全。你的手机可能会建议一句话中的下一个词;现代生成式AI模型则可以基于丰富得多的已学习规律,预测并生成许多词语、代码行、图像细节或其他元素。这个类比有帮助,但并不完整:现代系统远比普通自动补全复杂。
第一步:用样本进行训练
训练,就是教会生成式AI模型识别规律的过程。
在训练过程中,系统会看到大量样本。根据模型类型不同,这些样本可能包括:
- 句子、文章、书籍、文档和网页
- 图像及其文字描述
- 音频片段及转写文本
- 代码文件和注释
- 视频帧和字幕
目标并不是让模型完美记住每一个样本,而是学习有用的关系。对语言模型来说,这可能包括语法、常见短语、主题之间的关联、写作风格,以及词语通常如何一起出现。对图像模型来说,这可能包括形状、纹理、颜色、光照和物体特征等视觉关系。
训练时,神经网络会做出预测,将预测结果与训练样本比较,然后调整内部参数以减少错误。这个过程反复进行许多次,模型就会越来越擅长生成与训练数据规律相似的输出。
训练可能成本高昂且耗时,尤其是大型模型。训练完成后,人们通常会通过应用、聊天机器人、图像生成器、编程助手或API与已训练好的模型交互。
第二步:把数据转换成数字
计算机并不像人那样直接理解文字、图像或声音。为了处理数据,AI系统会把输入转换成数值表示。
在文本生成中,模型通常会把文本拆分成称为token的片段。一个token可能是一个词、词的一部分、标点符号或其他文本单位。例如,一个句子会被转换成一串token,每个token再用数字表示。
大型语言模型(LLM)会在大量文本上训练,并通过预测词或token序列来生成语言,正如IBM在其关于大型语言模型的概览中所解释的那样。
模型还会使用能够捕捉token之间关系的数值表示。这些表示有助于它处理上下文。例如,bank这个词在一个句子中可能与金钱有关,在另一个句子中则可能与河岸有关。周围的token会帮助模型估计哪种含义更可能成立。
对图像、音频和视频来说,数值表示的方式不同。图像模型可能处理像素或压缩后的图像特征;音频模型可能处理声音模式。总体思路是一样的:把原始输入转换成数字,让模型能够分析并生成规律。
第三步:通过神经网络学习
大多数现代生成式AI系统都使用神经网络。神经网络是一套相互连接的数学运算系统,用来把输入转换成输出。
对初学者来说,可以把它想象成一个巨大的控制面板,上面有许多可调节的旋钮。训练过程中,模型会一次又一次地微调这些旋钮,以减少预测错误。这些旋钮就是模型的参数。
如果模型预测得不好,训练就会调整参数;如果预测得更好,系统就会强化那些有帮助的参数设置。经过大量样本和许多训练步骤后,模型会形成一张关于数据规律的统计地图。
在语言任务中,许多现代系统都基于一种叫作Transformer的设计。2017年的论文《Attention Is All You Need》发表后,Transformer架构成为现代语言模型的重要基础。
Transformer中的一个关键概念是注意力机制。注意力帮助模型衡量输入序列中不同部分之间的关系。用通俗的话说,它帮助模型判断上下文中的哪些词或token,对接下来应该生成什么尤其重要。
例如,在一个很长的提示词中,如果用户要求写一封关于货物延误的正式邮件,模型可能需要关注所要求的语气、主题、收件人和格式。注意力机制能帮助模型更有效地利用这些上下文信息。
第四步:根据提示词生成答案
训练完成后,模型就可以投入使用。这个使用阶段通常称为推理。
在推理过程中,你会给模型一个提示词。提示词可以是一个问题、一条指令、一段描述、一项图像请求、一个代码问题,或一组限制条件。随后,模型会结合提示词和它学到的参数生成新的输出。
提示词会影响结果的许多方面,包括:
- 主题
- 风格
- 语气
- 格式
- 长度
- 受众
- 限制条件
- 可供模仿的示例
例如,下面这些提示词很可能产生不同的输出:
- 用一段话解释生成式AI。
- 向五年级学生解释生成式AI。
- 写一封专业邮件,向客户解释生成式AI。
- 用要点列表总结生成式AI的工作原理。
如果提示词没有提供足够的上下文,模型并不知道你想要什么。清晰的提示词通常能带来更有用的输出,但提示词写得好也不能保证结果完全准确。
文本生成如何选择接下来的内容
常见自回归文本模型估计下一个词元的候选分布,按解码规则选择,再依据扩展的上下文继续。实际词表远大于本例,词元也不一定是完整单词。
三个虚构候选的例子
设开头为“The cafe serves”,候选为coffee=0.60、tea=0.30、books=0.10。这些是编写的教学数字,并非模型测量或真实咖啡馆资料。候选概率0.60并不表示该店真实卖咖啡的概率为60%。
脚本计算p^(1/T)并归一化权重,演示严格正概率的温度缩放。它不训练网络、不计算注意力、不生成句子。贪婪选择取最大项,采样则按分布抽取。这里打印概率而不随机抽样,以便复现。
运行计算
保存为decoding_demo.py,用Python 3运行python3 decoding_demo.py。无需额外包、网络、账号或API密钥。所有语言版使用相同英文标签和数字。
"""An invented next-choice distribution; no neural model or API call."""
BASE = {'coffee': 0.60, 'tea': 0.30, 'books': 0.10}
def temperature_distribution(probabilities, temperature):
if temperature <= 0:
raise ValueError('temperature must be positive; greedy is separate')
if not probabilities or any(p <= 0 for p in probabilities.values()):
raise ValueError('this exercise requires strictly positive probabilities')
weights = {word: p ** (1.0 / temperature)
for word, p in probabilities.items()}
total = sum(weights.values())
return {word: weight / total for word, weight in weights.items()}
def main():
print('greedy=' + max(BASE, key=BASE.get))
for temperature in (0.5, 1.0, 2.0):
distribution = temperature_distribution(BASE, temperature)
values = ' '.join(f'{word}={p:.4f}' for word, p in distribution.items())
print(f'T={temperature:.1f} {values}')
if __name__ == '__main__':
main()
脚本实际输出
greedy=coffee
T=0.5 coffee=0.7826 tea=0.1957 books=0.0217
T=1.0 coffee=0.6000 tea=0.3000 books=0.1000
T=2.0 coffee=0.4727 tea=0.3343 books=0.1930
结果说明什么
T=0.5使分布更集中于首位候选,T=2.0使分布更平坦。两者都不查询菜单或核实事实。排序未变,所以贪婪选择仍是coffee。实际系统还受其他解码规则及下一步模型分布影响。
真实自回归模型在添加词元后,会根据更新的上下文重新计算分布。本脚本只展示一次选择,不是完整语言模型、真实分词器或某家服务的仿真。
试一个反例
将BASE改为coffee=0.10、tea=0.30、books=0.60。即使你设想的咖啡馆只卖饮料,贪婪选择也变成books。把不合适的分布变尖锐不会使它成真。应提供可靠菜单资料并核查生成说法,不要把温度当真相开关。
初学者要区分的事
训练改变已学习参数,本练习只改变推理时的选择分布,没有学习。提示、检索及工具结果能改变真实模型可用的信息,但仍须核查答案。不同模型与产品开放的控制项不同,这些教学数值并非通用推荐设置。
图像生成器如何工作
并非所有生成式AI都以同样方式工作。文本、图像、音频、视频和代码系统可能使用不同的模型架构和训练方法。
许多图像生成器使用一种叫作扩散模型的模型。简单来说,扩散模型学习的是如何逆转向数据中加入噪声的过程。
面向初学者的粗略版本如下:
1. 在训练过程中,系统学习图像在逐渐加入噪声时会呈现什么样子。
2. 它也学习如何去除或逆转这些噪声。
3. 在生成过程中,模型可以从带噪声的数据开始,逐步细化。
4. 提示词会引导这个细化过程,使图像符合所要求的描述。
例如,如果提示词要求生成一幅海滩边红色自行车的水彩画,模型就会利用学到的视觉规律和提示词引导,逐步形成带有这些特征的图像。
这只是一个简化解释。图像系统各不相同,扩散也不是唯一可能的方法。其他生成模型类型还包括GAN和变分自编码器,不过许多流行的现代图像工具都采用类似扩散的思路。
为什么生成式AI有时会出错
生成式AI很有用,但也可能生成不准确或编造的信息。这类听起来很自信的错误通常被称为幻觉。IBM将AI幻觉描述为:即使看似合理,输出也可能不准确或缺乏依据:什么是AI幻觉?。
这种情况有几个原因:
它预测的是看似合理的输出,而不是有保证的事实
语言模型接受训练,是为了基于规律生成可能的文本。即使细节有误,它也可能生成一段听起来像正确答案的内容。
它可能缺少最新或具体的信息
有些模型如果没有连接检索工具、浏览功能、数据库或其他实时来源,可能无法获取最新信息。具体能力因产品而异。
提示词可能不清楚
如果提示词含糊,模型可能会自行补全空白。有时这些猜测有用,有时则是错误的。
训练数据可能包含错误或偏见
生成式AI的输出可能反映训练数据中存在的偏见、缺口或不准确之处。不同模型和提供商在偏见控制和安全表现上并不相同。
模型可能混淆相关模式
由于模型学习的是统计关系,它有时会把相似的概念、姓名、日期或事件混合到一个看似连贯但并不正确的答案中。
对于医疗、法律、金融、学术或关键业务等重要任务,应将AI输出与可靠来源核对,并由具备资质的人士审查。
生成式AI真的理解吗?
生成式AI并不像人类那样理解。
人能够把语言与生活经验、目标、情感、伦理、记忆和现实判断联系起来。生成式AI模型则处理数值规律,并基于学到的关系生成输出。
这个区别很重要。AI聊天机器人也许能清楚地解释一个话题、礼貌地回应,或用温暖的语气写作。但这并不意味着它有感受、信念、意图或意识。它只是在生成符合提示词和上下文的语言。
这并不意味着生成式AI没有用。基于规律的生成可以非常有帮助。但这也意味着,用户不应把系统当作无所不知的权威。
生成式AI的常见用途
生成式AI被用于许多日常和专业场景。常见用途包括:
- 起草邮件、报告和文章
- 头脑风暴
- 总结长文档
- 改写文本,使语气或表达更清晰
- 制作学习指南或解释说明
- 协助完成编程任务
- 生成图像概念
- 创作营销文案初稿
- 支持客户服务流程
- 制作提纲、清单和模板
在大多数情况下,生成式AI最适合充当助手,而不是取代人的判断。它可以帮助你更快推进、探索选项并产出草稿,但输出仍然需要审查。
如何负责任地使用生成式AI
负责任使用的第一步,是理解它的局限。以下是给初学者的实用习惯:
核查重要事实
不要因为一个答案听起来很自信,就假定它正确。应核实名字、日期、引用、数字、政策和技术说法。
保护隐私信息
不同工具、提供商、设置和组织的隐私做法各不相同。除非你了解具体工具如何处理数据,否则应避免输入敏感的个人、财务、法律、医疗或商业机密信息。
给出清晰的提示词
写明目标、受众、格式、限制条件和上下文。指令越清楚,通常越能得到有用的输出。
审查偏见与公平性
AI输出可能反映数据中的偏见模式。尤其当内容涉及人、招聘、教育、住房、医疗、金融或其他高影响领域时,应仔细审查。
在适当情况下保持透明
在学校、工作、出版或专业场景中,应遵守相关政策,明确何时以及如何披露AI协助。
谨慎对待版权和归属问题
围绕AI生成内容和训练数据的版权规则及法律解释仍在发展中。用于商业或高风险场景时,应寻求适当的法律或专业指导。
给初学者的类比:一位研究过许多食谱的厨师
想象一位厨师研究过成千上万份食谱。厨师学会了哪些食材常常搭配在一起、烹饪方法如何发挥作用,以及不同菜系通常有什么外观和味道。
如果你点一份辣味素食意面,厨师不需要照抄某一份精确食谱。相反,厨师会利用学到的规律,做出一道符合你要求的新菜。
生成式AI在某种程度上与此类似。它学习大量样本,掌握规律,并根据你的提示词创造新的输出。
但这个类比也有局限。人类厨师可以品尝食物、理解饥饿、作出个人判断,并在意结果。生成式AI模型没有人类经验或意图。它是在以数学方式应用学到的规律。
要点总结
那么,生成式AI是如何工作的?
- 生成式AI通过从样本中学习规律来创造新内容。
- 训练好的模型把学到的规律存入数值参数中,而不是作为简单的复制粘贴式记忆。
- 文本模型通常会把语言拆分成token,并通过预测可能的下一个token来生成回复。
- 许多现代语言模型使用Transformer架构和注意力机制来处理上下文。
- 图像生成器可能使用扩散模型,在提示词引导下学习把噪声转化为图像。
- 训练让模型学会规律;推理则使用训练好的模型生成输出。
- 提示词会引导输出,但不能保证事实准确。
- 生成式AI可能产生幻觉、带有偏见的输出或过时信息。
- AI不会像人一样思考、感受或理解。
- 最好的结果来自于把生成式AI当作工具使用,并结合人的审查和判断。
生成式AI之所以强大,是因为它能把学到的规律转化为有用的草稿、图像、解释和想法。它也并不完美,因为基于规律的生成并不等同于经过验证的知识。理解这两面,才是用好它的关键。
