人工智能(AI)是对执行模式识别、预测、推荐选项或生成内容等任务的计算机系统的广泛称呼。垃圾邮件过滤器、路线规划工具和写作助手都可以使用AI,但它们的工作与风险不同。
对初学者而言,有用的问题不只是“这是AI吗”,而是“它做什么、使用哪些信息、我如何检查结果”。本指南解释基本术语,并提供一个小练习及无需技术知识的答案检查清单。
AI、机器学习与生成式AI有什么不同?
AI是广泛类别。机器学习是一种让模型从数据中学习模式的方法。生成式AI产生草稿、图像或摘要等内容。这些类别互相重叠,并不是三种竞争产品。Google的机器学习入门解释了从数据学习以及预测与生成的区别。
| 任务 | 输出 | 有用的检查 |
|---|---|---|
| 分类邮件 | 垃圾或正常等标签 | 是否拦截了正常邮件? |
| 估算送达时间 | 预测 | 与实际到达时间多常一致? |
| 起草客户回复 | 新文本 | 是否准确反映订单和政策? |
| 总结会议笔记 | 输入文本的较短说明 | 是否保留决定、条件和未知事项? |
这些是可能的应用,不保证某项具体服务的表现。一款产品可以组合多种方法。客服助手可能在同一流程中分类问题、检索政策并生成回复。
模型如何学习,使用时会发生什么?
机器学习训练使用示例调整模型。推理是训练后的模型处理输入并产生输出的阶段。简单说,就是“学习模式”与“应用已学模式”的区别。具体训练过程取决于模型和任务。
以垃圾邮件识别系统为例,开发示例可能把邮件特征与标签联系起来。新邮件到达时,系统根据学习到的关系估计标签。估计仍可能错误。写作模型承担不同的输出任务:生成文本,而不只是返回垃圾邮件标签。
关于文本生成、词元和训练的详细解释,请阅读生成式AI工作原理的文章。这里的实用教训是:措辞流畅、表达完善,并不证明系统核查了事实。
五分钟练习:总结虚构项目备忘录
这是编辑制作的教学练习,不是基准测试或模型测试报告。项目、人物和数字都是虚构的。参考答案为本指南编写,不代表任何具名AI工具的输出。
1. 复制原始备忘录
项目备忘录——虚构示例 团队讨论了11月12日推出电子通讯。 日期是暂定的,取决于审查完成。 Maya将在11月5日前准备草稿。 Leo将在草稿准备好后检查无障碍性;尚未设定检查期限。 拟议预算为300美元,但尚未获批。 团队尚未选择邮件平台。
2. 给助手一个限定范围的任务
仅使用下面备忘录中的信息进行总结。 使用这些标题:拟议计划、分配任务、未解决事项。 把暂定计划与确定承诺分开。 不要编造期限、批准或平台选择。 如果缺少细节,请说明未注明。 [在此粘贴虚构项目备忘录。]
可以使用你已经能访问的文本助手。请使用虚构备忘录,而不是私人项目信息。任务刻意保持很小,让你能逐项检查每个说法。
3. 与以下参考答案比较
- 拟议计划:在审查完成的条件下,于11月12日推出电子通讯。
- 分配任务:Maya于11月5日前准备草稿。Leo在草稿准备好后检查无障碍性;他的期限未注明。
- 未解决事项:300美元预算已提出但未获批。邮件平台尚未选择。推出日期仍是暂定。
助手无需逐字相同,但必须保留事实及其状态。“电子通讯将在11月12日以获批的300美元预算推出”不符合练习要求,因为它把两项未解决事项变成了承诺。
逐项检查每个说法
| 检查 | 通过条件 | 失败例子 |
|---|---|---|
| 推出状态 | 11月12日仍暂定且有条件 | 称推出已确定 |
| 草稿负责人和期限 | Maya;11月5日 | 更改人员或日期 |
| 检查顺序 | Leo在草稿准备好后检查 | 称检查已完成 |
| 缺失期限 | 检查期限未注明 | 编造11月8日期限 |
| 预算 | 300美元拟议,未批准 | 称金额获批 |
| 平台 | 尚未选择 | 把具体平台称为团队选择 |
把每项标为通过或失败。如果有助于比较两份草稿,可以统计六项中的通过数。这只是本练习的分数,不是模型整体准确率的估计。一次通过不能证明对其他文档也可靠。
若有失败项,请对照原文修正草稿。可以让助手修改,但仍要自行检查新答案。向同一系统问“你确定吗”并不能提供独立证据。
AI答案为何流畅却仍然错误?
答案可能加入无依据的信息、遗漏条件或混淆相似事实。有时请求含糊,有时系统缺少相关证据。即使每句听起来合理,摘要也可能失败。关于AI聊天机器人幻觉的文章进一步解释了无依据输出。
NIST AI风险管理框架提供更广泛的风险管理体系。对本练习而言,实际应用是在判断输出是否有用前,先规定正确答案必须保留什么。
何时用AI,何时用更简单的方法?
| 需求 | 合理起点 | 你的责任 |
|---|---|---|
| 改写自己的简短笔记 | 文本助手 | 检查含义和语气 |
| 按固定规则整理表格 | 表格筛选或公式 | 检查规则和输入数据 |
| 核对现行政策或期限 | 权威来源 | 确认日期和适用条件 |
| 发送消息或更改记录 | 包含审核的受控流程 | 检查权限、收件人和最终操作 |
需要灵活语言处理时,AI可能有用。严格遵循固定规则的任务,确定性工具可能更容易验证。例如筛出数值超过100的行,不一定需要语言模型。
生成草稿也不同于执行操作。建议回复的助手不一定已发送回复。如果考虑可通过连接工具采取行动的软件,请阅读AI代理与聊天机器人的比较,并决定在哪里审核。
可重复使用的初学者工作流程
- 选择限定任务。从能完整核查的短笔记开始。
- 提供来源。把原始信息与指令分开。
- 定义输出。指定标题以及缺失信息的处理方式。
- 逐项检查说法。把日期、姓名、金额、条件和未知事项与来源比较。
- 决定是否使用。在分享或据此行动前修正错误。
把原始来源与最终版本一起保存,方便他人核查。如果需要从更大的文档集合中获得答案,检索增强生成(RAG)文章解释了向模型提供相关材料的一种方法。检索仍需评估,不会让每个答案都正确。
来源与示例说明
- Google for Developers: What is Machine Learning?——数据学习、预测和生成的背景
- NIST: AI Risk Management Framework——AI风险管理背景
虚构备忘录、参考摘要、检查清单和初学者选择指南都是为本文制作的编辑示例。它们展示核查方法,不证明任何AI产品的性能。
