Ideas worth a closer look
VIVA PARADOX.Independent stories, clearly told.
Viva Paradox · ZH-HANS

开放权重与封闭式AI模型:真正改变了什么

Conceptual editorial artwork: 开放权重与封闭式AI模型:真正改变了什么

开放权重模型会提供训练后的模型参数,供用户下载或自托管;封闭式AI模型通常通过提供方托管的API、应用或平台访问,用户拿不到底层权重。对于正在比较开放权重模型与封闭式AI模型的团队来说,最大的变化在于控制权:谁来运行模型,谁能检查或修改技术栈的一部分,谁负责数据治理,以及谁承担运营责任。

这种区别对正在选择AI架构的开发者、产品负责人和业务团队都很重要。但它并不会自动说明哪一种更便宜、更安全、能力更强或更合规。这些结果取决于具体模型、许可证、基础设施、工作负载、提供方条款以及内部团队能力。

简要说明

开放权重模型让你对部署拥有更直接的控制权。如果许可证允许,并且团队具备相应硬件和专业能力,你可能可以在自己的环境中运行模型,针对使用场景进行调优,把模型部署得更靠近数据,并减少对单一托管服务提供方的依赖。

封闭式模型通常提供更多托管便利。你调用API或使用产品界面,模型服务、基础设施、更新以及大量运营复杂性通常由提供方处理。作为交换,你通常较少控制模型内部机制、部署位置、更新时间以及长期可迁移性。

可以用下面的方式简要概括:

问题 开放权重模型 封闭式AI模型
是否获得模型权重? 通常是,但受许可证条款约束 通常不是
可以在哪里运行? 在许可且可行的情况下,可能运行在你自己的基础设施上 提供方托管的API、应用或平台
谁运营服务基础设施? 你或你选择的托管合作伙伴 提供方
谁负责监控和加固? 更多责任转移到你这边 更多责任仍由提供方承担,但你仍需治理自己的应用
是否自动等同于开源? 否 否
是否自动更便宜或更安全? 否 否

“开放权重”是什么意思

开放权重模型是指其训练后的参数可供下载或本地部署的模型。权重是模型经过训练后学习到的数值,使模型能够生成输出。获得这些权重后,团队就可能在原提供方的托管服务之外运行该模型。

但这并不意味着使用不受限制。允许哪些用途取决于具体许可证和随附条款。一个模型可以下载,但仍然可能对商业使用、再分发、衍生作品、可接受使用、署名或其他义务设置条件。在基于任何开放权重模型构建产品之前,应查看实际许可证,而不是假定“可下载”就等于“不受用途限制地使用”。

当团队希望获得以下能力时,开放权重可能具有吸引力:

  • 本地或私有部署选项;
  • 对推理基础设施拥有更多控制;
  • 在许可范围内,尝试微调或适配;
  • 更深入地观察服务技术栈;
  • 减少对单一API提供方的依赖;
  • 当托管服务的价格、限制或可用性发生变化时,仍能继续运行。

其取舍在于运营负担会上升。必须有人配置硬件、优化推理、监控行为、修补依赖、评估输出、管理安全,并记录合规控制措施。

“封闭式AI模型”是什么意思

封闭式AI模型通常通过托管API、应用程序或专有平台提供,并不向用户提供模型权重。开发者向服务发送输入并接收输出,但底层模型产物和服务运行环境仍由提供方控制。

例如,OpenAI的公开文档提供了一个API模型目录,开发者可以用它来选择托管模型。这个目录是基于API访问模型的一个例子;它并不等同于获得可下载的模型权重。

封闭式访问可以让采用过程更快。团队通常可以集成一个API,而不必从零开始搭建模型服务栈。提供方可能会在自己的系统内处理扩缩容、部署更新、基础设施可靠性以及部分安全功能。

但这种便利也伴随着依赖。用户通常要依赖提供方的定价、正常运行时间、速率限制、模型可用性、更新时间表和产品路线图。一些封闭式模型的提供方支持托管式定制,例如配置或微调服务,因此封闭式并不意味着完全缺乏灵活性。它意味着定制通常发生在提供方的托管环境内,而不是通过直接控制完整模型栈来实现。

开放权重并不等同于开源AI

最常见的错误之一,是把“开放权重”“开放模型”“公开可用模型”和“开源AI”当作可以互换的概念。它们并不是一回事。

开放源代码促进会(OSI)维护着《开源AI定义》,旨在把更广义的开源AI与范围更窄的可用性形式区分开来。在这个框架下,仅能访问权重并不一定满足开源AI的预期。更广泛的开放性可能涉及研究、使用、修改和分享一个系统所需的法律许可和实践材料,包括相关代码、文档以及有关数据的信息。

对决策而言,含义很简单:如果你的组织出于采购、合规、可审计性或战略原因需要开源AI,就不要止步于“开放权重”这个说法。应审查模型卡、许可证、可接受使用政策、训练或数据披露以及分发条款。一个模型可能有用且可下载,但仍不符合更广义的开源定义。

分开两个问题:能否取得权重,由谁执行推理?

Viva Paradox设计了四种虚构配置,用于区分模型访问与部署。它们不是厂商产品说明、许可证判断或安全实测结果。A和B假设同一模型的权重可下载,且适用条款允许所述使用。C和D不提供可下载权重。

配置 权重是否可得 谁执行推理 仍需检查什么
A:下载模型,在组织管理的工作站运行 按练习假设可得 本组织 硬件容量、更新、应用日志、备份及外部服务。
B:调用第三方提供同一可下载模型的API 底层模型可下载 API运营者 实际请求目的地、数据处理、版本及导出迁移方式。
C:调用不提供权重的厂商托管模型 不可得 服务商 服务条款、数据处理、版本生命周期及应用端控制。
D:使用不提供权重、由服务商托管的专用端点 不可得 专用部署环境中的服务商 专用的范围、网络边界、访问、保留与运维责任。

参考判定:B仍是通过托管服务访问开放权重模型,别处可下载权重并不等于推理在本地。D也不会因端点专用就成为开放权重。A直接控制文件与部署,但日志或备份仍可能把内容传出。任何一种配置本身都不能证明提示词从不保留或用于训练。

若要求“推理必须在自有工作站执行”,按设定的处理地点,只有A符合;仍须核查外发诊断数据、日志和备份。若要求“API关闭时仍有可独立运行的副本”,B的API账户不够:应取得允许使用的文件并测试替代环境。不能保证与API相同的速度或完全一致的输出。

检查具体发布版本,而非品牌名称

为每个候选记录确切模型与版本、模型卡、下载文件、许可证与附加条款、部署运营者、输入输出日志与保留规则,以及已测试的退出路径。留下文档版本、日期和来源URL,区分确认事实、假设与未知。API目录说明可访问服务,仅凭列入目录不能判断具体模型是否也提供下载权重。

Open Source Initiative的Open Source AI Definition 1.0认为,仅提供权重并不充分,还涉及权限、代码与数据信息。将“开源AI”作为采购标准前,应检查定义和实际发布材料。上述虚构表不认证任何模型。

OSI:Open Source AI Definition 1.0

分别选择访问方式和部署安排,再测试整体系统。权重访问能扩大选择,但本身不能决定隐私、质量、运营成本或团队能否稳定运行模型。

对开发者来说会发生什么变化

对开发者来说,这一选择会改变工程工作的覆盖面。

部署与延迟

使用开放权重时,只要技术上可行且许可条款允许,你或许可以把模型部署在靠近应用的位置、自己的云账户内、本地环境中,或边缘侧。需要控制网络路径或部署位置时,这会有帮助。但它也可能带来基础设施复杂度,尤其是大型模型往往需要专用硬件或推理优化。

使用封闭式模型时,你通常会调用提供方的端点。集成可能更简单,但延迟、区域可用性、速率限制以及宕机风险,取决于提供方的服务设计,以及你的合同或账户等级。

定制

开放权重可能允许你围绕微调、适配器、量化、提示词格式和服务优化进行更深入的实验。至于你在法律上是否可以创建并分发衍生模型,则取决于许可条款。

封闭式模型仍可能通过托管功能支持定制。不同之处在于,你通常是在提供方的产品边界内进行定制,而不是自己直接修改或托管模型工件。

可观测性与调试

自托管开放权重模型可以让开发者更清楚地看到日志、基础设施指标、提示词、输出、推理设置和后处理情况。这有助于调试和应用层评估。但它并不会自动揭示有关预训练数据或模型行为的一切。

封闭式模型可能提供日志、仪表盘和评估工具,但哪些内部信息可见由提供方决定。当模型更新改变行为时,用户对原因的可见性可能有限。

安全与维护

开放权重部署让用户对环境拥有更多控制权,但也承担更多责任。你的团队必须管理访问控制、依赖更新、模型服务安全、提示词和输出日志、滥用防范以及事件响应。

封闭式模型把大部分服务基础设施转移给提供方负责。这可以减轻运维负担,但并不免除你在应用安全、数据最小化、用户权限以及遵守自身政策方面的责任。

对企业来说会改变什么

对企业而言,选择开放权重还是封闭式模型,往往是治理和成本结构上的决策,而不只是模型质量上的决策。

成本结构

开放权重模型并不会自动更便宜。在某些架构中,你或许可以避开按 token 计费的 API 价格,但也可能增加 GPU、云实例、推理优化、工程时间、监控、评估、冗余和维护等成本。

当用量可预测且提供方定价清晰时,封闭式模型可以简化预算规划。但如果用量很大或增长很快,对提供方的依赖会更加明显,尤其是在价格、速率限制或模型可用性发生变化时。

正确的比较方式是看总体拥有成本:服务成本、工程人力、正常运行时间要求、模型评估、合规工作,以及应用的预期生命周期。

供应商依赖与退出策略

开放权重可以降低供应商锁定,因为在许可和基础设施允许的情况下,你也许能够继续运行某个模型,或迁移到其他托管提供方。当第三方 API 发生变化时,它们也有助于维持内部连续性。

封闭式模型可能会让你更依赖提供方的路线图。如果提供方调整价格、停用某个模型、修改速率限制,或更新模型行为,你的产品可能就需要相应调整。这并不意味着封闭式模型不是好选择,但采购和架构团队应当提前规划版本管理、备用机制和迁移路径。

数据治理

开放权重部署可以让组织更好地控制推理发生的位置,以及数据如何在系统中流动。这对于敏感数据、受监管的工作流或内部政策要求可能很重要。不过,仅凭开放权重并不能保证隐私和合规。它们还取决于部署架构、访问控制、日志记录做法、保留设置、合同以及治理流程。

如果提供方的合同条款、安全控制、数据处理政策和合规状况符合组织要求,封闭式模型仍然可以用于敏感工作流。关键是评估实际安排,而不是只看标签。

安全与治理会发生什么变化

安全责任会随着控制权的变化而转移。

使用封闭式模型时,提供方可能会应用自己的安全系统、滥用监测、使用政策和模型更新。你的团队仍然需要应用层面的防护措施:用户认证、提示词控制、必要时进行输出审核、升级处理路径,以及对滥用行为的监测。

使用开放权重模型时,尤其是在自托管环境中,更多责任可能会转移到你的组织。你可能需要设计一些防护措施,而这些措施在托管服务中原本会由提供方提供或部分管理。这可能包括:

  • 针对你的用例评估模型;
  • 制定可接受使用政策;
  • 在适当情况下过滤或审核输入和输出;
  • 监测滥用行为;
  • 记录已知限制;
  • 保护模型端点安全;
  • 控制谁可以访问权重和部署工具;
  • 跟踪不同版本和微调之间的变化。

治理上的好处是,你可以围绕自己的风险模型来设计控制措施。限制在于,这需要专业能力、时间和持续维护。

常见误解

“开放权重就是开源”

不一定。OSI 的《开源 AI 定义》比仅仅提供权重更宽泛。如果开源状态很重要,就应根据相关定义和许可条款核实该模型。

“开放权重就是免费”

可下载并不等于实际使用中没有成本。即使某个模型可以免费下载,托管、计算、工程、安全、评估和维护成本也可能相当可观。

“封闭式就更安全”

封闭式模型可以受益于托管基础设施和由提供方运营的控制措施,但安全性取决于提供方、集成设计、合同条款、数据处理以及你的应用架构。封闭式并不会自动带来安全。

“开放模型在隐私方面总是更好”

开放权重部署可以支持把数据留在组织环境内部的架构。但隐私取决于系统如何部署、谁有访问权限、记录哪些日志,以及数据如何保留。

“封闭式模型无法定制”

一些封闭式模型的提供方会提供托管式定制。区别在于,用户通常不会获得底层权重,也无法完全控制模型栈。

决策演练:选择前应检查什么

在决定采用哪种架构之前,可以把以下内容作为一套实用评估流程。

1. 从许可证和条款看起

对于开放权重模型,需要检查:

  • 是否允许商业使用;
  • 是否允许再分发;
  • 是否允许衍生模型或微调版本;
  • 署名或通知要求;
  • 可接受使用限制;
  • 会影响你的产品或客户的义务。

对于封闭式模型,需要检查:

  • API 条款;
  • 数据处理和留存政策;
  • 服务级别承诺,如有的话;
  • 模型可用性和弃用政策;
  • 速率限制;
  • 对使用场景的限制。

决策标准:如果法律条款不支持预期用途,无论性能如何,这个模型都不合适。

2. 让部署方式匹配数据敏感性

如果你的应用会处理敏感数据,就要梳理推理过程中数据会流向哪里。使用开放权重时,要确认是否能在符合你方控制要求的环境中运行模型。使用封闭式 API 时,要确认提供方的合同保障和技术保障是否满足你的义务。

决策标准:选择能够满足数据治理要求、且未受控风险最少的架构。

3. 比较总运营成本,而不只是接入价格

对于开放权重,要计入硬件、云计算资源、推理优化、工程时间、监控、冗余和安全成本。对于封闭式模型,要计入 API 使用量、支持需求、速率限制规划以及潜在迁移成本。

决策标准:按你的实际使用模式比较预期成本,不要抽象地假设某一类一定更便宜。

4. 在自己的工作流中评估性能

一个模型在某项任务中表现很好,在另一项任务中可能表现不足。应使用具有代表性的提示词、预期文档、延迟需求、输出格式和失败案例来测试候选模型。不要假设开放或封闭式状态本身就能预示能力水平。

决策标准:在具体产品语境中,使用能够达到你对质量、延迟、可靠性和安全性要求的模型。

5. 评估团队能力

开放权重部署需要基础设施、机器学习运维、安全、评估和监控能力。封闭式 API 可以减轻其中一部分负担,但仍然需要扎实的产品集成和治理能力。

决策标准:如果团队无法负责任地运行这个系统,不要仅仅因为自托管听起来具有战略吸引力就选择自托管。

6. 规划退出路径

对于开放权重,要记录是否能够迁移托管环境或切换模型系列。对于封闭式模型,当产品风险足以说明有必要时,应设计抽象层、版本跟踪和备用方案。

决策标准:应用越关键,就越需要避免采用没有现实迁移路径的架构。

结论

开放权重模型改变的是谁来控制模型栈。它们可以为组织带来更大的部署灵活性、更多定制选项和更强的战略独立性,但也会把更多运营、安全、评估和合规工作转移给用户。

封闭式 AI 模型则把取舍推向另一个方向。它们可以通过托管 API 和托管平台,让先进 AI 能力更容易集成,但通常会削弱用户对权重、部署、内部机制、更新时间以及对提供方依赖程度的控制。

最佳选择并不是抽象地选择“开放”或“封闭式”,而是选择其许可证、性能、数据处理方式、成本结构、治理控制和运维要求都适合你实际所构建产品的模型与访问模式。