ANALYSIS / VERIFIED REPORT
外媒评价Deep Seek:这才是真正的“Open AI”,而不是把公司名字起名为“Open AI”,结果却进行技术闭源
前沿导读 DeepSeek在大模型开源的基础上,又将自己内部的生产级推理框架DeepInfer进行开源。在美国AI企业普遍专注价格昂贵的闭源模型时,DeepSeek将影响AI运营成本的软件技术向外界开放。 这绝不是一次简单的技术开源,而是让外界看到AI竞争的另一条主线,用更高效的软件优化,把同样的芯片和模型跑出更低成本。 框架开源 推理框架负责管理模型如何使用计算资源来处理用户请求,其设计会直接影响延迟、吞吐量以及运行模型所需的硬件。 AI大模型决定了这个软件可以开展什么样的工作,而推理框架则是决定了软件在工作时推理一次要花多少钱、速度有多快、占据多少资源,这种技术通常被视为AI公司的核心竞争力,很少对外公开。 DeepSeek最初的R1和V3大模型,一经发布便登上了免费AI大模型软件的下载量榜首,其大模型的开源模式也造成了美国AI企业的股价下跌,这都是因为DeepSeek在使用英伟达老款芯片,以较低的训练成本、强大的架构优化能力带来的连锁反应。 即便是同一款AI模型,实际运行成本也可能因所采用的软件不同而存在较大差异。更高效的软件能够降低每次请求所需的计算资源,并有望进一步减少能源消耗。 DeepSeek在面临美国尖端芯片出口限制的背景下,仍能确保大模型水平紧追美国顶尖的AI模型,推理框架正是其核心支撑之一。这也说明,在硬件受限时,软件优化和系统工程能力可以成为重要的“对冲工具”。 从公开信息看,DeepInfer把分布式推理、投机解码等能力打包进同一套框架,把负载拆到不同硬件上执行,目标是缩短出词时间、提高单位时间产出,该框架目前已兼容英伟达SM100 GPU和华为昇腾950 NPU。 英伟达的SM100架构和华为昇腾950平台都属于各自最前沿、最尖端、最先进的AI技术栈,DeepSeek的推理框架兼容这两大前沿芯片平台,可以说是紧跟着中美AI产业的发展脚步前进,让中国开源大模型技术更好的融入主流技术的发展中。 推理系统不是把几个先进模块拼在一起就能跑通,调度策略、解码方式、硬件适配和模型特性之间需要形成合力。DeepInfer展示的,正是这种“模型与框架协同、软件与硬件协同”的系统工程路径。 推理成本下降,最先受益的是AI托管服务商。 对托管服务商来说,推理成本下降意味着利润空间更大,也可能传导为更低的API价格。企业若把DeepSeek模型部署在自有算力上,DeepInfer也有望压低算力开支。框架开源之后,外部团队可以拆解它的实现方法,把可复用的做法应用到自己的推理系统中。 市场扩散 在DeepSeek海外平台的开源公告下面,一位印度博主用“Real OPEN AI”这个说法点赞DeepSeek,还配了一段拿Open AI CEO奥尔特曼开涮的视频。 Open AI虽然从命名上面来看代表的是“开放人工智能”,但是其大模型技术以闭源模式运营,由商业公司来主导发展,按照调用量和订阅付费的方式盈利。 这种闭源模式简单来说就是以自身为中心,打造一个特定的用户圈子,并且只对圈子内的客户们服务。而DeepSeek选择将大模型技术和推理框架全部开源,允许其他开发者将自己的技术部署到对方的平台之上,极大拉低了技术成本,让AI变得更加普及实惠。 从某种意义上面来说,DeepSeek才算是“开放人工智能”的代表性角色。 不过DeepSeek开源的推理框架并非是一套完整的技术栈,使用者要构建完整的技术服务,还需要自己解决KV缓存、Prefill/Decode解耦、在数据并行副本间进行负载均衡等功能的问题,这些内容并未包含在开源架构当中。 DeepInfer把部署DeepSeek模型的门槛下降了一些,但是部署模型的企业必须要具备一定的技术实力。否则即便是已经开源项目,也会因自身实力的强弱呈现出不同的效果。 开源所带来的是透明度和可参与性,而不是消除工程上面的技术门槛。企业在采用时,仍需评估硬件兼容性、运维能力和补齐完整技术栈的成本。 DeepInfer的开源,释放了一个清晰信号,AI竞争正在从单纯的“模型技术”,转向推理成本、软硬协同和系统工程能力的综合较量。 开放推理层,可能让竞争逻辑从“比拼算力”部分转向“降成本、提效率、扩生态”。 DeepSeek在个人账号中引了一句古话:“为善与众行之,为巧与众能之”。其意思是好东西要和大家一起分享,个人优秀的同时也要带动其他人一起进步。 DeepSeek的开源模式是为了将门槛较高的AI技术进一步下放到更广阔的民用市场,要建立一个更加高效并且有助于降低能源消耗的技术产品。 Open AI的闭源模式本质上也没错,闭源模式可以将最尖端的技术拿捏在自己手里,形成一套强大的技术生态链以此谋利。但是既然选择了闭源模式,那么就要做好被开源大模型冲击的准备。 特别