企业 AI 的最后一公里:模型不是瓶颈,实装才是
在企业里谈 AI,注意力很容易被模型吸走:参数、算力、评测榜。但把镜头拉远,支撑一个模型成立的条件是一整条链:半导体、数据中心、为数据中心供电的电力,以及配套的储能电池。这些条件齐备,优秀的模型才跑得起来。
可模型跑得起来,不等于 AI 在企业里跑得起来。SoftBank 的讲者在这场分享里,把自己公司的位置放在链条的最后一环——实装。模型要被装进社会、装进企业,还要保证它安全地运转;这一环没做完,前面的投入就只是半成品。
一条从半导体到实装的链条
讲者先花了一点时间讲基础设施:半导体是第一层,然后是数据中心,再往后是电力与储能。这个排序并不新鲜,但它解释了一个常被忽略的事实——AI 的竞争不是单点竞争,而是整条供给链的竞争。任何一层缺位,模型都落不了地。
而在这条链的末端,是“实装”:把模型能力接进具体业务,让它真正产生工作结果。讲者说,这正是他们公司给自己的定位。
不是一个聊天机器人,而是遍布各部门的代理
他们描述的形态不是“给员工一个聊天窗口”,而是在各个事业部门、后台部门、营业部门和开发部门里引入 AI 代理。这些代理不是各自为战,而是相互连携:一个代理拿到信息,另一个代理接着处理。
分工也随之改变。AI 承担推理与执行,人则把精力集中在决策上。讲者给出的比例是:员工日常工作中的大约一半,可以由代理来完成。
这个判断值得留意的地方不在于“一半”这个数字,而在于它把 AI 放进了组织流程,而不是放在流程旁边当助手。代理要跨部门连携,意味着权限、数据、责任边界都要重新设计——这也直接引出了下一个问题。
代理越自主,安全越要先行
6 月,他们发布了一项安全服务,重点是防御针对 AI 的攻击。讲者的理由很直接:代理一旦被黑,就会做出不该做的动作;到那一步,前面所有的效率提升都归零。
所以他们的顺序是先把防御做好,再谈推广,尤其面向日本的关键基础设施。这个顺序背后是一个不太会被 PPT 提到的成本结构:代理的自主性越高,可被利用的入口就越多。让代理能读数据、能调系统、能替人执行,等于把原来的攻击面扩大了一圈。
FDE:先找真问题,再谈架构
那实装具体怎么做?讲者给的流程并不神奇:先特定顾客真正的课题,再设计技术范围,然后设计架构、搭原型、上生产。这是很一般的开发推进方式,难的是每一步都不跳过。
在这个流程里,他们反复提到一个角色:FDE(Forward Deployed Engineer)。这个角色由 Palantir 最早实践,现在不少企业开始引入,SoftBank 也有自己的 FDE 团队。FDE 不是只给建议的顾问,而是自己动手、把东西做出来的工程师。
他们对 FDE 的能力分了五级,并重点讲了几级。一级,是能理解顾客的课题,在状况不明时也能定义技术范围,直接面对顾客,从原型一路推进到生产导入。四级,是比别人更多自己动手,并且能在技术、顾客需求和产品之间做翻译。最关键的是三级——系统设计、实装和生产化的判断力。
所谓判断力,具体是指:在不同的业务领域里,判断这套架构装进去能不能跑、安不安全;在开源组件和新的语言环境里做实装,并判断它是否安全;然后再把它推到生产。讲者认为这种能力非常稀缺,所以 FDE 是一支少而精的队伍。
旧系统是代理的地板
但只靠 FDE 也不够。日本很多企业,包括 SoftBank 自己,都有长年累积的系统。想一次性 AI 化,非常难。
讲者列举了几种典型状态:还在用大型机,代码是 COBOL,没上 GitHub,没有规格书,数据散落在各处。在这样的地基上,代理根本跑不起来。所以要先做云迁移(cloud lift)之类的整理工作,把系统搬到代理能够安全接手的平台上。
为了做这件事,他们还设了新的工种:把过去 TPM 负责的企划职能、SRE 负责的运用职能,各做一个“AI 版”,再和 FDE 组成团队。这个细节说明,实装不是几个工程师的英雄主义,而是工种和协作方式的重新编排。
六周 150 个需求,一个人几小时跑完
讲者放了一段自己录的开发画面:六周里累积了大约 150 个 bug 和新功能企划。
过去的循环是:修 bug、部署、review、测试,发现不对再回滚,想清楚要不要再改一版,然后重新部署,一轮一轮反复。现在,一个人以一小时左右为一轮反复迭代,五到八小时就能把这一批全部走完。
支撑这个速度的,是“验证—实装—改善”的循环。即使某个地方完全没有规格,他们也先把验证的定义和约束写进代理用的说明文件,再让代理持续实装。先写清楚“什么算对、什么不能做”,再追求写得快——这个顺序是速度能变成质量的前提。
当然,企业级的要求并没有消失。生产设计、安全、回答质量、治理、可用性,都要在推进过程中一并考虑。否则演示很快,上线很慢。
实装是把组织一起搬过去
讲者最后说,希望和企业的团队一起推进,也顺带招募工程师。回到开头那条链:半导体、数据中心、电力、储能决定了模型能不能成立;而实装决定了模型能不能变成社会里的工作方式。后者更难,因为它要改的不是一个模型,而是系统、权限、工种和人的决策位置。

