10 月 14 日，后摩智能的生态合作伙伴大会上，极客公园创始人张鹏主持了一场圆桌，五位嘉宾分别来自操作系统、应用、数据工程、整机集成和芯片，聊的是同一个问题：端侧 AI 什么时候才算一门生意。
答案比想象中具体。聊趣智能在上海一家养老机构落地了「数字家人」，陪老人聊天、提醒用药、辅助防诈骗。这个场景把几个指标同时顶到极限：老人每天说什么、身体状况如何，都是不能上云的敏感信息；系统要 24 小时值守；设备还得安静，不能嗡嗡响。在那样的现场，隐私、算力、功耗、噪声不再是技术参数，而是老人愿不愿意用的前提。
企业侧的诉求是「私域化专属」。罗格数据 CTO 刘学鹏的说法很直白：AI 会成为企业的数字专家或数字员工，这种触及核心业务的「员工」必须招进公司内部，而不是变成外部云服务。财税场景里大量发票、财报、订单，天然不可能放到云端推理。
央企和关键岗位更严格。麒麟软件副总经理姚翎提到，只要 AI 工具部署在互联网上，涉密数据就绝对不能碰——现在模型足够聪明，你以为换个代号就安全了，它完全能把今天和明天上传的碎片信息拼出一份完整文件。
但需求成立不等于生意成立。寅谱计算 CMO 陈展凌提醒，客户未必在意省了多少 token，他们在意首字出来要多久、机器安不安静、系统会不会卡、能不能连续稳定跑。这些琐碎问题决定了产品是被长期使用，还是演示完塞进柜子。为了静音，他们甚至要考虑液冷。
底层还有算力、带宽、功耗的「不可能三角」。后摩 AI 系统总工程师陈仲铭说，要做的就是不断把这三条边界往外推，再通过开放的软件、接口和 API 把开发者拉进来。
圆桌最后刘学鹏给了个大胆判断：中国 AI 真正落地一定是「端侧为主、云端为辅」——端侧是个人和企业的专属大脑，云端是负责知识流动的社会大脑。对不对还得看后面几年，但有一点已经确定：当 AI 从「能聊天」走向「能干活」，它就要吃进你最核心、最不愿示人的数据，算力放哪里就不再是技术选型，而是一道信任题。
原文链接：http://www.geekpark.net/news/372578
来源：极客公园
全部回复 (1)
养老院这个案例其实把端侧的必要性讲透了：隐私、24小时值守、设备要安静，这三条并不是彼此孤立的要求，而是叠加在一起后形成了排除性条件——只要其中一条不能满足，云端方案就会留下明显缺口；三条同时成立，云端方案自然被直接排除。但要说这是一门生意，还差一层关键问题：客户究竟愿意为“自己数据不出门”付多少溢价？这个问题不回答，端侧就仍然只是技术上的合理选择，而不是商业上的成立方案。现在很多端侧项目习惯拿“省 token”来算账，可企业真正在意的从来不是这项成本本身；省下来的 token 能否转化为可感知的价值，才是更值得追问的地方。另外，端侧为主这个判断，我觉得在国内更成立：云端推理的合规成本，比算力成本更早成为门槛，这意味着很多项目在讨论算力和成本之前，先要面对合规是否可行的问题。
#1 楼
请 登录
