当大模型从“能聊天”走向真正进入产业，企业最关心的问题也正在发生变化。模型怎么备案？安全边界怎么把握？算力从哪里来？场景去哪里找？

5月8日下午，“2026年杭州市生成式人工智能服务及产品合规宣贯交流会”在杭州举行。来自网信、经信等部门，以及人工智能企业、行业机构的代表，围绕大模型合规、安全治理和场景落地展开交流。

相比此前更多讨论“模型能力”的行业会议，这场会更像一次“AI产业落地指南”。

“人工智能的发展和监管，要朝着有益、安全、公平的方向健康有序发展。”会上，浙江省委网信办网络数据与技术处相关负责人沈彤彤说。

大模型上线前，企业最关心的“备案”到底是什么

“原则上，先做好算法备案和大模型备案，再上线提供服务。”交流会上，“备案”成为企业关注度最高的话题之一。

沈彤彤在做大模型合规意识培训时介绍，目前我国已陆续出台《生成式人工智能服务管理暂行办法》等制度，并建立算法备案、大模型备案等管理体系。

“整个办法的基调，其实是‘包容审慎’，核心还是鼓励发展、促进创新。”她提到，目前备案重点主要针对“具有舆论属性或社会动员能力”的生成式人工智能模型。简单来说，如果模型面向公众、会生成内容、可能影响用户认知，就可能进入备案范围。

不少企业担心备案流程复杂。对此，沈彤彤也现场回应：“其实在后面的备案过程中，我们更多是辅助企业把流程走好。”在她看来，备案并不仅仅是行政要求，“走完整个流程，其实也是企业对自身模型安全能力的一次系统梳理和提升”。

为什么AI总会“一本正经胡说八道”

除了备案，AI安全也是现场讨论最多的话题。

“回望过去这两年整个AI的发展，我想大家会有一个共同感受——狂飙。”阿里云计算有限公司高级安全专家许继杰在分享时说。但在他看来，AI能力越强，安全问题也越不能回避。

“每一次技术革命都会带来两面性。”现场，他专门解释了业内常说的“大模型幻觉”。“大模型本质上是一个基于概率统计的预测模型，它不是在‘查答案’，而是在预测下一个最可能出现的词。”

也因此，模型有时会出现“一本正经胡说八道”的情况。比如在AI生图场景中，模型可能把“爱国战士”生成成举着外国国旗的人物；在地图、国家主权等场景中，也可能出现错误内容。

“这些问题，在很多严肃场景里，是不能出错的。”他提到，目前行业正在强化“内生安全”能力，也就是让模型自己知道哪些问题不能回答，而不仅仅依赖外部拦截。很多用户遇到过AI“说着说着突然撤回”的情况。“其实就是安全围栏在最后阶段拦截了。”

杭州开始帮企业“找场景、找算力”

对很多AI企业来说，真正难的，不只是模型研发，还在于“怎么落地”。

对此，杭州正在尝试搭建一套新的产业服务体系。杭州市经信局技术创新处相关负责人表示，人工智能产业的发展，不只是模型本身，而是模型、数据、算力共同组成的完整体系。“有模型、有算力，才能把模型训练出来；有数据，才能保证模型更加准确高效。”

他透露，杭州正在研究2026版人工智能产业政策，未来重点方向之一，就是推动AI从“大模型”走向“智能体”。“2026年，其实会推进到智能体或者Agent阶段，是真正把模型用起来。”

而在“怎么用起来”这件事上，杭州市场景创新中心正在扮演“撮合平台”的角色。

“简单一点说，就是‘为产品找场景，为场景找产品’。”杭州市场景创新中心有限公司董事长赵磊说。中心定位是“产品实验加速器”，重点帮助企业完成从0到1的产品验证，以及从1到100的产业化落地。

围绕AI企业普遍关注的算力、模型调用等问题，现场还介绍了由浙江算力科技负责建设运营的算力调度服务平台。据介绍，该平台以统一入口方式整合算力与模型资源，支持企业通过统一API调用不同模型能力，实现文本、图像、视频、语音等多模态能力调度。“本质上是在汇总Token。”赵磊说。在他看来，过去很多企业面临的问题，是模型、算力和场景之间彼此割裂，而平台希望解决的，正是资源匹配和供需对接的问题。

会上还发布了“大模型场景创新订单”，汇总了前期通过部门、区县以及公开征集到的大模型需求，包含教育、政务、医疗、企业、环保、应急、金融七大领域近30个AI应用场景。

“真正的产品供需落地，还是需要大家面对面交流。”赵磊表示，目前场景中心除了线上平台，也在持续举办机器人、应急、水下机器人等细分领域场景对接活动，推动AI产品进入真实应用场景。过去半年，杭州已推动20余组场景落地，包括无人车、无人船、外骨骼、未来社区等项目。