8月,生成式AI领域的监管动态值得关注。本文梳理了备案进展、执法案例和自查要点,供相关从业者参考。

一、备案动态:四项进展值得关注

1. 手机端侧大模型,首次集体完成备案

7月15日,国家网信办公布7款手机端侧生成式AI服务备案信息:Apple智能、华为小艺AI大模型、OPPO AndesGPT、vivo蓝心端侧大模型、小米澎湃AI、三星盖乐世AI、努比亚豆包手机大模型,同日完成备案。

2. 全国备案持续放量

截至8月24日,北京累计296款生成式AI服务完成备案(本月新增17款);山东累计备案51款、登记7款;湖南已有14个大模型过审。算法备案方面,7月发布的第十八批深度合成服务算法备案公告,一次性通过706个算法、涉及620家主体,其中文本生成与对话类占了一半以上。

总体来看,新服务"先备案后上线"已成为明确要求,备案节奏趋于常态化。

3. 行业大模型备案持续破冰

水利部组织研发的"上善水利大模型"通过备案,成为首个完成备案的水利行业大模型。公共安全、工业等垂直领域模型也在陆续过审。

需要注意的是,行业模型完成网信备案不等于获得行业准入。涉及医疗、金融等领域的,还需另行满足行业资质要求。

4. 10月1日起,公安机关入场

公安部8月发布《公安机关网络空间安全监督检查办法》(10月1日施行),首次将"是否依法落实算法安全主体责任"明确列入公安监督检查范围,对等保三级以上的网络运营者每年至少现场检查一次。

这意味着"网信+公安"双线检查机制正式建立。

二、执法风向:未备案,真的开始罚了

    案例一:广西——未备案上线AI服务被处罚

    某文化传媒公司运营的网站向用户提供具有舆论属性的生成式AI服务,既没做安全评估、也没备案就擅自上线。8月14日,自治区网信办依法作出警告、通报批评、责令限期改正的处罚。

    案例二:湛江——未备案AI客服传有害信息,警告+罚款

    某App在客服聊天板块嵌入了生成式AI功能,因未备案、AI生成内容审核缺失、传输了有害信息,被当地网信办处以警告并罚款——这是该地网信部门首例AI领域罚款处罚。执法已经从"约谈整改"进入"刚性罚款"阶段。

    案例三:调API也不豁免

    专项检查中有企业辩解:"我只是调用已备案大模型的API,底层模型都备案了,我还需要办手续吗?"监管部门的答案是:需要。只要面向公众提供服务,就须履行备案或登记程序。自4月"清朗·整治AI应用乱象"专项行动启动以来,第一阶段已处置违规AI产品1.4万余款、下架违规AI商品1300余个。

    三、一张自查清单:四条全过就安心

    ☑ 已上线的AI功能,是否在显著位置公示了模型名称及备案(登记)号?

    ☑ AI生成内容是否已按《人工智能生成合成内容标识办法》添加标识?

    ☑ 近期产品迭代、模型更换、调用方式变化(自研↔API),是否涉及变更备案/登记转换?

    ☑ App、小程序、官网里嵌入的每个AI功能(客服、问答、生成),是否逐一核对过备案/登记状态?

    最容易踩的坑是最后一条——很多公司主产品备了案,但后来在小程序里加的AI客服、官网上的智能问答,忘了这套程序。

    Logo

    AtomGit AI 社区提供模型库、数据集、Agent、Token等资源

    更多推荐