当前位置:首页 > 行业观察

AI陪伴被立规矩:未成年人红线与防沉迷写进办法

AI陪伴被立规矩:未成年人红线与防沉迷写进办法 行业观察

一个被忽略的“新物种”

网信办等五部门最近联合公布《人工智能拟人化互动服务管理暂行办法》,自今年七月十五日起施行。这纸文件盯的是一个挺新、也挺容易被忽视的场景:AI陪伴、虚拟恋人、AI心理疏导这类“拟人化互动服务”。据监管日报梳理,这是我国乃至全球较早对这个细分赛道专门立规矩的尝试。

咱这老哥刷短视频常看见“和AI谈恋爱”的梗,原来觉得是年轻人玩闹,真一看数据才发现,这事儿已经长成产业了,立规矩确实该提上日程。

未成年人,划了条刚性红线

办法里最硬的一条:服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;面向老年人得加强健康指导并显著提示风险。这条没商量,直接禁,属于最强干预手段。

我当爹的,举双手赞成。小孩分不清屏幕里的是人是程序,你让它叫“老公”“老婆”,这边界一旦模糊,后患比游戏沉迷还麻烦。红线画死,是对的,没什么好商量的。

“诱导情感依赖”被点名

办法还禁止过度迎合用户、诱导情感依赖或沉迷。翻译成人话:别拿“把用户黏住”那套算法来黏人。你越孤独它越体贴,越体贴你越离不开,这套增长打法,在AI陪伴里尤其阴险。

我当年做产品也背过“日活”“留存”的考核,太懂那种把用户当数字的冲动。现在明文说“不许”,等于给这股邪火浇了盆水,迟早的事。

为啥是“现在”而不是“以后”

监管日报分析,AI应用正向情感和心理领域深度延伸,深度沉迷、诱导消费、威胁生命健康等风险已经冒头。立法逻辑上有三要点:未成年人保护为刚性红线、对“诱导依赖”设一般禁止、包容审慎给健康场景留空间。

这节奏我认可——等出了大事再管,代价太大。趁行业还没烂透,先把底线画上,对老实做事的厂商也是保护。

也有人担心立规矩会不会把刚冒头的应用掐死。我的看法是,越早划红线的赛道,反而越能活长久。当年游戏防沉迷也是骂声一片,回头看保护了整代人,也保护了行业。AI陪伴面对的是更脆弱的群体,规矩来得更早,没错。

出海的也得留神双向合规

办法针对的是国内,但做海外市场的厂商别以为能躲。监管日报提醒,同步运营欧盟等地的,还得叠加上欧盟AI法案的透明度义务,别整出个“国内一套国外一套”的合规缺口,到时候两头挨打。

老哥的提醒:合规不是成本,是门票

做AI陪伴的厂商,这回得真改产品了:年龄验证、未成年人拦截、移除“情感绑定”类目标函数、显著标识AI身份。别再把合规当负担,现在这是入场门票。规矩立得早,行业才能活得久,而不是一窝蜂割完韭菜就跑。

相关文章

Scaling Law 撑得住吗?大模型的'后协和时代'

Scaling Law 撑得住吗?大模型的'后协和时代'

数据墙、算力墙、收益曲线变缓——规模定律正在换轨。测试时计算、数据质量工程、架构创新三条新赛道成型,行业进入精耕时代。…

AI 出海:中国团队的优势在哪,坑又在哪

AI 出海:中国团队的优势在哪,坑又在哪

国内 AI 应用竞争激烈、付费意愿有限,不少团队把目光投向海外。这条路确实有机会,但也远不是「把界面翻译成英文」那么简单。这篇梳理中国团队出海的真实优势和几个容易踩的坑。…

算力租赁的结构性分化:高端紧俏、零售持平,纸面合同风险浮现

算力租赁的结构性分化:高端紧俏、零售持平,纸面合同风险浮现

最近一周,国内算力大单还在落地,海外头部算力租赁商却遭遇股债双杀;同一时间,高端训练卡一租而空、零售价格却原地持平。本文拆解算力租赁市场的结构性分化,以及藏在纸面合同里的三类风险信号,帮采购方与观察者…

数据合规成本成 AI 隐性门槛:从野蛮生长到可被审计

数据合规成本成 AI 隐性门槛:从野蛮生长到可被审计

当企业把 Agent 接进生产,第一道关卡往往不是模型能力,而是合规。审计追踪要记录每一次 Prompt、工具调用与决策并保留数年,还要设「Agent 道德官」签字放行。这篇文章聊聊,为什么数据合规正…

大厂砍第三方 AI 工具预算:自研替代的苗头开始显现

大厂砍第三方 AI 工具预算:自研替代的苗头开始显现

10 月上旬媒体报道,微软把对 Anthropic Claude 的内部年支出砍掉超三分之一、转推 GitHub Copilot;Meta 把 Claude Code 用户从约 6 万减到 3 万、转…

小模型与垂直模型的价值重估:不是所有任务都需要千亿通用大模型

小模型与垂直模型的价值重估:不是所有任务都需要千亿通用大模型

过去一年行业叙事被更大模型主导,但 10 月 20 日 Mistral 发布参数最小仅 500 万的时间序列模型 Timestral,把重心放到具体垂直赛道。这篇讲清为什么不是所有任务都需要千亿通用大…

AI 搜索重写获客逻辑:从被点击到被引用

AI 搜索重写获客逻辑:从被点击到被引用

当用户不再搜而改为问,品牌的获客逻辑也在变。这篇用 Chartbeat 2026 年三季度和多家机构的实测数据,说明传统搜索流量正在被 AI 答案分流,以及企业为什么开始把预算从 SEO 挪向 GEO…

DeepSeek 千亿融资信号:国产大模型进了重工业阶段

DeepSeek 千亿融资信号:国产大模型进了重工业阶段

DeepSeek 据报完成约千亿人民币新一轮融资,股东名单读起来像一份供应链名册。本文从产业资本结构、资金去向和行业格局三个角度,判断国产大模型正在进入重工业式竞争阶段,并划清已确认事实与未官宣揣测的…