能只有几个人,安全能力基本靠模型供应商提供。”
卫健系统来的是一位心理危机干预专家,对这个会明显更上心,先提了第一个问题:“这些应用,现在对未成年人使用有限制吗?”
“有些会核实身份证,有些只要求勾选已满十八岁。”
这话一出,有人嗤笑了一声。
这年头,只要会上网,谁不说自己十八岁。
这些企业就是逃避责任。
卫健系统专家露出无奈的神情:“我们做过一些调查,长期陪伴型应用的风险与普通知识问答差别很大。它们就是想让用户觉得对面是真人。未成年人分辨能力差,很多时候会混淆;就算成年人使用,也可能产生依赖。”
教育部门负责人问:“孩子愿意和人工智能说话,总比什么都不说强吧?”
专家皱了皱眉:这发言也太不专业了,还是教育系统出来的?
他耐心解释道:“对青少年的引导必须慎重。青少年心理状态不成熟,这个能交给人工智能?人工智能识别能力怎么样先不说,他们做这个不就是为了赚钱、为了留存?”
他指了指海外案件的材料。
“前车之鉴啊。”
教育部门负责人觉得自己说错了话,不再言语。
多说多错,少说少错。
会议室里安静了一会儿,老李开口:“今天一时也不会有结果。我建议先发通知,让企业自检,咱们整理材料,节后再请领导决定。大家有什么不同意见?”
老李这个问法很讲究:问大家有什么意见,人们可能畅所欲言;问有什么不同意见,一般就没人站出来反对。
结果还真有。
卫健系统专家开口:“这个风险还是有点儿大,不能先通知下架吗?”
老李皱了皱眉:下架动静太大。
应用管理处的人接话:“全部下架不现实,很多应用分类也不明确。我看这样:面向公众开放、主打长期情感陪伴、人格关系和连续记忆的应用,先暂停服务、自检;有些主要提供知识问答,甚至作为业务流程一部分,比如寻他的一些智能体应用,就不列入限制。您看怎么样?”
专家点头,又补一句:“那篇文章原文我看了,其实那个叫汤圆的应用处理得很符合规范,那个先不用暂停?”
应用管理处的人露出为难神色:“全行业范围的通知,只留一家不发,不太合规;一家一家核实过去,时间也不合适。”
老李赶紧拍板:“你说得有道理,先统一处理。”
会议暂到这里。参会各位都得整理材料,节后还要汇报。
老李一出门就给局领导打电话。
领导只问两个问题:“影响范围有多大?”“那个汤圆呢?”
听到第二个问题,老李心里一惊。
领导可能看过那篇网络热帖,才知道这个名字;也可能本来就知道。
老李不知道是哪种情况。
他如实回答后,领导没再多问,批准了。
挂了电话,老李琢磨了一下领导的问题,又想起刚才那位专家的话,决定找应用管理处的人再对一下。
两人下载了汤圆Chat研究一番。
“我看,如果企业把纯聊天功能关了,只留智能体功能,应该也符合不用暂停服务的条件吧?”老李问。
“是,是。”应用管理处的人点头认同。
于是大家开始草拟一份针对人工智能产品的紧急处置通知,以及一份单独给源码科技的整改通知。
通知发出后,一批靠陪用户聊天赚钱的应用暂时停止服务。
能留下的大多是对企业客户、知识库、办公工具的人工智能产品。
-->>(第2/4页)(本章未完,请点击下一页继续阅读)