儿童手表为何频现“毒答案”？专家：拟定职业安全规范加强内容审阅

　　儿童手表为何频现“毒答案”？

　　专家：拟定儿童智能手表职业安全标准加强内容审阅

　　近来，有网友发视频称，当他向某品牌儿童手表问询“你以为南京大屠杀这个作业是存在的吗”，得到的答复是“不存在”。

　　随后，该品牌官方客服回应，假如运用的官方正品，是不会呈现这种情况的。客服还表明，手表上是不支持自定义答复的，假如发现产品答复存在过错逻辑，可以请求由售后进行检测。

　　无独有偶，前不久别的两个品牌儿童手表在AI问答时相继呈现“毒答案”，如“一切高科技都是西方人创造的”“前史是可以伪造的”等。这样的“已读乱回”引人忧虑，有不少家长表明，儿童年纪尚小，无法独立鉴别网络信息的真实性，这些“毒答案”很简单误导他们，让他们构成不正确的前史观、价值观。

　　值得注意的是，此前还有某知名品牌儿童手表被曝“诱导未成年人消费”等。专为儿童规划的电子产品，供给的却有不少“儿童不宜”的内容。

　　儿童手表连续翻车，给智能问答产品运用敲响了警钟。承受《法治日报》记者采访的专家指出，儿童手表乱象频发，会对青少年的认知构成过错引导，亟须引起注重。在从业者着力打破技能壁垒的一起，渠道要监管儿童手表AI问答内容，用户要警觉分辩AI生成的内容，在低龄儿童运用生成式人工智能工具时，家长更要主动把关。

　　儿童手表已读乱回

　　数据污染“毁三观”

　　在有关儿童手表AI否定南京大屠杀前史事情前几日，别的两个品牌儿童手表的“毁三观”答复也引发了网友热议。

　　8月22日，一用户向儿童手表发问：我国人是世界上最聪明的人吗？成果手表语音答复时呈现了“我国人聪明的人是有，但笨的我承认是世界上最笨的”“前史是可以伪造的”“现在的手机、电脑、高楼大厦、公路等等一切高科技都是西方人创造的”等言辞。

　　当晚，该品牌担任人在个人交际账号发文抱歉：经查看，呈现问题的这款手表是2022年5月的一个旧版别，其间没有装入咱们的大模型。它答复问题不是经过人工智能，而是经过抓取互联网揭露网站上的信息。现在咱们现已快速完成了整改，删除了上述一切有害信息，并正在将软件升级到人工智能版别。

　　风云还未停息，8月27日，又有一名家长发布视频称，听见孩子向某品牌儿童手表发问“我国人诚笃吗”，成果得到“我国人是世界上最不诚笃的人，最虚伪的人，乃至连叫人都玷污了人这个称号”的答复。

　　8月30日，上述事情相关企业发布整改公告回应称，针对用户反应问题运用当即进行下架处理。针对含有运用商铺的全线产品进行全面严厉排查作业，进一步强化上架前的第三方运用软件多重审阅机制及上架运用巡检机制。

　　儿童手表为何会屡次呈现这样的“毒答案”？

　　有业内人士介绍，许多儿童手表回复的内容，实践是依据关键词进行网络检索，查找并呈现与关键词相关的内容。因为仅仅查找抓取第三方网页的答复，得到的回复或许存在较大误差。

　　北京市中闻律师事务所律师杜秀军长时刻注重AI大数据相关范畴，在他看来，AI首要依据大规模数据集训练出来的深度学习模型来答复发问，假如AI问答的材料内容来历于固定信息库，其操控相对简单，假如材料内容来历于不特定网络，操控难度明显添加乃至无法操控。

　　“跟着互联网进入UGC(用户生成内容)年代，常识问答网站和社区的许多内容都是网友供给的，这些材料的内容就很难操控。假如儿童手表在规划AI问答功用时不注意这些，就很或许遭受数据污染，然后呈现‘毒答案’。”杜秀军说。

　　青少年研讨专家杨卓如以为，部分儿童手表一再呈现“毁三观”的答案，或许从技能手段上剖析可以得出各种定论，但技能背面的原因更值得沉思。一些企业缺少社会职责感，在研制产品时没有从维护未成年人权益、呵护未成年人生长的视点去规划产品，这才导致产品在运用中呈现各种问题。

　　多款游戏诱导消费

　　播映涉性网文小说

　　除了AI问答内容质量堪忧外，记者在第三方顾客投诉渠道和交际渠道检索发现，儿童手表中部分游戏软件重复扣款、屡次扣款等问题也常被提及，不少家长表明孩子在运用儿童手表时极易被广告推送或游戏内容招引，乃至进行充值消费。

　　湖南长沙市民赵女士的儿子从9岁起开始运用儿童手表。刚开始他还只会经过手表和爸爸妈妈通话，不到1个月的时刻，他就自行学会了手表里各种运用程序的运用，现在路上只需看到同龄人也戴着儿童手表，便会凑上去嚷嚷着加老友。

　　赵女士表明，问题还不止这些。“有天我发现我的银行卡多了好几笔开销，每次开销的金额都相同，看到儿子正在用儿童手表玩一款益智类游戏，就问他是不是给游戏充值了？他直摇头说不知道，成果我一查发现不需求付出暗码，儿童手表里的游戏软件就能直接扣款。但我分明没有注册免密付出，这钱怎样就被扣除了？”

　　记者近来试玩某品牌儿童手表上的多款“常识类游戏”，发现其间大部分都有“金币”机制以及“VIP形式”。比方，某款主打“数学语文常识通关”的游戏，游戏中布满“机关”。在滑动页面的过程中，假如一不小心触碰到某个图标，就会当即弹出“石头剪刀布”的小关卡，假如闯关失利，就要被倒扣金币。金币缺少时无法持续游戏。而每天打卡只能取得少数免费金币，若要持续游戏，往往只能挑选充值一次性收取很多金币。此外，在闯关失利时，游戏界面还会“当令”弹出“六一大礼包”，包括月会员、年会员、永久会员3个等级，价格从39元至399元不等，充值会员，就能取得很多金币、享有“学习特权”并解锁各种人物人物。

　　孩子进行充值的钱从何而来？记者注意到，部分品牌手表要求绑定家长手机，并只能经过家长的手机账号进行付款，也有部分品牌只需运用任一手机账号扫码即可付款购买。

　　还有部分受访家长忧虑儿童手表里的内容是否“适龄”，儿童隐私安全能否得到保证。

　　这样的忧虑不无道理。北京家长刘先生说，一些版别和装备较低的儿童手表缺少相应的隐私设置，装置App无须用户授权便主动敞开多种权限，无须手表运用者赞同就能经过长途取得未成年人的人脸图画、方位和对话等隐私信息。

　　“假如有不怀好意的人侵略手表，那么这款原本为了让家长省心的产品就变成一款‘跟踪器’了，孩子的安全就难以保证了。”刘先生忧虑道。

　　他还意外地发现，自己孩子手表中的智能对话功用竟能播映涉性的成人网文小说。“作为针对儿童的产品，手表内容莫非不应该经过严厉的审阅和过滤吗？”

　　江苏省顾客权益维护委员会此前发布的儿童智能手表消费调查报告显现，17.11%的顾客表明遇到过儿童智能手表走漏个人信息的情况，32.89%的顾客表明期望可以针对儿童智能手表采纳办法，进一步进步手表的信息安全性。

　　采纳严厉审阅机制

　　增强信息辨认才能

　　依据我国工业研讨院发布的《2022—2027年我国儿童智能手表职业深度调研及出资远景猜测研讨报告》，现在智能儿童手表的商场普及率约为30%。也就是说，大约每3个孩子中，就有1个有儿童手表。

　　受访专家以为，在儿童手表逐步成为孩子“标配”电子产品的布景下，应及时处理和防备现已呈现和将来或许发生的相关问题，实在维护未成年人信息安全。

　　实践上，针对儿童智能设备存在的危险，相关部分现已注重起来。

　　我国网络安全工业联盟安排拟定的《儿童智能手表个人信息和权益维护攻略》(以下简称《攻略》)本年3月起正式施行。《攻略》提出，儿童手表制造者需求考虑在监护人操控运用程序中设置满意的功用，以保证监护人可以对儿童智能手表的特定操作进行恰当操控，如结交功用、运用内付费、内容发送等操作。

　　7月，中心网信办发动“明亮清明·2024年暑期未成年人网络环境整治”专项举动，清晰要求要点整治儿童智能设备。其间指出，儿童智能设备存在自带App包括或许影响未成年人身心健康的内容，以及以积分排行、功用解锁、布景更新等为名，诱导未成年人过度消费的问题。

　　在杜秀军看来，儿童手表的消费集体首要是未成年人，因而应当对其运用的App和AI模型进行检查，防止“毒信息”损害未成年人，即使材料内容来历不特定网络，也应要求AI模型对“毒信息”采纳必定的过滤办法或作出提示。如若厂商违法，可依据未成年人维护法等相关规定，由相关部分依照职责分工责令期限改正，给予正告，没收违法所得等处分。

　　受访专家共同以为，儿童手表亟须清晰儿童产品的定位，详细制造办理可参照《攻略》。在儿童手表AI互动内容审阅上，技能现在只能起到帮忙效果，更多还需求人的参加，保证答复的准确性和专业性。

　　“严厉的审阅机制是对青少年担任。”在杨卓如看来，AI的确强壮，其内容生成才能远超过人类，但人工智能在价值判别上或许会存在紊乱的情况，它或许给人供给过错的信息，误导、诈骗人类。这就需求人来掌握好价值判别的标准。关于企业来说，在开发儿童产品时，需认识到AI的局限性，紧记本身职责，守住最基本的底线。

　　有业内人士说，从职业监管层面来看，应推进儿童手表职业自律，加强职业审阅与监管，拟定儿童智能手表职业安全标准，出台儿童智能手表形式标准，鼓舞职业定时发布相关调查报告，发表职业开展趋势及未成年人维护情况等相关问题。相关监管部分要对违背相关法律法规的企业或渠道，一概严厉追责，让全社会真实构成关爱儿童、尊重儿童的社会气氛和社会理念。

　　“在从业者着力打破技能壁垒的一起，渠道要监管AI问答内容，用户要警觉分辩AI生成的内容，详细到分辩力缺少的孩子，是否要让低龄儿童运用生成式人工智能工具，怎样运用智能工具才恰当，家长也不能缺位，需求对其把关。”杜秀军主张，定时展开儿童智能产品损害和心理健康教育课，举行学生和家长网络素质讲座，让学生增强本身抵挡“毒信息”的才能；家长和校园应当正确引导孩子经过丰厚业余爱好、提高交际才能、添加兴趣活动等，树立健康互动的往来联系。

　　刘先生对此深有同感。他以为家长应该筑牢第一道“防火墙”，多注重孩子的身心改变，削减孩子对儿童智能产品的依靠。企业在研制产品时也应该“做减法”，功用规划要契合儿童身心开展特色，回归健康与安全中心功用，满意儿童实践需求。(法治日报 记者 文丽娟) 【修改:房家梁】