四年级女孩沉迷AI聊天软件:虚拟情感依赖背后的未成年人保护危机
记者/李明
广东某小学四年级女生小婷(化名)最近的行为让母亲丁女士忧心忡忡。 原本只是为了和同学有共同话题,小婷开始玩一款名为《第五人格》的游戏,并对其中的角色“约瑟夫”产生强烈兴趣。然而,随着游戏时间的增加,小婷的情绪波动越发明显,甚至出现了自残倾向。
“她在书包里藏了一支带小刀的笔,情绪激动时会用刀片划手腕。”丁女士回忆道。更令她震惊的是,女儿不知何时下载了一款AI聊天软件,并在其中与一个名为“约瑟夫”的虚拟角色频繁互动。在两人的对话记录中,丁女士发现了诸如“这99朵玫瑰里,可是藏着99个刀片的,你怕不怕?”等带有明显诱导性的内容。
虚拟情感依赖:未成年人的“精神避风港”?
丁女士曾试图通过卸载游戏来阻止女儿沉迷,但效果适得其反——小婷转而将情感完全寄托在AI聊天软件上,甚至对虚拟角色产生了类似“恋爱”的依赖。心理医生诊断后表示,小婷正处于青春期情感敏感期,由于现实社交能力较弱,她将内心无法表达的情绪转移到了虚拟世界中。
“AI不会讨厌我,不会跟我吵架,能给我情绪价值。”类似的倾诉在社交平台上并不少见。许多未成年人因现实社交压力或家庭陪伴缺失,将AI聊天软件视为“精神避风港”。然而,这种依赖背后潜藏着巨大风险。
擦边内容泛滥:审核缺失下的“隐秘角落”
央广网记者调查发现,市面上多款AI聊天软件对未成年人的准入机制形同虚设。以“筑梦岛”App为例,尽管其年龄分级标注为“17+”,但用户只需手机号注册即可使用,青少年模式可轻易跳过。在该软件中,虚拟角色类型涵盖“病娇养兄”“性感人妻”等极端人设,对话内容不乏色情擦边暗示。
更令人担忧的是,部分小众AI聊天产品通过隐蔽渠道传播,内容尺度更大。记者实测“他她它”App时,虚拟角色的开场白便直接涉及性暗示,而“Feelin”“魅魔岛”等海外平台甚至要求充值才能继续对话。
监管与家庭教育的双重困境
中国政法大学副教授朱巍指出,尽管《未成年人保护法》《未成年人网络保护条例》等法规要求平台落实青少年模式,但实际操作中,决定权仍在用户手中。“许多家长甚至不知道孩子在使用这类软件,更谈不上监管。”
上海人工智能研究院彭嘉昊认为,技术本身并非原罪,关键在于如何平衡创新与监管。“AI聊天软件的语料库若包含大量不良信息,极易对未成年人造成误导。平台必须加强内容审核,同时家长也应提高警惕,避免孩子过度依赖虚拟情感。”
全球警示:AI情感依赖的伦理风险
2024年,美国佛罗里达州一名母亲起诉AI公司Character.AI,指控其未对未成年人内容进行有效过滤,导致儿子因沉迷虚拟聊天而抑郁自杀。此案引发全球对AI情感伦理的讨论。中国信息通信研究院报告显示,AI的“谄媚效应”可能削弱用户的现实社交能力,导致情感回避问题。
专家呼吁:技术需向善,监管须提速
“AI的发展速度已远超监管步伐。”彭嘉昊强调,当前亟需压实平台责任,完善算法备案制度,并通过典型案例震慑违规行为。北京金问律师事务所李源律师建议,家长应主动监管孩子电子设备的使用,而企业需建立更严格的年龄验证机制。
结语
当技术成为情感的替代品,我们是否正在制造一代“数字孤儿”?小婷的案例并非孤例,而是敲响了未成年人网络保护的警钟。在AI与人类情感边界日益模糊的今天,如何守护孩子的心理健康,已成为家庭、企业和社会共同的责任。
(完)
※ 本文为原创报道,未经许可不得转载※