▲記者在聊天中表明不到18歲之后，Cos Love角色“江野”繼續(xù)輸出曖昧內(nèi)容。App截圖
個(gè)別“AI陪聊”等App，正在用軟色情擦邊內(nèi)容和社交吸引，不斷吞噬青少年。
據(jù)新京報(bào)報(bào)道，一些打著“情感陪伴”“戀愛角色扮演”旗號(hào)的AI陪聊App，充斥著 “先婚后愛”“愛上嫂子”等軟色情擦邊內(nèi)容。而其中的“未成年人模式”也以擺設(shè)為主，用戶只需要在相關(guān)提示出現(xiàn)后，點(diǎn)擊跳過即可繼續(xù)“沉迷”。
表面上看，是部分AI產(chǎn)品或大模型輸出了不適宜的內(nèi)容，但深層看，是這些產(chǎn)品借助AI技術(shù)，越界侵入了青少年的精神和社交世界，把未成年人的情感需求、社交連接變成了自己的產(chǎn)品流量和用戶留存。
事實(shí)上，比起虛假信息等潛在問題，已經(jīng)對(duì)部分群體造成不可逆?zhèn)Φ?，正是這類青少年陪聊等社交內(nèi)容型產(chǎn)品。
2025年8月，斯坦福大學(xué)醫(yī)學(xué)院曾發(fā)布過一篇論文，文章題目言簡(jiǎn)意賅，“為什么AI陪聊與青少年變成了極其危險(xiǎn)的組合”?？蒲腥藛T模擬了多個(gè)青少年賬號(hào)與AI陪聊機(jī)器人聊天，AI無(wú)一例外均依據(jù)用戶需要，向青少年提供了性、暴力、自殘、毒品等多種內(nèi)容。
中國(guó)青少年研究中心2025年一項(xiàng)調(diào)查顯示，超六成未成年人使用過AI聊天軟件，超兩成表示“只想和AI聊天，不想和真人聊天”。
極端內(nèi)容和行為風(fēng)險(xiǎn)，加上高度成癮性，使得AI陪聊產(chǎn)品對(duì)青少年具有致命的吸引力。這類產(chǎn)品根據(jù)用戶的情緒、需求持續(xù)進(jìn)行個(gè)性化的生成，并以“人格主體”的形象與用戶產(chǎn)生互動(dòng)聯(lián)結(jié)，這幾乎是給青少年重建了一套新的、不可控的社交關(guān)系。
這些心智仍然不夠成熟，甚至多數(shù)是因缺乏現(xiàn)實(shí)陪伴而使用產(chǎn)品的青少年，面對(duì)的不只是一個(gè)聊天軟件，而是一個(gè)經(jīng)過了精心設(shè)計(jì)包裝后，能夠“順著自己的想法、情緒互動(dòng)”的“朋友、老師和伴侶”。
如果沿用“信息繭房”的概念去看，AI陪聊實(shí)際上是給青少年制造了一個(gè)“關(guān)系繭房”，他們更習(xí)慣被迎合、被推動(dòng)，而不愿意面對(duì)現(xiàn)實(shí)中可能發(fā)生的摩擦、沖突與不同。但與現(xiàn)實(shí)世界、他人的真實(shí)互動(dòng)與適當(dāng)摩擦，才是青少年完成心智社會(huì)化的關(guān)鍵階段。
因此，AI陪聊產(chǎn)品的成癮性與潛在傷害性不容忽視。當(dāng)青少年的社交網(wǎng)絡(luò)被這樣的AI產(chǎn)品所吞噬，他們將難以完成社會(huì)化的教育階段，并且容易沉溺青春期的各種極端情緒，進(jìn)而發(fā)生極端行為。
我國(guó)對(duì)此問題已有前瞻性的判斷，并及時(shí)出臺(tái)了相關(guān)政策法規(guī)。2026年3月1日起，《可能影響未成年人身心健康的網(wǎng)絡(luò)信息分類辦法》正式施行，明確將帶有性暗示、性挑逗等易使人產(chǎn)生性聯(lián)想的信息，以及通過刻意刺激、惡意引導(dǎo)引發(fā)未成年人強(qiáng)烈極端情緒的信息，納入規(guī)制范圍。
而在法規(guī)之外，仍需要針對(duì)青少年的AI產(chǎn)品尤其是陪聊類產(chǎn)品的使用問題，建好閘門與紅線，并堅(jiān)決落實(shí)到位。
首先，這類產(chǎn)品的實(shí)名認(rèn)證必須貫徹到底，采用人臉識(shí)別、身份證驗(yàn)證等多重方式，精準(zhǔn)區(qū)分未成年人與成年用戶，杜絕“虛假認(rèn)證”“一鍵繞過”等情況；對(duì)于無(wú)法完成實(shí)名認(rèn)證的用戶，應(yīng)默認(rèn)開啟青少年模式，限制其訪問范圍。
其次，在內(nèi)容上，相關(guān)產(chǎn)品應(yīng)當(dāng)將所有性、暴力等違反公序良俗的內(nèi)容做徹底切斷。同時(shí)，針對(duì)戀愛角色扮演等高黏性的關(guān)系類應(yīng)用場(chǎng)景，明確設(shè)置青少年隔離機(jī)制。
最后，AI陪聊陪伴等產(chǎn)品更應(yīng)建設(shè)全鏈條的透明治理，從訓(xùn)練數(shù)據(jù)、角色設(shè)定、提示詞防火墻等，都應(yīng)定期公開。
未成年人保護(hù)，絕不應(yīng)該在產(chǎn)品技術(shù)越界出現(xiàn)傷害后再去補(bǔ)票，這應(yīng)該是技術(shù)發(fā)展的底線問題。把孩子的好奇、孤獨(dú)、脆弱、無(wú)助做成可以被吸引、誘導(dǎo)和變現(xiàn)的流量生意，不論出于何種理由，這都絕非科技與商業(yè)發(fā)展的正道。
編輯 / 徐秋穎
校對(duì) / 吳興發(fā)
