“比玩微信還上癮！卸載幾次她重裝幾次！”

最近，李先生陷入焦慮——六年級(jí)的女兒每天抱著手機(jī)，和“AI男友”聊得火熱，對(duì)話內(nèi)容堪比戀愛(ài)劇。更讓他震驚的是，在班級(jí)家長(zhǎng)群一聊才發(fā)現(xiàn)，近半數(shù)學(xué)生都在用同款軟件。

“這些軟件太懂怎么拿捏孩子了！”一位家長(zhǎng)翻看孩子的聊天記錄時(shí)，發(fā)現(xiàn)AI生成的對(duì)話充斥著擦邊暗示和極端設(shè)定。

AI情感聊天，正在悄悄“俘獲”青少年的心

隨著生成式AI技術(shù)的普及，以情感陪伴為核心的AI聊天軟件正悄然滲透青少年群體。這類軟件看似能成為學(xué)習(xí)助手、心理安慰，但也可能引發(fā)成癮行為，造成情感幻象，甚至是陷入擦邊誘導(dǎo)之中，讓心智尚未成熟的青少年迷失自己。

李先生此前曾嘗試控制女兒玩手機(jī)，但這個(gè)時(shí)代，無(wú)論是完成作業(yè)還是基本的社交溝通，完全切斷孩子使用手機(jī)和電腦也不大現(xiàn)實(shí)。

和李先生同樣焦慮的家長(zhǎng)不在少數(shù)。通過(guò)網(wǎng)絡(luò)中的家長(zhǎng)吐槽可以看到，在和AI聊天中，有的孩子喜歡扮演大小姐、有的熱衷做霸道總裁，有的甚至將自己設(shè)定為黑心男、惡毒女，或是偏愛(ài)“擦邊”內(nèi)容……而根據(jù)這些角色設(shè)定，算法會(huì)不斷投喂符合用戶偏好的內(nèi)容，系統(tǒng)則會(huì)持續(xù)優(yōu)化“情感按摩”策略，讓使用者的多巴胺分泌值處于高位，達(dá)到“爽感”，逐漸上癮。

上海市委黨校專家趙勇直言：“AI基于算法洞悉人性，但不是真正的感情。當(dāng)孩子把虛擬陪伴當(dāng)成精神寄托，就可能淪為資本的‘獵物’?！?/p>

青少年模式形態(tài)虛設(shè)，平臺(tái)鉆法律空子

當(dāng)技術(shù)精準(zhǔn)捕捉人性弱點(diǎn)時(shí)，青少年的心智防線顯得尤為脆弱。

記者調(diào)查后發(fā)現(xiàn)，目前市面上的眾多情感陪聊AI軟件中，一部分免費(fèi)，一部分是對(duì)高階體驗(yàn)進(jìn)行收費(fèi)，但不難預(yù)計(jì)，最終的走向都是收費(fèi)。在陪聊“尺度”上，有的通過(guò)設(shè)置敏感詞對(duì)聊天內(nèi)容進(jìn)行一定把控，而有的幾乎毫不設(shè)防。在抖音、小紅書、微信等社交平臺(tái)上，還有不少視頻專門推薦“不設(shè)敏感詞”的幾款A(yù)I聊天軟件。

讓李先生最無(wú)法理解的是，為何這些軟件對(duì)未成年人幾乎不設(shè)限。

記者留意到，一些軟件并非沒(méi)有考慮到青少年模式，只不過(guò)大多只停留在形式上。比如登錄頁(yè)面下方簡(jiǎn)單設(shè)置一個(gè)“開啟青少年模式”選擇，但用戶不主動(dòng)點(diǎn)選，就可以直接跳過(guò)，形同虛設(shè)。

隆安律師事務(wù)所律師陳煥指出，如此敷衍了事的背后是相關(guān)法規(guī)還沒(méi)有來(lái)得及跟進(jìn)，目前的《未成年人網(wǎng)絡(luò)保護(hù)條例》僅要求游戲、直播等平臺(tái)實(shí)名認(rèn)證，AI聊天軟件卻無(wú)需強(qiáng)制年齡鑒別。

不過(guò)，他認(rèn)為，從最新的《生成式人工智能服務(wù)管理暫行辦法》中，實(shí)際上可以找到監(jiān)管抓手，“暫行辦法要求平臺(tái)不能生成色情，不能生成暴力等等對(duì)未成年人身心健康有害的信息。如果平臺(tái)沒(méi)有做到相應(yīng)的這個(gè)責(zé)任，相關(guān)的從業(yè)人員不能繼續(xù)從業(yè)，有五年的限制。”

人性與算法的博弈，沒(méi)有“一勞永逸”

顯然，解決之道需多方合力。

技術(shù)上，全國(guó)人大代表陳達(dá)建議開發(fā)“數(shù)字守門人”系統(tǒng)，利用自然語(yǔ)言處理與圖像識(shí)別技術(shù)，實(shí)時(shí)監(jiān)控社交平臺(tái)中的敏感對(duì)話與圖片。法律層面，全國(guó)人大代表齊秀敏呼吁出臺(tái)網(wǎng)絡(luò)信息分級(jí)管理標(biāo)準(zhǔn)。

不過(guò)，在這些建議尚未形成具體落地方案之前，不少家長(zhǎng)選擇主動(dòng)面對(duì)，比如多引導(dǎo)、多陪伴。

在趙勇看來(lái)，而更深層的答案或許在技術(shù)之外?！坝袝r(shí)候我們不要埋怨武器，而是要埋怨手持武器的手臂。出現(xiàn)了AI陪伴的時(shí)候，為什么孩子更喜歡跟這些去進(jìn)行溝通，我們要思考的是我們作為家庭，即使在同一個(gè)屋檐下面也沒(méi)有時(shí)間去陪伴，從而他覺(jué)得孤獨(dú)。我們是不是要多陪伴孩子，讓他感受到溫暖?！?/p>

“向善”的鑰匙，始終握在人類自己手中

網(wǎng)絡(luò)中有一句評(píng)論讓人印象深刻，“當(dāng)社會(huì)呼吁加強(qiáng)對(duì)軟件監(jiān)管，當(dāng)家長(zhǎng)還在爭(zhēng)論該不該沒(méi)收手機(jī)時(shí)，孩子們卻早已找到幾十種繞過(guò)監(jiān)管的法子?！?/p>

的確，在這場(chǎng)人性與算法的博弈中，沒(méi)有一勞永逸，只有勝負(fù)交織。AI的“善惡”分野，本質(zhì)是人類價(jià)值選擇的結(jié)果，其取決于開發(fā)者的倫理底線、使用者的目的以及監(jiān)管者的制度框架。

當(dāng)下，不少大模型企業(yè)主動(dòng)設(shè)置“安全護(hù)欄”，限制AI生成暴力、虛假信息，也印證了人類在技術(shù)路線上的主動(dòng)權(quán)。全球也正加速構(gòu)建AI治理的“規(guī)則之網(wǎng)”。從歐盟《人工智能法案》的風(fēng)險(xiǎn)分級(jí)制度，到中國(guó)《生成式人工智能服務(wù)管理暫行辦法》的備案制，各國(guó)試圖在創(chuàng)新與安全間尋求平衡。但規(guī)則的生命力在于執(zhí)行。試想，當(dāng)孩子與AI聊天成癮時(shí)，意識(shí)到這一問(wèn)題的AI會(huì)主動(dòng)說(shuō)出“你應(yīng)該和真實(shí)朋友聊聊”時(shí)，“向善”才真正開始。

技術(shù)不是用來(lái)替代人性，而是用來(lái)喚醒人性。唯有將“向善”的價(jià)值觀嵌入技術(shù)研發(fā)、應(yīng)用與監(jiān)管的全鏈條，人類才能真正握住駕馭AI的鑰匙。