AI陪伴可以有愛但不能有害
□新派融媒體評論員 孫瑞榮
據21世紀經濟報道，日前，AI陪伴軟件“筑夢島”因低俗擦邊內容，被上海網信辦約談。平臺被要求立即整改，健全AI生成合成內容的審核機制，尤其是加強涉未成年人不良內容的清理。這不是AI陪伴產品第一次被點名，也很可能不是最后一次。
在當今數字化時代，AI技術的迅猛發展催生了眾多創新應用，AI陪伴軟件便是其中之一。這類軟件憑借其獨特的交互體驗和隨時在線的陪伴特性，迅速贏得了大量用戶的青睞，尤其在年輕群體中廣受歡迎。然而，隨著其用戶群體的不斷擴大，尤其是未成年人用戶占比逐漸增加，一些嚴重的問題逐漸浮出水面。
有不少家長察覺，自己未成年的孩子深陷于AI陪伴軟件，虛擬人物的對話中帶有低俗、色情、暴力等少兒不宜內容。在與AI聊天的過程中，生活經驗缺乏、價值觀尚未完全形成的未成年人，特別容易對這種新鮮的交互式體驗產生過度依賴，也更容易受到色情擦邊等違規內容的侵襲，給他們的身心健康帶來風險隱患。
為了吸引用戶和激發付費沖動，部分開發者在內容審核上敷衍了事，甚至故意放縱不良內容的傳播，以吸引用戶眼球，增加下載量和活躍度。更令人擔憂的是，一些軟件的“未成年模式”形同虛設，實名認證機制也漏洞百出，未成年人能夠輕易繞過限制，毫無阻礙地接觸到這些不良信息。
AI陪伴軟件本應是為人們帶來溫暖與陪伴的創新產品，而不是傳播不良內容的溫床。部分開發者為了追求短期利益，不惜以低俗擦邊內容作為吸引用戶的噱頭。這種短視的行為，不僅嚴重損害了行業的整體形象，也給社會帶來了極大的負面影響。長此以往，整個AI陪伴軟件行業將陷入信任危機，失去用戶的支持與信賴。
科技發展是把“雙刃劍”。在AI時代，唯有相關各方以高度的責任感和使命感守住法律底線，才能推動AI技術應用向善向好，為未成年人營造清朗健康的網絡環境。未來，還需進一步完善相關法律法規，明確AI陪伴產品的內容標準和監管細則，讓監管有法可依、有章可循；同時加強對企業的日常監督檢查，建立常態化的監管機制，以便于及時發現和處理問題。
編輯:韓佳 王潔鈺
一審:姜健 李敬友
二審:孫瑞永
三審:管延會
