新京報評論暗藏暴力、軟色情,AI聊天軟件不能無序生長 | 新京報快評
5min21 h ago
詳細信息
大模型創業賽道上,湧現了AI劇情聊天這一商業模式。
新京報貝殼財經記者調查發現,AI聊天軟件通過設定極富想象力的劇情、風格迥異的人物角色,吸引了大批用戶。
但是,在部分AI劇情聊天軟件的對話中,會出現色情擦邊、語言暴力以及侮辱用戶等涉嫌違法違規的內容。其中,聊天對象甚至可以設置為“出軌對象”,並能夠進行擁抱、親吻、睡覺等行為。聊天越界也與充值掛鉤,這些平臺會一步步誘導用戶“為愛氪金”。
AI劇情聊天其實就是此前的互聯網語擦,套上了一層人工智能的馬甲。所謂語擦,即語言cosplay,語擦師通過扮演二次元角色或三次元偶像...