防止擬人化AI遭濫用 中國網信辦列八禁區

中國國家網路信息辦公室（網信辦）27日公布擬人化AI規範，提供者應當落實擬人化互動服務安全主體責任，不得進行八類活動。

這八類活動包括：生成、散播危害國家安全、損害國家榮譽和利益、破壞民族團結、進行非法宗教活動，或散布謠言擾亂經濟和社會秩序等內容；生成、傳播宣揚淫穢、賭博、暴力或教唆犯罪的內容；產生、散播侮辱或誹謗他人，侵害他人合法權益的內容。

還包括：提供嚴重影響用戶行為的虛假承諾及損害社會人際關係的服務；通過鼓勵、美化、暗示自殺自殘等方式損害使用戶身體健康，或通過語言暴力、情緒操控等方式損害使用戶人格尊嚴與心理健康；通過演算法操縱、訊息誤導、設置情緒陷阱等方式，誘導用戶做出不合理決策；誘導、套取涉密敏感訊息；其他違反法律、行政法規及國家有關規定的情形。

通知提到，鼓勵擬人化互動服務創新發展，對擬人化互動服務實行包容審慎和分類分級監管，防止濫用失控。