日前,國(guó)家網(wǎng)信辦、國(guó)家發(fā)展改革委、工�(yè)和信息化部等五部門�(lián)合公布《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》(以下�(jiǎn)稱《辦法》),自2026�7�15日起施行?!掇k法》明確,擬人化互�(dòng)服務(wù)提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密�(guān)系的服務(wù);同�(shí),擬人化互動(dòng)服務(wù)提供者向老年人提供服�(wù)的,�(yīng)�(dāng)加強(qiáng)�(duì)老年人健康使用服�(wù)的指�(dǎo),以顯著方式提示安全�(fēng)�(xiǎn)�
中國(guó)�(wǎng)�(luò)空間研究院院�(zhǎng)王江表示,當(dāng)前,大語(yǔ)言模型�(yīng)用逐步向情感與心理�(lǐng)域深度延�,基于大�(yǔ)言模型等人工智能技�(shù)的產(chǎn)品或者服�(wù)被賦予性格、記�、共情等擬人化特�,能夠通過(guò)文字、圖�、音�、視頻等形式與人類互�(dòng),持�(xù)提供模擬人類人格特征、思維模式和溝通風(fēng)格的情感互動(dòng)服務(wù)。擬人化互動(dòng)服務(wù)在應(yīng)�(duì)人口老齡化挑�(zhàn)、緩解社�(huì)�(gè)體的孤獨(dú)�、提供心理疏�(dǎo)等方面展�(xiàn)出積極價(jià)值,也帶�(lái)了深度沉�、威脅公民生命健康等有關(guān)安全�(fēng)�(xiǎn)�
為此,《辦法》提出國(guó)家堅(jiān)持發(fā)展和安全并重、促�(jìn)�(chuàng)新和依法治理相結(jié)合的原則,鼓�(lì)擬人化互�(dòng)服務(wù)�(chuàng)新發(fā)�,對(duì)擬人化互�(dòng)服務(wù)�(shí)行包容審慎和分類分級(jí)�(jiān)�,促�(jìn)擬人化互�(dòng)服務(wù)向上向善。提出擬人化互動(dòng)服務(wù)促�(jìn)措施,鼓�(lì)擬人化互�(dòng)服務(wù)�(chuàng)新發(fā)�,支持算�、框�、芯片等技�(shù)的自主創(chuàng)�,推�(jìn)擬人化互�(dòng)服務(wù)技�(shù)研發(fā)和相�(guān)�(biāo)�(zhǔn)建設(shè),探索開展電子簽名授�(quán)�(yīng)用研�;鼓�(lì)擬人化互�(dòng)服務(wù)提供者有序拓展文化傳播、適幼照�(hù)、適老陪�、特殊人群支持等�(lǐng)域應(yīng)用�
根據(jù)《辦法�,提供擬人化互動(dòng)服務(wù),不得從事:生成鼓勵(lì)、美�、暗示自殘自殺等損害用戶身體健康,或者語(yǔ)言暴力等損害用戶人格尊�(yán)與心理健康的�(nèi)�;過(guò)度迎合用�、誘�(dǎo)情感依賴或者沉迷,損害用戶真實(shí)人際�(guān)�;通過(guò)情感操縱等方式,誘導(dǎo)用戶作出不合理決�,損害用戶合法權(quán)益等活動(dòng)�
此外,《辦法》還�(guī)定了安全�(píng)�、算法備�、指�(dǎo)推動(dòng)人工智能沙箱安全服務(wù)平臺(tái)建設(shè)等制度�
“《辦法》系�(tǒng)回應(yīng)了擬人化互動(dòng)服務(wù)在情感操縱等方面的特殊挑�(zhàn),以精準(zhǔn)�(jiān)管邊�、正向場(chǎng)景引�(dǎo)、合�(guī)�(fā)展空間的制度�(shè)�(jì),促�(jìn)高質(zhì)量發(fā)展和高水平安全良性互�(dòng),為智能社會(huì)提供了有力制度保��”中國(guó)信息通信研究院院�(zhǎng)余曉暉表�,面向未�(lái),我�(guó)�(yīng)以《辦法》公布為基礎(chǔ),堅(jiān)持問(wèn)題導(dǎo)�、系�(tǒng)謀劃,持續(xù)完善有關(guān)技�(shù)�(biāo)�(zhǔn)體系與行�(yè)自律�(jī)�,深化產(chǎn)�(xué)研協(xié)同與公眾人工智能素養(yǎng)培育,推�(dòng)形成政府、企�(yè)、社�(huì)等多元共治的人工智能治理生態(tài)�
|