林先生：我平時(shí)喜歡用AI工具生成圖片、視頻發(fā)朋友圈，最近聽說有人用AI換臉、生成虛假內(nèi)容被處罰了。請(qǐng)問，用AI生成內(nèi)容本身違法嗎？哪些行為才算觸碰法律紅線？

【解答】

王曉淋（長(zhǎng)汀縣檢察院檢察官）：林先生，您好！AI生成內(nèi)容本身并不違法，它只是一種技術(shù)工具，但如果利用AI實(shí)施侵害他人合法權(quán)益、傳播違法信息等行為，就必然違反法律規(guī)定，須承擔(dān)相應(yīng)責(zé)任。

根據(jù)《中華人民共和國(guó)民法典》《中華人民共和國(guó)個(gè)人信息保護(hù)法》《中華人民共和國(guó)刑法》等相關(guān)法律規(guī)定，以下幾種使用AI的情形屬于違法或侵權(quán)行為：

1.非法侵害他人人格權(quán)益：未經(jīng)本人同意，利用AI換臉、換聲技術(shù)，將他人肖像、聲音植入淫穢、侮辱、誹謗內(nèi)容并傳播，或用于惡意惡搞、人身攻擊，同時(shí)侵犯他人肖像權(quán)、名譽(yù)權(quán)、聲音權(quán)；若情節(jié)嚴(yán)重，還可能構(gòu)成侮辱罪或誹謗罪；

2.利用AI實(shí)施網(wǎng)絡(luò)詐騙：通過AI深度偽造他人視頻、語(yǔ)音，冒充親友、公檢法工作人員、領(lǐng)導(dǎo)等身份，以緊急情況、借錢轉(zhuǎn)賬等理由騙取他人財(cái)物，屬于典型的詐騙行為，數(shù)額較大的將構(gòu)成詐騙罪；

3.侵犯他人知識(shí)產(chǎn)權(quán)：未經(jīng)著作權(quán)人許可，利用AI工具復(fù)制、改編他人原創(chuàng)畫作、文字、音樂等作品并用于營(yíng)利，或用AI生成與他人作品實(shí)質(zhì)相同的內(nèi)容銷售牟利，將侵犯他人著作權(quán)，情節(jié)嚴(yán)重的將構(gòu)成侵犯著作權(quán)罪；

4.傳播違法違規(guī)內(nèi)容：利用AI生成危害國(guó)家安全、煽動(dòng)民族仇恨、宣揚(yáng)淫穢色情、編造虛假恐怖信息等內(nèi)容并傳播，違反治安管理處罰法、網(wǎng)絡(luò)安全法，情節(jié)嚴(yán)重的還會(huì)觸犯刑法相關(guān)條款，面臨行政處罰甚至刑事追責(zé)。

5.濫用個(gè)人信息：非法收集、泄露他人信息訓(xùn)練AI模型，或利用AI竊取、販賣公民個(gè)人信息，違反個(gè)人信息保護(hù)法，情節(jié)嚴(yán)重的將構(gòu)成侵犯公民個(gè)人信息罪；

6.危害公共利益與社會(huì)秩序：用AI生成虛假政務(wù)信息、疫情災(zāi)情謠言、煽動(dòng)群體性事件等內(nèi)容，或在金融、醫(yī)療、交通等關(guān)鍵領(lǐng)域?yàn)E用AI算法造成公共安全風(fēng)險(xiǎn)，將依法承擔(dān)相應(yīng)行政或刑事責(zé)任。

簡(jiǎn)單來說，AI是中性工具，違法的不是技術(shù)，而是利用技術(shù)實(shí)施的侵權(quán)、違法行為。您在使用AI生成內(nèi)容時(shí)，只要堅(jiān)守不侵犯他人權(quán)益、不傳播違法信息、不危害公共利益的底線，就能合法合規(guī)使用。