在線客服
企業(yè)微信
什么是生成式人工智能？為何要規(guī)范？專家解讀→
自動駕駛、聊天機器人、電商直播甚至醫(yī)療保健，近年來人工智能在多領(lǐng)域的研究和應(yīng)用給我們的生活和工作帶來了高效和便利。但是也有不法分子為了牟利，利用人工智能技術(shù)進行詐騙，比如利用AI換臉冒充熟人詐騙，或者制作發(fā)布假新聞混淆視聽、賺取流量等等。
昨天（13日），國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部等7部門公布《生成式人工智能服務(wù)管理暫行辦法》，自2023年8月15日起施行。國家網(wǎng)信辦有關(guān)負責(zé)人表示，出臺《辦法》旨在促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益。
《辦法》從哪些方面規(guī)范生成式人工智能的發(fā)展和應(yīng)用？又是如何針對當(dāng)前存在的一些濫用人工智能技術(shù)亂象來對癥下藥？一起看↓
《管理暫行辦法》從多個方面“劃紅線”
《辦法》要求，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會公德和倫理道德，遵守以下規(guī)定：
堅持社會主義核心價值觀，不得生成煽動顛覆國家政權(quán)、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統(tǒng)一和社會穩(wěn)定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容；
在算法設(shè)計、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視；
尊重知識產(chǎn)權(quán)、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢，實施壟斷和不正當(dāng)競爭行為；
尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽權(quán)、榮譽權(quán)、隱私權(quán)和個人信息權(quán)益；
基于服務(wù)類型特點，采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性。
何為生成式人工智能？
生成式人工智能技術(shù)，是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)。
生成式人工智能服務(wù)提供者，是指利用生成式人工智能技術(shù)提供生成式人工智能服務(wù)（包括通過提供可編程接口等方式提供生成式人工智能服務(wù)）的組織、個人。
生成式人工智能服務(wù)使用者，是指使用生成式人工智能服務(wù)生成內(nèi)容的組織、個人。
“AI換臉”詐騙 10分鐘被騙取430萬元
作為生成式人工智能的一種技術(shù)，近期，“AI換臉”的應(yīng)用范圍越來越廣，但存在濫用之嫌，甚至有人利用AI換臉實施犯罪。
近日，內(nèi)蒙古包頭警方發(fā)布一起利用AI實施電信詐騙的典型案例。來自福建的郭先生是一家科技公司的法人代表。今年4月，他的好友突然通過微信視頻聯(lián)系他，稱自己的朋友在外地競標(biāo)，需要430萬元保證金，想借用郭先生公司的賬戶走賬。基于對好友的信任，加上已經(jīng)視頻聊天“確認”了身份，郭先生在10分鐘內(nèi)，先后分兩筆把430萬元轉(zhuǎn)到了對方的銀行賬戶上。事后，郭先生才得知，原來是騙子通過AI換臉和擬聲技術(shù)實施的騙局。
利用人工智能技術(shù)造謠 一網(wǎng)民被依法查處
自2022年12月以來，一款名為ChatGPT的人工智能應(yīng)用掀起來一股科技熱潮，它能夠通過學(xué)習(xí)和理解人類的語言來進行對話，根據(jù)用戶需求撰寫郵件、視頻腳本、文案、代碼等等，被視為具有可快速、批量生產(chǎn)訊息的生產(chǎn)力工具，然而卻有人打起了借此非法牟利的歪心思。
近期，根據(jù)公安部網(wǎng)安局總體部署，江蘇公安網(wǎng)安部門深入推進網(wǎng)絡(luò)謠言打擊整治專項行動，依法查處一名利用人工智能技術(shù)編造謠言網(wǎng)民。
今年4月10日，鹽城市公安局網(wǎng)安支隊接到上級通報稱，該市一網(wǎng)民發(fā)布“浙江溫州一名女大學(xué)生在晚歸途中遭持刀襲擊并強奸”的虛假信息。鹽城網(wǎng)安支隊立即會同屬地警方展開調(diào)查，查明造謠人員系鹽城阜寧縣網(wǎng)民朱某鋒，并對其依法傳喚。到案后，朱某峰對其造謠行為供認不諱。
阜寧縣公安局網(wǎng)絡(luò)安全保衛(wèi)大隊民警邱侗：據(jù)其交代為了博取眼球、吸引流量，以獲取平臺給予的創(chuàng)作者獎金，他就利用了這款時下流行的ChatGPT人工智能軟件杜撰了該謠言。而編造發(fā)布此類謠言極易引發(fā)群眾恐慌，造成不良社會影響，從而構(gòu)成違法犯罪。
網(wǎng)民 朱某鋒：我就跟機器人聊，讓它幫我寫一篇強奸案文章，內(nèi)容要求逼真，字數(shù)1500字。然后它就自動生成了，內(nèi)容的真實性我沒有考慮。
為顯真實，朱某峰還在網(wǎng)上找到一張白衣女性的圖片，附在文章中一同發(fā)布。目前，公安機關(guān)根據(jù)《中華人民共和國治安管理處罰法》第二十五條之規(guī)定，已對朱某峰行政罰款貳佰元，并責(zé)令其清理不實信息，關(guān)停相關(guān)自媒體賬號。
網(wǎng)民 朱某鋒：我認識到錯誤的嚴重性了，誠懇接受民警的處罰與批評教育，今后做守法網(wǎng)民，不造謠、不傳謠。
阜寧縣公安局網(wǎng)絡(luò)安全保衛(wèi)大隊民警邱侗：在此提醒廣大網(wǎng)民，網(wǎng)絡(luò)并非法外之地，人工智能技術(shù)應(yīng)用應(yīng)嚴格遵守法律底線，在正當(dāng)、合法的領(lǐng)域合理使用。
《辦法》針對典型亂象從三方面對癥下藥
針對生成式人工智能出現(xiàn)濫用甚至違法現(xiàn)象，《生成式人工智能服務(wù)管理暫行辦法》如何對癥下藥？
01:40 中國科學(xué)技術(shù)大學(xué)公共事務(wù)學(xué)院、網(wǎng)絡(luò)空間安全學(xué)院教授左曉棟表示：
一是針對技術(shù)本身。例如要求使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型，涉及個人信息的應(yīng)當(dāng)取得個人同意或者屬于不需要取得同意的情形。這便是針對生成式人工智能輸出結(jié)果容易受到輸入數(shù)據(jù)影響而制定的。
二是針對服務(wù)的提供過程。例如要求生成式人工智能服務(wù)提供者依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。提供者應(yīng)當(dāng)對使用者的輸入信息和使用記錄依法履行保護義務(wù)。提供者如果發(fā)現(xiàn)使用者從事違法活動，應(yīng)當(dāng)采取處置措施。
三是針對產(chǎn)業(yè)發(fā)展。為了防止被卡脖子，鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎(chǔ)技術(shù)的自主創(chuàng)新。為了防止無序發(fā)展，要求推動相關(guān)基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè)，促進算力資源協(xié)同共享，提升算力資源利用效能。
目前生成式人工智能應(yīng)用中出現(xiàn)了傳播虛假信息、侵害個人信息權(quán)益、數(shù)據(jù)安全和偏見歧視等問題，需要及時規(guī)制。但總體而言生成式人工智能仍處于發(fā)展的初期階段，風(fēng)險沒有完全暴露，應(yīng)用前景難以估量，所以應(yīng)當(dāng)采取包容審慎的態(tài)度，堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合，要采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展。所以這次的管理辦法稱為“暫行辦法”，便是有這方面的考慮。文件針對已經(jīng)出現(xiàn)的濫用、違法現(xiàn)象提出了管理措施，但對于生成式人工智能技術(shù)的未來發(fā)展留下了巨大的空間。
人工智能蓬勃發(fā)展 核心產(chǎn)業(yè)規(guī)模達五千億元
記者從相關(guān)部門了解到，我國人工智能產(chǎn)業(yè)蓬勃發(fā)展，核心產(chǎn)業(yè)規(guī)模達到5000億元，企業(yè)數(shù)量超過4300家，創(chuàng)新成果不斷涌現(xiàn)。未來，人工智能產(chǎn)業(yè)發(fā)展前景可觀，我們也期待，隨著《生成式人工智能服務(wù)管理暫行辦法》的實施，人工智能在各領(lǐng)域的發(fā)展和應(yīng)用更加健康規(guī)范，從各方面、多層次地助力人們的工作和生活。
自動駕駛、聊天機器人、電商直播甚至醫(yī)療保健，近年來人工智能在多領(lǐng)域的研究和應(yīng)用給我們的生活和工作帶來了高效和便利。但是也有不法分子為了牟利，利用人工智能技術(shù)進行詐騙，比如利用AI換臉冒充熟人詐騙，或者制作發(fā)布假新聞混淆視聽、賺取流量等等。
昨天（13日），國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部等7部門公布《生成式人工智能服務(wù)管理暫行辦法》，自2023年8月15日起施行。國家網(wǎng)信辦有關(guān)負責(zé)人表示，出臺《辦法》旨在促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益。
《辦法》從哪些方面規(guī)范生成式人工智能的發(fā)展和應(yīng)用？又是如何針對當(dāng)前存在的一些濫用人工智能技術(shù)亂象來對癥下藥？一起看↓
《管理暫行辦法》從多個方面“劃紅線”
《辦法》要求，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會公德和倫理道德，遵守以下規(guī)定：
堅持社會主義核心價值觀，不得生成煽動顛覆國家政權(quán)、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統(tǒng)一和社會穩(wěn)定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容；
在算法設(shè)計、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視；
尊重知識產(chǎn)權(quán)、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢，實施壟斷和不正當(dāng)競爭行為；
尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽權(quán)、榮譽權(quán)、隱私權(quán)和個人信息權(quán)益；
基于服務(wù)類型特點，采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性。
何為生成式人工智能？
生成式人工智能技術(shù)，是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)。
生成式人工智能服務(wù)提供者，是指利用生成式人工智能技術(shù)提供生成式人工智能服務(wù)（包括通過提供可編程接口等方式提供生成式人工智能服務(wù)）的組織、個人。
生成式人工智能服務(wù)使用者，是指使用生成式人工智能服務(wù)生成內(nèi)容的組織、個人。
“AI換臉”詐騙 10分鐘被騙取430萬元
作為生成式人工智能的一種技術(shù)，近期，“AI換臉”的應(yīng)用范圍越來越廣，但存在濫用之嫌，甚至有人利用AI換臉實施犯罪。
近日，內(nèi)蒙古包頭警方發(fā)布一起利用AI實施電信詐騙的典型案例。來自福建的郭先生是一家科技公司的法人代表。今年4月，他的好友突然通過微信視頻聯(lián)系他，稱自己的朋友在外地競標(biāo)，需要430萬元保證金，想借用郭先生公司的賬戶走賬。基于對好友的信任，加上已經(jīng)視頻聊天“確認”了身份，郭先生在10分鐘內(nèi)，先后分兩筆把430萬元轉(zhuǎn)到了對方的銀行賬戶上。事后，郭先生才得知，原來是騙子通過AI換臉和擬聲技術(shù)實施的騙局。
利用人工智能技術(shù)造謠 一網(wǎng)民被依法查處
自2022年12月以來，一款名為ChatGPT的人工智能應(yīng)用掀起來一股科技熱潮，它能夠通過學(xué)習(xí)和理解人類的語言來進行對話，根據(jù)用戶需求撰寫郵件、視頻腳本、文案、代碼等等，被視為具有可快速、批量生產(chǎn)訊息的生產(chǎn)力工具，然而卻有人打起了借此非法牟利的歪心思。
近期，根據(jù)公安部網(wǎng)安局總體部署，江蘇公安網(wǎng)安部門深入推進網(wǎng)絡(luò)謠言打擊整治專項行動，依法查處一名利用人工智能技術(shù)編造謠言網(wǎng)民。
今年4月10日，鹽城市公安局網(wǎng)安支隊接到上級通報稱，該市一網(wǎng)民發(fā)布“浙江溫州一名女大學(xué)生在晚歸途中遭持刀襲擊并強奸”的虛假信息。鹽城網(wǎng)安支隊立即會同屬地警方展開調(diào)查，查明造謠人員系鹽城阜寧縣網(wǎng)民朱某鋒，并對其依法傳喚。到案后，朱某峰對其造謠行為供認不諱。
阜寧縣公安局網(wǎng)絡(luò)安全保衛(wèi)大隊民警邱侗：據(jù)其交代為了博取眼球、吸引流量，以獲取平臺給予的創(chuàng)作者獎金，他就利用了這款時下流行的ChatGPT人工智能軟件杜撰了該謠言。而編造發(fā)布此類謠言極易引發(fā)群眾恐慌，造成不良社會影響，從而構(gòu)成違法犯罪。
網(wǎng)民 朱某鋒：我就跟機器人聊，讓它幫我寫一篇強奸案文章，內(nèi)容要求逼真，字數(shù)1500字。然后它就自動生成了，內(nèi)容的真實性我沒有考慮。
為顯真實，朱某峰還在網(wǎng)上找到一張白衣女性的圖片，附在文章中一同發(fā)布。目前，公安機關(guān)根據(jù)《中華人民共和國治安管理處罰法》第二十五條之規(guī)定，已對朱某峰行政罰款貳佰元，并責(zé)令其清理不實信息，關(guān)停相關(guān)自媒體賬號。
網(wǎng)民 朱某鋒：我認識到錯誤的嚴重性了，誠懇接受民警的處罰與批評教育，今后做守法網(wǎng)民，不造謠、不傳謠。
阜寧縣公安局網(wǎng)絡(luò)安全保衛(wèi)大隊民警邱侗：在此提醒廣大網(wǎng)民，網(wǎng)絡(luò)并非法外之地，人工智能技術(shù)應(yīng)用應(yīng)嚴格遵守法律底線，在正當(dāng)、合法的領(lǐng)域合理使用。
《辦法》針對典型亂象從三方面對癥下藥
針對生成式人工智能出現(xiàn)濫用甚至違法現(xiàn)象，《生成式人工智能服務(wù)管理暫行辦法》如何對癥下藥？
01:40 中國科學(xué)技術(shù)大學(xué)公共事務(wù)學(xué)院、網(wǎng)絡(luò)空間安全學(xué)院教授左曉棟表示：
一是針對技術(shù)本身。例如要求使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型，涉及個人信息的應(yīng)當(dāng)取得個人同意或者屬于不需要取得同意的情形。這便是針對生成式人工智能輸出結(jié)果容易受到輸入數(shù)據(jù)影響而制定的。
二是針對服務(wù)的提供過程。例如要求生成式人工智能服務(wù)提供者依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。提供者應(yīng)當(dāng)對使用者的輸入信息和使用記錄依法履行保護義務(wù)。提供者如果發(fā)現(xiàn)使用者從事違法活動，應(yīng)當(dāng)采取處置措施。
三是針對產(chǎn)業(yè)發(fā)展。為了防止被卡脖子，鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎(chǔ)技術(shù)的自主創(chuàng)新。為了防止無序發(fā)展，要求推動相關(guān)基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè)，促進算力資源協(xié)同共享，提升算力資源利用效能。
目前生成式人工智能應(yīng)用中出現(xiàn)了傳播虛假信息、侵害個人信息權(quán)益、數(shù)據(jù)安全和偏見歧視等問題，需要及時規(guī)制。但總體而言生成式人工智能仍處于發(fā)展的初期階段，風(fēng)險沒有完全暴露，應(yīng)用前景難以估量，所以應(yīng)當(dāng)采取包容審慎的態(tài)度，堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合，要采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展。所以這次的管理辦法稱為“暫行辦法”，便是有這方面的考慮。文件針對已經(jīng)出現(xiàn)的濫用、違法現(xiàn)象提出了管理措施，但對于生成式人工智能技術(shù)的未來發(fā)展留下了巨大的空間。
人工智能蓬勃發(fā)展 核心產(chǎn)業(yè)規(guī)模達五千億元
記者從相關(guān)部門了解到，我國人工智能產(chǎn)業(yè)蓬勃發(fā)展，核心產(chǎn)業(yè)規(guī)模達到5000億元，企業(yè)數(shù)量超過4300家，創(chuàng)新成果不斷涌現(xiàn)。未來，人工智能產(chǎn)業(yè)發(fā)展前景可觀，我們也期待，隨著《生成式人工智能服務(wù)管理暫行辦法》的實施，人工智能在各領(lǐng)域的發(fā)展和應(yīng)用更加健康規(guī)范，從各方面、多層次地助力人們的工作和生活。
