國家互聯網信息辦公室
中華人民共和國國家發展和改革委員會
中華人民共和國教育部
中華人民共和國科學技術部
中華人民共和國工業和信息化部
中華人民共和國公安部
國家廣播電視總局
令
第15號
《生成(cheng)式人工智(zhi)能服(fu)務管理(li)暫行辦(ban)法》已(yi)經2023年(nian)5月23日國(guo)(guo)家(jia)互聯網信息(xi)辦(ban)公室(shi)2023年(nian)第12次室(shi)務會會議審(shen)議通(tong)過(guo),并經國(guo)(guo)家(jia)發展(zhan)和(he)改(gai)革委員會、教育部、科學技術部、工業和(he)信息(xi)化部、公安部、國(guo)(guo)家(jia)廣(guang)播(bo)電視總局同意,現予公布,自(zi)2023年(nian)8月15日起施行。
國家互聯網信息辦公(gong)室(shi)主任 莊榮文
國家(jia)發(fa)展(zhan)和改革委員(yuan)會主任 鄭柵潔
教育部部長 懷進鵬
科(ke)學技術部(bu)部(bu)長 王志剛(gang)
工業和信息(xi)化部(bu)(bu)部(bu)(bu)長 金壯龍
公安部(bu)部(bu)長 王(wang)小洪
國家廣(guang)播電視(shi)總局(ju)局(ju)長 曹(cao)淑敏(min)
2023年7月10日
生成式人工智能服務管理暫行辦法
第一章 總 則
第一條 為(wei)了促進生成式人(ren)工智能(neng)健康(kang)發展(zhan)和(he)規范應(ying)用,維護國(guo)(guo)(guo)家安(an)全和(he)社會公(gong)共利益,保護公(gong)民(min)、法(fa)人(ren)和(he)其他(ta)組織(zhi)的合法(fa)權益,根據《中(zhong)華(hua)人(ren)民(min)共和(he)國(guo)(guo)(guo)網絡安(an)全法(fa)》、《中(zhong)華(hua)人(ren)民(min)共和(he)國(guo)(guo)(guo)數據安(an)全法(fa)》、《中(zhong)華(hua)人(ren)民(min)共和(he)國(guo)(guo)(guo)個(ge)人(ren)信(xin)息保護法(fa)》、《中(zhong)華(hua)人(ren)民(min)共和(he)國(guo)(guo)(guo)科學(xue)技術進步(bu)法(fa)》等法(fa)律、行政法(fa)規,制(zhi)定(ding)本辦法(fa)。
第二條 利用生成式人工智(zhi)能(neng)技術(shu)向(xiang)中華人民共和(he)國境內公眾提供(gong)生成文本、圖片、音頻、視(shi)頻等內容的服務(以下稱生成式人工智(zhi)能(neng)服務),適用本辦法。
國家對利(li)用(yong)生成式(shi)人工(gong)智能服務(wu)從事新聞出版(ban)、影(ying)視制(zhi)作、文(wen)藝創作等活(huo)動另有(you)規定(ding)的,從其規定(ding)。
行業組織、企業、教育和(he)科研(yan)機構(gou)(gou)、公共(gong)文化機構(gou)(gou)、有(you)關專業機構(gou)(gou)等研(yan)發、應用(yong)(yong)生(sheng)成式人工智能技術,未向(xiang)境內公眾提供生(sheng)成式人工智能服務的,不適(shi)用(yong)(yong)本辦法的規定。
第三條 國家堅持發展(zhan)和安(an)全并重、促(cu)進創(chuang)新和依法治理相結合(he)的(de)原則,采取有效措施(shi)鼓勵生(sheng)成式人工(gong)智(zhi)能創(chuang)新發展(zhan),對生(sheng)成式人工(gong)智(zhi)能服(fu)務(wu)實行包容審慎和分(fen)類分(fen)級監管。
第(di)四條(tiao) 提供(gong)和使用生成式人工智能服務,應當遵(zun)守法律、行政法規,尊重社(she)會公德和倫理道德,遵(zun)守以(yi)下規定:
(一)堅持社會(hui)主義(yi)核心價(jia)值觀,不得(de)生成煽動顛覆國(guo)家政權、推翻社會(hui)主義(yi)制度,危害國(guo)家安(an)全和利益(yi)、損害國(guo)家形(xing)象,煽動分裂(lie)國(guo)家、破壞國(guo)家統一和社會(hui)穩定,宣(xuan)(xuan)揚恐怖主義(yi)、極端主義(yi),宣(xuan)(xuan)揚民族仇恨、民族歧(qi)視,暴(bao)力、淫穢色情,以及虛假(jia)有害信息等法律(lv)、行政法規禁止的內容;
(二)在(zai)算法(fa)設計、訓練數(shu)據(ju)選擇、模(mo)型生成和優化、提供服務等過(guo)程中,采取有(you)效措(cuo)施防止產(chan)生民族(zu)、信仰、國別、地(di)域、性別、年齡、職業(ye)、健康(kang)等歧視;
(三)尊重知(zhi)識產(chan)權、商業(ye)道德,保(bao)守商業(ye)秘密,不(bu)得(de)利用(yong)算法(fa)、數(shu)據(ju)、平臺等優(you)勢,實施壟(long)斷和不(bu)正當競爭行為;
(四)尊(zun)重他人合法權(quan)(quan)(quan)益(yi),不得(de)危害(hai)他人身心健康,不得(de)侵害(hai)他人肖像(xiang)權(quan)(quan)(quan)、名譽(yu)權(quan)(quan)(quan)、榮譽(yu)權(quan)(quan)(quan)、隱私(si)權(quan)(quan)(quan)和個人信息權(quan)(quan)(quan)益(yi);
(五)基于服(fu)(fu)務類型特點,采(cai)取有效(xiao)措施,提升生(sheng)(sheng)成式人工智能服(fu)(fu)務的透明(ming)度,提高(gao)生(sheng)(sheng)成內容的準確性和可靠性。
第二章 技術發展與治理
第五條 鼓勵(li)生成(cheng)式人工(gong)智能技術在各(ge)行業、各(ge)領域的(de)創新(xin)應用,生成(cheng)積(ji)極(ji)健康(kang)、向上向善的(de)優(you)質內(nei)容,探索優(you)化應用場景,構建(jian)應用生態(tai)體系。
支(zhi)持行業(ye)組(zu)織、企業(ye)、教育和科研機構、公共(gong)文化(hua)機構、有(you)關專(zhuan)業(ye)機構等在生(sheng)成式人工智(zhi)能技術(shu)創(chuang)新、數據資源(yuan)建設(she)、轉化(hua)應(ying)用、風險防范等方(fang)面開展協作。
第六條 鼓勵生(sheng)(sheng)成式人工智能(neng)算(suan)法、框架、芯(xin)片及配套軟件平臺等(deng)基(ji)礎技術的自主創(chuang)新,平等(deng)互利開展國際交流與合作,參與生(sheng)(sheng)成式人工智能(neng)相關國際規則(ze)制定。
推(tui)動生成式人工智能(neng)(neng)基礎(chu)設施和公共(gong)訓練(lian)數(shu)據資(zi)(zi)源(yuan)平(ping)臺建設。促進算(suan)力資(zi)(zi)源(yuan)協(xie)同共(gong)享,提升算(suan)力資(zi)(zi)源(yuan)利用效能(neng)(neng)。推(tui)動公共(gong)數(shu)據分類分級有(you)序(xu)開放,擴展高質量的公共(gong)訓練(lian)數(shu)據資(zi)(zi)源(yuan)。鼓勵采用安全可信的芯片、軟件、工具(ju)、算(suan)力和數(shu)據資(zi)(zi)源(yuan)。
第七條 生成式(shi)人工(gong)智能服務提(ti)供(gong)者(以(yi)下(xia)稱(cheng)提(ti)供(gong)者)應當依(yi)法開展(zhan)預訓練(lian)、優化訓練(lian)等訓練(lian)數據處理活動,遵守以(yi)下(xia)規定:
(一)使用具有合法來(lai)源的數據和基礎(chu)模(mo)型(xing);
(二)涉(she)及知識(shi)產權的,不得侵害(hai)他人依法享(xiang)有的知識(shi)產權;
(三)涉及個人信息的(de),應當(dang)取得個人同意或(huo)者(zhe)符合法律、行政法規規定的(de)其他情(qing)形(xing);
(四)采取有效措(cuo)施提高訓(xun)練(lian)數據質量,增強(qiang)訓(xun)練(lian)數據的真實(shi)性(xing)、準確性(xing)、客觀(guan)性(xing)、多(duo)樣性(xing);
(五)《中華人(ren)(ren)民共和國網絡安(an)全(quan)法》、《中華人(ren)(ren)民共和國數據安(an)全(quan)法》、《中華人(ren)(ren)民共和國個(ge)人(ren)(ren)信息保護法》等(deng)法律、行政法規(gui)(gui)的其他有(you)(you)關規(gui)(gui)定和有(you)(you)關主(zhu)管部門的相關監(jian)管要求(qiu)。
第八條 在(zai)生成(cheng)式人(ren)工智能技術研發過程中進行數據(ju)標(biao)(biao)注的(de),提供者應當制定符(fu)合本辦法(fa)要(yao)求的(de)清晰(xi)、具體、可(ke)操作(zuo)的(de)標(biao)(biao)注規則(ze);開展數據(ju)標(biao)(biao)注質量評估(gu),抽樣(yang)核驗標(biao)(biao)注內(nei)容的(de)準確(que)性;對標(biao)(biao)注人(ren)員進行必要(yao)培訓,提升尊法(fa)守法(fa)意(yi)識,監督指導標(biao)(biao)注人(ren)員規范開展標(biao)(biao)注工作(zuo)。
第三章 服務規范
第(di)九條(tiao) 提供者(zhe)應當依法(fa)承擔網(wang)(wang)絡信(xin)息(xi)(xi)內容生(sheng)產者(zhe)責任,履行(xing)網(wang)(wang)絡信(xin)息(xi)(xi)安全義(yi)務。涉及個(ge)人信(xin)息(xi)(xi)的(de),依法(fa)承擔個(ge)人信(xin)息(xi)(xi)處理者(zhe)責任,履行(xing)個(ge)人信(xin)息(xi)(xi)保護義(yi)務。
提供者(zhe)(zhe)應當與注冊其(qi)服(fu)務(wu)的(de)生(sheng)成(cheng)式人(ren)工(gong)智能服(fu)務(wu)使用者(zhe)(zhe)(以下稱使用者(zhe)(zhe))簽訂服(fu)務(wu)協議,明確雙方權利義務(wu)。
第十條 提供者(zhe)應當明(ming)確并公開其服(fu)務(wu)的適用人群、場合、用途(tu),指(zhi)導使(shi)用者(zhe)科學(xue)理(li)性認識和依(yi)法使(shi)用生成式人工(gong)智能技術(shu),采取有效措施(shi)防范未成年人用戶過度(du)依(yi)賴或者(zhe)沉迷生成式人工(gong)智能服(fu)務(wu)。
第十一條 提(ti)供者(zhe)(zhe)(zhe)對使用(yong)者(zhe)(zhe)(zhe)的輸入信(xin)(xin)息(xi)和(he)使用(yong)記(ji)(ji)錄應(ying)當依法履行保(bao)護義務,不得(de)收集非必(bi)要個人信(xin)(xin)息(xi),不得(de)非法留存能夠(gou)識(shi)別使用(yong)者(zhe)(zhe)(zhe)身份的輸入信(xin)(xin)息(xi)和(he)使用(yong)記(ji)(ji)錄,不得(de)非法向他人提(ti)供使用(yong)者(zhe)(zhe)(zhe)的輸入信(xin)(xin)息(xi)和(he)使用(yong)記(ji)(ji)錄。
提供者應當(dang)依法及時(shi)受理(li)和處理(li)個(ge)人關于查閱、復制、更正(zheng)、補充、刪(shan)除(chu)其個(ge)人信息等的(de)請求。
第十二(er)條 提供者應當按照《互(hu)聯網信息服(fu)務深(shen)度合(he)成管理(li)規定(ding)》對圖(tu)片(pian)、視頻(pin)等生成內容進行標(biao)識。
第十三條(tiao) 提(ti)供者應當在其(qi)服(fu)務(wu)過程中,提(ti)供安全、穩定、持續的(de)服(fu)務(wu),保障用戶正常使用。
第十四(si)條 提供者發現(xian)違法內容的,應(ying)當及時采(cai)取(qu)(qu)停止生(sheng)成、停止傳輸(shu)、消除(chu)等(deng)處置措施(shi),采(cai)取(qu)(qu)模型(xing)優化訓練等(deng)措施(shi)進行整改,并向(xiang)有關主管(guan)部門報告。
提(ti)供者(zhe)發現使用者(zhe)利用生(sheng)成式人(ren)工智能服務從(cong)事違法(fa)活動的,應當(dang)依(yi)法(fa)依(yi)約采(cai)取警(jing)示、限(xian)制功能、暫停或者(zhe)終止向其提(ti)供服務等(deng)處置措施(shi),保(bao)存有關記錄,并向有關主管部(bu)門報告。
第十(shi)五(wu)條 提供者(zhe)應(ying)當建(jian)立健全投訴、舉(ju)報機(ji)制,設置便捷的投訴、舉(ju)報入口,公布處(chu)理(li)流程(cheng)和反(fan)饋(kui)時(shi)限(xian),及(ji)時(shi)受理(li)、處(chu)理(li)公眾投訴舉(ju)報并反(fan)饋(kui)處(chu)理(li)結果(guo)。
第四章 監督檢查和法律責任
第十六條 網信、發展(zhan)改(gai)革、教(jiao)育、科技、工業和信息化(hua)、公安、廣(guang)播電視、新聞出版等部(bu)門(men),依(yi)據各自職責依(yi)法加強對生成式(shi)人工智(zhi)能服務的管(guan)理。
國家有關(guan)(guan)主管(guan)部門針對生成式人工智能技術特點(dian)及其(qi)在有關(guan)(guan)行(xing)業和領(ling)域的(de)服務應(ying)用,完善與創新發展(zhan)相(xiang)適應(ying)的(de)科學監(jian)管(guan)方(fang)式,制(zhi)定相(xiang)應(ying)的(de)分類分級監(jian)管(guan)規(gui)則或(huo)者指引。
第十七條 提供具有(you)輿(yu)論(lun)屬性或者社會(hui)動(dong)員能力的(de)生成式人工智能服務的(de),應當按照(zhao)國家(jia)有(you)關規定開展安(an)全評估,并按照(zhao)《互聯網信息服務算(suan)法推薦(jian)管理規定》履行算(suan)法備案和變更、注(zhu)銷備案手續。
第(di)十八條(tiao) 使用者發現生成式(shi)人工(gong)智能服務不(bu)符合法(fa)律(lv)、行政法(fa)規(gui)(gui)和本(ben)辦法(fa)規(gui)(gui)定的,有權向(xiang)有關主管(guan)部(bu)門投訴、舉報。
第十九條 有關(guan)主(zhu)管部門(men)依(yi)據職責(ze)對生成式人工智能服務(wu)開展監督檢查,提(ti)供者應當依(yi)法(fa)予(yu)以(yi)配合,按(an)要(yao)求(qiu)對訓(xun)練數(shu)據來源、規模、類(lei)型、標注規則、算法(fa)機(ji)制機(ji)理等予(yu)以(yi)說明(ming),并提(ti)供必(bi)要(yao)的(de)技術、數(shu)據等支持(chi)和(he)協助。
參(can)與(yu)生成式(shi)人工智(zhi)能服務安(an)全評估和(he)(he)監督檢查(cha)的(de)相關機構和(he)(he)人員對在履(lv)行職(zhi)責中(zhong)知悉的(de)國家秘(mi)密、商業(ye)秘(mi)密、個(ge)人隱私和(he)(he)個(ge)人信息應(ying)當依法(fa)予以保(bao)密,不得泄露或者(zhe)非法(fa)向他人提供。
第二(er)十條(tiao) 對(dui)來源(yuan)于中華人(ren)民共和國(guo)境外向境內(nei)提供生(sheng)成式人(ren)工(gong)智能服務不符合法律、行政法規(gui)和本辦法規(gui)定(ding)的,國(guo)家(jia)網(wang)信部門應(ying)當通知(zhi)有關機構采取技術(shu)措(cuo)施和其他必(bi)要(yao)措(cuo)施予(yu)以(yi)處置。
第(di)二(er)十(shi)一(yi)條 提供者違反本辦法(fa)(fa)規(gui)定的,由(you)有(you)(you)關主管部門依照《中(zhong)華(hua)人(ren)(ren)民(min)共和(he)國(guo)網絡安全(quan)法(fa)(fa)》、《中(zhong)華(hua)人(ren)(ren)民(min)共和(he)國(guo)數(shu)據(ju)安全(quan)法(fa)(fa)》、《中(zhong)華(hua)人(ren)(ren)民(min)共和(he)國(guo)個人(ren)(ren)信息保護(hu)法(fa)(fa)》、《中(zhong)華(hua)人(ren)(ren)民(min)共和(he)國(guo)科學技術(shu)進步法(fa)(fa)》等(deng)法(fa)(fa)律、行政法(fa)(fa)規(gui)的規(gui)定予以處罰;法(fa)(fa)律、行政法(fa)(fa)規(gui)沒有(you)(you)規(gui)定的,由(you)有(you)(you)關主管部門依據(ju)職責(ze)予以警告、通報批(pi)評,責(ze)令限期(qi)改正;拒不改正或者情節嚴重的,責(ze)令暫(zan)停(ting)提供相關服務。
構(gou)成違(wei)反治安管理行為的,依法給(gei)予治安管理處罰(fa);構(gou)成犯罪(zui)的,依法追究刑事責任。
第五章 附則
第二(er)十二(er)條 本辦法下列用語(yu)的(de)含(han)義是:
(一)生成式人工智能(neng)技(ji)術(shu)(shu),是指具(ju)有文本、圖片、音頻、視頻等內容(rong)生成能(neng)力(li)的模型及相關技(ji)術(shu)(shu)。
(二)生(sheng)成式人(ren)工智(zhi)能(neng)服(fu)務提供(gong)者(zhe),是指利(li)用生(sheng)成式人(ren)工智(zhi)能(neng)技術(shu)提供(gong)生(sheng)成式人(ren)工智(zhi)能(neng)服(fu)務(包括通過提供(gong)可編程接口等方式提供(gong)生(sheng)成式人(ren)工智(zhi)能(neng)服(fu)務)的組織(zhi)、個人(ren)。
(三)生(sheng)成式(shi)人工智能(neng)服務使用者,是指使用生(sheng)成式(shi)人工智能(neng)服務生(sheng)成內容的組織、個(ge)人。
第二十三條 法(fa)律、行(xing)政法(fa)規規定提供生成(cheng)式人工智能服(fu)務(wu)應當取得相關(guan)行(xing)政許可的,提供者應當依法(fa)取得許可。
外(wai)商(shang)投(tou)資生成式人工智能(neng)服(fu)務(wu),應當符合外(wai)商(shang)投(tou)資相關法(fa)律、行政法(fa)規的(de)規定。
第(di)二(er)十(shi)四條 本辦法自2023年8月15日(ri)起(qi)施行(xing)。
① 凡本(ben)站(zhan)注(zhu)明“稿(gao)件(jian)來源(yuan):中國教育(yu)在(zai)線”的(de)所有(you)文字、圖(tu)片和(he)音(yin)視頻稿(gao)件(jian),版(ban)權(quan)(quan)均(jun)屬(shu)本(ben)網所有(you),任何媒體、網站(zhan)或個(ge)人未經本(ben)網協議授權(quan)(quan)不得轉載、鏈接、轉貼或以其他方式復制發表。已經本(ben)站(zhan)協議授權(quan)(quan)的(de)媒體、網站(zhan),在(zai)下載使用(yong)時必(bi)須注(zhu)明“稿(gao)件(jian)來源(yuan):中國教育(yu)在(zai)線”,違者(zhe)本(ben)站(zhan)將(jiang)依法追究(jiu)責任。
② 本(ben)站注明稿件(jian)來源為其(qi)他媒體(ti)的(de)(de)(de)文/圖等稿件(jian)均(jun)為轉(zhuan)(zhuan)載稿,本(ben)站轉(zhuan)(zhuan)載出于非商業(ye)性(xing)的(de)(de)(de)教育和(he)科研(yan)之目的(de)(de)(de),并不(bu)意(yi)味著贊(zan)同(tong)其(qi)觀點或(huo)證實其(qi)內容(rong)的(de)(de)(de)真實性(xing)。如轉(zhuan)(zhuan)載稿涉及(ji)版(ban)權(quan)等問題,請作者在兩周內速(su)來電或(huo)來函聯系。




中國教育在線
