國家互聯網信息辦公室

中華人民共和國國家發展和改革委員會(hui)

中華人民共和國教育部

中華人民共和國科學技術部

中華人民共和國工業(ye) 和信息化部

中華人民共和國公安部

國家廣播電視總局

令

第15號

《生成式人工智能服務管理暫行辦法》已經2023年5月23日國家互聯網信息辦公室2023年第12次室務會(hui) 會(hui) 議審議通過，並經國家發展和改革委員會(hui) 、教育部、科學技術部、工業(ye) 和信息化部、公安部、國家廣播電視總局同意，現予公布，自2023年8月15日起施行。

國家互聯網信息辦公室主任 莊榮文

國家發展和改革委員會(hui) 主任 鄭柵潔

教育部部長 懷進鵬

科學技術部部長 王誌剛

工業(ye) 和信息化部部長 金壯龍

公安部部長 王小洪

國家廣播電視總局局長 曹淑敏

2023年7月10日

生成式人工智能服務管理暫行辦法

第一章 總　則

第一條 為(wei) 了促進生成式人工智能健康發展和規範應用，維護國家安全和社會(hui) 公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個(ge) 人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規，製定本辦法。

第二條 利用生成式人工智能技術向中華人民共和國境內(nei) 公眾(zhong) 提供生成文本、圖片、音頻、視頻等內(nei) 容的服務（以下稱生成式人工智能服務），適用本辦法。

國家對利用生成式人工智能服務從(cong) 事新聞出版、影視製作、文藝創作等活動另有規定的，從(cong) 其規定。

行業(ye) 組織、企業(ye) 、教育和科研機構、公共文化機構、有關(guan) 專(zhuan) 業(ye) 機構等研發、應用生成式人工智能技術，未向境內(nei) 公眾(zhong) 提供生成式人工智能服務的，不適用本辦法的規定。

第三條 國家堅持發展和安全並重、促進創新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創新發展，對生成式人工智能服務實行包容審慎和分類分級監管。

第四條 提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會(hui) 公德和倫(lun) 理道德，遵守以下規定：

（一）堅持社會(hui) 主義(yi) 核心價(jia) 值觀，不得生成煽動顛覆國家政權、推翻社會(hui) 主義(yi) 製度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會(hui) 穩定，宣揚恐怖主義(yi) 、極端主義(yi) ，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內(nei) 容；

（二）在算法設計、訓練數據選擇、模型生成和優(you) 化、提供服務等過程中，采取有效措施防止產(chan) 生民族、信仰、國別、地域、性別、年齡、職業(ye) 、健康等歧視；

（三）尊重知識產(chan) 權、商業(ye) 道德，保守商業(ye) 秘密，不得利用算法、數據、平台等優(you) 勢，實施壟斷和不正當競爭(zheng) 行為(wei) ；

（四）尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個(ge) 人信息權益；

（五）基於(yu) 服務類型特點，采取有效措施，提升生成式人工智能服務的透明度，提高生成內(nei) 容的準確性和可靠性。

第二章 技術發展與(yu) 治理

第五條 鼓勵生成式人工智能技術在各行業(ye) 、各領域的創新應用，生成積極健康、向上向善的優(you) 質內(nei) 容，探索優(you) 化應用場景，構建應用生態體(ti) 係。

支持行業(ye) 組織、企業(ye) 、教育和科研機構、公共文化機構、有關(guan) 專(zhuan) 業(ye) 機構等在生成式人工智能技術創新、數據資源建設、轉化應用、風險防範等方麵開展協作。

第六條 鼓勵生成式人工智能算法、框架、芯片及配套軟件平台等基礎技術的自主創新，平等互利開展國際交流與(yu) 合作，參與(yu) 生成式人工智能相關(guan) 國際規則製定。

推動生成式人工智能基礎設施和公共訓練數據資源平台建設。促進算力資源協同共享，提升算力資源利用效能。推動公共數據分類分級有序開放，擴展高質量的公共訓練數據資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數據資源。

第七條 生成式人工智能服務提供者（以下稱提供者）應當依法開展預訓練、優(you) 化訓練等訓練數據處理活動，遵守以下規定：

（一）使用具有合法來源的數據和基礎模型；

（二）涉及知識產(chan) 權的，不得侵害他人依法享有的知識產(chan) 權；

（三）涉及個(ge) 人信息的，應當取得個(ge) 人同意或者符合法律、行政法規規定的其他情形；

（四）采取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性；

（五）《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個(ge) 人信息保護法》等法律、行政法規的其他有關(guan) 規定和有關(guan) 主管部門的相關(guan) 監管要求。

第八條 在生成式人工智能技術研發過程中進行數據標注的，提供者應當製定符合本辦法要求的清晰、具體(ti) 、可操作的標注規則；開展數據標注質量評估，抽樣核驗標注內(nei) 容的準確性；對標注人員進行必要培訓，提升尊法守法意識，監督指導標注人員規範開展標注工作。

第三章 服務規範

第九條 提供者應當依法承擔網絡信息內(nei) 容生產(chan) 者責任，履行網絡信息安全義(yi) 務。涉及個(ge) 人信息的，依法承擔個(ge) 人信息處理者責任，履行個(ge) 人信息保護義(yi) 務。

提供者應當與(yu) 注冊(ce) 其服務的生成式人工智能服務使用者（以下稱使用者）簽訂服務協議，明確雙方權利義(yi) 務。

第十條 提供者應當明確並公開其服務的適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式人工智能技術，采取有效措施防範未成年人用戶過度依賴或者沉迷生成式人工智能服務。

第十一條 提供者對使用者的輸入信息和使用記錄應當依法履行保護義(yi) 務，不得收集非必要個(ge) 人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。

提供者應當依法及時受理和處理個(ge) 人關(guan) 於(yu) 查閱、複製、更正、補充、刪除其個(ge) 人信息等的請求。

第十二條 提供者應當按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內(nei) 容進行標識。

第十三條 提供者應當在其服務過程中，提供安全、穩定、持續的服務，保障用戶正常使用。

第十四條 提供者發現違法內(nei) 容的，應當及時采取停止生成、停止傳(chuan) 輸、消除等處置措施，采取模型優(you) 化訓練等措施進行整改，並向有關(guan) 主管部門報告。

提供者發現使用者利用生成式人工智能服務從(cong) 事違法活動的，應當依法依約采取警示、限製功能、暫停或者終止向其提供服務等處置措施，保存有關(guan) 記錄，並向有關(guan) 主管部門報告。

第十五條 提供者應當建立健全投訴、舉(ju) 報機製，設置便捷的投訴、舉(ju) 報入口，公布處理流程和反饋時限，及時受理、處理公眾(zhong) 投訴舉(ju) 報並反饋處理結果。

第四章 監督檢查和法律責任

第十六條 網信、發展改革、教育、科技、工業(ye) 和信息化、公安、廣播電視、新聞出版等部門，依據各自職責依法加強對生成式人工智能服務的管理。

國家有關(guan) 主管部門針對生成式人工智能技術特點及其在有關(guan) 行業(ye) 和領域的服務應用，完善與(yu) 創新發展相適應的科學監管方式，製定相應的分類分級監管規則或者指引。

第十七條 提供具有輿論屬性或者社會(hui) 動員能力的生成式人工智能服務的，應當按照國家有關(guan) 規定開展安全評估，並按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。

第十八條 使用者發現生成式人工智能服務不符合法律、行政法規和本辦法規定的，有權向有關(guan) 主管部門投訴、舉(ju) 報。

第十九條 有關(guan) 主管部門依據職責對生成式人工智能服務開展監督檢查，提供者應當依法予以配合，按要求對訓練數據來源、規模、類型、標注規則、算法機製機理等予以說明，並提供必要的技術、數據等支持和協助。

參與(yu) 生成式人工智能服務安全評估和監督檢查的相關(guan) 機構和人員對在履行職責中知悉的國家秘密、商業(ye) 秘密、個(ge) 人隱私和個(ge) 人信息應當依法予以保密，不得泄露或者非法向他人提供。

第二十條 對來源於(yu) 中華人民共和國境外向境內(nei) 提供生成式人工智能服務不符合法律、行政法規和本辦法規定的，國家網信部門應當通知有關(guan) 機構采取技術措施和其他必要措施予以處置。

第二十一條 提供者違反本辦法規定的，由有關(guan) 主管部門依照《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個(ge) 人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規的規定予以處罰；法律、行政法規沒有規定的，由有關(guan) 主管部門依據職責予以警告、通報批評，責令限期改正；拒不改正或者情節嚴(yan) 重的，責令暫停提供相關(guan) 服務。

構成違反治安管理行為(wei) 的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

第五章 附　則

第二十二條 本辦法下列用語的含義(yi) 是：

（一）生成式人工智能技術，是指具有文本、圖片、音頻、視頻等內(nei) 容生成能力的模型及相關(guan) 技術。

（二）生成式人工智能服務提供者，是指利用生成式人工智能技術提供生成式人工智能服務（包括通過提供可編程接口等方式提供生成式人工智能服務）的組織、個(ge) 人。

（三）生成式人工智能服務使用者，是指使用生成式人工智能服務生成內(nei) 容的組織、個(ge) 人。

第二十三條 法律、行政法規規定提供生成式人工智能服務應當取得相關(guan) 行政許可的，提供者應當依法取得許可。

外商投資生成式人工智能服務，應當符合外商投資相關(guan) 法律、行政法規的規定。

第二十四條 本辦法自2023年8月15日起施行。