一夜之間，以 ChatGPT 為首的生成式 AI 彷佛席卷了網絡，對于這種現象，各國政府顯然不可能放任地由其野蠻發展。繼意大利以數據保護為由禁用了 ChatGPT 后，中、美兩國的政府日前也開始就生成式 AI 管理辦法向公眾征求意見。在中國網信辦發布的征集意見稿中，強調了軟件、工具、運算和數據資源的安全可信度，并要求 AI 產品或服務“遵守法律法規的要求，尊重社會公德、公序良俗”。利用生成式 AI 提供服務的組織或個人必須承擔生成內容生產者的責任，涉及個人信息的情況下也須履行個資保護義務。

此外在服務采用人工標注時，標注人員須接受必要的培訓，服務方也須抽樣檢驗標注內容的正確性。另外服務方亦不得根據用戶的種族、國別、性別等輸出帶有歧視性的生成內容，同時須指導用戶不利用生成內容損害他人形象、名譽及其他合法權益。在內容被使用者舉報違規時，服務方也須采取必要的過濾措施，且在三個月內透過模型優化訓練等方式避免再次生成。

而在美國這邊，向公眾征求意見的是國家電訊和信息管理局。他們目前發布的內容沒有中國監管方這么詳細，但整體上會更傾向于搜集 AI 激勵機制、安全測試方法、系統所需數據量等方面的意見。總的來說，管理局希望未來的新舉措能在“不造成傷害”的前提下，幫助政府確保 AI 模型達到預期中的效果。