徵求意見：明確五類安全風險的生成式AI安全指導文件

中新經緯10月12日電據全國資訊安全標準化技術委員會網站消息，日前，全國資訊安全標準化技術委員會秘書處發布《生成式人工智慧服務安全基本要求(徵求意見稿)》(以下簡稱《基本要求》)。

《基本要求》給出了生成式人工智慧服務在安全方面的基本要求，包括語料安全、模型安全、安全措施、安全評估等，適用於面向我國境內公眾提供生成式人工智慧服務的提供者提升服務安全水平，或提供者自行或委託第三方進行安全評估，也可為相關主管機關評判生成式人工智慧服務的安全水平提供參考。

《基本要求》明確，生成式人工智慧服務是基於資料、演算法、模型、規則，能夠根據使用者提示產生文字、圖片、音訊、影片等內容的人工智慧服務。

來源：全國資訊安全標準化技術委員會網站

在語料內容安全方面，基本要求提出了三個主要內容：

需要進行重新改寫的內容是：在訓練語料內容過濾方面，應該採用關鍵字、分類模型和人工抽檢等方法，全面過濾所有語料中的違法不良訊息

需要進行改寫的內容是：其次，在智慧財產權方面，應該設立負責語料和生成內容的智慧財產權專員，並制定相應的智慧財產權管理策略。在進行語料訓練之前，知識產權專員應該對語料中的知識產權侵權情況進行識別，並確保提供的語料沒有侵權問題

在個人資訊方面的重寫內容如下：在使用包含個人資訊的語料時，必須取得對應個人資訊主體的授權同意，或符合其他合法使用該個人資訊的條件等

在安全措施要求方面，《基本要求》明確提出了針對服務適用於未成年人的特殊要求。這些要求包括允許監護人設定未成年人的防沉迷措施，並透過密碼保護來實施；限制未成年人每日對話的次數和時長，如果超過限制，則需要輸入管理密碼；未成年人進行消費前需要經過監護人的確認；還需要過濾掉不適合未成年人的內容，只展示對身心健康有益的內容。對於不適用於未成年人的服務，應採取技術或管理措施來防止未成年人的使用

以上是徵求意見：明確五類安全風險的生成式AI安全指導文件的詳細內容。更多資訊請關注PHP中文網其他相關文章！