中新经纬10月12日电 据全国信息安全标准化技术委员会网站消息，日前，全国信息安全标准化技术委员会秘书处发布《生成式人工智能服务安全基本要求(征求意见稿)》(以下简称《基本要求》)。
《基本要求》给出了生成式人工智能服务在安全方面的基本要求，包括语料安全、模型安全、安全措施、安全评估等，适用于面向我国境内公众提供生成式人工智能服务的提供者提高服务安全水平，或是提供者自行或委托第三方开展安全评估，也可为相关主管部门评判生成式人工智能服务的安全水平提供参考。
《基本要求》明确，生成式人工智能服务是基于数据、算法、模型、规则，能够根据使用者提示生成文本、图片、音频、视频等内容的人工智能服务。
来源：全国信息安全标准化技术委员会网站
在语料内容安全方面，基本要求提出了三个主要内容：
需要进行重新改写的内容是：在训练语料内容过滤方面，应该采用关键词、分类模型和人工抽检等方法，全面过滤所有语料中的违法不良信息
需要进行改写的内容是：其次，在知识产权方面，应该设立负责语料和生成内容的知识产权专员，并制定相应的知识产权管理策略。在进行语料训练之前，知识产权专员应该对语料中的知识产权侵权情况进行识别，并确保提供的语料没有侵权问题
在个人信息方面的重写内容如下：在使用包含个人信息的语料时，必须获得对应个人信息主体的授权同意，或者符合其他合法使用该个人信息的条件等
在安全措施要求方面，《基本要求》明确提出了针对服务适用于未成年人的特殊要求。这些要求包括允许监护人设定未成年人的防沉迷措施，并通过密码保护来实施；限制未成年人每日对话的次数和时长，如果超过限制，则需要输入管理密码；未成年人进行消费前需要经过监护人的确认；还需要过滤掉不适合未成年人的内容，只展示对身心健康有益的内容。对于不适用于未成年人的服务，应采取技术或管理措施来防止未成年人的使用
以上是征求意见：明确五类安全风险的生成式AI安全指导性文件的详细内容。更多信息请关注PHP中文网其他相关文章！
