内容监管：AI生态良好发展的先决条件

(资料图片)

【事项】

3 月1 日， AIGC-X 正式开始全网公测。AIGC-X 是由人民日报社主管、依托人民网建设的传播内容认知全国重点实验室，中国科学技术大学，合肥综合性国家科学中心人工智能研究院联合推出的国内首个AI生成内容检测工具。

【评论】

人工智能在内容生成领域的应用面临风险监管需求，安全可信是AIGC良好生态发展的先决条件。AI 文本生成模型是在海量文本语料基础上，经过自回归式语言建模的大规模训练得到，模型通过计算下一个单词的概率分布逐步完成整个文本内容的生成。AIGC-X 尝试采用算法融合与知识驱动的人工智能框架，使用深度建模来捕捉困惑度、突现频次等隐式特征，学习得到机器生成文本与人工生成文本的分布差异。结合内容识别、内容溯源等技术，AIGC-X 能够有效的推动AI 风险管理、安全审查和评估技术的发展，为建立安全可信AIGC 生态的基础提供技术方案与支撑。

多模态或将成为下一发展方向，内容生产日趋复杂将提升内容领域的监管需求。OpenAI CEO Sam Altman 曾在2022 年9 月的一次采访中表示，将在不远的将来推出多模态模型。OpenAI 联合创始人、首席科学家Ilya Sutskever 也曾多次在采访和社交媒体上表达对多模态的关注。多模态模型接受文字、音频、图像和视频输入，将支持使用者通过AI 输出可视听内容，内容生产的新范式需要提升监管治理的技术能力，机器的半监督或无监督学习算法叠加更为丰富的内容表现形式势必要求内容安全管理的与时俱进，伴随甚至提前于技术的迭代而发展，图像及音视频内容的监测将有效防范人工智能在虚假信息、学术造假、网络钓鱼等灰色地带中的滥用。

1）内容输出侧，建议关注具备泛安全场景化应用能力和内容生产制作能力的当虹科技（688039）；2）内容应用侧，重点关注国内安防龙头海康威视（002415）；3）内容安全管理侧，重点关注兼有AI 数据资源优势和安全能力的三六零（601360），建议关注传媒安全领军企业博汇科技（688004）。

【风险提示】

多模态模型推出不及预期风险；技术发展不及预期风险。

关键词： 人工智能 安全管理 先决条件