AI 安全护栏

阿里云内容安全增强版推出基于通义定制的图片、文本、视频、图文混合模态审核大模型服务，能够全方位识别图片、文本、视频、图文混合数据中的色情、性感、涉政、暴恐、违禁、宗教、引流广告、不良等违规内容，拥有更精准的效果和更强的扩展能力。能够更好的理解和检测前后文、隐喻、意识形态、正负面、低像素、占比小等疑难场景违规内容。

内容安全产品对直播、视频、社交、游戏、教育、娱乐等场景下的视频、图片、语音、文本、文档内容进行全维度的风险审核，提供鉴黄、暴恐识别、广告识别、不良场景识别、语音反垃圾、文本反垃圾等多种能力，同时结合专家策略运营服务，和审核平台的应用，构建内容智能审核解决方案，大幅度降低人工成本，提高审核效率，提升内容风险防控水位。

AIGC技术和应用迅速发展，在社会和商业应用各方面形成热潮，一方面带来了海量趣味的内容，另一方面随着AI技术的发展也让部分AIGC内容真假难辨。根据《人工智能生成合成内容标识办法》规定，网络信息内容传播服务的服务提供者应当对AI生成合成的内容进行检测和标识，提醒公众该内容可能为生成合成内容。本方案基于阿里云入选“网络安全国家标准应用实践案例库”的人工智能生成合成内容检测和标识应用作为参考，提供图片、文本、语音、视频AI生成合成内容检测和标识服务。