2025年4月起,中央网信办开展“清朗·整治AI技术滥用”专项行动第一阶段工作,聚焦AI换脸拟声、内容标识缺失等乱象,督促各地网信部门处置违规AI产品、切断营销渠道,要求网站平台健全技术保障、加速内容标识落地。
点击查看报道原文
随着人工智能技术的飞速发展,深度伪造技术引发的风险日益凸显。AI换脸拟声等滥用行为不仅误导公众、煽动社会情绪,还对传统新闻媒体公信力构成严峻挑战,更波及法律、教育和金融等多个行业,威胁国家总体安全。在此背景下,国投智能(300188)积极响应国家号召,依托自身在人工智能领域的技术积累,研发推出“鉴真”系列产品,为打击AI技术滥用提供了有力武器。
技术领先,精准识别多种伪造手段
近年来,公司不断加大在人工智能技术的研发投入,并高度重视人工智能安全治理工作,聚焦人工智能大模型安全方向,深度探索深度合成、大模型生成音视频图像文本的检测识别和鉴定,以及大模型安全能力和标识能力的评估评测。
面对深伪合成与 AI 生成图片、视频带来的内容真实性挑战,公司自主研发的检测技术已构建起全面且精准的防御体系。平台可有效识别近500种各类伪造生成手段,广泛覆盖当前主流AI换脸、AI生成等方法。经领域专业厂家测评,美亚柏科的鉴真能力,平均精度超 94.6%,平均召回超 90.2%,为内容安全筑牢技术防线。
公司首发国内第一款深伪视频图像鉴真智能装备——慧眼视频图像鉴真工作站。互联网上线“美亚鉴真平台”微信小程序,已在全国13个省级、超100个地市级反诈政务平台完成对接,成为全国唯一接入各类政务平台以及覆盖最广的深度合成生成内容检测小程序,并获得央视新闻专题报道和各地反诈中心部门的好评。
业务多元,提供定制化解决方案
公司“鉴真”系列产品以多元化的业务模式,能够满足不同场景需求,用户可依据业务特性、数据规模及安全要求,灵活选择适配版本,获取定制化的AI合成生成内容检测解决方案:
实验室装备版适配专业科研与鉴定场景;
手机、平板、电脑等端侧SDK支持移动设备及终端应用的实时检测集成;
私有服务版通过本地化部署,保障数据隐私与安全;
SaaS化服务版以云端API实现低成本、高灵活的能力输出;
互联网微信小程序则为个人用户及中小机构提供便捷的轻量化检测服务。
护航“清朗·整治AI技术滥用”专项行动
国投集团特级专家、国投智能人工智能研究院院长赵建强博士表示,国投智能作为《人工智能生成合成内容标识办法》及配套国标的起草单位,所具备的技术能力能够全方位服务“清朗·整治AI技术滥用”专项行动。
一方面,鉴真系列产品集成了先进的AI算法和图像处理技术,可对深度合成的视频图像、及大模型生成的音视频图像和文本内容进行快速筛查、精准识别,为监管部门开展专项整治提供强有力的技术支持。另一方面,公司还能为网站平台提供红蓝对抗的检测评估服务。通过模拟真实的攻击场景,对平台的内容识别系统进行全面检测和评估,帮助平台发现潜在的安全漏洞,提升对AI伪造内容的识别和防范能力。
据介绍,下一步,中央网信办将聚焦AI造谣、低俗内容等7类突出问题,开展“清朗·整治AI技术滥用”专项行动第二阶段工作,构建技术监测体系,形成处置处罚规范,推动内容标识如期落地等。
赵建强博士强调,国投智能将积极投身各地网信部门组织的推动标识要求落地的法规宣贯和专题交流活动。依托在AI技术领域的专业知识及参编标准经验,国投智能能够为有关单位与企业提供专业的技术支撑和定制化解决方案,加速内容标识落地进程,助力网信部门高效推进第二阶段工作。
展望未来,国投智能将继续秉承创新驱动的发展理念,加大在AI技术领域的研发投入,不断完善“鉴真”功能,为打击AI技术滥用、维护网络清朗生态贡献更多力量。同时,国投智能将积极与各方合作,共同推动人工智能向善向好,让AI技术更好地造福于社会和人民。
配配网提示:文章来自网络,不代表本站观点。