日开发“网络疫苗”打击虚假信息

️参考消息网5月5日报道据《日本经济新闻》5月1日报道，“从事网络诈骗的跨国犯罪集团开始热衷于生成式人工智能（AI）技术，这将带来复杂且令人担忧的挑战”。

联合国毒品和犯罪问题办公室日前发布了一份长达百页、题为《拐点》的报告。报告分析称，在东南亚迅猛发展的网络诈骗活动开始向南美、非洲等地区扩展。

使用AI生成伪造视频的深伪技术导致诈骗活动愈发猖獗。目前已发现有10多家公司在高度保密的通信应用程序“电报”上向犯罪组织出售专用软件。2023年，东亚和东南亚因网络诈骗造成的经济损失可能高达370亿美元。

技术进步也助长了不法分子的违法效率。日本国际大学副教授山口真一表示：“生成式AI的出现，带动了深伪技术的普及。它很快就会变得更加容易使用，而我们将迎来虚假信息泛滥的‘X日’（二战末期盟军制订的进攻日本本土作战计划‘没落行动’的首日——本报网注）。”为了保护公民的生活，打磨预防犯罪的技术非常重要。

由富士通牵头，日本电气公司（NEC）、东京大学等公司和机构参与，专门用于打击虚假信息的系统已经开始研发。当将内容输入聊天机器人时，AI会逐一甄别那些人眼难以判断是否真实的信息。

它的独特之处在于不仅能够判断文本和图像的真实性，还能收集数据并为其调查结果提供依据。据称这是世界上第一个能够处理从真伪辨别到数据分析的一揽子系统。该系统计划于2025财年底打造完成，并于2025年夏季提前开始试运行。

虚假信息和错误信息的传播引发了信息空间的“环境污染”。日本国家信息学研究所（NII）正在开发一种“网络疫苗”，以防止网络内容和人们的面部信息被滥用。

这种网络疫苗嵌入了肉眼无法看见的微小噪点，这将导致AI对图像产生误判，无法识别人脸等信息，从而防止篡改。他们还将开发利用AI显示已编辑区域并恢复遭修改视频的技术。

NII的越前功教授表示：“完全由人眼负责监控是不现实的，自主研发打击虚假信息的技术至关重要。”

就防止虚假信息传播和杜绝篡改现象，越来越多人开始行动起来。C2PA是由奥多比系统软件公司等美国企业为主的约200家公司建立的标准化组织。美国开放人工智能研究中心（OpenAI）去年底推出的自动视频制作服务也符合C2PA标准，具有嵌入标识视频为“AI制作”信息的机制。（编译/刘林）