范先生刚刚添加亲戚黄先生为好友，就接到他打来的视频通话，画面是黄先生本人在村里的情景。黄先生提出借钱，范先生感觉这与其日常行为风格不符，便用手机与真正的黄先生进行确认。最后，核实这是人像、声音、场景完全一致的AI视频仿冒行为。
国家网络安全宣传周上海地区“校园日”活动。
20日，在2025年国家网络安全宣传周上海地区“校园日”活动中，网安宣传展板上的十大典型案例，构成新型威胁，引发师生警醒。
“不法分子通过搜集目标人物的亲友视频、照片、音频等素材，利用深度伪造技术生成逼真的AI换脸视频，并通过合成音效模仿声音，以此冒充身份。”网络安全专家告诉观众，接到这类通话，要观察视频细节，注意观察视频中的人物是否有不自然的表情或动作，要求对方做一些特定的面部运动，比如侧脸转向、面部遮挡、捏鼻子等，以辨识AI换脸的可能性。
网络安全游园会。
当天，校园日活动在上海交通大学开出“网络安全游园会”，针对“大中小”不同学段特点，搭建AIGC（人工智能生成内容）创意打卡区、网络安全知识普及区、网络安全案例展示区、网络安全知识实践区、网络安全互动区、青年创想区等六个场景，让大中小学生在数字体验和互动游戏中自觉学习网络安全知识，提升网络安全意识。
事实上，在生成式AI兴起的潮流中，传统的网络诈骗方式也“魔高一尺”。比如，不法分子利用生成式AI技术制作高仿真度的钓鱼邮件，伪装成知名平台的官方通知邮件，在邮件内容中制造紧迫感，鼓励诱使收件人点击恶意链接并输入账户信息。
网络安全互动区。
网安案例中，有不少亚马逊卖家就称，收到伪装成亚马逊官方的钓鱼邮件，该邮件的发件地址与亚马逊官方高度相似，内容也仿制官方通知风格，要求更新紧急联系人信息。按照邮件指引操作后，卖家被引导至一个仿造的亚马逊网站，要求输入邮箱、密码及二次验证码。最终，导致其账户被盗用，重要账户信息被提取，有卖家短短一夜之间损失高达40万元。
“万万没想到……”今年国家网络安全宣传周上海地区“校园日”，正是以《万万想不到》情景微剧拉开帷幕。这一系列微剧聚焦青少年网络安全热点，自2022年在网络上播出以来，已成为普及网络安全知识、培育青少年网络文明的重要载体。活动现场为2025年度“优秀小主播”获得者、“上海高校网络安全公益宣传大使”和“上海学校网络安全公益讲师”颁发证书，并启动“网络安全大中小学校园行”系列活动，常态化推动“校园巡讲”“智暖银龄”等网络安全志愿服务进校园、进社区。
以“网络青春力量”为主题的国家网络安全宣传周上海地区“校园日”活动，由市教卫工作党委、市教委，市委网信办指导，上海教育系统网络文化发展研究中心、大中小学思想政治教育一体化建设创新发展中心、上海交大党委宣传部主办。当前，上海教育系统分群体打造大学生网络文化节等一批品牌活动，分层培育上海大中小学生数字素养与技能提升科普作品征集展示等一批特色活动，分领域制作了“中华优秀传统文化进网络”等一批育人资源。
原标题：《深度合成AI换脸、高度仿真AI“钓鱼”，网络安全新型威胁“万万想不到”》
图片来源：刘晓晶 摄
来源：作者：解放日报 徐瑞哲
