网络安全与日常生活紧密相连

从智能助手

精准医疗到自动驾驶

AI的进步让社会运转更高效

生活更便捷

但技术往往利弊共生

AI快速发展也暗藏风险

AI造谣 AI诈骗

正成为亟待应对的严峻挑战

我们在拥抱AI便利的同时

必须高度警惕这些潜在危害

今年3月初，一则关于“华山医院前院长”因病客死他乡的消息在互联网广泛传播，也引起众多网友关注。然而经上海警方核查却发现，华山医院压根就没有名为“张明远”的前院长，也没有同名员工。经上海公安网安部门迅速调查，最终成功侦破这起利用AI造谣案，将犯罪嫌疑人王某某、郭某某、石某某抓获归案。而令人吃惊的是，犯罪嫌疑人在发布该假消息前，甚至都不知道有华山医院这家医院，更不知道所谓的“张明远”这个人。

经查实，王某某、郭某某、石某某等3人，通过控制500余个自媒体账号，设置社会热点、明星绯闻、爆款推荐等关键词策略，利用AI工具自动生成并发布不实帖文30余万条，造成恶劣社会影响。

近年来，随着AI技术的快速发展，尤其是自然语言处理和深度伪造技术的成熟，AI造谣呈现出更隐蔽、难辨别的特点，利用ai工具合成技术编造谣言，甚至生成逼近真实的图片、音视频，颠覆了“有图就有真相”的常规认知，让人难辨真假。

2024年8月，市民刘先生报案称其在2个月前通过一则短视频结交了网友“焦女士”，接触后感觉十分投缘。不久，“焦女士”称在外出游玩时为他请了一串手串，刘先生深受感动，两人迅速发展为恋人关系。随后，“焦女士”又称刚盘下一家服装店，希望刘先生能为她预订花篮支持开业，刘先生未多想就转账给了对方推荐的“花店老板”。接下来的一个月内，“焦女士”故伎重施，以家属生病、进货需要资金等理由，陆续向刘先生索要了近20万元。接报后，上海警方抽丝剥茧，逐步明确了一个以杨某为首的交友诈骗团伙。随着调查深入，民警发现该团伙组织严密且有明确分工，如在短视频平台上架视频的引流人员，与潜在被害人聊天的业务员，以及伪造相关聊天内容的“修图”人员，采取“流水化”诈骗作业。

“AI诈骗”成功率极高，因为骗子利用的是人类最原始的情感：对亲友的信任和对权威的畏惧。传统电信诈骗靠“话术”，而AI诈骗靠的是“技术”。它不再仅仅是“猜猜我是谁”，而是让你亲眼看到、亲耳听到“你认识的人”，欺骗性呈指数级上升。

AI技术能让违法犯罪分子轻松“换脸变声”，请注意“眼见”未必为实，教你如何辨别AI诈骗。

网警提醒

面对纷繁复杂的网络信息

须持续提升辨别意识

涉及金钱往来的各类交易

应始终保持高度警惕

不向陌生账户转账

不被“高收益”“急用钱”等说辞迷惑

守好信息安全与财产安全

共同防范网络风险

营造一个真实可信的信息环境