（新加坡14日讯）AI深伪技术防不胜防，大马民主联合阵线（MUDA）党员林慧娴过去几年曾深受其害，经常收到陌生男子的骚扰和威胁短信，除了要她以身相许，就是要她立即还钱。

林慧娴（28岁）在去年的6州选举中，上阵万达镇州席位，有最美候选人之称。

她告诉《联合早报》：“最近这种情况越来越严重，我每天会收到10到20条威胁短信，有些甚至说要飞来大马找我和家人算账。

“为了证明自己清白，我在1月31日向警方报案，在社媒公开报案信，也数次在社媒发文澄清，但情况没有改善。”

林慧娴是活跃的Instagram用户，有逾10万追随者，而频频分享生活动态给她带来困扰，她相信诈骗团伙盗用她的个人信息行骗。

记者根据林慧娴提供的短信截图，联系上几名声称遭诈骗的男子。

土耳其男子尤索夫（29岁）受访时说，2022年12月，自称“Li Chu Xue”的女子以误发短信的方式与他建立联系，然后对他发动甜蜜攻势，两人展开长达一年的网恋。

对方多次以“要存更多钱才能结婚”为由，游说他投资加密货币，让他被骗了9万1000美元。

尤索夫坚信“Li Chu Xue”就是林慧娴。“我与她视频通话四次，画面高清、声音清楚，还有数不清的照片和视频，她的报警声明证明不了什么。”

就此，林慧娴反驳称，自己不曾与尤索夫联系，更没有欺骗对方的钱财。

另两名土耳其男子奥兹德米尔（45岁）和不愿透露全名的塞尔坎（Sercan，32岁）告诉《联合早报》，他们被“Suna”和“Dora”骗了很多钱，而口中的女子都是林慧娴。

他们联系上其他受害者，至少27人。他们已组织起来，向土耳其当局报案，案件现已进入调查阶段。

加拿大男子阿尔丰斯·阮（57岁）意识到自己可能陷入“杀猪盘”骗局后，录下与诈骗犯的交谈过程。

他受访时说，当加密货币交易平台第三次拒绝提款后，就有不详的预感，所以要求和网聊了三周的女密友“Olivia Wong”视频通话。

“我本就从事电脑相关行业，视频通话开始没多久，我就知道钱被骗走了。她和真正的林慧娴长得有点不像。”

3名土耳其受访者都不相信人工智能（AI）深伪（deepfake）技术能制作出高清视频。奥兹德米尔说：“我在与对方视频通话的两分钟里，甚至看到她脸上的小痘痘。”

鉴别技术落后于生成技术

生成式AI专家、AI公司HippoML首席执行官兼联合创始人许冰说，当前的深伪技术完全可以让诈骗团伙根据需要，制作出带有青春痘、雀斑等脸部细节的虚假内容。

“鉴别技术远远落后于生成技术，准确率也不尽如人意，我对生成技术引发的犯罪问题也是比较悲观的。”

许冰应记者要求，分析受害者录下的视频后指出，常见摄像头拍下的画面是长方形的，但该视频却是生成式模型默认的正方形，“这显然是有问题的”。

他说，由于对方很少出现肢体动作，不排除是使用了最初级的换脸技术。

中国科学技术大学网络空间安全学院副教授周文柏分析视频截屏后说，视频中的人脸缺少细节，纹理过于平滑，光影变化不足，脸部不时会出现明显抖动。

他指这是使用效果一般的深伪模型生成的典型画面，并建议人们要求视频通话的对象转身、遮挡脸部、挤捏鼻子等，来尝试辨别真伪。

不过他强调，重要的不是找出明确可用的鉴别方法，而是提高警戒心。

英国网络验证公司Sumsub今年初发表的《2023年身份欺诈报告》指出，2022年至2023年间，亚太区的深伪事件增加了1530%。由此可见，深伪正成为欺诈团伙的有力犯罪工具。

今年2月，AI教父本吉奥（Yoshua Bengio）与400多名专家和行业高管签署公开信，指深伪技术或危及社会，呼吁加强对深伪技术的监管。