webwxgetmsgimg_副本.jpg
谨防AI击穿安全底线
2023-05-24 13:44:00  来源:中国江苏网  
1
听新闻

AI既可以换脸还可以拟声,逼真到视频聊天也看不出破绽。近日,包头警方发布一起利用AI实施电信诈骗的典型案例,福州市某科技公司法人代表郭先生10分钟内被骗430万元。

类似案例在多个省份都有出现。骗子往往通过有偿收购等手段,获取他人音频素材等基础“物料”,利用AI技术合成声线、“活化”照片,然后“骗过”验证、登录他人社交平台并联系“好友”诈骗获利。深度合成技术正瓦解“眼见为实”的信任逻辑,一张正脸静态照片,经过“活化”处理之后,可以呈现丰富表情、生成流畅视频。同样,经处理后的声音也可呈现真人音效。

目前,人工智能的深度学习和算法越来越先进,深度合成应用呈指数级增长,滥用该技术的行为正带来肉眼可见的伦理问题。除了用AI换脸诈骗,还有人用它制作他人不雅视频、冒充明星带货等。在支付场景日益丰富的今天,人类的面部、声音、指纹、虹膜等生物信息的使用越来越广泛,隐私泄露等风险隐患也随之增多。恰如那句网络流行语:你永远不知道网络的对面是一个人还是一条狗。如果不对此类技术加以限制,AI技术不仅容易威胁到人身财产安全、伤害个人尊严和隐私,还可能构成更大社会危害。

英国科幻剧《黑镜》通过若干小故事带领观众思考未来数字化生存的挑战。要防止坠入技术滥用的深渊,当然需要公众提升防护意识、避免网络“踩坑”,不过在技术优势面前,个人自我防护效果毕竟有限,因而更需要相关部门和企业积极引导技术向善,完善风险治理体系。

面对有可能击穿安全底线的技术风险,有必要出台法律明确监管框架,给AI技术套上缰绳。当前,AI合成技术还属新生事物,立法和监管应当紧跟实际甚至具备一定前瞻性。相关平台要加大力度研发防骗反诈监测系统和应急软件,同时基于自身大数据能力和安全防护能力,对侵权行为及时采取删除、屏蔽、终止交易和服务等必要措施,以科技防骗杜绝科技诈骗。(韩宗峰)

标签:
责编:孔婧
下一篇