ChatGPT等人工智能技术飞速发展，一些不法分子利用其进行违法犯罪活动，给网络安全带来了严峻挑战。近期，绍兴市上虞区公安分局破获多起涉人工智能案件。

今年6月，上虞网安民警在网上巡查时，发现有网民发布了关于上虞工业园区发生火灾的视频，浏览量在短时间内迅速上升。视频中，工业园区内火势猛烈，整个园区被浓烟覆盖，现场不时传出爆炸声，场面惊心动魄。

民警核查发现，视频中的建筑、森林大火场景，并非该工业园真实场景，且疑似源自其他视频。经分析，民警判断该视频是利用ChatGPT等人工智能合成技术，将网络上多段不同视频剪辑拼接而成。警方马上锁定某网络科技公司员工有较大作案嫌疑，立刻赴该公司所在地抓获包括汤某在内的3名犯罪嫌疑人。

“犯罪嫌疑人首先在网上搜集热门话题，通过ChatGPT自动生成脚本，在网上抓取相关视频片段，然后利用AI软件合成完整视频，最后配上音乐、字幕。不到一分钟，一段虚假视频便‘新鲜出炉’。”区公安分局网安大队民警沈林丰介绍，为获得流量、博人眼球，自今年5月以来，该团伙不断利用AI技术制作虚假视频、散布谣言，在网上发布未经核实的虚假视频达3000多个。

随着人脸识别技术越来越普及，一些不法分子开始利用“AI换脸”等技术实施盗窃、诈骗等犯罪。

“我的APP好像被黑了！”今年4月13日，上虞市民朱女士到辖区派出所报案，称有人登陆某APP，擅自下载自己公司的电子营业执照。接警后，区公安分局网络安全保卫大队副大队长周栋迅速展开侦查，很快确认曾某某有重大作案嫌疑。

原来，犯罪嫌疑人曾某某利用手机号码注册账号，并通过朱女士的姓名、身份证号等信息进行实名认证，然后利用人脸识别进行绑定，最终成功登陆账号进行作案。

“曾某某通过网购店铺引流，利用‘客户’提供的人脸照片，通过专业AI软件制作合成人脸动图并登录各类APP，非法获取相关信息。”周栋介绍。

“每次交易价格不等，只是觉得这样挣钱比较容易，没想到已经触犯到了法律。”曾某某悔不当初。据了解，曾某某共制作动态人脸1000多个，获利9万多元。目前，曾某某已被采取刑事强制措施，案件正在办理中。

“操作简单、可定制性强、应用场景广泛，人工智能技术降低了链条式犯罪的难度，被不法分子利用后危害性极大。”区公安分局相关负责人说，对人工智能技术产生的新应用、新业态，公安机关将坚守价值引领与技术“纠错”并行，保护人工智能技术健康发展的同时，防范打击利用人工智能技术侵犯公民权利、危害公共安全的新型案件，全力保障网络空间安全。

（越牛新闻综合自百观新闻）