所有版权归中国经济网所有。
中国经济网新媒体矩阵
网络广播视听节目许可证（0107190）（京ICP040090）
在短视频社交平台的隐蔽角落，利用虚拟合成技术的犯罪正在悄然蔓延。记者调查发现，大量违反伦理道德的色情视频是利用人工智能改造、深度造假等虚拟合成技术“制作”出来的。受害者的面孔被恶意嫁接到各种低俗电影上，甚至制作出黑灰色产品。行业相关人士呼吁加强治理，指出这些以假乱真的换脸视频不仅跨越了法律和道德门槛，还对人身安全、社会秩序和良好风俗构成严重威胁。萧宇是一位娱乐节目主持人，他的脸被恶意移植到了女性的脸上。直播继续主要是和粉丝聊天，没有什么外围内容。然而，当不法分子用色情视频替换了小雨的脸并传播后，她无缘无故地卷入了不良舆论之中。 “视频不能修图”、“他们竟然背着我们偷拍”……看到直播间公屏上类似爆炸般的轰炸，小宇从此失去了参与线上线下社交活动的勇气。随后，小雨看到有人在短视频平台公然宣传有关她的色情视频。按照对方提供的联系方式，小宇进入了所谓的“工程设计交流群”，发现群里充斥着各种网址和行业术语。在这个群体中，不法分子将不少女性的面孔拍成色情影片，以获取非法利益。最终，小宇报了警，五名嫌疑人被抓获，相关账号和团伙也被抓获。p 聊天被永久禁止。小宇的经历并不是个例。记者说“科灵AI交流群”是我潜入的一个叫的群聊。一位名为“你在学校，你在参与社会”的群里的网友发布了一条边际视频，称“教堂套餐包含988元，流量很好”。视频中，一名自称大学生的人坐在宿舍的床上，穿着黑丝袜、蕾丝袜，做出各种粗俗行为。这位网友自称是人工智能面部修饰领域的老师。每当您向我们发送您的脸部照片时，我们都可以生成照片中主角的视频。如果你在淘宝搜索“AI换脸”，你会发现很多公司提供AI换脸视频制作服务。消费者只需要花几元到十多元就可以定制自己的换脸视频。换脸的对象可以是普通女性、女网红、或者女明星。法律专家指出，这些明码实价的照片和视频严重损害了受害者的形象权和人格尊严，必须尽快销毁。 Deepfakes背后的黑色产业链是指利用人工智能生成技术来匹配语音、面部表情和肢体动作，诱骗人们进入虚假内容。最常见的是AI面部修饰技术，包括音频模拟、面部合成、视频生成等。 2024年8月，韩国发生了一起影响深远的造假事件，引起了世界的关注。在这起事件中，韩国网民发现通讯软件Telegram上存在多个聊天群，其成员制作并分享露骨的“深度造假”色情图片，且涉及多名未成年少女。孩子。在付费 Deepfake Telegram 频道中，男性订阅者甚至必须提供照片d 支付费用后，该频道可以为他们制作色情图片。受社交媒体上的 Deepfake 传播影响的人员名单包括 100 多所韩国中小学和国际学校，受害者超过 22 万人。 Deepfake“确认工具”从何而来？记者在采访中透露，AI换脸软件、预训练等。我了解到，我只需要四样东西：一个换脸模型、一段换脸人的视频、一张受害者的照片。首先，改变人工智能的面孔总是需要受害者的照片。据相关技术社区透露，Deep Forgery 的初始版本需要大约 50 张高分辨率、多角度的照片才能实现看起来更自然的视频合成。但经过几年的迭代，我们现在只需要大约20张照片就可以实现这一目标。其次，要制作流畅、高分辨率的AI换脸视频，我们需要获得预训练模型。预训练模型是人工智能发展的基本机制。由于 IA 的市长模型的预设计，开发者们在预选模型中使用了类似的模型。 IA 战队修改的细节、IA 战队修改的模型是主要的 IA 战队的主要自然元素和一些关键问题，以及制定参赛方法的困难。在这种情况下，您必须使用预先训练的模型。对于非技术人员来说，获得深度伪造的预训练模型是有意义的。但事实并非如此。如果你打开很多电商和二手货平台，你很容易就能找到专门针对 Deepfake 预训练的模型。这些模型俗称“AI Elixir”，只需几块钱就能轻松买到。接受采访的专家表示，cada paso、desd摄影机器人已成为参与者的商业模型，暴露了红色现实中的漏洞。拉马多是市长和政府的监督机构，是公共安全机构，在技术上反对人工情报的色情视频。太原市公安局王警官表示，深度换脸技术的受害者主要是女性。社交平台上发布的高中女生穿着校服的照片是用裸体表情符号组成的。在互联网上循环聊天的团体关系自动图像和视频色情图片以及单独的比例照片，是大学的分类，并且是与朋友圈的对象。追踪服务器和保存证据是很困难的，这是警方必须面对的现实问题。”追踪人工智能生成内容的来源就像查找人工智能内容一样困难。大海捞针。”王说，“犯罪嫌疑人通过频繁更换服务器和匿名网络信息来掩盖踪迹。 “而且，电子证据容易加密、篡改、销毁，给警方取证、侦查案件带来困难。”对于受害人来说，技术壁垒过高，独立取证几乎不可能。“传统的人人收赃的办案模式，在人工智能犯罪面前已经行不通了。”王警官坦言，近年来，安全部门通过开展各类专项行动、加强技术攻关、必要时与国际执法机构合作处理案件等，日益强化多方位的防线。 2025年1月，天津市居民李先生被骗子伪造的企业主视频诱骗转账95万元，专案组与网络保安合作。帮助公司分析汇款流向并追踪异常IP地址，利用AI语音合成技术重构犯罪组织诈骗活动的全过程。最终，警方和银行联合冻结了李某的账户，追回83万元。业内人士指出，无论技术多么实用，人性的差距总会带来突破。遇到可疑来电时要保持冷静，收到家人或朋友的紧急转接请求时要多渠道查看，还要警惕幕后可能出现的人工智能文字转语音陷阱。