看了《孤注一掷》后，我决定写一篇防AI诈骗指南… * { margin: 0; padding: 0; outline: 0; } body { font-family: “PingFang SC”, system-ui, -apple-system, BlinkMacSystemFont, “Helvetica Neue”, “Hiragino Sans GB”, “Microsoft YaHei UI”, “Microsoft YaHei”, Arial, sans-serif; line-height: 1.6; } .__page_content__ { max-width: 667px; margin: 0 auto; padding: 20px; text-size-adjust: 100%; color: rgba(0, 0, 0, 0.9); padding-bottom: 64px; } .title { user-select: text; font-size: 22px; line-height: 1.4; margin-bottom: 14px; font-weight: 500; } .__meta__ { color: rgba(0, 0, 0, 0.3); font-size: 15px; line-height: 20px; hyphens: auto; word-break: break-word; margin-bottom: 50px; } .__meta__ .nick_name { color: 576B95; } .__meta__ .copyright { color: rgba(0, 0, 0, 0.3); background-color: rgba(0, 0, 0, 0.05); padding: 0 4px; margin: 0 10px 10px 0; } blockquote.source { padding: 10px; margin: 30px 0; border-left: 5px solid ccc; color: #333; font-style: italic; word-wrap: break-word; } blockquote.source a { cursor: pointer; text-decoration: underline; } .item_show_type_0 > section { margin-top: 0; margin-bottom: 24px; } a { color: 576B95; text-decoration: none; cursor: default; } .text_content { margin-bottom: 50px; user-select: text; font-size: 17px; white-space: pre-wrap; word-wrap: break-word; line-height: 28px; hyphens: auto; } .picture_content .picture_item { margin-bottom: 30px; } .picture_content .picture_item .picture_item_label { text-align: center; } img { max-width: 100%; } .pay_subscribe_notice { margin: 30px 0; padding: 20px; background: fffbe6; border: 1px solid ffe58f; border-radius: 8px; } .pay_subscribe_badge { display: inline-block; padding: 4px 12px; background: faad14; color: fff; border-radius: 4px; font-size: 14px; font-weight: 500; margin-bottom: 12px; } .pay_subscribe_desc { font-size: 15px; line-height: 1.8; color: rgba(0, 0, 0, 0.7); margin-bottom: 12px; } .pay_subscribe_hint { font-size: 13px; color: rgba(0, 0, 0, 0.4); } .__bottom-bar__ { display: flex; justify-content: space-between; align-items: center; position: fixed; bottom: 0; left: 0; right: 0; height: 64px; padding: 8px 20px; background: white; box-sizing: border-box; border-top: 1px solid rgba(0, 0, 0, 0.2); } .__bottom-bar__ .left { display: flex; align-items: center; font-size: 15px; white-space: nowrap; } .__bottom-bar__ .right { display: flex; } .__bottom-bar__ .sns_opr_btn { display: flex; align-items: center; user-select: none; background: transparent; border: 0; color: rgba(0, 0, 0, 0.9); font-size: 14px; } .__bottom-bar__ .sns_opr_btn:not(:last-child) { margin-right: 16px; } .__bottom-bar__ .sns_opr_btn > img { margin-right: 4px; }
看了《孤注一掷》后，我决定写一篇防AI诈骗指南…
原创 数字生命卡兹克 数字生命卡兹克 2023-08-18 20:18 天津
我的读者们，我想说，这篇文章除了是写给你们看的。
也是写给你们的父亲、母亲、爷爷、奶奶、亲朋好友们看的。
我看完《孤注一掷》后，非常受触动。很多人都说要带着全家人一起去看，这是一个非常好的防诈宣传片。我深表赞同。
但同时，我也想说，技术也在进步，现实中利用AI进行的诈骗，比电影中要TM的恐怖的多，也要TM的难防的多。
我举几个真实发生的案例。
读我的文章比较久的朋友，可能对AI有一定的了解，知道ChatGPT、知道AI换脸DeepFace、知道AI声音推理模型SVC等等。
用AI来诈骗你们，可能还是有些难度。
但是我们的父母、爷爷奶奶，如果碰上这种新时代的产物，被诈骗犯盯上，那后果，我真的不敢想象。
如果我的奶奶看到视频里是我，声音也是我，当视频里的人找我奶奶要钱时，我相信我奶奶一定会给。
因为我知道，我奶奶爱我。
我不希望现实中出现任何《孤注一掷》里顾天之那样的故事。
所以，我想用我自己对AI所有的了解、所有的经验，写这样一篇防AI诈骗指南。
能帮一个是一个。
希望你们能转发给你的家人朋友，让AI诈骗无处容身。我也尽量写的通俗易懂。
01. 目前AI诈骗的技术手段
AI诈骗的主流技术目前有4个。
TTS∶直接用文本就能生成特定人的语音。
SVC∶语音转换，类似于能完全模仿某个人声音的变声器。
AI换脸视频∶一个已经录制好的视频里的脸直接换成另一个人。
AI换脸直播∶能在直播或者视频电话中直接实时换脸。
1. TTS
即文本生成音频，可以简单的理解为，把你的声音训练成一个AI模型，固定在那，后面我只要打字，AI就能把我输入的文本用你的声音给念出来。
曾经我写过一个训练TTS的教程，极其简单。
带你5分钟训练你的AI音频模型，并用文本生成声音 - 有手就行
只需要几段你碎片化的声音就可以训练一个质量还能用的模型。声音素材越多，效果就会越好。
但是现阶段的大部分的普通TTS，你还是能听得出来的，情感处理很差，且偶尔会有电音和异响。
但是架不住骗子拿到你素材多，花一些精力去特调一个，那也绷不住。
2. SVC
SVC类似于变声器，用一个人一个小时的声音，就能训练1个人的AI声音模型，可以做到将一个人的声音完全变成另一个人的声音，且完美还原所有的声调、情感、气口等等。
前几个月，有非常多的AI孙燕姿，比如用孙燕姿的声音唱周杰伦的歌，就是用公开的孙燕姿的声音训练出一个AI声音模型，然后去变声，就能完美复刻。
这块我也写过文章，做过案例。比如我用我的我的AI声音模型，直接去唱陈奕迅的《富士山下》。
训练的好的模型，在刻意避免一些漏洞之外，普通人几乎分辨不出来是SVC的声音还是真实人声。
3. 换脸（短视频换脸和实时换脸）
AI换脸这个两个场景我直接放在一起说了。
我直接放图。
不管是现成的视频，还是直接视频电话，还是直播，都可以换脸。
没错，实时换脸。
即使是跟你直接视频通话，同样的面貌、同样的声音，你以很难辨别。
我写了很多很多的AI文章，从ChatGPT的用法，到AI绘图，到AI声音，到AI视频，但是我唯独没写过AI换脸的。
因为我不认为它能给社会带来任何正面作用，很容易就会沦为诈骗者的帮凶。
我不想传播这种工具。
它的影响，弊远大于利。
但是我希望大家知道，现在是有这样的技术，而且不难，大量的诈骗犯已经用上了。
02. 识别AI诈骗的几种技巧
很多诈骗分子，基本都是伪装成熟人，使用AI声音和AI换脸，从而实施诈骗。
比如伪装你的领导、同事、朋友，伪装成老年人的亲属、孩子等等，通过短视频或者视频通话来骗取信任，然后转账。
我不太想说一些注意隐私保护这种空话，毕竟这个时代，你根本不知道谁会把你的信息卖了。
首先这AI声音和AI短视频，普通人是几乎无法识别的，什么注意张嘴眨眼，业内已经处理的非常好了，几乎没有破绽。
我特意咨询过AI数字人领域，最顶级的大佬，他说他也有时候分辨不出来，可想而知，普通人想识别出来，难度有多大。
所以我的建议是，一旦涉及到任何钱财信息时，进行3个操作：
-
立即确认微信/手机号/QQ是不是熟人或者家人的号码。现在的社交账号，想盗号难度可特娘的比AI难多了。所以如果涉及到钱财，首先确实这到底是不是朋友或者家人的账号！！！
-
立即视频通话确认。不要相信任何不方便接听等理由，只要是涉及到钱财交易，立即跟其视频通话确认！！！
-
视频通话过程中，立即确认对方是不是AI换脸。在实时通讯中，AI换脸的破绽会比短视频高非常非常多，我交给大家2个识别的技巧，能非常轻松的识别出来是不是AI换脸！！！
第一种技巧是,要求对方用手掌慢速在面部前晃来晃去，**一定要慢速！**手掌跟脸部接触的边缘会有明显的类似水波纹的痕迹，也很好识别。
第二种就是，要求对方大幅度快速转脸，这个基本都会抖，就是那种快速的摇头晃脑就行，换脸直接就崩了，抖来抖去，一眼就能识别出来。
找不到示例，但是大概就是这样的。
这两种方法，基本能破解现在99%的AI换脸技术。
基本按以上方法确认一遍，在技术层面，骗子都会原型毕露。
当然，你也可以问一些你们彼此才能知道的信息，也可以。
毕竟，核心还是有防诈骗的意识，知道现在的技术到了什么地步。
已知手法的诈骗，要比未知手法的诈骗，成功率低太多了。
03. 写在最后
AI就是个工具。
但是工具到底用在谁的手里，一定会产生截然不同的用法。
我极其赞成国家对于AI这块的监管。
如果各种AI技术没有监管，全面铺开，能不能有效提升社会生产力我不知道，但是大概率会成为灰产的天堂。
希望我的这篇文章，能让大家知道，现在的AI诈骗到了什么地步，以及如何预防。
**作为一个AI领域的博主。
**
我觉得这也是我为数不多的能给社会的正贡献。
更是我应尽的责任。
以上，既然****看到这里了，这篇文章如果对你有用的话，希望也能转发给你的朋友和家人，感恩。
数字生命卡兹克
 阅读 赞  分享 ‘%3E %3Cg transform=‘translate(0 -2.349)‘%3E %3Cpath d=‘M0 2.349h24v24H0z’/%3E %3Cpath fill=‘%23576B95’ d=‘M16.45 7.68c-.954 0-1.94.362-2.77 1.113l-1.676 1.676-1.853-1.838a3.787 3.787 0 0 0-2.63-.971 3.785 3.785 0 0 0-2.596 1.112 3.786 3.786 0 0 0-1.113 2.687c0 .97.368 1.938 1.105 2.679l7.082 6.527 7.226-6.678a3.787 3.787 0 0 0 .962-2.618 3.785 3.785 0 0 0-1.112-2.597A3.687 3.687 0 0 0 16.45 7.68zm3.473.243a4.985 4.985 0 0 1 1.464 3.418 4.98 4.98 0 0 1-1.29 3.47l-.017.02-7.47 6.903a.9.9 0 0 1-1.22 0l-7.305-6.73-.008-.01a4.986 4.986 0 0 1-1.465-3.535c0-1.279.488-2.56 1.465-3.536A4.985 4.985 0 0 1 7.494 6.46c1.24-.029 2.49.4 3.472 1.29l.01.01L12 8.774l.851-.85.01-.01c1.046-.951 2.322-1.434 3.59-1.434 1.273 0 2.52.49 3.472 1.442z’/%3E %3C/g%3E %3C/g%3E %3C/g%3E%3C/svg%3E) 推荐 ’ fill=‘%23000’ fill-opacity=’.9’/%3E%3C/svg%3E) 留言