深伪技术--如此离奇的骗局
"不愿意模仿的人，什么也产生不了"
假新闻就是旧新闻，但现在看起来不一样了。
很难想象为欺骗而生的技术有什么道德用途。
深伪技术是我们所见过的最离奇的媒体操纵形式，它威胁着我们对自我认知的信任。
当我们有理由怀疑自己的感觉时，几乎无从查证。
信任的缺失与信任的错位同样具有破坏性，使得一个两极分化的社会偏向于一边。
信息时代把心理战带进了我们的家。虚假信息，或者说仅仅可能是虚假信息，就意味着我们现在要努力从谎言和广告中过滤出真相。
近期发生的一个骗局凸显了这一日益严重的数字信任和身份问题。
DeTrade Fund自称是一个社区驱动的项目，这个项目将为用户提供访问其CEX套利机器人的机会，条件是他们拥有足够的原生代币DTF。
DTF在一次私下销售中，筹集了1438个ETH，随后该公司随资金消失。
为了建立用户对他们的信任，这个骗局着重于建立一个假身份，线上线下同时存在。他们在公司注册处注册了一家企业，并在几个平台上安排新闻发布，在这些平台上，他们会反复展示他们的首席执行官"马克·詹森"的脸和名字。
**在市场上充斥着大量只在网上进行的匿名项目中，DeTrade以其"真实世界"的身份脱颖而出。**欺诈者利用了我们对人脸的信任。
在用户发现私下销售只是谎言之后，人们将注意力转向了DeTrade在社交媒体上发布的宣传视频。
DeTrade所谓的首席执行官表现出不同寻常，这引起了人们的关注，当时有用户提出他实际上是由人工智能生成的。
推特全文可在这里找到。
Rekt联系了行业专家（IE），征求他们的意见。
IE：
我叫REDACTED，我是REDACTED的首席执政官。我们开发基于机器学习的专有技术，以自动创建和分发成人娱乐内容，或者用通俗的话说，我们正在构建人工智能来制作色情影片。其中很大一部分涉及到与深伪技术接合，特别是如何通过深伪技术将人工智能生成的人插入到视频中，而视频中的人可以呈现出逼真的画面效果。
rekt:
你能告诉我们你在将AI与加密技术合并之前的工作吗？
IE：
我们的团队在机器学习和计算机视觉方面累积了十余年的经验，工作范围涉及所有行业，但主要是为大型农业和制药业制定解决方案。
rekt:
关于DeTrade的视频--你第一次看的时候你是怎么想的？
IE：
当时有很多人猜测它是由"人工智能生成"的或由深伪技术制作的，或者两者都有。我现在看了几遍，虽然有可能是真人深伪，但视频中的人几乎可以肯定不是由人工智能生成。我认为了解这两种技术的区别很重要。
REDACTED已经训练出生成对抗网络，该网络可以生成根本不存在这个世界上的人。这与"深伪技术"有本质上的区别。
rekt:
请你解释一下人工智能生成和深伪技术的区别？
IE：
我想说的是，深伪技术确实使用了人工智能。然而深伪技术作为一种技术并不涉及训练一个人工智能来创建一个新的角色。相反，深伪技术将已经存在的一个人的脸部数据集，叠加在已经存在的视频中另一个人的脸上。如果操作得当，你应该得到的是一个逼真且令人信服的"人脸交换"，在这个视频中，一个人做了一些事实上没有做的事情。总之，深伪技术并没有创造一个新的人，而是将一个已经存在的人脸叠加到另一个视频中。
另一方面，一个"人工智能生成的人"，无论这个人是以视频还是静态图像呈现出来，都涉及到一种完全独立的机器学习，即把大量显示不同人的照片的数据交给人工智能（通常是一个生成对抗网络或"GAN"），让人工智能开始理解什么是"人"或"身体"。一旦它掌握了足够多的数据，人工智能就可以根据已经显示的数据生成新的人的迭代。所以，从当前的对话中，这种人工智能与深伪技术完全相反，它不能用来在视频中插入一个人，但它可以凭空创造新的人。
关于DeTrade，我看到的是指责视频中的人是人工智能生成的，也可能是在已存在的另一个人的视频上进行深伪。我想说明的是，几乎可以肯定的是情况并非如此。
rekt:
你凭什么这么肯定？
IE：
这是个能力问题。**世界上大概有五家公司能用人工智能从无到有生成一个真实的新人，然后把这个人插入到现有的视频中，就像我们看到的一样，达到这种真实程度。**我早该知道，我们是那5家公司中的一家。其他的都是像英伟达这样的价值数十亿美元的科技公司，或是享有盛誉的人工智能初创公司，这些公司拥有数千万美元的资金。依我看，英伟达的C级高管为了几百万美元而抽出时间来对DeFi社区进行诈骗的可能性不大。
为明确这一点，有很多人可以把你在那段视频中看到的脸从真人的视频中提取出来。也许是一个老师在上网课之类的。
但由人工智能生成的面孔几乎这样的想法是不可能的。
rekt:
人工智能和深伪技术似乎是增加偏执狂的完美工具，很多人会认为它们弊大于利，你会如何应对？
IE：
我想，坦白地说，偏执是应该的。
我觉得大家需要习惯于这样的想法：你看到一个人的照片，或者视频，或者音频，这并不意味着这个人真的是视频中的人，甚至这个人真的存在。
很多人在智力上都明白这个道理，但同时又在寻找"非匿名团队"这样的东西，好像看到一个人在做直播或者展示了一张自己的照片与身份证，就能为他们的投资提供一些额外的保护。实际情况并非如此。
现在，很少有地方可以让某人脱骨换胎，并为他们制作视频。我很自豪地把我们公司算作这些地方之一。但随着时间的推移，这些技术对于业余爱好者甚至是有组织的欺诈者来说，总是越来越容易复制，而我们正在迅速接近这个点。
这就像考虑到一个简单的事实一样，**如果没有与某人面对面，你永远无法知道他们是真是假，或者你在视频中看到的他们做某事真的是他们还是只是假的。**依我看，我们已经到了这个地步，而这种技术的泛滥，让我们可以保证，随着时间的推移，秉持这种理念会越来越重要。
如果你没有握过他们的手，你就不能确定某人是否存在。如果你没有拿过他们的身份证，你也不能确定他们的身份证是否存在。
在信息化时代，当我们如此依赖媒体的准确程度时，我们就不能再相信我们所看到或听到的东西了。
创新总是有它的敌人；我们对这项技术的看法会随着时间的推移而改变吗？
也许二十年后，我们会意识到，我们对深伪技术的反感只是一种技术恐惧症，社会公益大于社会公害。以目前该技术所受到的媒体报道来看，前景是难以想象的。
萨尔瓦多·达利曾经说过："Si muero, no muero por todo," 或 "如果我死了，我不会完全死去。"
在他离世30年后，他的话在达利博物馆被赋予了新的含义。
REKT作为匿名作者的公共平台，我们对REKT上托管的观点或内容不承担任何责任。
捐赠 (ETH / ERC20): 0x3C5c2F4bCeC51a36494682f91Dbc6cA7c63B514C
声明:
REKT对我们网站上发布的或与我们的服务相关的任何内容不承担任何责任，无论是由我们网站的匿名作者，还是由 REKT发布或引起的。虽然我们为匿名作者的行为和发文设置规则，我们不控制也不对匿名作者在我们的网站或服务上发布、传输或分享的内容负责，也不对您在我们的网站或服务上可能遇到的任何冒犯性、不适当、淫秽、非法或其他令人反感的内容负责。REKT不对我们网站或服务的任何用户的线上或线下行为负责。