这些用AI伪造的苦难，正在剿杀人们的善意。 * { margin: 0; padding: 0; outline: 0; } body { font-family: “PingFang SC”, system-ui, -apple-system, BlinkMacSystemFont, “Helvetica Neue”, “Hiragino Sans GB”, “Microsoft YaHei UI”, “Microsoft YaHei”, Arial, sans-serif; line-height: 1.6; } .__page_content__ { max-width: 667px; margin: 0 auto; padding: 20px; text-size-adjust: 100%; color: rgba(0, 0, 0, 0.9); padding-bottom: 64px; } .title { user-select: text; font-size: 22px; line-height: 1.4; margin-bottom: 14px; font-weight: 500; } .__meta__ { color: rgba(0, 0, 0, 0.3); font-size: 15px; line-height: 20px; hyphens: auto; word-break: break-word; margin-bottom: 50px; } .__meta__ .nick_name { color: 576B95; } .__meta__ .copyright { color: rgba(0, 0, 0, 0.3); background-color: rgba(0, 0, 0, 0.05); padding: 0 4px; margin: 0 10px 10px 0; } blockquote.source { padding: 10px; margin: 30px 0; border-left: 5px solid ccc; color: #333; font-style: italic; word-wrap: break-word; } blockquote.source a { cursor: pointer; text-decoration: underline; } .item_show_type_0 > section { margin-top: 0; margin-bottom: 24px; } a { color: 576B95; text-decoration: none; cursor: default; } .text_content { margin-bottom: 50px; user-select: text; font-size: 17px; white-space: pre-wrap; word-wrap: break-word; line-height: 28px; hyphens: auto; } .picture_content .picture_item { margin-bottom: 30px; } .picture_content .picture_item .picture_item_label { text-align: center; } img { max-width: 100%; } .pay_subscribe_notice { margin: 30px 0; padding: 20px; background: fffbe6; border: 1px solid ffe58f; border-radius: 8px; } .pay_subscribe_badge { display: inline-block; padding: 4px 12px; background: faad14; color: fff; border-radius: 4px; font-size: 14px; font-weight: 500; margin-bottom: 12px; } .pay_subscribe_desc { font-size: 15px; line-height: 1.8; color: rgba(0, 0, 0, 0.7); margin-bottom: 12px; } .pay_subscribe_hint { font-size: 13px; color: rgba(0, 0, 0, 0.4); } .__bottom-bar__ { display: flex; justify-content: space-between; align-items: center; position: fixed; bottom: 0; left: 0; right: 0; height: 64px; padding: 8px 20px; background: white; box-sizing: border-box; border-top: 1px solid rgba(0, 0, 0, 0.2); } .__bottom-bar__ .left { display: flex; align-items: center; font-size: 15px; white-space: nowrap; } .__bottom-bar__ .right { display: flex; } .__bottom-bar__ .sns_opr_btn { display: flex; align-items: center; user-select: none; background: transparent; border: 0; color: rgba(0, 0, 0, 0.9); font-size: 14px; } .__bottom-bar__ .sns_opr_btn:not(:last-child) { margin-right: 16px; } .__bottom-bar__ .sns_opr_btn > img { margin-right: 4px; }
这些用AI伪造的苦难，正在剿杀人们的善意。
原创 数字生命卡兹克 数字生命卡兹克 2025-01-09 09:02 北京
昨天晚上，我在微博上看到了一条热搜。
直接热搜第二，全民讨论，我不由的心就一下子纠紧了。
还是来了。
前几天我刚写过一篇现在的搜索引擎，快被AI垃圾淹成赛博粪坑了。
没想到今天，AI居然以这种姿势，再一次冲上了风口浪尖。
给大家简单说一下事情经过。
1月7日9时5分，西藏定日县发生6.8级地震，灾情牵动人心，亦有许多网友在社交平台上为灾民祈福。
但是，在一些社交平台上，冒出了很多AI伪造的图片，比如这个：
（图片来源：新京报）
在一些社交平台上，至少有10个以上的账号发布，并和西藏日喀则地震关联，有些甚至获得好几万的转评赞。
许多网友看到图片后，为图中的孩子难受落泪，甚至都在追问，这个图片中的小孩怎么样了，并未留意到可能的疑点。
（图片来源：新京报）
直到今天在热搜上爆了，大家发现，原来自己心疼、同情的孩子，却是一起彻头彻尾的欺骗。
而且这个图片和视频，是原始作者在2024年11月18日发布的AI视频，只是在最近被人疯狂搬运。
我无意揣测这些搬运者的动机，有可能他们也只是在某些地方看到这张图片，单纯的想在社交平台上发一下，但，流量他们是实实在在拿到了。
我也更无意揣测谣言的源头，第一个发出来的人的动机。
我只想聊聊这件事。
AI伪造，不是一个很新的话题了，过往类似的AI伪造图片出现过无数，其实对社会的影响都还好，但是我最害怕的，其实就是今天这种：
用AI，来伪造苦难。
它剿杀的，是全社会所有人的善意。
这不是第一次了，上一次，在地球的另一边，也是弄的沸沸扬扬。
2024年10月4日，飓风海伦妮在美国引起了巨大的灾难，是2005年飓风卡特里娜以来在美国本土大陆致死人数最多的飓风，北卡罗来纳州阿什维尔及其他受影响地区被水淹没。
在这样的背景上，同样的，有一张图，在社交媒体上大爆特爆。
还有这个。
我一直相信，人性本善。
人是有一种对于苦难世界同情的天性的。
这些图片，如果在正常非常冷静的情况下，让你去辨别是不是AI，我相信几乎绝大多数人都可以，比如这个女孩手指有问题，比如船完全不一样，比如狗也不一样，比如救生衣有BUG等等等等。
但，当你知道如今是一个灾难的背景，地震、飓风、海啸，再看到这些图片的时候，你的善意、你的同情会被本能的调动。
我们会悲伤，我们会同情，在情绪的冲击下，我们会对图片本身的细节看的不是那么深，而是会你心头一震，立刻想要转发，捐款，伸出援手。
可当你倾入了自己的善意，事后却被人告知，这张图片是伪造的。
那一刻，你的心里涌现的，不再是关切与同情，而是愤怒与无力。
你试图相信你所看到的，试图用自己的善意去帮助他人，但那些伪造的图像正在一步步扼杀你的信任、你的情感。
这太恐怖了。
人类社会的善意其实已经冷漠了很多，2006年的彭宇案让全社会对于扶不扶老人这事，都感到愤怒和心寒。
在真实世界里，善意的成本被提高了非常多，人们不可避免的变得越来越冷漠。
而如今在虚拟世界里，如果我们每次看到苦难的照片，都要去验证，是不是AI生成的，是否真实、来源何处以及是否经过处理。
那信任，就会彻底崩盘。
人是万物灵长，人，更不喜欢被愚弄。
一旦人们被误导几次，就会开始怀疑他们所看到的一切。
这种怀疑会让我们，在真正的灾难面前更难以激发真正的善意，因为再次被愚弄的恐惧，会掩盖我们帮助他人的愿望。
世界只会变得越来越冷漠，我们更可能的是，选择完全不关注灾难新闻，而不是小心翼翼地在真实与虚假图像之间游走。
当公众对信息失去信任，真正需要帮助的人，也很难获得应有的支持。
这是一场无限的循环。
这，更是人类善意的，黑暗森林。
作为一个AI博主，我从没有像现在这样，举双手双脚，赞成AI标识，赞同AI内容的监管。
所幸，规则已在路上。
在信息泛滥的今天，AI本应是一把创造的利剑，帮助我们实现更多不可能的目标。
但真的不应该，变成削弱信任的刀刃。
我只能用古剑奇谭3里面很喜欢的一句话，作为这篇文章的结尾：
愿我人族于此魂梦江海，万古河山之间。
星火世传， 奋飞不辍。
以上，既然看到这里了，如果觉得不错，随手点个赞、在看、转发三连吧，如果想第一时间收到推送，也可以给我个星标⭐～谢谢你看我的文章，我们，下次再见。
>/ 作者：卡兹克
>/ 投稿或爆料，请联系邮箱：wzglyay@gmail.com
数字生命卡兹克
 阅读 赞  分享 ‘%3E %3Cg transform=‘translate(0 -2.349)‘%3E %3Cpath d=‘M0 2.349h24v24H0z’/%3E %3Cpath fill=‘%23576B95’ d=‘M16.45 7.68c-.954 0-1.94.362-2.77 1.113l-1.676 1.676-1.853-1.838a3.787 3.787 0 0 0-2.63-.971 3.785 3.785 0 0 0-2.596 1.112 3.786 3.786 0 0 0-1.113 2.687c0 .97.368 1.938 1.105 2.679l7.082 6.527 7.226-6.678a3.787 3.787 0 0 0 .962-2.618 3.785 3.785 0 0 0-1.112-2.597A3.687 3.687 0 0 0 16.45 7.68zm3.473.243a4.985 4.985 0 0 1 1.464 3.418 4.98 4.98 0 0 1-1.29 3.47l-.017.02-7.47 6.903a.9.9 0 0 1-1.22 0l-7.305-6.73-.008-.01a4.986 4.986 0 0 1-1.465-3.535c0-1.279.488-2.56 1.465-3.536A4.985 4.985 0 0 1 7.494 6.46c1.24-.029 2.49.4 3.472 1.29l.01.01L12 8.774l.851-.85.01-.01c1.046-.951 2.322-1.434 3.59-1.434 1.273 0 2.52.49 3.472 1.442z’/%3E %3C/g%3E %3C/g%3E %3C/g%3E%3C/svg%3E) 推荐 ’ fill=‘%23000’ fill-opacity=’.9’/%3E%3C/svg%3E) 留言