巴以冲突中的生成式 AI 与信息真伪
作者:阿法兔研究笔记
注:本文不预设立场,写作目标是让大家思考生成式 AI 这项技术,与信息时代舆论、算法和新闻之间的关系。
很多人担心,巴以冲突会成为世界上第一次在局势升级的同时,还充斥着机器制造的虚假图像的战争,而社交媒体会成为第二个战场。
不过,就目前看来,在社交媒体上流传的所有图片和视频中,人工智能工具生成的内容还没有成为主流。尽管很多专家认为,本次巴以冲突,人工智能的作用会被放大,但目前还没有做到能在信息传播中发挥核心作用的程度(Digital Forensic Research Lab-Layla Mashkoor)。
但是未来一旦技术成熟,如果再次发生类似的冲突或者战争,又会怎么样呢?
如果我们跳出本次巴以冲突事件,去思考更多“信息”带给人类的影响。 就笔者个人经历而言 (2019 年秋,笔者在香港读书,亲眼目睹了新闻信息对人们思维的影响) ,未来时代,辩证地思考生成式 AI 这项技术,和这些内容对社会的作用,无疑是非常重要的。
近期,哈佛大学肯尼迪学院《Misinformation Review》发表了一篇论文,探讨了生成式人工智能在全球虚假信息传播中扮演的潜在角色。从理论上讲,生成式人工智能可以让人们以飞快的速度传播虚假信息,但愿意相信虚假信息的人——通常是那些 "对机构信任度低”或者"本身就有强烈倾向 "的人,并且已经有大量耳熟能详的虚假信息可供选择。
生成式人工智能系统,能够通过对大量训练数据进行机器学习来生成新形式的数据。这种新数据可以包括文本(如谷歌的 Bard、Meta 的 LLaMa 或 OpenAI 的 ChatGPT)、视觉(如 Stable Diffusion 或 OpenAI 的 DALL-E)或音频。根据不同的指令,这些系统可以为大多数用户快速、轻松地生成输出内容,其复杂程度足以让人类认为这些内容与人类生成的内容无异。
包括一些领先的人工智能研究人员都认为,生成式人工智能,将使大规模创造逼真但虚假或误导性的内容变得更容易,具体问题可分为四类。
1. 伪造信息数量增加: 由于易于获取和使用,生成式人工智能可用于大规模制造错误 / 虚假信息,对个人和有组织的行为者来说几乎不需要任何成本。错误信息数量增加使得居心不良的行为者可以用错误或误导性信息 "充斥整个区域",从而淹没事实内容和 / 或制造混乱。
2. 容易误导信息的质量提升: 由于人工智能的技术能力和易用性,生成式人工智能可用于制造更高质量的误导信息 提高误导信息的质量可增加其说服力,因为它制造的内容更可信、更难揭穿或验证。这要么会导致虚假信息的传播,要么会(随着错误信息数量的增加)导致认识危机,即用户们对所有类型的新闻普遍失去信任。
3. 错误信息的个性化程度提高 : 生成型人工智能可以生成有用的内容(例如,聊天机器人生成代码)。然而,它们也能生成看似可信、实则完全不准确的信息。因此,用户可以在无意中生成错误信息,而错误信息有可能传播误导消费者的信息。
4. 非自愿生成似是而非的虚假信息: 生成型人工智能可以生成有用的内容(如聊天机器人生成代码)。然而,它们也能生成看似可信、实则完全不准确的信息。因此,用户可能无意中生成错误信息,而这些错误信息有可能传播给使用生成式 AI 工具的用户,也有可能传播给与他们分享信息的人。
三、提高辨证思考能力,怎么识别假新闻?
我问了一下 ChatGPT 怎么识别假新闻,它是这么说的:
识别假新闻是一个复杂的过程,因为制造假新闻的技术和方法不断进步。下面是一些帮助你识别假新闻的方法:
- 检查来源: 查看发布新闻的网站或媒体是否可靠。查看它的域名,是否使用了模仿知名媒体的域名。同时,查看该网站是否有联系方式,版权声明等正式的信息。
- 核实内容: 检查新闻报道中的事实信息。你可以使用搜索引擎,查看其他可靠媒体是否也报道了同样的新闻。
- 注意作者: 查看作者的其他文章,看他们是否有发布虚假或误导性内容的历史。
- 检查图片和视频: 有时候,假新闻会使用经过修改的图片或视频。你可以使用反向图片搜索工具,查看这些图片或视频是否在其他地方以不同的上下文出现过。
- 分辨言辞: 假新闻通常会使用煽动性或极端化的言辞来吸引读者的注意。
- 检查时间线: 确认事件的时间线是否合理,有时候假新闻会故意扭曲时间线来制造误导。
- 查看来源链接: 假新闻通常不会提供可靠的来源链接,或者链接到不相关或同样可疑的网站。
- 检查评论: 查看其他读者的评论,有时候他们会指出新闻中的错误或提供更多信息。
- 留意专家意见: 假新闻往往会引用不存在或不可靠的专家意见。你可以搜索所引用的专家,看他们是否真的存在,以及他们的背景是否可靠。
- 保持怀疑态度: 对任何看似异常或夸张的新闻保持怀疑态度,特别是当它激起强烈情绪时。
其他方法:
科瓦奇和罗森斯蒂尔在《真相》一书中向公众提出了六项必备的“新闻素养”,需要多问自己几个问题:
1. 我碰到的是什么内容? 2. 信息完整吗?假如不完整,缺少了什么? 3. 信息源是谁 / 什么?我为什么要相信他们? 4. 提供了什么证据?是怎样检验或核实的? 5. 其他可能性解释或理解是什么? 6. 我有必要知道这些信息吗?
参考资料:
1.Misinformation reloaded? Fears about the impact of generative AI on misinformation are overblown | HKS Misinformation Review (harvard.edu)
2.《真相——信息超载时代如何知道该相信什么》
3.Generative AI Is Playing a Surprising Role in Israel-Hamas Disinformation | WIRED
0
0
免责声明:文章中的所有内容仅代表作者的观点,与本平台无关。用户不应以本文作为投资决策的参考。
你也可能喜欢
晨间分析:BTC、ETH、SOL行情分析来袭
AICoin•2024/09/08 00:22
![](https://img.bitgetimg.com/multiLang/image/social/d30c0c955e64aae8cb73b660a3f97e141725754929496.png)
✨ 铸造 Aloha — TON 上第二代 Pixelverse Bots NFT 系列
Bitget•2024/09/07 16:08
![](https://img.bitgetimg.com/multiLang/image/social/d29ef41d237cde38168fd7af828615a41725640029879.jpg?w=1280&h=720)
在AVAFight中每次获胜即可赚取$AVACN
Bitget•2024/09/07 16:07
![](https://img.bitgetimg.com/multiLang/image/social/a7128be1661e36117f7836ca74c5e73e1725641770089.jpg?w=3588&h=3600)
在Catizen&Bitget钱包活动中赢取$150,000
Bitget•2024/09/07 16:05