YouTube推出新工具，保护创作者免受人工智能生成的deepfakes攻击

YouTube正在开发工具，以检测未经用户同意在视频中使用人工智能生成的用户声音或身体肖像的情况。在今天的一份声明中，谷歌旗下的平台表示，这些工具将保护其平台上的创作者。

这一宣布是一个受欢迎的发展，因为这些工具解决了人们对deepfakes扩散的主要担忧，有时会导致财务和声誉损失。许多人希望这将使识别和报告deepfakes的过程更加无缝。

两个工具专注于保护音乐家和公众人物

该公司解释说，它正在开发两种工具。首先是一个歌唱声音识别工具，它将成为YouTube内容ID系统的一部分。此功能会自动检测人工智能生成的内容，模拟平台上其他人的歌声，并自动将其删除。

对于第二个工具，YouTube正在开发一种技术，使创作者、运动员、音乐家和艺术家等受欢迎的人能够在平台上检测和删除他们面部的深度伪造。该公司指出，这些工具及其隐私更新和服务条款将足以保护创作者。

然而，YouTube的目标并不是阻止人们在其平台上使用人工智能；它只寻求确保负责任地使用人工智能，并授权创作者控制其肖像的使用。

它说：

“我们认为人工智能应该增强人类的创造力，而不是取代它。我们致力于与合作伙伴合作，确保未来的进步能够放大他们的声音，我们将继续开发护栏来解决问题，实现我们的共同目标。”

与此同时，YouTube没有给出这些功能何时可供用户使用的时间表，只是指出歌声检测工具仍需要一些微调，但到2025年初将有一个试点项目。

YouTube利用技术防止人工智能数据抓取

YouTube还暗示，它正在开发一种工具，以防止人工智能公司在未经所有者许可的情况下使用其平台上的内容来训练他们的模型。该平台将此视为一个主要问题，并表示正在投资于能够检测和阻止第三方从其平台抓取数据并违反其服务条款的系统。

然而，它承认创作者可能希望与人工智能公司合作。因此，它正在研究如何让YouTube创作者控制第三方如何在平台上使用他们的内容。

尽管YouTube对人工智能公司抓取其内容以训练其模型持强硬立场，但该平台及其母公司谷歌仍将这些内容用于相同的目的，但符合服务条款。它计划继续使用这些内容来负责任地开发人工智能工具。