时间:2024-10-15 来源：原创/投稿/转载作者：管理员点击:
然而，许多能迅速揭穿那些疯传的照片、视频和音频造假的最佳工具，只有像布法罗大学的深度伪造专家吕思伟这样的研究人员才能使用。
“从社交媒体用户到记者再到执法人员，每个人通常都得通过像我这样的人，才能弄明白一段媒体内容是否有由人工智能生成的迹象。” 吕经常满足这类请求，他说道。
这就是吕和他在布法罗大学媒体取证实验室的团队开发 DeepFake-o-Meter 的原因，它将几种最先进的深度伪造检测算法结合到一个开源的基于网络的平台中。所有用户需要做的就是注册一个免费账户并上传一个媒体文件。结果通常在不到一分钟内返回。
媒体机构借助它来分析各种由人工智能生成的内容，从 乔·拜登的自动电话 劝诫新罕布什尔州居民不要投票，到 乌克兰总统弗拉基米尔·泽连斯基的视频 向俄罗斯投降。
“目标在于弥合公众与研究界之间的鸿沟，”纽约州立大学布法罗分校工程与应用科学学院计算机科学与工程系的帝国创新教授卢博士说道。“把社交媒体用户和研究人员聚拢到一起，对于解决由深度伪造所带来的诸多问题极为关键。”
把图像、视频或者音频文件拖放至上传框中。然后，根据列出的各种指标选择检测算法，包括准确性、运行时间和开发年份。
“对于上传的内容，我们不会强硬表态。我们只是通过多种方法对其进行全面分析，”身为布法罗大学信息诚信中心（该中心致力于打击网上不可靠和误导性信息）联合主任的吕说道。
今年早些时候，波因特使用四个免费的在线深度伪造检测工具对假拜登的自动电话进行了分析。DeepFake-o-Meter 最为准确，其给出该音频由人工智能生成的可能性为 69.7%。
吕说，他的工具的其他与众不同之处在于透明度和多样性。DeepFake-o-Meter 是开源的，这意味着公众能够访问算法的源代码，并且包含吕以及全球其他研究小组开发的算法，从而允许有广泛的意见和专业知识。
“其他工具的分析或许是准确的，但它们不披露使用了何种算法得出这一结论，而且用户只能看到一个响应，这或许是有偏见的，”吕说。
吕和他的团队主要在由他们自己以及其他研究团队编制的数据集上训练其算法，但他表示，让算法接触到实际在网络上流传的媒体极为重要。
吕希望增强该平台的能力，使其不仅能够发现人工智能生成的内容，比如首先识别出最有可能用于创建它的人工智能工具。
“这会为缩小幕后黑手的范围提供线索，”吕说道。“知道一段媒体是合成的或者被操纵的，这并不总是足够的。我们需要知道幕后黑手是谁以及他们的意图是什么。”
尽管检测算法前景不错，但他提醒道，人类仍有着很大的作用。虽然算法能检测到人类的眼睛或耳朵永远都检测不到的操纵迹象，但是人类对于现实如何运作有着语义知识，而算法通常没有。
这就是为啥他希望 DeepFake-O-Meter 最终能够培育出属于自己的在线社区，让用户相互交流，并帮助彼此识别出人工智能生成的内容。