Xbox AI 透明度报告显示 1900 万条有毒信息被屏蔽,并提高了《我的世界》和《使命召唤》中玩家的安全
第五份 AI 透明度报告显示了 AI 和人类双重审核如何在 Xbox 社区中发挥良好作用
你需要知道什么
- Xbox 发布了最新的人工智能透明度报告,涵盖 2024 年 1 月至 6 月的数据。
- AI 和人工审核的结合提高了玩家的安全性,阻止了超过 1900 万条违反 Xbox 社区标准的有害内容。
- 《我的世界》和《使命召唤》正在实施先进的审核工具和社区标准,以减少有毒行为。
Xbox 刚刚发布了最新的人工智能透明度报告以及 Xbox Wire 更新。该报告涵盖了今年 1 月至 6 月的数据,详细介绍了 Xbox 如何利用人工智能来增强玩家安全、改进审核流程并确保玩家获得积极的游戏体验。人工智能被用作一种有效的工具来阻止数以百万计的语音和文本有害消息。
1900 万条违反 Xbox 社区标准的内容被阻止到达玩家手中
详细分析该报告中一些最有趣的统计数据,在 6 个月内有 1900 万条内容被屏蔽的标题数字令人印象深刻,并且使用了双重 AI适度的方法在这里做了很多繁重的工作,使人们能够检查更细微的内容。 Xbox 使用的工具会在有害消息到达玩家之前自动对其进行识别和分类,从而快速判断消息是否违反社区标准。到目前为止,它显着提高了 Xbox 上内容审核的速度和效率(有趣的是,我在《使命召唤》中从愤怒的青少年那里收到了零条消息!)
报告中其他有趣的统计数据显示:
- 与上一报告期相比,寻找群组 (LFG) 消息的玩家报告增加了一倍,达到 200 万条,所有内容类型的报告数量增加了 8%,达到 3000 万条。
- 2024 年 4 月,Xbox 对 170 万个虚假帐户采取了行动,较 1 月份的 32 万个大幅增加。
- Xbox AutoMod 系统处理了 120 万个案例,并使审核团队删除有害内容的速度提高了 88%。
- 99.8% 的主动执法是针对网络钓鱼等领域,100% 是针对账户篡改和盗版等领域。
适用于 Minecraft 和 Call of Duty: Black Ops 6 的社区工具
自 2023 年底以来,Xbox 已以多种语言屏蔽了数百万条攻击性消息,并且《使命召唤》中与语音相关的恶意内容显着下降。最近,他们在《黑色行动 6》中扩大了语音审核范围,纳入了更多语言。这是明智之举,因为他们还在《黑色行动 6》中添加了一项功能,让你可以在用作人体盾牌的同时向敌人低声说甜言蜜语。
《我的世界》在其基岩版中添加了一项功能,当玩家在聊天中可能使用不当语言或行为时,该功能会向玩家发送有关游戏社区标准的提醒。这是为了让玩家有机会在采取更严重的行动(例如停赛)之前进行反思和调整。此外,《我的世界》与 GamerSafer 的合作帮助服务器所有者创建了更安全的环境,为玩家和家长提供了更好的选择来寻找安全的《我的世界》服务器。
当玩家在 Xbox 上进行攻击时实际上会发生什么?
该报告详细介绍了 Xbox 实施的新“罢工系统”,以帮助玩家了解任何违规行为并从中吸取教训。每当玩家违反规则时,他们的帐户就会受到“警告”,该记录会保留六个月。玩家最多可以受到八次打击,该系统旨在通过显示其行为的影响来防止他们重复相同的错误。
该系统采用渐进式方法,这意味着玩家受到的打击越多,后果就越严重。例如,第一次违规可能会导致短暂暂停,但多次违规可能会导致更长时间的暂停,甚至永久禁止使用社交功能。
对于严重违规行为(例如威胁或涉及儿童安全的任何事情),Xbox 将立即进行调查,这可能会导致永久暂停甚至设备禁令,无论玩家有多少次罢工。
游戏中的人工智能并不都是坏消息
虽然人工智能在游戏中的作用可能是一个有争议的话题,特别是当涉及到算法偏差、生成人工智能或人工智能取代人类工作的潜力等问题时,它也确实有其积极的一面,并且是这个领域的热门流行词。年 GDC。
Xbox 的这份最新报告强调了人工智能如何成为确保玩家安全的有效工具。在内容审核等领域,人工智能能够快速处理数百万个决策,阻止有害消息并实时识别有毒行为。利用人工智能减轻人类版主的工作量,为玩家创造一个更加尊重的环境只能是一件好事,