Discord 承认 AI 审核漏洞误将无害图像判定违规，导致用户被错误封禁
Discord 表示，其 AI 审核系统存在一个漏洞，错误地将用户发送的无害图像标记为违规内容，导致大量账号被误封。该问题源于机器学习模型对某些图像特征的过度敏感，公司已发布修复补丁并恢复受影响的用户账号。Discord 为此致歉，并承诺加强审核算法的透明度与准确性。
背景速读
Discord 是一款在全球拥有超过 2 亿月活用户的即时通讯与社群平台，以游戏玩家社区闻名，但也广泛用于各类兴趣群组和在线协作。近年来，Discord 大力推行 AI 内容审核，自动检测并移除违规色情、暴力或骚扰内容。
— 此次事件与 Discord 的 AI 审核系统相关：用户发布正常图片（如游戏截图或摄影作品）被错误标记为违规，导致帐号被自动封禁。Discord 官方承认是“AI 模型缺陷”，并称已修复。
— 背景在于，AI 审核是各大内容平台（如 Twitter、TikTok、YouTube）的普遍做法，但图像识别模型在判断图片是否违规时经常出现“假阳性”误判，尤其在人像、艺术作品或医疗图片上容易出错。
— 该事件引发了用户对平台过度依赖 AI、缺乏人工复核机制的担忧，也再次凸显了 AI 审核对言论自由的潜在影响。