域名频道资讯站
我们一直在努力制造惊吓

Clubhouse等音频社交网络火了 内容监控成了难题

访问:

阿里云“温暖上云”主题活动 – 3000万补贴助力中小企业寒冬突围

Clubhouse等音频社交网络火了 内容监控成了难题

对于那些提供实时语音聊天的平台来说,如Clubhouse、Discord和Twitter Spaces等(还有传闻称Facebook也在开发类似的应用),掌控实时聊天的内容将是一个挑战。

实时游戏聊天应用Discord首席法务官克林特·史密斯(Clint Smith)在接受采访时称:“与基于文本的交流相比,音频给内容控制带来了一系列截然不同的挑战。它存在的时间较短(语音),很难进行研究并采取行动。”

目前,检测“有问题”的音频内容的工具,要落后于文本识别工具;而转录和检查录制的语音聊天,对于人和机器来说是一个更加繁琐的过程。另外,缺乏额外的线索,如视频或附带文字评论的视觉信号,也会使这一问题变得更具挑战性。

反诽谤联盟(Anti-Defamation League)技术与社会中心副主任丹尼尔·凯利(Daniel Kelley)表示:“当前拥有的大部分内容审核工具,实际上都是围绕文本建立的。”

而且,也并不是所有的公司都制作或保留语音记录,以调查违规举报。虽然Twitter Space会把音频保留30天或更长时间,但Clubhouse却表示,如果直播结束而没有立即收到用户报告,就会删除这些录音。

而Discord则根本不会录音。更糟糕的是,Discord还赋予用户一些控制权,如禁言和拉黑。这很可能导致用户权力被滥用,并容易受到偏见的影响。

同样引入了用户控制的Clubhouse,也受到了外界的密切关注。例如,阻止用户进入某些房间的行为,是否可以用来骚扰或排斥用户。

在此之前,大型社交媒体已经历过类似的问题,并一直在努力遏制其网站上不当的直播内容。例如,2020年,Facebook上一段自杀的直播视频在多个网站上传播。2019年,发生在德国犹太教堂的枪击事件在亚马逊旗下游戏网站Twitch上进行了直播。

对此,Twitch安全咨询委员会成员艾玛·兰索(Emma Llanso)表示:“对这些服务(语音聊天)来说,要从中吸取教训,明白他们将面临所有同样的问题,这一点真的很重要。”

Clubhouse一发言人对此表示,该公司同时使用内部审查员和第三方服务来审查内容,并已就这一问题聘请了顾问,但不愿就审查或检测方法发表评论。Clubhouse还表示,公司正在投资于检测和防止虐待的工具,以及为用户提供的功能,可以为自己的房间设定规则,以“缓和”对话内容。

App Annie数据显示,从2月1日至16日,Clubhouse的全球下载量从350万次增长到了810万次。

本文素材来自互联网

赞(0)
分享到: 更多 (0)

中国专业的网站域名及网站空间提供商

买域名买空间