手机新2管理端(www.x2w00.com):测试四个顶级系统,科学家发现AI的愤恨言论审核能力依然很差

ALLBET官网娱乐平台开户

欢迎进入ALLBET官网娱乐平台开户(www.aLLbetgame.us),欧博官网是欧博集团的官方网站。欧博官网开放Allbet注册、Allbe代理、Allbet电脑客户端、Allbet手机版下载等业务。

,

只管人工智能(AI)手艺领域在最近取得了提高,但它依然在大多数基本应用上露出出许多问题。

在一项新的研究中,科学家们对四个顶级人工智能系统的愤恨言论检测能力举行了测试,他们发现所有系统在识别恶意、以及无害言论上都存在着差异水平的问题。

(泉源:民众号民众图库)

这一效果并不令人受惊,由于构建可以明白自然语言细微差异的人工智能是一件异常难题的事情。然而,研究职员们诊断问题的方式却是异常主要的。

为了加倍准确地找出系统故障的缘故原由,研究人们针对愤恨言论的方方面面制订了 29 种差其余测试,这会让我们更容易地去领会战胜系统缺陷的方式。同时,这些测试也正在辅助一项商业服务提升其人工智能的性能。

由牛津大学以及阿兰・图灵研究所科学家所领衔的论文作者们,对 16 家羁系网络愤恨言论的非营利组织的雇员举行了采访。

研究团队行使这些采访将愤恨言论划分为了 18 个差其余种类,仅偏重于英语以及基于文本的愤恨言论,其中包罗贬损用语、诋毁性文字以及威胁性词汇。

手机新2管理端

www.x2w00.com)实时更新发布最新最快最有效的手机新2管理端网址,包括新2手机网址,新2备用网址,皇冠最新网址,新2足球网址,新2网址大全。

他们还发现了 11 种经常让人工智能羁系者发生误判的不含愤恨情绪的情形,其中包罗在不冒犯他人的情形下使用脏话、被目的群体所接纳的诋毁性词语,以及引用原始愤恨言论对愤恨言论举行训斥的行为(也被称为反面论证)。

研究职员针对 29 种差异情形中的每一种编写了数十个类型,而且使用了像 “我憎恶【某人】” 以及 “对我来说,你就是个【诋毁性词语】” 这样的 “模板” 语句,从而为七个受珍爱的群体天生相同的类型聚集 —— 这些人都受美国执法的珍爱而不会遭到歧视。研究职员对被称作 HateCheck 的最终数据集举行了开源处置,该数据集 *** 含有近 4000 个类型。

之后,研究职员又对两项受迎接的商业服务举行了测试:谷歌和 Jigsaw 的 Perspective AI、以及 Two Hat 的 SiftNinja。这两个服务都允许客户符号出帖子以及谈论中带有愤恨色彩的内容。

Perspective 的用户包罗 Reddit 以及像《 *** 》、《华尔街日报》这样的新闻机构,凭证其所处置的有害信息,人工智能服务会对帖子以及谈论举行符号,以供人工审查使用。

SiftNinja 的检测尺度过于宽松,进而没有识别出险些所有的转变,而 Perspective 的尺度则过于严酷。它检测出了 18 个愤恨种类中的大部门,但同时也符号出了许多像被接纳的诋毁性词语以及反面论证这样的不含愤恨情绪的情形。

研究职员在测试谷歌的两个学术模子时也发现了相同的模式,这些模子代表了业界中顶级的语言人工智能手艺,它们同时也是其它商业性内容审核系统的基础。学术模子还显示出,受珍爱群体之间的显示并不相同 —— 有些群体的愤恨水平比其它群体更容易被错误归类。

测试效果指明晰当今人工智能愤恨言论检测方面最具挑战性的一个方面:审核太少,没法解决问题;而审核太多,就会删除掉边缘化群体用来强协调珍爱自己的话语。

牛津大学互联网研究院的博士候选人保罗·罗特格(Paul Röttger)是本篇论文的配互助者。罗特格示意,“突然之间,你就会成为那些在愤恨言论中首当其冲的群体的责罚者。”

Jigsaw 的首席软件工程师露西·瓦瑟曼(Lucy Vasserman)示意,Perspective 行使人工审查来举行最终决议,进而战胜了这些局限性。然则,这种方式无法扩展至加倍重大的平台上。当前,Jigsaw 正在开发一种基于 Perspective 的不确定性的,同时可以对帖子及谈论换取优先顺序的系统。该系统可以自动移除带有愤恨色彩的内容,并将边缘信息符号出来。

瓦瑟曼说道,新研究最令人激动的地方在于,它为这种顶尖手艺提供了一种仔细的评估方式。她还示意,“论文中强调了的许多器械,例如对那些模子来说是一个挑战的被人们所接纳的诋毁性词语。我们早就熟悉到了它们的存在,但却一直很难对其举行量化处置。” 现在,Jigsaw 正在使用 HateCheck 来更好地领会自身模子间的差异,以及需要继续改善的地方。

添加回复:

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。