您现在的位置:沙龙365 > 产业 > 方案 > 方案评测
详解历史上三大人工智能失败案例
沙龙365官方网站
日期:2017-08-01 08:02:31来源:51cto 点击:750
核心提示:尽管今天提到的大多数事故与AI本身并无直接联系,但却或多或少有AI因素涉及其中。随着AI技术的不断改进,我们必须对代表着我们判断方式的算法拥有充分的信心,因为在未来的实际应用中,算法有可能需要对复杂变量进行决策,甚至决定着人类生命财产能否安全无忧。下面,我们共同关注史上曾经出现的几个AI失败案例。T...

尽管今天提到的大多数事故与AI本身并无直接联系,但却或多或少有AI因素涉及其中。随着AI技术的不断改进,我们必须对代表着我们判断方式的算法拥有充分的信心,因为在未来的实际应用中,算法有可能需要对复杂变量进行决策,甚至决定着人类生命财产能否安全无忧。

    下面,我们共同关注史上曾经出现的几个AI失败案例。

详解历史上三大人工智能失败案例

    Tay——微软的聊天机器人

    过去一年中,公认的一大AI失败案例正是微软Tay:“微软技术研究部与必应团队共同开发的聊天机器人,旨在实验对话交流内容的理解能力。Tay通过轻松愉快的对话与人类用户进行接触。Tay进行过的聊天越多,其智能程度就越高,并可为您带来更具个性化的使用体验。”

    Tay属于我们在自然语言理解(简称NLU)领域的一次尝试。其学习算法负责阅读、解释并适应用户提供的书面内容。其目标在于以个性化方式实现人机交互,这也正是众多技术巨头希望实现的关键性战略提升。与电影《她》中的假想类似,微软希望让Tay拥有与人相近的交流能力。在技术领域,商业成功通常经由三种方式实现:收购、参与与转换。可以看到,微软的思路是提供完整的个性化体验,确保其能够通过严格的图灵测试,并重新定义我们的参与途径。

    但是,当Tay开始和人类聊天后,不到24小时,她就被“教坏”了,成为一个集反犹太人、性别歧视、种族歧视于一身的“不良少女”。

    Alexa错将色情内容提供给儿童

    通过相关视频可以看到,儿童用户要求Alexa“玩‘挖金子’”,但Alexa的回应却是“您希望收听色情内容……热辣的小妞与素人美女……”(注:挖金子游戏一词与女性卖春者相同。)虽然有人认为问题不在AI身上,而是语音命令出了问题。这种说法有一定道理,但可以肯定的是,Alexa本身应当拥有通过机器学习区分语境的能力。

    Inspirobot提供荒谬的建议

    InspiroBot的设计初衷在于提供用户感兴趣的每日格言。然而颇为讽刺的是,其往往无法带来能够让我们的一天充满活力的正能量言论——甚至有可能以黑色幽默的方式令人陷入低落。

为何失败

    答案可以归纳为三个方面——准确度、情景与训练。

    准确度

    AI技术几乎能够在一切行业当中带来实效。然而与反欺诈或者其它一些目标更为明确的场景相比,Tay的失败主要源自其准确度的缺失。除了语法正确的交互能力之外,聊天机器人需要提供明确定义参数之外的其它回应。由于实际用户所提供的回应同Tay在实验中所接触过的词汇及语法有所区别,因此很难提供一致且准确的交互结果。

    情景

    对于这里提到的三个AI案例乃至其它各类AI方案,情景认知仍是一大严峻挑战。具体来说,如果大家与Tay聊天、向Alexa咨询意见或者从InspiroBot处寻求激励,那么用户的时间、地点、情感、天气、身份、职位等因素都会影响到您对于所提供结果的解读与评价。

    Tay显然未能充分理解会话中的情景,因为它的训练与交互未能考虑到多种多样的情景因素。虽然能够识别词汇并在一定程度上建立一致性响应,但却无法理解在特定背景下的含义与重要度。

    同样的,InspiroBot同样遭遇失败。尽管其努力提供丰富且具有通用性的建议,但却缺乏对相关内容的理解、意义的把握以及潜在解释的认知。

    训练

    大家可能都听说过,“进来的是垃圾,出去的也只能是垃圾”。Tay并非在内部受控环境下进行训练,而是被发布至世界范围,通过与公众交互进行学习。然而在24小时之内,技术精湛的社区(特别是4chan与8chan)明显认为向学习算法提供有问题的内容更加有趣。不用说,他们成功毁掉了Tay这位AI领域的未成年人。

    在Alexa方面,情况则有所不同。通过语音命令触发适当响应,并通过训练以了解词汇、语法、音调、语调、节奏、重音以及发音方式的意义。然而,这种将过多因素考虑进来的作法本身令错误边界快速扩大,并最终导致失败。通过进一步训练,Alexa应该能够学会如何识别儿童的声音,并在必要时提示进行家长控制。

    另外,InspiroBot则可尝试使用较少的单词、句型模板以及经过验证的积极词汇,从而更轻松地提供真正具有激励效果的表达。然而,这种作法本身与AI设计目标有所冲突——大量参数过滤机制的存在并不利于机器学习的发展。

    拥抱失败

    失败是成功之母,而我们也应当以宽容的心态接受上述AI失败案例。事实上,对于真正相信并期待着AI技术获得成功的朋友,大家应当分享、讨论、分析并尝试解决这些失败难题。您对于哪些现有AI方案感到失望?不妨在评论中聊上一聊。


出处:51cto
郑重声明:本文仅代表作者个人观点,与沙龙365官方网站(www.50cnnet.com)无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
分享沙龙365salon平台到:
延伸阅读
  • 资讯
  • 产业
  • 服务
  • 应用