首页 | 新闻 | 军事  359旅 | 影视  电影  电视剧  娱乐  天天故事 | 生活 | 儿童 | 中华5000年 | 天天博客
   新闻首页  |  时事  |  国际  |  教育  |  财经
"暗黑版"AI现身引忧虑
116.com.cn 发布时间: 07-09 13:47:57 来源: 新华网

  原标题:“暗黑版”AI现身引忧虑 我们需要怎样的人工智能?

  近日,麻省理工学院媒体实验室出品了一个“暗黑版AI”,再次将人工智能的黑箱隐忧这个经久不衰的话题送上热门。据报道,实验室的三人团队联手创造了一个叫诺曼(Norman)的人工智能,与希区柯克经典电影《惊魂记》中的变态旅馆老板诺曼·贝兹同名。

  名如其人。诺曼会以负面想法来理解它看到的图片。例如,一张在一般AI看来只是“树枝上的一群鸟”的普通图片,在诺曼眼中却是“一名男子触电致死”。

  团队希望通过诺曼的表现提醒世人:用来教导或训练机器学习算法的数据,会对AI的行为造成显著影响。AI会成为什么样,有时人类可能束手无策。

  TA们的偏见就是人类的偏见

  诺曼们从哪来?答案首先藏在数据里。

  “人工智能识别出的结果不是凭空而来,是大量训练的结果。如果要训练AI某一方面的能力,比如下棋,就需要收集、清洗、标记大量数据供机器学习。如果用于训练的数据不够多,就会造成AI学习的不充分,导致其识别结果的失误。”中科院自动化研究所研究员王金桥对科技日报记者表示。数据本身的分布特性,如偏差甚至偏见,也会被机器“有样学样”。针对诺曼的表现,创造它的实验室也指出,“当人们谈论人工智能算法存在偏差和不公平时,罪魁祸首往往不是算法本身,而是带有偏差、偏见的数据。因为当前的深度学习方法依赖大量的训练样本,网络识别的特性是由样本本身的特性所决定。尽管在训练模型时使用同样的方法,但使用了错误或正确的数据集,就会在图像中看到非常不一样的东西”。

  另外是算法本身的影响。“这可能是无法完全避免的,由深度学习算法本身的缺陷决定,它存在内在对抗性。”王金桥表示,目前最流行的神经网络不同于人脑的生物计算,模型由数据驱动,和人类的认知不具有一致性。基于深度学习的框架,必须通过当前训练数据拟合到目标函数。在这个框架之下,如果机器要识别狗,它会通过狗的眼睛、鼻子、耳朵等局部特征进行可视化识别,而这些可视化特征却能给想利用深度学习漏洞的人机会,后者可以通过伪造数据来欺骗机器。

  除了人训练机器的数据本身有偏差以外,机器通过对抗性神经网络合成的数据也可能有问题。由于机器不可能“见过”所有东西(比如识别桌子,机器不可能学习所有长短宽窄各异的桌子),人也不可能标记所有数据。如果研究者输入一个随机的噪音,机器可以向任何方向学习。这是一把双刃剑,机器也可能合成一些有问题的数据,学习时间长了,机器就“跑偏”了。

  数据的均衡或可减少“跑偏”

  不少科学家以“garbage in, garbage out”来形容“数据和人工智能的关系”。中科视拓(北京)科技有限公司CEO刘昕说:“对机器学习而言,进什么就出什么。监督学习就是让模型拟合标签,比如训练者把帅哥都标记成‘渣男’,那么机器看到刘德华,就会认为他是……”谈到诺曼引发的讨论,刘昕表示:“不需要担心,人类本身就有各种歧视和偏见,用人类生产的数据训练AI,再批判AI不够正直良善,这么说有点危言耸听。”

  偏见、刻板印象、歧视都是人类社会的痼疾,有些流于表面,有些深入社会肌理,无法轻易剥离。在这样的语境中产生的数据,携带着大量复杂、难以界定、泥沙俱下的观点。如果研究者没有意识到或着手处理这一问题,机器学习的偏见几乎无解。真正的“公正算法”或许是不存在的。

  据有关媒体报道,在谷歌研究自然语言处理的科学家 Daphne Luong 表示,正确地校准标签对机器学习来说非常关键,有些数据集其实并不平衡,像维基百科上的数据,“他”(He)出现的次数远比“她”(She)要多。

  王金桥也着重强调了“数据的均衡”。就算对人来说,不同人秉持着不同的价值观,但多听多看多受教育可以让人向良好的方向改进。机器学习也是如此。“训练机器时,要注重数据的均衡,给它更多可靠的数据。研究团队成员具有多元的学术背景(如吸纳更多社会学、心理学等领域学者加入)、性别、年龄、价值观,也可以帮助机器学习更加均衡,减少机器出现偏见、谬误甚至失控的可能。”王金桥说。

  “机器学习的模型本身也要有一定的防攻击能力,从技术上防止本身结构设计的漏洞被攻击,研究者可以使用各种数据攻击机器,训练机器的反攻击能力。”王金桥说。

  作恶还是向善,是人类的选择

  1942年,阿西莫夫在短篇小说《环舞》中首次提出著名的机器人三定律:机器人不得伤害人类,或因不作为使人类受到伤害;除非违背第一定律,机器人必须服从人类的命令;除非违背第一及第二定律,机器人必须保护自己。半个多世纪过去,人工智能在大数据的加持下迎来爆发式发展。某些专用型人工智能把人类智能甩在身后,人们开始担忧,机器伤害人类的那一天是不是不远了。

  因此有一种看法很主流——人类训练有意识、有自我觉知的人工智能是不明智的。开个脑洞,机器一旦发展出自我意识,要反向攻击人类,场面或许失控。

  前段时间,据路透社报道,韩国科学技术院的人工智能研发中心正在研发适用于作战指挥、目标追踪和无人水下交通等领域的人工智能技术,希望在今年年底前研发出基于人工智能的导弹、潜艇和四轴飞行器。此事引发学术界的巨大震动,抗议纷至沓来,并最终以院长保证无意于“杀手机器人”的研发并重申人类尊严和伦理收场。在美国,以“不作恶”为纲的谷歌也因与国防部的合作协议涉及“Maven项目”被推上风口浪尖,反对者普遍认为,识别结果完全有可能被用于军事用途,比如说精准打击。谷歌最终表示终结协议。

  相较于舆论环境的忧心忡忡,研究者对“技术向善”普遍乐观。他们认为把AI和“杀人机器”联系在一起,近乎“捧杀”,夸大AI能力之余,也引发不明真相的公众恐慌,无益于人工智能的发展环境。

  “很多人提到AI总是一惊一乍,把AI说成超人。我相信人工智能是能解决问题的,但大家的期待也要在合理范围内。人和机器各有优势,技术会服务于特定场景,但也不需要把AI捧上天。”接受科技日报记者采访时,思必驰北京研发院院长初敏博士忍不住“抱怨”了一下。看来“我们需要怎样的AI”这一题,大家都还没有答案。
                                                                      责任编辑:刘博 XN034

 共1页   第1页 前一页 后一页   跳转到 返回新闻首页
分享到:0
   相关新闻
    媒体视点
    关税降了,价格何时降?
    关税降了,价格何时降?
    美国人为何对特朗普说“不”
    美国人为何对特朗普说“不”
    “手滑”的代价究竟由谁来担
    “手滑”的代价究竟由谁来担
    自媒体“蹭”热点不能丧失良知
    家长为何要为补课老师“撑腰”?
    注意了!这些人民币5月1日起将停止流通
    微信沟通的当下 你有多久没登陆过QQ?
    不忘初心 牢记使命:十九大代表谈体会
    【视频】再塑党的形象的伟大工程
    新时代@所有人
    基层代表热议十九大报告乡村振兴中国增色
    漫话奇闻  
    高原旱獭演绎“爱情故事”
    河西走廊"丹霞地貌"美景吸睛
    "8D魔幻重庆"现穿楼人工运河
    · 世界上最受欢迎的美食之旅
    · 澳大利亚一只鹈鹕身上插刀行走
    · 摄影师俯拍冰岛冰河纵横美景
    · 孩子经常眨眼可能是儿童抽动症?
    · 特价景区联票失效不退钱 维权较真到底
    · 30天1300公里!小伙从海南跑回广东
    · 女孩丢包刷朋友圈现惊喜 热心人接力寻回
    · "鹰眼神探"可一眼识破套牌车 曾挖出团伙
    · 男子拒收商店赠送可乐 称会使其手臂骨折
    
          天天在线微视频上线!
    点击排行
    年轻干部看过来!习近平在关注你们
    贵州梵净山列入世界遗产名录
    川陕仍有暴雨豫鄂苏皖将现大暴雨
    QQ宠物,到了说再见的时候
    濮阳燃气经营权"一女多嫁"致"气荒"
    因不足1米5师范生无缘教师资格证
    泰国10天生死营救
    赌球花样多,"AI""区块链"都是套路
    中国四大行登顶全球千家大银行榜单
    女员工被莆田系医院老板打断腰椎
    图说新闻  
    
          无人机展现不一样世界
    无人机展现不一样世界
    
          鲲龙AG600怎样炼成的
    鲲龙AG600怎样炼成的
    
          金沙江上最后的溜索
    金沙江上最后的溜索
    
          “麒麟臂”为快递提速
    “麒麟臂”为快递提速
    
          楼房外现4层楼高冰瀑
    楼房外现4层楼高冰瀑
    
          台风天秤席卷菲律宾
    台风天秤席卷菲律宾
    
          世界最小手机来了
    世界最小手机来了
    
          治愈系动物们憨萌瞬间
    治愈系动物们憨萌瞬间
    论坛精华  
    
          QQ宠物,到了说再见的时候
    QQ宠物,到了说再见的时候
    
          被困溶洞10天的少年们找到了!
    被困溶洞10天的少年们找到了!
    
          九图读懂公积金那些事儿
    九图读懂公积金那些事儿
    · 多肉植物会致幻?专家:只是“小众”
    · 为了人民重托——记政府工作报告起草
    · 2017年全国各地最低工资出炉
    · 新时代,世界抱以新期待
    · 坚如磐石 十九大报告宣示反腐决心

    content1

    content2

    content3

    content4

    content5

    content6

    content7

    content8

    content9

    content10

    content11

    content12

    content13

    content14

    content15

    content16

    content17

    content18

    content19

    content20

    content21

    content22

    content23

    content24

    content25

    content26

    content27

    content28

    content29

    content30

    content31

    content32

    content33

    content34

    content35

    content36

    content37

    content38

    content39

    content40

    content41

    content42

    content43

    content44

    content45

    content46

    content47

    content48

    content49

    content50

    content51

    content52

    content53

    content54

    content55

    content56

    content57

    content58

    content59

    content60

    content61

    content62

    content63

    content64

    content65

    content66

    content67

    content68

    content69

    content70

    content71

    content72

    content73

    content74

    content75

    content76

    content77

    content78

    content79

    content80

    content81

    content82

    content83

    content84

    content85

    content86

    content87

    content88

    content89

    content90

    content91

    content92

    content93

    content94

    content95

    content96

    content97

    content98

    content99

    content100

    content101

    content102

    content103

    content104

    content105

    content106

    content107

    content108

    content109

    content110

    content111

    content112

    content113

    content114

    content115

    content116

    content117

    content118

    content119

    content120

    content121

    content122

    content123

    content124

    content125

    content126

    content127

    content128

    content129

    content130

    content131

    content132

    content133

    content134

    content135

    content136

    content137

    content138

    content139

    content140

    content141

    content142

    content143

    content144

    content145

    content146

    content147

    content148

    content149

    content150

    content151

    content152

    content153

    content154

    content155

    content156

    content157

    content158

    content159

    content160

    content161

    content162

    content163

    content164

    content165

    content166

    content167

    content168

    content169

    content170

    content171

    content172

    content173

    content174

    content175

    content176

    content177

    content178

    content179

    content180

    content181

    content182

    content183

    content184

    content185

    content186

    content187

    content188

    content189

    content190

    content191

    content192

    content193

    content194

    content195

    content196

    content197

    content198

    content199

    content200

    content201

    content202

    content203

    content204

    content205

    content206

    content207

    content208

    content209

    content210

    content211

    content212

    content213

    content214

    content215

    content216

    content217

    content218

    content219

    content220

    content221

    content222

    content223

    content224

    content225

    content226

    content227

    content228

    content229

    content230

    content231

    content232

    content233

    content234

    公司介绍 | 联系方式 | 版权声明 | 律师声明 | 广告服务 | 商务合作 | 招聘信息 | 纠纷处理 | 执行主编:付金丽XN005
    北京在线九州信息技术服务有限公司 北京市朝阳区三间房乡北双桥甲2号三间房动漫孵化园二期26内1室
    天天在线 116.com.cn Copyright © 2012 All Rights Reserved
    信息网络传播视听节目许可证 编号:0104053 发证机关:国家广播电影电视总局 京ICP证031060
    互联网新闻信息服务许可证  客户服务热线:010-85871506  投诉举报:010-85871506
    网络文化经营许可证:京网文【2016】5775-753号        

    免责声明:天天在线不承担任何由内容提供商提供的信息所引起的争议和法律责任,一切争议和法律责任请与内容提供商联系。
      
    北京市公安局朝阳分局备:1101051470号   京公网安备11010502025142