马化腾担忧AI等带来科技伦理问题 究竟该怎么办

2019-03-07 15:34:00 来源: 科技日报社-中国科技网

本报记者 张盖伦

前段时间,一则短视频火了。网友用人工智能技术,将电视剧《射雕英雄传》中演员朱茵的脸换成了杨幂。这个杨幂版“黄蓉”毫不违和,古灵精怪,娇俏可人,你甚至都看不出视频有被处理过的痕迹。

技术非常好玩,让人跃跃欲试。而且,现在还有相关程序,只要你有足够的素材,有一台配置不错的电脑,就能完成一段“变脸视频”。

所以,眼见也不一定为实。

其他问题同样就在眼前:智能驾驶车已经充分利用了人工智能技术,有一定的自主能力。商用后,如果发生了意外,出现了事故,责任人是谁,法律主体怎么认定?是制造商、算法的开发商,还是使用者本人?全国人大代表、腾讯公司董事会主席兼首席执行官马化腾将他的顾虑一一道来。他告诉科技日报记者,新技术带来的科技伦理问题越来越热,但现在都没有明确规则,“因为太新了”。

人工智能正在渗透进你我的生活。它向你推荐餐厅,它为你进行搭配,它帮你筛选新闻,它还能替你选择伴侣……现在,它根据你的需求,能为你定制一段并不存在的视频。正如全国人大代表、天津大学党委书记李家俊所说,人工智能对数据的收集和挖掘,有可能侵害个人隐私甚至危害公共安全;而从宏观局面来说,人工智能技术的发展,还可能引发新产业革命和经济结构调整。

如何让这柄“双刃剑”在社会治理中发挥正向作用?马化腾给出的药方是,强化科技伦理的制度化建设。

在国家层面,他建议针对相关新技术制定伦理准则,对新技术应用进行引导和规范。马化腾说,行业主管部门可以与行业主体、学术团体、社会公众等多利益相关方合作,制定相关伦理准则,并支持行业自律,包括建立伦理审查制度、成立自律组织、制定行业标准等。在国际层面,应积极推动新技术领域的全球治理,参与国际标准、规则的制定,推动建立人工智能研发与应用的全球共同伦理框架,确保人工智能持续造福全人类和全世界的发展。

更具体一些来说,则要为相关人工智能应用建立安全标准,打击和人工智能相关的新型犯罪,为人工智能应用探索制定恰当合理的规则。

和马化腾一样,李家俊也建议建立相关伦理规约体系。在他看来,不同的主体,应发挥好各自的作用。

首先,是决策者立德。李家俊建议,由中国科协组织人工智能及相关领域专家学者制定我国的《人工智能伦理章程》,设置人工智能的伦理框架、道德准则,其次,由国家市场监管总局牵头,做好人工智能技术、产品的伦理审查,从技术层面做好人工智能的道德预设,“而研发者也要承担自己的责任”。今年政府工作报告中指出,要加强科研伦理。李家俊说,可以由科技部牵头,组建人工智能伦理委员会,对科研人员的社会责任、职业规范提供监督指导,并从制度上为人工智能研发明确禁区、划定边界、树立底线。

深度学习算法常被称作“黑匣子”,连算法设计者自己也不知其如何运作,更别说对其给出的运算结果进行解释。李家俊强调,应该提升人工智能算法的可解释性和可预测性,强化人机互动间的反馈信度、理解精度和执行效度,维护健康有序的人机关系,构建社会公序良俗。

“所有行业的高级发展、终极模式,最终都要跟AI结合。”马化腾表示,对人工智能发展中的伦理问题,可以先从研究和倡议开始。“这是第一步,但现在做得也还远远不够。”(科技日报北京3月6日电)

精选 导读

古巴将首次面向全国开通手机上网服务

古巴电信公司4日宣布,将于6日起面向国内所有手机用户开通移动互联网服务,古巴民众将可首次使用移动数据上网。古巴电信公司总裁梅拉·阿雷

发布时间: 2018-12-06 14:37
IT   2018-12-06

外媒:韩国政府加大对加密货币交易的管控力度引公愤

据华尔街日报中文网16日消息,韩国政府试图加大对加密货币交易的管控力度,这一做法引起了韩国民众的强烈反对。周一晚间,已有近20万韩国民

发布时间: 2018-01-17 15:07
评论   2018-01-17

"24条"新规:夫妻一方以个人名义所负债务不再定共同债务

随着社会经济和文化的飞速发展,个体的独立性不断增强,夫妻之间对彼此的隐私也越来越尊重,婚姻家庭关系出现了一些新的趋势和变化。夫妻双

发布时间: 2018-01-17 14:43
  2018-01-17

数字货币市场和区块链一夜间暴跌

在过去的24小时里,数字货币市场和区块链遭遇了一场浩劫。受多国政府将对数字货币进行严打消息的影响,比特币一度跌破10000美元,瑞波币跌

发布时间: 2018-01-17 14:39
  2018-01-17

监管层整顿有关数字代币“出海”及“场外交易”

1月16日,21世纪经济报道记者从多家代币交易平台人士处获悉,监管层日前在一份互联网金融风险专项整治工作简报中,释放了将对比特币、以太坊等

发布时间: 2018-01-17 14:32
  2018-01-17

工信部:进一步推动稀土行业秩序整顿工作,加强部门间协

中国证券网讯 1月17日从工信部获悉,为进一步推动稀土行业秩序整顿工作,加强部门间协同,2018年1月16日,稀有金属部际协调机制在京组织召

发布时间: 2018-01-17 12:00
国内   2018-01-17

国家海洋局:“十个一律”和“三个强化”

经济日报记者17日从国家海洋局了解到,2013年以来,国家海洋局与沿海地方各级人民政府按照习近平总书记把海洋生态文明建设纳入海洋开发总体

发布时间: 2018-01-17 11:48
国内   2018-01-17

数字货币继续暴跌,区块链概念股股价重挫。

截至最近一次更新,Coinbase平台显示,北京时间6点30分左右,比特币交易价一度跌破10000美元,日内跌28%。以太币24小时内一度跌去30%。

发布时间: 2018-01-17 11:21
财经   2018-01-17

近20个城市引进人才的新政策,核心是放宽购房资格

最近3个月,全国有近20个城市与地区发布了引进人才的新政策——政策的核心内容之一,就是放宽购房资格。甘肃省会城市兰州1月5日发布重磅消

发布时间: 2018-01-17 11:17
财经   2018-01-17

人民币汇率上涨1.2%,专家称全年将呈微笑曲线走势

在人民币春季上涨攻势升破6 4后,人民币汇率会处于基本稳定态势,二季度、三季度有调整压力,四季度升值预期会再起专家称全年将呈微笑曲线

发布时间: 2018-01-17 11:13
财经   2018-01-17