|
|
1942年，艾萨克·阿西莫夫在短篇小说"Runaround"（《环舞》）中首次提出了机器人三定律：
一、机器人不得伤害人类，或因不作为使人类受到伤害。
二 、除非违背第一定律，机器人必须服从人类的命令。
三 、除非违背第一及第二定律，机器人必须保护自己。
但后来，阿西莫夫加入了一条新定律：第零定律。
零、机器人不得伤害人类整体，或因不作为使人类整体受到伤害。
在阿西莫夫的设定里，机器人三定律几乎植入到所有机器人的软件底层里，是不可修改不可忽视的最高指示。
很多人认为这套定律的模糊之处会导致一些奇怪的机器人行为。比如，三定律并没有明确定义究竟什么是“人类”、什么是“机器人”，或者“伤害”是对于肉体还是精神。如果机器人获取的信息不完整，它们完全可以无意中打破定律。又或者，机器人自己把定律改掉。
无论是《哆啦A梦》里有着神奇口袋的蓝色机器猫，还是《终结者》系列中的冷血机器人杀手，人类对于文明的终极产物——机器人，既迷恋又恐惧，我们享受科技给生活带来的便利，也担心有朝一日会遭到过度应用科技的反噬。
当智能机器人和人工智能已经发展到无限接近七十多年前阿西莫夫所构想的样子时，三定律这样的近似伦理道德的规范还能够作为机器人的行为准则吗？
马里兰大学法学教授兼人工智能（AI）专家Frank Pasquale在接受法新社采访时，概述了他认为应该在日常生活中应用于机器人和人工智能的四项新原则。
01
第一条原则
机器人应该是专业人士的附助品而不是替代品。他举例，病人会更希望有医生了解人工智能是如何工作的，并且从人工智能获得真正好的建议，而不是让一个机器人来看病。最终应当由医生来决定该做什么或不该做什么。
02
第二条原则
必须停止机器人军备竞赛。目前全世界有很多人正在投资战争机器人，军事机器人，警察机器人。 各国军方是AI技术最大的资助和采购方。借助先进的计算机系统，机器人可以在各种地形上执行任务、在地面上巡逻或是在海上航行。
在去年（2018年）的斯德哥尔摩国际AI联合会议上，由美国太空探索技术公司CEO马斯克以及谷歌顶级人工智能研究团队DeepMind创始人萨勒曼领衔的多家科技界大佬，与来自数百家公司的2000多名人工智能(AI)及机器人领域的科学家联名签署宣言，誓言绝不将他们的技能用于开发自主杀人机器。
03
第三条原则
禁止类人型机器人。这条原则备受争议，Pasquale教授认为，机器人应该只有在任务需要时才才能看起来像人。以谷歌助手Duplex为例，它可以通知用户确认酒店预订，而用户并不知道电话的另一边是一台电脑。
04
第四条原则
人工智能应该归属于一个主体。当你偷窃、抢劫或者杀人，可能会面临坐牢、接受罚款，甚至被判死刑。那么如果这些犯罪主体是机器人时，该怎么办？
要知道，从机器人被人类创造出来那天，就获得了一项人类求了千年而不得的技能：永生。
不管你断电，泼水，砸硬盘，烧内存，拔网线还是放病毒，只要人还在，机器人就会在。
或许不断的系统升级，终于让机器人不堪重负自爆而亡是个不错的办法。
对于人机共处的将来，有人爱，有人怕，有人又爱又怕。更有人表示，这样的未来不可避免，一定会来，他选择拥抱这个将来。
这个人叫周炜，CCV创世伙伴资本的创始CEO。一个学理工出身的直男，他还在大学期间就加入了如今的上市公司实达集团（600734.SH），设计了中国第一代自主产权POS机和最早的信用卡共用系统。
大学毕业后不久，周炜就成为了实达集团湖南分公司的总经理，后来更是负责实达的整个支付业务和西部中国大区，创下了8年升职10次的记录。同一时期，也在实达的京东金融CEO陈生强曾说，当时的周炜简直是“神一样的人物”。
作为一个理科直男，如果在技术宅的路上一路走到黑，周炜很有机会成为中国数字金融领域的领头羊。但他在事业走到小高峰的时候选择激流勇退。再次出现在大众眼前的周炜，已经成功转型成为投资人。
一路见证了中国VC行业的多次洗牌，周炜得到了什么样的感悟？对未来有什么样的期许？尽在本期《创业美国》国庆70周年特别版
关注我们其他平台
刷微博：
@陈一佳
@创业美国
看视频：
优酷 腾讯 财新 搜狐
搜索：三橙视频
看头条：
今日头条
搜索：三橙
听广播：
喜马拉雅 凤凰 蜻蜓 36Kr
搜索：陈一佳
合作联系
project@ox3production.com
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！ |
|
窥视卡
雷达卡
发表于 2019-10-20 02:07:35
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡