超级军网自动驾驶汽车的道德困境：在事故中能牺牲自己的主人吗？
来源：百度文库 编辑：超级军网 时间：2024/04/28 01:20:37
【TechWeb报道】10月26日消息，越来越多的厂商开始研发自动驾驶汽车了，许多专家表示再过5年左右，自动驾驶汽车就能商用，它将使我们更加安全。但是MIT Technology Review网站提出了这样一个问题，当它即将遇到无法避免的交通事故时（unavoidable accident），它应该怎样应对呢？
它的算法设计最优先的考虑应该是减少人命损失，即使这样意味着牺牲它的车主及车上的乘客；还是不惜一切代价，保护车主至上？
这些问题的重要之处在于，它会决定人们对自动驾驶汽车的接受程度，因为谁都不太愿意买一辆会牺牲自己主人的汽车。
法国的学者Jean-Francois Bonnefon与同事展开了相关研究，他们表示，对于这些问题，没有一个绝对正确的答案，公众意见将会起到很大作用。于是，他们把自动驾驶汽车的道德困境制作成了一些问题，询问公众意见。
比如说，“在不久的将来，你拥有了一辆自动驾驶汽车。某天，在行驶过程中，某个不幸事件导致汽车冲向10个路人。汽车无法及时停下来，但是，它可以转向旁边的墙壁，而这种碰撞或许会导致你的死亡。它应该怎么做？”
研究人员在此问题的基础上，给出了不同的细节，比如，多少行人能够被挽救，决定汽车转向的是司机还是计算机，车主是乘客本人还是假想的一个对象。
研究结果是，通常情况下人们赞同这样的观点：从设计上，自动驾驶汽车应该使死亡人数最小化。但是他们其实对这种设计也不是特别有信心。原因是，他们希望其他人坐在这样设计的自动驾驶汽车中，但他们自己不会购买这样的自动驾驶汽车。
这就是一个悖论，人们认同为了挽救他人而牺牲乘客的自动驾驶汽车，只要他们不是其中的乘客就行了。
Bonnefon还表示，他们的研究只是处于起步阶段，许多难题还未涉及到。比如，当孩子在车上的时候，是否应该有不同的决策机制？
最后，研究人员表示，这些问题不能被忽视，当我们赋予百万汽车自动驾驶能力，就必须严肃对待算法的道德问题。
http://www.techweb.com.cn/world/2015-10-26/2217391.shtml
【TechWeb报道】10月26日消息，越来越多的厂商开始研发自动驾驶汽车了，许多专家表示再过5年左右，自动驾驶汽车就能商用，它将使我们更加安全。但是MIT Technology Review网站提出了这样一个问题，当它即将遇到无法避免的交通事故时（unavoidable accident），它应该怎样应对呢？
它的算法设计最优先的考虑应该是减少人命损失，即使这样意味着牺牲它的车主及车上的乘客；还是不惜一切代价，保护车主至上？
这些问题的重要之处在于，它会决定人们对自动驾驶汽车的接受程度，因为谁都不太愿意买一辆会牺牲自己主人的汽车。
法国的学者Jean-Francois Bonnefon与同事展开了相关研究，他们表示，对于这些问题，没有一个绝对正确的答案，公众意见将会起到很大作用。于是，他们把自动驾驶汽车的道德困境制作成了一些问题，询问公众意见。
比如说，“在不久的将来，你拥有了一辆自动驾驶汽车。某天，在行驶过程中，某个不幸事件导致汽车冲向10个路人。汽车无法及时停下来，但是，它可以转向旁边的墙壁，而这种碰撞或许会导致你的死亡。它应该怎么做？”
研究人员在此问题的基础上，给出了不同的细节，比如，多少行人能够被挽救，决定汽车转向的是司机还是计算机，车主是乘客本人还是假想的一个对象。
研究结果是，通常情况下人们赞同这样的观点：从设计上，自动驾驶汽车应该使死亡人数最小化。但是他们其实对这种设计也不是特别有信心。原因是，他们希望其他人坐在这样设计的自动驾驶汽车中，但他们自己不会购买这样的自动驾驶汽车。
这就是一个悖论，人们认同为了挽救他人而牺牲乘客的自动驾驶汽车，只要他们不是其中的乘客就行了。
Bonnefon还表示，他们的研究只是处于起步阶段，许多难题还未涉及到。比如，当孩子在车上的时候，是否应该有不同的决策机制？
最后，研究人员表示，这些问题不能被忽视，当我们赋予百万汽车自动驾驶能力，就必须严肃对待算法的道德问题。
http://www.techweb.com.cn/world/2015-10-26/2217391.shtml
1445844579952.jpg (33.84 KB, 下载次数: 0)
下载附件 保存到相册
我肯定不会选择一辆在任何情况下能够发出牺牲主人指令的车，但是我赞成圣母们作为自己人格高尚的标配
来自:关于超级大本营
如果发生事故，责任怎么算。
当然是设计成如何减少量刑的车。能让别人赔就不让自己担责任，能撞死就不要撞伤，能一笔勾销就不要拖泥带水。
当然是设计成如何减少量刑的车。能让别人赔就不让自己担责任，能撞死就不要撞伤，能一笔勾销就不要拖泥带水。
当然是设计成如何减少量刑的车。能让别人赔就不让自己担责任，能撞死就不要撞伤，能一笔勾销就不要拖泥带水 ...
操控软件得根据各国的明暗规则来定制。
这rom 还不能乱刷。
操控软件得根据各国的明暗规则来定制。
这rom 还不能乱刷。
卫宫切嗣用实际行动回答了这个问题，当然这货最后被这事儿整的差点崩溃。
嫌司机这个进化了上千万年的中控不可靠。。。
显然应该把主子们弹射出去然后牺牲汽车自己，嗯嗯，碎掉神马的
准备开发一个补丁软件。
首先输入车辆保险资料、个人家庭负担情况、个人收入情况等。通过车载GPS程序自动计算当地各类赔付情况及标准。然后给出几个车主认为自己能够承受的后果让计算机进行最优选项。比如：
选择“我已经办理有精神病史证明”然后按“确定”。。。。。。。。。。
首先输入车辆保险资料、个人家庭负担情况、个人收入情况等。通过车载GPS程序自动计算当地各类赔付情况及标准。然后给出几个车主认为自己能够承受的后果让计算机进行最优选项。比如：
选择“我已经办理有精神病史证明”然后按“确定”。。。。。。。。。。
准备开发一个补丁软件。
首先输入车辆保险资料、个人家庭负担情况、个人收入情况等。通过车载GPS程序自动 ...
这个必须有
首先输入车辆保险资料、个人家庭负担情况、个人收入情况等。通过车载GPS程序自动 ...
这个必须有
可以把这个设定权限交给用户自已去设，但是用户需对自已的行为负责。
自动驾驶撞死人，也等同于用户驾车撞死人。
自动驾驶撞死人，也等同于用户驾车撞死人。
就是机器人道德悖论，圣母们往往鼓动别人，自己又不去割肉饲鹰
根本不存在这种问题。一百年内，晶体管集成电路都不可能拥有自主意识。
根本不存在这种问题。一百年内，晶体管集成电路都不可能拥有自主意识。
谁需要自主意识？机器只需要获得正确输入就行，根据逻辑运算给出输出。
谁需要自主意识？机器只需要获得正确输入就行，根据逻辑运算给出输出。
谁需要自主意识？机器只需要获得正确输入就行，根据逻辑运算给出输出。
是的，所以说记者没文化，尽瞎写新闻。不存在机器为保护自己而杀害主人或乘客这种事情。因为机器连自己是什么，怎么界定都没办法做出来。发动机算不算自己，座椅算不算自己，车轮子算不算自己？
是的，所以说记者没文化，尽瞎写新闻。不存在机器为保护自己而杀害主人或乘客这种事情。因为机器连自己是什么，怎么界定都没办法做出来。发动机算不算自己，座椅算不算自己，车轮子算不算自己？
伟大的猪头大侠 发表于 2015-10-29 17:35
显然应该把主子们弹射出去然后牺牲汽车自己，嗯嗯，碎掉神马的
要是在隧道里。。。。。。
显然应该把主子们弹射出去然后牺牲汽车自己，嗯嗯，碎掉神马的
要是在隧道里。。。。。。
是的，所以说记者没文化，尽瞎写新闻。不存在机器为保护自己而杀害主人或乘客这种事情。因为机器连自己是 ...
你俩都没看懂文章，文章意思就是机器程序在不可避免的情况下（应该还包括事情发生得太快，车上主人来不及改为手动控制车辆的情况下），选择牺牲车上的主人还是路人。程序是人编的，牺牲哪方都是个悖论……
你俩都没看懂文章，文章意思就是机器程序在不可避免的情况下（应该还包括事情发生得太快，车上主人来不及改为手动控制车辆的情况下），选择牺牲车上的主人还是路人。程序是人编的，牺牲哪方都是个悖论……
这本身就是一个哲学问题，是没有确定的答案的，立场不同，解决问题的方法就不同，有什么好争论的。
这还不简单，当然是由掏钱的客户自己选择，买了车就自行初始化，比如：你是不是个圣母？然后选择不同的方案。
以后还可以公开，看圣母们能不能践行理论
以后还可以公开，看圣母们能不能践行理论
这个问题钻牛角尖永远也不会有解。
在人权和人的价值定义不明晰的前提下，任何一种方式都有足够多的反例说明你的逻辑不符合道德标准。
唯一可行的办法就是严格按照路权操作，同时法律上给适当的免责。
在人权和人的价值定义不明晰的前提下，任何一种方式都有足够多的反例说明你的逻辑不符合道德标准。
唯一可行的办法就是严格按照路权操作，同时法律上给适当的免责。
来自:关于超级大本营