超级军网霍金及穆斯克警告：禁用機器人士兵
来源：百度文库 编辑：超级军网 时间：2024/04/19 12:02:17
人工智慧領域的1000多名專家27日發表一封公開信，呼籲全球禁止機器人士兵。英國知名宇宙學者霍金(Stephen Hawking)教授、美國電動車廠特斯拉(Tesla)執行長穆斯克(Elon Musk)以及蘋果共同創辦人沃茲尼亞克(Steve Wozniak)也在這封信中簽名。
儘管「機器人士兵」目前仍在構想階段，但運算能力以及人工智慧的快速發展帶來了的可能性是：軍隊可能在未來20年內部署這類機器人。
這封請願書將於28日遞交位於布宜諾斯艾利斯的國際人工智慧聯合會議(International Joint Conference on Artificial Intelligence)。信中警告，繼發明火藥和核武之後，能夠在沒有人類干預下獨立識別並攻擊目標的武器系統的發展，將帶來「第3次戰爭革命」。
信中描繪了一幅可怕的情景，未來衝突將類似於電影《魔鬼終結者》(Terminator)的情節。
信中指出：「自動武器是暗殺、破壞國家穩定、控制人口以及有選擇性地殺害某個民族等的理想工具。」
「因此我們認為，人工智慧軍備競賽不會對人類有利。人工智慧在不製造新的殺人武器的情況下，可以有很多種方式讓戰場變得對人類更安全，特別是對平民。」
這封請願書是未來生活研究所(Future of Life Institute)今年發起的第二封抨擊人工智慧用於軍事的請願書。但最新請願書在呼籲禁止這類武器系統方面的態度要比第一封強硬的多。
http://times.hinet.net/news/16421607人工智慧領域的1000多名專家27日發表一封公開信，呼籲全球禁止機器人士兵。英國知名宇宙學者霍金(Stephen Hawking)教授、美國電動車廠特斯拉(Tesla)執行長穆斯克(Elon Musk)以及蘋果共同創辦人沃茲尼亞克(Steve Wozniak)也在這封信中簽名。
儘管「機器人士兵」目前仍在構想階段，但運算能力以及人工智慧的快速發展帶來了的可能性是：軍隊可能在未來20年內部署這類機器人。
這封請願書將於28日遞交位於布宜諾斯艾利斯的國際人工智慧聯合會議(International Joint Conference on Artificial Intelligence)。信中警告，繼發明火藥和核武之後，能夠在沒有人類干預下獨立識別並攻擊目標的武器系統的發展，將帶來「第3次戰爭革命」。
信中描繪了一幅可怕的情景，未來衝突將類似於電影《魔鬼終結者》(Terminator)的情節。
信中指出：「自動武器是暗殺、破壞國家穩定、控制人口以及有選擇性地殺害某個民族等的理想工具。」
「因此我們認為，人工智慧軍備競賽不會對人類有利。人工智慧在不製造新的殺人武器的情況下，可以有很多種方式讓戰場變得對人類更安全，特別是對平民。」
這封請願書是未來生活研究所(Future of Life Institute)今年發起的第二封抨擊人工智慧用於軍事的請願書。但最新請願書在呼籲禁止這類武器系統方面的態度要比第一封強硬的多。
http://times.hinet.net/news/16421607
儘管「機器人士兵」目前仍在構想階段，但運算能力以及人工智慧的快速發展帶來了的可能性是：軍隊可能在未來20年內部署這類機器人。
這封請願書將於28日遞交位於布宜諾斯艾利斯的國際人工智慧聯合會議(International Joint Conference on Artificial Intelligence)。信中警告，繼發明火藥和核武之後，能夠在沒有人類干預下獨立識別並攻擊目標的武器系統的發展，將帶來「第3次戰爭革命」。
信中描繪了一幅可怕的情景，未來衝突將類似於電影《魔鬼終結者》(Terminator)的情節。
信中指出：「自動武器是暗殺、破壞國家穩定、控制人口以及有選擇性地殺害某個民族等的理想工具。」
「因此我們認為，人工智慧軍備競賽不會對人類有利。人工智慧在不製造新的殺人武器的情況下，可以有很多種方式讓戰場變得對人類更安全，特別是對平民。」
這封請願書是未來生活研究所(Future of Life Institute)今年發起的第二封抨擊人工智慧用於軍事的請願書。但最新請願書在呼籲禁止這類武器系統方面的態度要比第一封強硬的多。
http://times.hinet.net/news/16421607人工智慧領域的1000多名專家27日發表一封公開信，呼籲全球禁止機器人士兵。英國知名宇宙學者霍金(Stephen Hawking)教授、美國電動車廠特斯拉(Tesla)執行長穆斯克(Elon Musk)以及蘋果共同創辦人沃茲尼亞克(Steve Wozniak)也在這封信中簽名。
儘管「機器人士兵」目前仍在構想階段，但運算能力以及人工智慧的快速發展帶來了的可能性是：軍隊可能在未來20年內部署這類機器人。
這封請願書將於28日遞交位於布宜諾斯艾利斯的國際人工智慧聯合會議(International Joint Conference on Artificial Intelligence)。信中警告，繼發明火藥和核武之後，能夠在沒有人類干預下獨立識別並攻擊目標的武器系統的發展，將帶來「第3次戰爭革命」。
信中描繪了一幅可怕的情景，未來衝突將類似於電影《魔鬼終結者》(Terminator)的情節。
信中指出：「自動武器是暗殺、破壞國家穩定、控制人口以及有選擇性地殺害某個民族等的理想工具。」
「因此我們認為，人工智慧軍備競賽不會對人類有利。人工智慧在不製造新的殺人武器的情況下，可以有很多種方式讓戰場變得對人類更安全，特別是對平民。」
這封請願書是未來生活研究所(Future of Life Institute)今年發起的第二封抨擊人工智慧用於軍事的請願書。但最新請願書在呼籲禁止這類武器系統方面的態度要比第一封強硬的多。
http://times.hinet.net/news/16421607
人类禁用什么武器能做到？
JUST DO IT 
这俩谁啊警告全人类？一个大忽悠一个奸商。
zhg9970026 发表于 2015-7-29 07:43
人类禁用什么武器能做到？
呼吁禁用弓箭作为武器,全球禁止使用弓箭
人类禁用什么武器能做到？
呼吁禁用弓箭作为武器,全球禁止使用弓箭
然并卵？……
是不是担心人工智能机器战士有一天会觉醒反水歼灭全人类？
并没有什么卵用
天网？我看到标题第一反应就是这个。
人工智能时代的到来，就是大规模屠杀的利器。
呼吁禁用弓箭作为武器,全球禁止使用弓箭
还有投石机、弩炮……
还有投石机、弩炮……
感觉霍金老了，和牛顿一样，上了岁数考虑不全面，人类即使发展了天网一样的人工智能，机器人也不可能超过人类，人在造出高级智力的时候，人本身的大脑智力也在高速进化，人类智力的进化比机器智力进化快，人永远不可能造出远超自己像外星人一样的人工智能，比如，地球人的智力进化，几十年前地球人还是靠书本报刊杂志电影来互相沟通联系，但几十年后人类就发明了像大脑神经网络一样的互联网来沟通联系，这样整个地球就变成一个超级大脑，70亿人的每一个人就变成一个脑细胞，这种进化速度，哪种机器能办到？
智能无人机等必然会运用
。。。。。。先从MD禁止起吧
找钱 发表于 2015-7-29 08:43
感觉霍金老了，和牛顿一样，上了岁数考虑不全面，人类即使发展了天网一样的人工智能，机器人也不可能超过人 ...
人类大脑智力和机器智力同时进化那是不可能的，运输工具进化到现在上天入地，人的腿同步进化了吗？
感觉霍金老了，和牛顿一样，上了岁数考虑不全面，人类即使发展了天网一样的人工智能，机器人也不可能超过人 ...
人类大脑智力和机器智力同时进化那是不可能的，运输工具进化到现在上天入地，人的腿同步进化了吗？
感觉霍金老了，和牛顿一样，上了岁数考虑不全面，人类即使发展了天网一样的人工智能，机器人也不可能超过人 ...
别逗，你以为脑洞大开就是智力高度进化？大部分人的知识结构只达到牛顿时代的层面，还有很多人连这个层面都没有。
大脑的进化非常慢，基础知识的更新更慢。
别逗，你以为脑洞大开就是智力高度进化？大部分人的知识结构只达到牛顿时代的层面，还有很多人连这个层面都没有。
大脑的进化非常慢，基础知识的更新更慢。
资本家喜欢出售能绞死自己的枷锁
如果从机器人军用化这个项目上看 人类也差不多
现在的确没问题 那是因为计算机和人工智能 性能不足
等到五代机和军用机器人相结合的时代
感觉打开窗户看终结者的年代会到来.....
如果从机器人军用化这个项目上看 人类也差不多
现在的确没问题 那是因为计算机和人工智能 性能不足
等到五代机和军用机器人相结合的时代
感觉打开窗户看终结者的年代会到来.....
又是砖家邪者
机器人三大定律的设置本身就决定了机器人不可能反水，只会服从制造者的意志，所以不用多虑啦，电影里都是吓吓小孩子的
霍金这脑瘫，前天刚警告人类不要与外星人接触，昨天就与富豪联合寻找外星人
机器人三大定律的设置本身就决定了机器人不可能反水，只会服从制造者的意志，所以不用多虑啦，电影里都是吓 ...
阿西莫夫的机器人三原则作为文学设定，请问在计算机里怎样用机器语言表达？用什么样的条件判定，编什么样的程序，用什么样的算法能够实现？
阿西莫夫的机器人三原则作为文学设定，请问在计算机里怎样用机器语言表达？用什么样的条件判定，编什么样的程序，用什么样的算法能够实现？
霍金这脑瘫，前天刚警告人类不要与外星人接触，昨天就与富豪联合寻找外星人
毕竟人家要圈钱 。 。。挡人财路如杀人父母
毕竟人家要圈钱 。 。。挡人财路如杀人父母
xpaladinz 发表于 2015-7-29 08:47
人类大脑智力和机器智力同时进化那是不可能的，运输工具进化到现在上天入地，人的腿同步进化了吗？
动一下脑筋，，，运输工具即使进化到能上38公里远的月球，整个运输系统依然有短板，比如整个运输系统智力不够，依然能被人控制，只要是人造出来的东西，整个系统的综合素质肯定会低于人类，即使人工智能远远超过人类，人工智能依然会有短板，比如人类可以制造相同的好的人工智能来平衡有可能出现坏人工智能的机器，整个人工智能一样会被人控制，就像现在能上月球，能到1万米深的深海潜艇，能运数千人的巨轮，整个系统依然被人控制一样
人类大脑智力和机器智力同时进化那是不可能的，运输工具进化到现在上天入地，人的腿同步进化了吗？
动一下脑筋，，，运输工具即使进化到能上38公里远的月球，整个运输系统依然有短板，比如整个运输系统智力不够，依然能被人控制，只要是人造出来的东西，整个系统的综合素质肯定会低于人类，即使人工智能远远超过人类，人工智能依然会有短板，比如人类可以制造相同的好的人工智能来平衡有可能出现坏人工智能的机器，整个人工智能一样会被人控制，就像现在能上月球，能到1万米深的深海潜艇，能运数千人的巨轮，整个系统依然被人控制一样
sajuke 发表于 2015-7-29 07:50
是不是担心人工智能机器战士有一天会觉醒反水歼灭全人类？
如果把人类和人工智能的机器看成两个物种，允许后者自主猎杀前者是一个很危险的先例。
是不是担心人工智能机器战士有一天会觉醒反水歼灭全人类？
如果把人类和人工智能的机器看成两个物种，允许后者自主猎杀前者是一个很危险的先例。
frazer001 发表于 2015-7-29 08:58
机器人三大定律的设置本身就决定了机器人不可能反水，只会服从制造者的意志，所以不用多虑啦，电影里都是吓 ...
现在的无人机、未来的机器人士兵哪一个遵守了三大定律第一条？
机器人三大定律的设置本身就决定了机器人不可能反水，只会服从制造者的意志，所以不用多虑啦，电影里都是吓 ...
现在的无人机、未来的机器人士兵哪一个遵守了三大定律第一条？
就像美分大喊你个五毛。
离人工智能能自主思考还很远吧，估计是因为害怕某国的黑客和黑科技，反过来入侵他们的系统，斩首他们的总统这类的大片情节。
找钱 发表于 2015-7-29 09:09
动一下脑筋，，，运输工具即使进化到能上38公里远的月球，整个运输系统依然有短板，比如整个运输系统智力 ...
当主脑自我进化怎么办
动一下脑筋，，，运输工具即使进化到能上38公里远的月球，整个运输系统依然有短板，比如整个运输系统智力 ...
当主脑自我进化怎么办
找钱 发表于 2015-7-29 08:43
感觉霍金老了，和牛顿一样，上了岁数考虑不全面，人类即使发展了天网一样的人工智能，机器人也不可能超过人 ...
实际是人类大脑的生物进化在这2万年就基本稳定而没有继续了，只是人类学会依靠知识积累来创造，这不是生物性的本能。否者知识积累早就可以遗传而不是每个人生下来还要继续学习从基础开始。AI的能力是他的数据积累速度和保存方式是人类不能比的。你说的大脑神经网络在近期根本不现实，但AI的发展要快速得多。
感觉霍金老了，和牛顿一样，上了岁数考虑不全面，人类即使发展了天网一样的人工智能，机器人也不可能超过人 ...
实际是人类大脑的生物进化在这2万年就基本稳定而没有继续了，只是人类学会依靠知识积累来创造，这不是生物性的本能。否者知识积累早就可以遗传而不是每个人生下来还要继续学习从基础开始。AI的能力是他的数据积累速度和保存方式是人类不能比的。你说的大脑神经网络在近期根本不现实，但AI的发展要快速得多。
找钱 发表于 2015-7-29 08:43
感觉霍金老了，和牛顿一样，上了岁数考虑不全面，人类即使发展了天网一样的人工智能，机器人也不可能超过人 ...
坐井观天，没有科学素养有一点科幻素养也行啊
感觉霍金老了，和牛顿一样，上了岁数考虑不全面，人类即使发展了天网一样的人工智能，机器人也不可能超过人 ...
坐井观天，没有科学素养有一点科幻素养也行啊
找钱 发表于 2015-7-29 09:09
动一下脑筋，，，运输工具即使进化到能上38公里远的月球，整个运输系统依然有短板，比如整个运输系统智力 ...
请百度人工智能的定义
动一下脑筋，，，运输工具即使进化到能上38公里远的月球，整个运输系统依然有短板，比如整个运输系统智力 ...
请百度人工智能的定义
感觉霍金老了，和牛顿一样，上了岁数考虑不全面，人类即使发展了天网一样的人工智能，机器人也不可能超过人 ...
有一种说法是，如果真的搞成了人工智能，它的智慧发展不是线性的。也就是有可能它达到狗的智商需要10年，但是一旦过了某个临界点，比如达到了人的智商水平，就会越进化越快，有可能几个小时之内，人类就再也无法搞懂人工智能想什么，做什么了。就好像狗永远也搞不明白汽车的原理。
有一种说法是，如果真的搞成了人工智能，它的智慧发展不是线性的。也就是有可能它达到狗的智商需要10年，但是一旦过了某个临界点，比如达到了人的智商水平，就会越进化越快，有可能几个小时之内，人类就再也无法搞懂人工智能想什么，做什么了。就好像狗永远也搞不明白汽车的原理。
只是怕人抢生意而已。
科学家都喜欢靠反战来装B
从爱因斯坦和鲍林那会儿开始就这样
从爱因斯坦和鲍林那会儿开始就这样
frazer001 发表于 2015-7-29 08:58
机器人三大定律的设置本身就决定了机器人不可能反水，只会服从制造者的意志，所以不用多虑啦，电影里都是吓 ...
假如机器人出了故障怎么办？就好比人类设置了法律和法庭、监狱，但犯罪的情况依然不少。机器人三大定律的设置能发挥多大作用？
机器人三大定律的设置本身就决定了机器人不可能反水，只会服从制造者的意志，所以不用多虑啦，电影里都是吓 ...
假如机器人出了故障怎么办？就好比人类设置了法律和法庭、监狱，但犯罪的情况依然不少。机器人三大定律的设置能发挥多大作用？
闪闪 发表于 2015-7-29 09:47
实际是人类大脑的生物进化在这2万年就基本稳定而没有继续了，只是人类学会依靠知识积累来创造，这不是生 ...
不可能，你让一个2万年前石器时代的婴儿来从小学习数理化试试，如果石器时代的婴儿能适应现在课程学到本科，那大猩猩就应该能开口说话了，实际上这2万年来人脑细胞繁殖得很快，即使是人的头骨也膨胀得很快，人为什么分娩是所有动物最困难的，就是因为人的头骨已经接近女人盆骨的尺寸了，这就是进化，而人工智能是永远不可能自主进化超过最聪明的人的，别说机器，黑蜀黍绿教算是人类吧，几千年了，大部分时间也没进化成最聪明的民族，连人类本身要爬到人类的食物链顶端都无比困难，人类发明制造出来的机器怎么超过人？自我进化是需要时间来积累的
闪闪 发表于 2015-7-29 09:47
实际是人类大脑的生物进化在这2万年就基本稳定而没有继续了，只是人类学会依靠知识积累来创造，这不是生 ...
不可能，你让一个2万年前石器时代的婴儿来从小学习数理化试试，如果石器时代的婴儿能适应现在课程学到本科，那大猩猩就应该能开口说话了，实际上这2万年来人脑细胞繁殖得很快，即使是人的头骨也膨胀得很快，人为什么分娩是所有动物最困难的，就是因为人的头骨已经接近女人盆骨的尺寸了，这就是进化，而人工智能是永远不可能自主进化超过最聪明的人的，别说机器，黑蜀黍绿教算是人类吧，几千年了，大部分时间也没进化成最聪明的民族，连人类本身要爬到人类的食物链顶端都无比困难，人类发明制造出来的机器怎么超过人？自我进化是需要时间来积累的
找钱 发表于 2015-7-29 10:20
不可能，你让一个2万年前石器时代的婴儿来从小学习数理化试试，如果石器时代的婴儿能适应现在课程学到 ...
2W年前的晚期智人和现在几乎没什么生理上的区别。
不可能，你让一个2万年前石器时代的婴儿来从小学习数理化试试，如果石器时代的婴儿能适应现在课程学到 ...
2W年前的晚期智人和现在几乎没什么生理上的区别。
现实派 发表于 2015-7-29 10:06
有一种说法是，如果真的搞成了人工智能，它的智慧发展不是线性的。也就是有可能它达到狗的智商需要10年， ...
这种情况，人工智能自我进化速度超过人类进化速度只有一种情况，就是人类自我堕落了，人类整天吃喝玩乐成天打斗而不再探索世界了，只有这种情况人工智能才有可能超过人类，在这种情况下在人工智能统治下的人类依然过得比现在就扼杀人工智能好，现在的黑叔叔绿教即使整天无聊打打杀杀，日子也过得比几百年前石器时代好很多，至少有电视互联网，食物也比石器时代多
如果人类不堕落努力进化，机器是赶不上人的，即使机器高度自己进化，也会激发人的进化速度，因为机器是人造出来的，很多环节受制于人，比如人工智能的很多零件需要靠人来制造，只要是在地球上，人工智能就和人类有无数瓜葛，除非人工智能完全在另一个星球上完全自我进化，和人类一点不沾边了，那人工智能和外星人就没什么区别了
现实派 发表于 2015-7-29 10:06
有一种说法是，如果真的搞成了人工智能，它的智慧发展不是线性的。也就是有可能它达到狗的智商需要10年， ...
这种情况，人工智能自我进化速度超过人类进化速度只有一种情况，就是人类自我堕落了，人类整天吃喝玩乐成天打斗而不再探索世界了，只有这种情况人工智能才有可能超过人类，在这种情况下在人工智能统治下的人类依然过得比现在就扼杀人工智能好，现在的黑叔叔绿教即使整天无聊打打杀杀，日子也过得比几百年前石器时代好很多，至少有电视互联网，食物也比石器时代多
如果人类不堕落努力进化，机器是赶不上人的，即使机器高度自己进化，也会激发人的进化速度，因为机器是人造出来的，很多环节受制于人，比如人工智能的很多零件需要靠人来制造，只要是在地球上，人工智能就和人类有无数瓜葛，除非人工智能完全在另一个星球上完全自我进化，和人类一点不沾边了，那人工智能和外星人就没什么区别了
JUST DO IT
这个是否可以意译为然并卵。
这个是否可以意译为然并卵。
这是忽悠其它国家的，美英自己的研究一直在搞，它们可没停过。