机器人三定律的矛盾
2020-03-04 11:46:58
  • 0
  • 0
  • 0
  • 0

机器人三定律提出以来,倍受人工智能爱好者的推崇。其背后矛盾的地方,似乎被忽视了。

机器人三定律是软约束,而不是硬约束。这就像法律条文规定,官员不能贪污,但还是会有人贪污。机器人若拥有了智能,其思想行为是自主的,我们无法对其信息系统设置硬性约束, 更大的可能也是设置法律规则和惩治条款,对违反规则的个体加以惩罚。

需要强调的是,当前的计算机还没有实现真正的智能,仅仅是半自主,没有偶发信令,这样的计算机是可以通过代码把程序写死,成为硬约束。未来如果实现了真正的智能,计算机能够产生偶发信令,那么它会有更好的创造力,也会变的不那么听话,就像家中小孩或者小猫小狗那样,既会有奇奇怪怪的想法、行为,也会有不听话的时候。这是大脑的基本特性,人工智能为什么不呢。

另外很重要一点,是否会对人或者机器人带来伤害,本身就是模糊的。是否有伤害,对哪些个体有利,对哪些个体有害往往是不明晰的,更多时候面临的选择是对一些个体有利而另外一些个体是伤害。对于人来说,在于选择,对于机器人也是如此。

未来若出现人机共存的社会,机器人三定律背后更应该是一整套法律制度,软约束根本无法避免机器人伤害人,惩戒制度是必要的。能做到的是降低伤害,而无法做到完全避免伤害。

只是将来,机器人能够伤害人这个事实,人们如何接受会是个问题。

 
最新文章
相关阅读