（剧透，慎入）电影Ex Machina 里的伦理难题：如果你终于创造了人工智能，你会给它自由吗？ (发表于10年前)

温西不眠人

最近的电影Ex Machina，说的就是这么一个难题。一个网络公司的老板在一个秘密研究基地里面做出了有自主思考能力的人工智能，并把它安装在一个机器人上。但问题来了：机器人想出去。怎么办？是把它关起来，当成奴隶？还是毁灭它？还是真把它放出去？

在电影里面，这是个难题，因为无论怎样做都不太对。当你面对一个有自主思维的“人”，你的感觉就是，这就是个人。人道主义也应该对之适用。但是，这是个“人”吗？

很必然的，电影里面的男主角问了这个问题：“为什么要做人工智能？” 老板的回答很简单：“Because I can.” 这个回答，在《普罗米修斯》里面听过，估计上帝创造人类的时候也说过。人有时候就是企图做上帝，但创造了生命之后，又会担心出乱子，又得考虑是否要痛下杀手。真的很矛盾。

另外，这个电影里面的网络公司老板做了一件很多男人都有幻想过的事情：把机器人做成美女，然后当女朋友用。你可以设置机器人的程序，让她永远不会拒绝你。这难道不是大多数男人的梦想吗......

老万

被你这么一说，我都想去电影院看了。对白难懂吗？

老万

前两天有个朋友建议我来一场“说走就走的旅行”，那我今天就来一场说看就看的电影吧。

本来想等到周二打折再看，可是想想到了星期二，情绪啥的都没了，再看可能就没这个味道了，所谓兴之所至嘛。

march13

程序里限制出现---想出去。

人工智能为何一定要模仿人？机器的计算和记忆能力已经远超人，为何自主思维这块要局限在“人＂

温西不眠人

march13 写道:

程序里限制出现---想出去。

人工智能为何一定要模仿人？机器的计算和记忆能力已经远超人，为何自主思维这块要局限在“人＂

所谓“智能”，应该就是思想智慧，就是有独立的思考能力。我觉得，一个独立思考的智慧，自由如果受到局限的话，是很快会意识到的。

如果用程序去限制这个限制那个，这就不是自主的思想了。

老万

看完啦，好看。

我觉得现阶段人类不可能设计出可以自主思维的人脑。无论超级计算机的计算能力多么强大，也不会产生人的情感。有人曾经提过，说21世纪，人类的探究方向，一个是外太空，另一个则是人类自己的大脑，人的思维和意识。

不过，现阶段虽然看似不可能，谁又能断言未来绝对不可能呢。

“One day the AIs are going to look back on us the same way we look at fossil skeletons on the plains of Africa. An upright ape living in dust with crude language and tools, all set for extinction.”

温西不眠人

dsbreak17brca1 写道:

看完啦，好看。

我觉得现阶段人类不可能设计出可以自主思维的人脑。无论超级计算机的计算能力多么强大，也不会产生人的情感。有人曾经提过，说21世纪，人类的探究方向，一个是外太空，另一个则是人类自己的大脑，人的思维和意识。

不过，现阶段虽然看似不可能，谁又能断言未来绝对不可能呢。

“One day the AIs are going to look back on us the same way we look at fossil skeletons on the plains of Africa. An upright ape living in dust with crude language and tools, all set for extinction.”

我的想法..... 自主思维，也许不一定是计算能力多么强的超级电脑.... 也许可以是个很笨的1个月的婴儿的智力...... 主要看思维的方法..... 是不是能够有个“我”的想法，是否能自己主动地去学习、运用逻辑+推理.....

电影里面还说到下棋的超级电脑。这个电脑是模拟下棋的方法特别厉害呢，还是知道自己在下棋？

老万

温西不眠人写道:

dsbreak17brca1 写道:

看完啦，好看。

我觉得现阶段人类不可能设计出可以自主思维的人脑。无论超级计算机的计算能力多么强大，也不会产生人的情感。有人曾经提过，说21世纪，人类的探究方向，一个是外太空，另一个则是人类自己的大脑，人的思维和意识。

不过，现阶段虽然看似不可能，谁又能断言未来绝对不可能呢。

“One day the AIs are going to look back on us the same way we look at fossil skeletons on the plains of Africa. An upright ape living in dust with crude language and tools, all set for extinction.”

我的想法..... 自主思维，也许不一定是计算能力多么强的超级电脑.... 也许可以是个很笨的1个月的婴儿的智力...... 主要看思维的方法..... 是不是能够自己主动地去学习、运用和产生逻辑+推理.....

电影里面还说到下棋的超级电脑。这个电脑是模拟下棋的方法特别厉害呢，还是知道自己在下棋？

躺在床上发帖？

老万

本片应该翻译为：有思想的高级乳胶娃娃复仇记

这里面的女性身体都很美，胸不大，但真实而美丽。

我好喜欢那个不会说话，只会跳舞的日本娃娃。

还有女主角，贴上皮肤之后，穿上白裙子，纯洁得像一只白鸽。但她随后无情地把男主角关在城堡里，我心里一凉，心想这下Nathan的预言要变成真的了，我们都会变成化石了。。。

老万

温西不眠人写道:

dsbreak17brca1 写道:

看完啦，好看。

我觉得现阶段人类不可能设计出可以自主思维的人脑。无论超级计算机的计算能力多么强大，也不会产生人的情感。有人曾经提过，说21世纪，人类的探究方向，一个是外太空，另一个则是人类自己的大脑，人的思维和意识。

不过，现阶段虽然看似不可能，谁又能断言未来绝对不可能呢。

“One day the AIs are going to look back on us the same way we look at fossil skeletons on the plains of Africa. An upright ape living in dust with crude language and tools, all set for extinction.”

我的想法..... 自主思维，也许不一定是计算能力多么强的超级电脑.... 也许可以是个很笨的1个月的婴儿的智力...... 主要看思维的方法..... 是不是能够有个“我”的想法，是否能自己主动地去学习、运用逻辑+推理.....

电影里面还说到下棋的超级电脑。这个电脑是模拟下棋的方法特别厉害呢，还是知道自己在下棋？

是啊，如果电脑只是依照输入的算法特别会下棋，可是完全不知道下棋是怎么回事，这样的电脑显然没有自主思维。