德芙书柜

手机浏览器扫描二维码访问

人工智能会故意隐藏自己吗(2/2)

为创造出了人工智能，或者说，通过模拟人类期待的人工智能的行为并通过测试，外星人控制的更高层的人工智能降维成为人类认为的人工智能，而这个假人工智能让人类远离了战争，在疾病、贫穷、不公、犯罪、环境污染等方面取得了脱胎换骨的进展。

当人类发现这种“幸福感”是被操纵的时，该何去何从呢？清醒的贝丝是痛苦的，她必须找到一个外星人看不见的战场，为人类的自由而战斗。

“只有人类，才是我们自己唯一的希望”。

什么是幸福？白送、但无从选择、必须接受的幸福是不是真的幸福？什么是自由？别人给你设计的自由是不是真的自由？当搜索引擎和推荐引擎决定了我们想要看、想要买的一切，让我们获得得来全不费工夫的快感时，我们何尝与《革命》中的人类有所区别？ 外星人毕竟是小概率事件（解释费米悖论的一种可能性确实如《革命》所说，它们很好的隐藏了自己），而通用人工智能正在路上。

如果机器最终会自我进化，它如何决定进化目标？它的rewardfunction（回报函数）是什么？跟人类的价值观是否一致？这是我们必须考虑的问题，只有一开始把“价值观”植入，在人工智能不那么漫长的进化路途中不断建立路径依赖，使其无法在后天的演化过程中颠覆或剥离该价值观，才能确保人工智能不会发展成为赐予人类自由的伪善者。

请关闭浏览器阅读模式后查看本章节，否则将出现无法翻页或章节内容丢失等现象。