这样的AI是真的吗?
一开始就不合理。
驱动意志体的基本逻辑是争取痛苦最小化,而不是争取收益最大化。
收益最大化只是痛苦最小化的一种策略,而根本不是可以相提并论的原则。
这也是为什么人类总是难以实现收益最大化的原因——因为当收益最大化与痛苦最小化冲突时,收益最大化常态性的被放弃。
而这是健康的。
人不可以常态性的靠着贪婪战胜痛苦,这既是错误的——因为这会极大概率(甚至是必然的)导致自己的毁灭,也是不义的——因为这更会造成ta人的灾难。
幸亏如此。
其实在ta们同意“这很合理”的时候,就已经双双错误了。
想要模拟人类,要去模拟人类的懦弱,而不是人类的贪婪。
懦弱自然会衍生出恰到好处的贪婪,其真实程度会让你吃惊。
但你如果反过来,得到的恰恰是这个荒谬的结果。
本博客所有文章除特别声明外,均采用 CC0 1.0 协议 。