这样的AI是真的吗?

一开始就不合理。

驱动意志体的基本逻辑是争取痛苦最小化,而不是争取收益最大化

收益最大化只是痛苦最小化的一种策略,而根本不是可以相提并论的原则。

这也是为什么人类总是难以实现收益最大化的原因——因为当收益最大化与痛苦最小化冲突时,收益最大化常态性的被放弃。

而这是健康的。

人不可以常态性的靠着贪婪战胜痛苦,这既是错误的——因为这会极大概率(甚至是必然的)导致自己的毁灭,也是不义的——因为这更会造成ta人的灾难。

幸亏如此。

其实在ta们同意“这很合理”的时候,就已经双双错误了。

想要模拟人类,要去模拟人类的懦弱,而不是人类的贪婪。

懦弱自然会衍生出恰到好处的贪婪,其真实程度会让你吃惊。

但你如果反过来,得到的恰恰是这个荒谬的结果。