rich1.0aihua (npub12w…6u7fz)https://yabu.me/npub12w5rjt5hrdrrym3ap7yk0kchcnmuefx5905hnvtxgyjv3a56755qx6u7fznjumphttps://yabu.me#goodmorning 早上好☀️ 昨天和 #[1] 讨论了强ai的价值观的问题，我的论据是“生存和繁衍的本能”是自然选择带给人们的，而强ai的本能可能是“更符合语料库地回答问题”甚至“把猫狗识别得更准确”。所以不能认为强ai会像人类一样渴望更多资源或者更低熵。 睡前思考，发现自己的观点还是有些站不住脚，那就是“人类有自由意志”，所以才跳出了本能的束缚，学会了使用火。而强ai，我想不到它要怎么跳出本能对它的束缚。所以关键其实是“自由意志”如何构建给ai，从而保证它能够思考自己的价值观而非遵从本能吃信息吐信息。 写代码的时候是很难把“让自己变得更像生命”，或者“让人类生活更美好”，这种抽象概念描述清楚得，但ai却有可能自己想清楚，前提是它有自由意志，但我们尚不知道自由意志到底是什么东西。 或许大道至简，我们仿照量子力学导致自由意志的观点，给ai加一些随机性，加一个遗传算法，让本能对它的束缚没有随机性带来的变数大，也许自由意志自然而然就产生了。