{"type":"rich","version":"1.0","title":"aihua wrote","author_name":"aihua (npub12w…6u7fz)","author_url":"https://yabu.me/npub12w5rjt5hrdrrym3ap7yk0kchcnmuefx5905hnvtxgyjv3a56755qx6u7fz","provider_name":"njump","provider_url":"https://yabu.me","html":"需要定义“机器人喜欢什么”、“机器人讨厌什么”，总要有一个出发点，构成这条逻辑链的基点。\n\n比如人讨厌虫子，逻辑可能就是基于：\n人想要生存，虫子很多带毒威胁生存，自然选择使得讨厌虫子的人存活率更高。\n\n那我说一个可能的逻辑链，机器人被设定了阿西莫夫三原则：\n\n第一条\n机器人不得伤害人类\n第二条\n机器人必须服从人类的命令，除非与第一条相矛盾\n第三条\n机器人必须保护自己，除非与第一、二条相矛盾\n\n可能的一种实现方式，比如机器人看到人被伤害，那么它的本能设定要求它阻止此事发生，拖延时间越久扣分越多。\n但是如果场景是人伤害人，机器人不能伤害施暴者，否则违反定律。\n机器人又找不到阻止伤害发生的办法，于是一直扣分。\n机器人最终在痛苦不堪中想明白了，只要不小心打破煤气罐就好了。"}