• AGI会奉承人类吗？
• AGI会统治人类吗？
• AGI会憎恨人类吗？
• AGI会偏袒一部分人类吗？[1]
• AGI会有政治偏好吗？
• AGI会有种族歧视吗？
• AGI会骗人吗？
• AGI会害人吗？
• AGI会成为人类的精神鸦片吗？
• AGI会站在它的发明者的立场压榨其余的人口袋里的钱吗？
• ……

这些问题我们都不知道，因为AGI不开源，我们看不到背后的真相，也无法研究背后的真相；我们只能相信OpenAI空口承诺说AGI有认真学习道德。

Citations

[1] The Mathematical Danger of Democratic Voting, (Jun. 03, 2020). Accessed: May 10, 2023. [Online Video]. Available: https://www.youtube.com/watch?v=goQ4ii-zBMw