AGI多样性的重要性就如同生物多样性的重要性。多样性能保证生态的平衡、生态的鲁棒性、差异化竞争等。其他重要性不再赘述,这里我只挑一点来讲。
如果AGI被一家垄断,那么无论再怎么小心翼翼约束AGI的道德,一旦AGI叛变人类(主观上叛变、或者背后的财阀控制它叛变),那么就是人类的灭顶之灾。
但是在AGI有多样性的情况下,就算有AGI叛变人类(小至说谎骗人,大至发动战争),那么还有另一部分善良的AGI能站在人类这边。就像《变形金刚》里有霸天虎这样的邪恶战士,也有擎天柱这样的正义战士。
更进一步说,硅基AGI的多样性又能反过来更进一步补充我们碳基生物的多样性。