修复OpenAI的技巧

OpenAI最近的公司危机凸显了其非盈利治理委员会的失败,该委员会的任务是创建造福人类的人工智能。委员会试图对公司进行监管遭到了员工的反对,最终员工组建了一个工会,并威胁要跟随首席执行官转投Microsoft。委员会意识到失败并认输了比赛。

回顾起来,实施监管治理体系的决定显得短视。需要的是一种领导模式,使员工与不创造可能损害人类的人工智能的目标保持一致。当委员会行使其监管职能时,员工反击了,主张独立性。

解雇首席执行官Altman并非因为Skynet的直接威胁,而是因为管理团队的不成熟。一位委员会成员发表了一篇批评公司的论文,引发了Altman对该董事不当行为的投诉。这一事件,再加上美国联邦贸易委员会的调查,凸显了Tezos和OpenAI在其治理解决方案中未考虑到人性的失败。OpenAI需要一位首席心理官来提高团队情商,以与其智能才能相匹配。

问题仍然是:管理体系如何防止一家极为成功的人工智能公司危及人类?一个潜在的解决方案是采用诺贝尔经济学家埃莉诺·奥斯特罗姆的研究成果所启发的模型。奥斯特罗姆的研究聚焦于公平管理共享资源和集体资源的自发管理,这可能是治理这一复杂问题的答案。

奥斯特罗姆以瑞士阿尔卑斯奶酪生产商为例提供了有价值的见解。这些农民共用放牧草地,并建立了一个简单的规则来防止共有资源悲剧:牛只可以根据上一个冬季的数量来放牧,但不能新引进牛只仅供夏季放牧。遵守这个规则900年的历史表明自我调节在管理共享资源方面的成功。

奥斯特罗姆确定了八项优化共同池资源管理的核心设计原则,包括明确界定边界、利益与成本相称、集体选择安排和地方自治。这些原则与重大的进化转变相关,并有可能应用于OpenAI的治理挑战。

为了成功管理OpenAI,需要一种新的方法,超越自上而下的控制系统和监管模式。奥斯特罗姆的原则提供了一种替代视角。目标应该是将OpenAI转变为一个“协同组织”,每个人都致力于经济成功和AGI的安全发展。

可以通过对股本化模型进行调整,并借鉴去中心化自治组织(DAOs)和博弈论的概念来实现这一目标。例如,不仅董事会和首席执行官收到股权,所有人都应该被授予股权,同时为保持人工智能的安全和创新的想法提供激励。此外,发展团队的情商和多样性,并可能聘请一位首席心理官,可以进一步提高凝聚力和绩效。

通过实施这些变革,OpenAI不仅可以忠于其使命,还可以作为管理21世纪组织的新颖和创新方式的概念验证。

下一页
上一页