Sam Altman 在《Our principles》中阐述了 OpenAI 为实现有益于全人类的通用人工智能（AGI）而遵循的五项原则，涵盖安全性、共享利益、广泛利益相关者参与、逐步部署与责任透明。文章强调在追求技术进步的同时，要把潜在风险降到最低并确保收益广泛分配。
概览
– 目标：确保 AGI 为全人类带来利益。
– 作者：Sam Altman（OpenAI）。
五项核心原则
– 安全优先：在开发和部署过程中优先考虑安全，逐步测试与评估风险。
– 广泛共享利益：AGI 的好处应广泛分配，避免少数利益集中。
– 利益相关者参与：在关键决策中听取政府、学术界和公众等多方意见。
– 逐步部署：分阶段推出能力，并在每一步评估社会影响与风险。
– 责任与透明：对外解释决策理由，承担相应责任并接受监督。
实施要点
– 风险评估与治理机制需嵌入研发流程。
– 推动跨界合作以完善监管与标准。
– 注重长期影响而非仅短期收益。
结论
– OpenAI 将这些原则作为公司战略与运营的指导，强调在追求 AGI 的道路上兼顾创新与社会责任。
这些原则明确了技术进步与社会责任并重，但细化实施与外部监督仍是挑战。