AI安全里程碑! OpenAI携手Anthropic同意与美国政府合作进行安全测试

智通财经APP获悉，美国政府宣布与在生成式人工智能领域领先全球的初创公司OpenAI以及Anthropic达成合作协议，以帮助测试和评估他们即将推出的人工智能安全技术。

根据周四宣布的一项协议，美国人工智能安全问题研究所将提前获得这些AI科技公司的主要新AI模型，以评估其能力范围和风险，并就缓解潜在关键问题的方法进行合作。

据了解，美国人工智能安全研究所是美国商务部国家标准与技术研究院(NIST)的重要部分。这些合作协议达成之际，人们越来越希望通过监管渠道来减轻人工智能所面临的潜在灾难性风险，例如最近通过州议会的备受争议的加州人工智能安全法案SB 1047。

美国人工智能安全研究所所长伊丽莎白·凯利在一份声明中表示：“安全是推动技术创新突破的关键所在。”“这些协议只是一个开始，但它们是一个重要的里程碑，因为我们致力于负责任地管理人工智能的未来。”

该组织在一份声明中表示，还将与英国人工智能安全研究所密切合作，提供有关潜在的安全改进反馈。此前不久，有着“OpenAI最强竞争对手”称号的Anthropic 在技术发布之前与英国人工智能安全研究所合作测试了 Sonnet 3.5 AI大模型。美国和英国的相关安全组织此前曾表示，他们将共同努力实施标准化的人工智能安全测试。

“我们强烈支持美国人工智能安全研究所的使命，并期待共同努力为人工智能大模型提供最佳的安全实践和标准，”OpenAI首席战略官Jason Kwon在一份声明中表示。“我们相信该研究所在负责任地发展人工智能技术方面，以及在确定美国的领导地位上发挥着至关重要的作用，并希望我们的合作能够提供一个基本的框架，让世界其他国家可以以此作为重要基础。”

Anthropic还表示，建立有效测试人工智能大模型的能力非常重要。“安全、值得信赖的人工智能对于这项测试技术的积极深远影响至关重要，”Anthropic联合创始人兼政策主管杰克·克拉克表示。“这加强了我们识别和减轻技术风险的能力，推进了负责任的人工智能大模型发展。我们很自豪能为这项重要工作做出贡献，为安全和值得信赖的人工智能体系设定新的基准。”

有资料显示，美国人工智能安全研究所成立于2023年，是拜登-哈里斯政府关于人工智能的政府行政命令的一部分，其任务是为负责任的人工智能创新制定测试、评估和技术指导方针。

据媒体报道，生成式人工智能领域的绝对领导者OpenAI正洽谈在新一轮融资筹集数十亿美元，这将使该公司估值超过1000亿美元。据知情人士透露，风险投资公司Thrive Capital将主导本轮融资，并将投资约10亿美元;身为OpenAI最大股东的科技巨头微软(MSFT.US)预计也将投入资金。

据悉，新一轮融资将是自2023年1月微软投资约100亿美元以来，外部资金对OpenAI的最大一次注资。作为对比，去年年底OpenAI员工出售现有股份时，OpenAI的估值为860亿美元，足以见得OpenAI估值持续攀升。前不久有分析师指出，OpenAI正面临约50亿美元的资金缺口，很可能需要在未来12个月内启动新一轮融资。