欧盟即将出台针对ChatGPT等先进AI模型的法规

欧盟已就对ChatGPT等先进AI模型进行监管达成初步协议。该协议旨在对通用AI系统的开发者施加透明度要求。这些要求包括制定可接受使用政策，及时更新模型训练信息，提供详细的训练数据摘要，并遵守版权法。那些具有“系统风险”的模型将根据其训练中所使用的计算能力受到额外规定。目前，OpenAI的GPT-4是唯一自动满足阈值要求的模型。其他模型则可能根据各种指标被指定为具有系统风险。这些模型还需要报告能源消耗情况，进行红队测试，评估和减轻系统风险，确保网络安全控制，报告用于微调模型的信息，并在开发时符合能源效率标准。该协议仍需获得欧洲议会和欧盟成员国的批准。

法国和德国对通用AI模型过度监管表示担忧，因为这可能会阻碍欧洲竞争对手。然而，对于被认定为具有系统风险的开源模型，此类豁免不适用。与此同时，如果法国的Mistral AI和德国的Aleph Alpha仍处于研发阶段，它们可能不需要遵守这些规定。该协议还等待欧洲议会和欧盟成员国的批准。