Anthropic发布Fable 5模型的安全防护措施及AI“越狱”行为评估框架
Anthropic发布一套评估人工智能“越狱”（jailbreak）行为严重程度的拟议框架，并详细介绍了已在全球上线的Claude Fable 5模型所采用的网络安全防护措施。
该公司将网络安全相关使用场景划分为四类，从“禁止使用”到“无害用途”不等。
被禁止的用途包括勒索软件开发、恶意软件开发以及网络—物理基础设施破坏等活动。
在建立更完善的控制机制之前，对于渗透测试等具有“双重用途”属性的高风险活动将予以拦截。
Anthropic提出的网络越狱严重程度Cyber Jailbreak Severity评级体系，从CJS-0至CJS-4，共分五级，并依据四个维度进行评估。
Anthropic还推出了HackerOne项目，邀请安全研究人员提交潜在的模型越狱案例。
文章来源于网络，若侵犯了您的合法权益，请来信通知我们，我们会及时删除，给您带来的不便，我们深表歉意。 |
特别提示：
本站不为所提供数据的错误、残缺、延迟或因依靠此信息所采取的任何行为负责。本股票网提供的所有内容仅供参考，不构成投资建议，投资者据此操作，风险自担。若侵犯了您的合法权益，请来信通知我们，我们会及时删除，给您带来的不便，我们深表歉意。
