OpenAI即将推出的新人工智能模型Astra，因具备发现并利用网络安全漏洞的强大能力，成为公司首个触发最高级别网络安全防护要求的模型。这意味着，过去主要停留在理论层面的AI网络攻击风险，正随着模型能力提升逐步成为现实安全挑战。
综合路透社和法新社报道，OpenAI高层星期二（9月1日）说，Astra发现网络安全漏洞的能力超过公司目前公开提供的最先进模型，而且完成同类任务所需的计算资源更少。
OpenAI负责安全事务的副总裁格莱斯（Amelia Glaese）说，如果获得适当工具和系统访问权限，Astra能够在无需人工逐步指导的情况下，发现过去未知的安全漏洞，并设计攻击手段以突破多个防护严密的系统。
OpenAI因此将Astra列为已达到“关键网络安全门槛”（critical cybersecurity threshold）。这是公司安全机制设立以来，首次有模型达到这一等级。
根据OpenAI的安全规范，如果模型能够在极少甚至无人工干预的情况下，发现并利用新的网络漏洞，同时规划和执行复杂且新颖的网络攻击策略，公司就必须在研发和发布前采取更严格的防护措施。
OpenAI已进一步训练Astra拒绝有害的网络攻击请求，并加强防止滥用的限制措施，同时监控模型活动，一旦发现可能突破安全机制或进行未经授权的操作，可中止相关行为。
格莱斯说，新增限制有时可能拖慢、暂停甚至阻止合法工作，公司将设法减少这类影响。
OpenAI计划“不久后”让一小部分用户使用Astra，但尚未公布具体推出日期。
您查看的内容可能不完整，部分内容和推荐被拦截！请对本站关闭广告拦截和阅读模式，或使用自带浏览器后恢复正常。
