• 回答数

    0

  • 浏览数

    6

  • 收藏数

    0

作者:feels 发表于 2 小时前
跳转到指定楼层
AI 总结
• 今年10月,OpenAI一间高管会议室发现被人秘密安装的录音设备,涉事者为35岁沙特阿拉伯公民、OpenAI工程师阿卜杜勒拉赫曼·阿尔福赞,已被美国司法部逮捕起诉。
• 据路透社援引5名知情人士消息,早在2022年底ChatGPT问世前,就有员工向OpenAI高层和董事会反映安全管理漏洞,但认为管理层更关心追赶谷歌、Anthropic等竞争对手,对安全问题重视不够。
• 员工担心开放权限和“单体代码仓库”系统导致敏感技术信息易被获取——任何拥有代码访问权限的员工都能查看大量项目底层技术细节,相关研究文档还存放在GitHub和Slack上,外部人员甚至外国政府都可能相对容易获取。
• OpenAI已开始调整安全策略,由负责产品开发的高级主管蒂博·索蒂奥牵头加强内部系统防护,并确认对敏感项目采取访问限制、独立存放;
• 公司还表示在首席信息安全官戴恩·斯塔基领导下定期开展内部工具安全审查。
• OpenAI发言人回应称,公司是全球最频繁遭到攻击的机构之一,已投入巨资建立安全防护体系,防范内部人员、网络犯罪分子及国家行为体发动的攻击。

IT之家 11 月 4 日消息,今年 10 月,OpenAI 在一间高管会议室发现了被人偷偷安装的录音设备。

多名前员工得知消息后却不觉得意外。

【早年已有员工质疑安全管理】
据路透社援引 5 名知情人士消息称,早在 2022 年底 ChatGPT 问世之前,就有员工对 OpenAI 的安全管理 提出质疑 ,并向公司高层和董事会反映问题。

部分员工在沟通后认为,管理层 更关心如何追赶谷歌、Anthropic 等竞争对手 ,对安全问题的重视程度反倒不够。

这些员工认为,OpenAI 的安全管理十分松懈, 外部人员甚至外国政府 都能相对容易地获取公司的敏感技术信息。

知情人士举例称,任何拥有代码访问权限的 OpenAI 员工,都可以查看公司大量项目的底层技术细节。

【调整安全策略与行业两难】
另据两名知情人士透露,OpenAI 目前已开始调整安全策略,由负责产品开发的高级主管蒂博 · 索蒂奥牵头加强内部系统防护。

员工多年来持续向管理层反映安全漏洞,也反映出 AI 行业面临的两难处境。

2022 年底 ChatGPT 推出后,AI 技术逐渐成为美国的战略资产,美国企业因此 承受着更大的压力 ,必须防止自身技术落入外国竞争对手手中。

但增加安全防护措施也可能 拖慢 AI 技术研发 ,甚至给 OpenAI 和 Anthropic 筹划的大规模 IPO 增添障碍。

今年 4 月离开 OpenAI 的前研究员威尔 · 德皮尤就曾指出,面对激烈竞争,AI 企业领导者不能为了安全而牺牲速度。

【OpenAI 官方回应与案件背景】
对于员工提出的安全隐患,以及管理层没有采取行动的指责,OpenAI 发言人埃拉娜 · 维德曼回应称,OpenAI 是 全球最频繁遭到攻击的机构 之一,公司为此投入巨资建立安全防护体系,防范内部人员、网络犯罪分子及国家行为体发动的攻击。

据IT之家此前报道,10 月 13 日,美国司法部宣布,联邦执法人员逮捕了一名 35 岁的沙特阿拉伯公民阿卜杜勒拉赫曼 · 阿尔福赞,指控他在 OpenAI 高管会议室秘密安装了一台藏在卫生纸里的录音设备。

案发时,阿尔福赞是 OpenAI 的一名工程师。

【代码仓库与文档管理细节】
按照 OpenAI 过去的代码管理方式,只要员工拥有代码访问权限,就能查看 许多项目的技术细节 ,与本人工作毫无关系的敏感项目也不例外。

原因在于,OpenAI 将大部分代码集中存放在一个 业内称为“单体代码仓库”(monorepo)的系统中 。

它规模庞大、结构复杂,过去或能劝退部分潜在攻击者,但 AI 智能体已经具备了检索和梳理如此庞大资料的能力。

OpenAI 过去还将大量研究文档存放在 GitHub 和 Slack 上。

知情人士称,部分员工因此担心,只要有意搜寻,公司内部的关键信息仍可能被他人获取。

不过,其中一名知情人士及 OpenAI 均确认,公司对敏感项目 采取了访问限制 。

OpenAI 表示,公司许多最敏感的项目都存放在独立的代码仓库中,访问权限受到严格控制。

单体代码仓库既不包含 OpenAI 的全部代码,也不包含模型的关键技术细节,例如决定模型如何运行的数值参数,即模型权重。

【内部工具安全审查缺失】
另据 3 名熟悉公司内部运作的人士透露,OpenAI 过去还存在 内部工具缺乏定期安全审查 的问题,包括研究人员用于对新模型进行压力测试的“沙盒”环境。

员工经常按照工作需要修改工具,但修改内容未必经过安全测试,因此可能留下供外部攻击者利用的漏洞。

OpenAI 对此回应称,在 2024 年 10 月加入公司的首席信息安全官戴恩 · 斯塔基领导下,公司采取了有力的安全管理措施,并定期对内部工具开展安全审查。

相关阅读:

•

《 OpenAI“窃听”案迎来新进展:当事沙特工程师寻求保释,否认潜逃意图 》

[来源链接] https://www.ithome.com/1/021/892.htm
分享:
回复

使用道具

成为第一个回答人

高级模式 评论
您需要登录后才可以回帖 登录 | 立即注册
⚠️

AI客服助手

⇲ ×
AI
您好!我是AI客服助手,有什么可以帮助您的吗?

请先登录后使用AI客服助手

立即登录
内容由非常AI大模型生成,仅供参考,相关风险需自行承担。

赚钱

会员VIP

留言板

商务合作

联系电话:17308937318

QQ邮箱

QQ:118275

邮箱:118275@qq.com

友情链接