OpenAI 聯手外部安全研究人員 加強數碼防禦體系

·作者 Henderson·Engineering
OpenAI 聯手外部安全研究人員 加強數碼防禦體系
重點
  • OpenAI 正在與外部安全研究人員合作,加強其數碼防禦體系。
  • 這次合作將利用不同的專業知識來識別系統中的弱點。
  • OpenAI 提高了安全漏洞獎勵,最高可達 US$172,000。
  • 該公司希望建立持續的防禦循環,及時發現和修復弱點。

OpenAI 正在邀請外部安全研究人員參加其下一次內部安全衝刺,並授予他們訪問其模型的權限,以幫助發現防禦中的弱點。該公司與 Cathedral Systems 合作,該公司的研究人員將與 OpenAI 的團隊合作,測試其系統並加強其平台的保護。這次計劃的演習建立在先前的衝刺上,該衝刺涉及了 25% 的 OpenAI 產品工程師。除了這項合作,該公司還提高了其安全漏洞獎勵,對於特殊的發現,最高可獲得高達 US$172,000 (約 HK$1,341,600)的獎勵,包括獎金。

OpenAI 尚未具體說明下一次衝刺何時開始。這一努力被框架為更廣泛的推進,旨在持續利用人工智能識別和修復漏洞,防止攻擊者利用這些弱點。

外部研究人員的角色

外部研究人員加入防禦測試,Cathedral 的研究人員將使用 OpenAI 的模型,並與公司的安全團隊一起挑戰其防禦系統。OpenAI 表示,此次合作將帶來不同的專業知識和方法來識別弱點。根據 Cathedral 的首席執行官兼聯合創始人 Gavin Kliger 的說法,這項合作還將涉及測試修復措施。他表示:「OpenAI 通過與外部安全公司合作,並利用其自身模型來持續測試和加強防禦,樹立了一個重要的榜樣。

每家公司都應該考慮如何利用這些能力。」他補充道:「我們對能與 OpenAI 的團隊合作感到興奮,結合他們的模型和安全專業知識,利用我們的研究來發現弱點、測試修復措施,並加強這種持續防禦的方法。」

這一公告描述了一項計劃中的合作,而非已完成的發現。它並未具體指出通過新合作關係發現的特定弱點,也未詳細說明研究人員將檢查的系統。OpenAI 也大幅提高了其安全漏洞獎勵計劃中對於關鍵發現的獎勵,最高支付金額為 US$172,000 (約 HK$1,341,600),包括獎金,適用於特別的發現。該公司表示希望研究人員挑戰其假設,並加強其系統及其防禦方法。在先前的內部衝刺中,工程師使用 Codex 來調查發現,重現孤立環境中的漏洞,並準備補丁進行審核。

OpenAI 將四分之一的產品工程師投入到這項工作中。下一次衝刺旨在通過將新研究人員和安全夥伴與內部團隊聚集在一起來建立在這項工作的基礎上。

擴大防禦工具的訪問

擴大對人工智能防禦工具的訪問,OpenAI 指出,僅依賴傳統的網絡防禦已不再足夠,並以最近的行業事件作為證據,顯示威脅是多麼迅速地出現。其聲明的目標是建立持續的防禦循環,在攻擊者之前發現和修復弱點。除了其內部系統外,該公司還將其最強大的模型提供給 Daybreak 客戶。它承諾在六個月內為保護關鍵服務和數碼基礎設施的前線防禦者提供 10 億美元的補貼訪問。OpenAI 還分享其架構和先前衝刺的經驗教訓,以及一個賦權於行業和政府網絡防禦者的藍圖。

該公司表示,將持續推進其模型,將其應用於自身防禦,並在人工智能能更有效地發現漏洞的情況下,擴大對可信防禦者的訪問。

OpenAI 如何應對安全挑戰

OpenAI 與外部安全研究人員的合作顯示了其對於數碼防禦的重視。隨著人工智能技術的迅速發展,傳統的防禦措施已經無法滿足安全需求,因此需要不斷測試和改進防禦系統。這次衝刺不僅強調了外部專業知識的重要性,還顯示了 OpenAI 在安全漏洞獎勵計劃上的積極態度,以激勵更多研究人員參與發現和修復潛在的弱點。這一系列措施旨在建立一個更加健全的防禦體系,以應對不斷變化的安全威脅。

H
關於作者
Henderson