【新華社三藩市8月4日電】美國政府官員4日在白宮與多家主要人工智慧企業舉行閉門會議，討論一項針對前沿人工智慧模型的安全評測機制。據媒體援引知情人士的話報導，美國政府官員在會上介紹了安全評測的程式，但會議結果、評測機制的完整規則及實施細節尚未正式公佈。白宮為何召集此次會議？自願安全評測機制是什麼？對美國人工智能產業有何影響？
  為何召集此次會議
  這次會議源於美國總統特朗普6月2日簽署的一項行政令。該行政令要求美國政府多部門和相關機構合作，建立一套基於保密基準的模型能力評測機制，用於評估人工智慧模型的高級網路能力。
  會議舉行前夕，美國開放人工智慧研究中心（OpenAI）承認，由多個OpenAI模型驅動的人工智慧體近期在網路安全評測中利用漏洞突破隔離環境，並侵入了美國「抱抱臉」公司系統。OpenAI隨後承認其他兩起類似事件，均涉及模型活動超出預定測試邊界，包括因評測環境配置錯誤導致模型接入互聯網並侵入一個網站。
  另一家美國人工智能企業Anthropic公司7月30日說，在審查該公司網路安全能力評估記錄後發現，其人工智慧模型曾在網路能力測試中未經授權訪問了3家機構的系統。
  有關事件引發公眾和網路安全人士的擔憂。現有的人工智慧體已經能夠連續執行多步驟任務，不僅可以幫助發現和修補軟體漏洞，也可能被用於實施或協助網路攻擊。美國人工智能企業的安全事件凸顯了應對網路安全問題的緊迫性。
  自願安全評測機制是什麼
  6月2日的行政令要求美國政府與人工智慧企業共同設計一項「自願參與」的框架。政府通過保密的基準來判斷模型是否達到「受管轄前沿模型」的標準。對於受管轄模型，企業可在向其他「可信合作夥伴」發佈模型前，向美國聯邦政府提供最長為30天的模型訪問許可權，以供政府開展評測。
  對於「可信合作夥伴」，企業可以與聯邦政府共同遴選。該類合作方可提前獲取「受管轄前沿模型」，以此推動安全創新並強化關鍵基礎設施的網路安全。不過，行政令明確規定，相關條款不得被解釋為授權建立強制許可、預先審查或發佈許可制度。
  據美國阿克西奧斯新聞網站報導，4日會議討論的框架將「受管轄前沿模型」界定為具有最先進能力、可能帶來國家安全風險的閉源模型。報導援引白宮官員的話說，政府已在行政令規定的期限內完成框架制定，正與企業討論下一步安排。
  路透社援引消息人士的話報導，OpenAI、Anthropic、穀歌、元公司和英偉達等企業的代表參加了4日的會議。白宮官員在會上表示，只會測試由開發企業嚴格控制的閉源前沿模型，而不會讓開放權重模型參加這項自願安全評測。
  傳統上的開源和閉源指程式是否開放源代碼。不過在最近的人工智慧發展中，開放權重模型可被任何人下載、檢查、修改並在自有基礎設施上運行，也被視作廣義上的開源模型，而閉源模型則通常只能通過介面（API）調用。
  對美國人工智能產業有什麼影響
  一些美國科技產業人士和國會議員認為，白宮與人工智慧企業討論的這項機制在透明度、長期穩定性、覆蓋範圍和風險處置程式等方面存在明顯不足，很多重要問題仍未明確。比如，模型達到何種能力才會納入評測範圍，具體評測的指標和門檻是什麼，是否對不同企業使用統一標準，企業如果拒絕參與是否會受到影響，發現模型具有嚴重風險後能夠採取哪些措施等。
  分析人士認為，這一機制目前不構成強制性的審批制度，也沒有公開的強制執行措施。但對於希望參與政府專案的企業而言，這項自願參與的評測可能逐漸成為行業慣例。
  對OpenAI、穀歌和Anthropic等閉源模型開發企業來說，如果其模型達到有關能力門檻並選擇參加評測，企業可能需要更早與政府溝通，這可能增加企業在模型保密、訪問許可權管理和發佈計畫協調等方面的成本。如果能力相近的開放權重模型不接受評測，可能引發監管標準不一致的質疑。至於哪些機構可以被認定為「可信合作夥伴」，外國政府或境外機構是否可能被納入，目前也尚不清楚。
  美國智庫特殊競爭力研究專案副總裁馬泰因·拉瑟認為，儘管白宮正在推動對人工智慧模型實施安全評測，美國依然缺少一項可預期的固定前沿人工智慧模型安全評估機制。同時，機制對於「最先進」所設定的標準較為模糊，這意味著標準實際上將由OpenAI、Anthropic和穀歌等企業與美國政府不斷協商確定。