22日從智譜AI獲悉,第二屆人工智能安全峰會在韓國首爾召開,會上,智譜AI、亞馬遜、谷歌、微軟、OpenAI、Meta、IBM、Anthropic、xAI等來自北美、亞洲、歐洲和中東地區(qū)的 15 家頂級人工智能公司一道就AI開發(fā)安全承諾達成一致,簽署前沿人工智能安全承諾(Frontier AI Safety Commitments)。
前沿人工智能安全承諾包括以下要點:確保前沿人工智能安全的負責任治理結構和透明度;基于人工智能安全框架,負責任地說明將如何衡量前沿人工智能模型的風險;建立前沿人工智能安全模型風險緩解機制的明確流程。
智譜AI首席執(zhí)行官張鵬表示,伴隨著先進技術而來的,是確保AI安全的重要責任。圖靈獎得主、世界人工智能領域頂級學者Yoshua Bengio 表示,前沿人工智能安全承諾的簽署在建立促進人工智能安全的國際治理制度方面向前邁出了重要一步。
智譜AI相關負責人表示,未來將繼續(xù)通過創(chuàng)新推動人工智能技術發(fā)展,基于超級認知與超級對齊技術,提升前沿人工智能模型的魯棒性和可靠性,打造安全、可控、強大的人工智能系統(tǒng),推動構建公平、公正、安全的人工智能發(fā)展環(huán)境。