《國(guó)際人工智能安全報(bào)告》發(fā)布首份關(guān)鍵更新
蒙特利爾2025年10月17日 /美通社/ -- 《國(guó)際人工智能安全報(bào)告》首次關(guān)鍵更新已發(fā)布，就先進(jìn)人工智能的能力與風(fēng)險(xiǎn)提供了最新信息。
該報(bào)告由圖靈獎(jiǎng)得主、計(jì)算機(jī)科學(xué)家Yoshua Bengio總體負(fù)責(zé)，匯集了100多位國(guó)際專家，并得到30多個(gè)國(guó)家以及包括歐盟、經(jīng)合組織和聯(lián)合國(guó)在內(nèi)的國(guó)際組織的支持。
鑒于人工智能領(lǐng)域發(fā)展過于迅速，單一年度報(bào)告難以全面覆蓋，因此推出了《關(guān)鍵更新》，以提供篇幅更短、重點(diǎn)更突出的關(guān)鍵發(fā)展動(dòng)態(tài)報(bào)告。 這將確保決策者能夠及時(shí)獲取最新文獻(xiàn)綜述，為基于證據(jù)的政策制定提供依據(jù)。
首個(gè)《關(guān)鍵更新》涵蓋能力提升和風(fēng)險(xiǎn)影響：
人工智能模型在復(fù)雜問題解決能力上持續(xù)提升：例如，領(lǐng)先的系統(tǒng)現(xiàn)已能完成一組現(xiàn)實(shí)世界軟件工程問題中超60%的任務(wù)。 到2025年初，他們只能解決約40%的相關(guān)問題，而在2024年初他們尚無法解決任何問題。 （事實(shí)上，自《關(guān)鍵更新》文本最終確定以來，性能已提高到70％以上。）
行業(yè)參與者已經(jīng)采取了新的預(yù)防性保障措施：多家主要人工智能開發(fā)商在無法完全排除其新模型可能被用于協(xié)助開發(fā)化學(xué)、生物、放射和核風(fēng)險(xiǎn)的情況下，主動(dòng)為最新模型增加了額外安全措施后發(fā)布。
人工智能模型在評(píng)估過程中日益表現(xiàn)出策略性行為，給監(jiān)管帶來挑戰(zhàn)：人工智能模型越來越可能意識(shí)到自己正在接受評(píng)估，并據(jù)此調(diào)整輸出結(jié)果，這對(duì)開發(fā)人員和測(cè)試人員在部署新模型之前準(zhǔn)確評(píng)估新模型能力的能力提出了重大質(zhì)疑。
該報(bào)告主席、蒙特利爾大學(xué)全職教授、LawZero科學(xué)總監(jiān)兼Mila - Quebec AI Institute科學(xué)顧問Yoshua Bengio表示：
“自九個(gè)月前發(fā)布第一份《國(guó)際人工智能安全報(bào)告》以來，人工智能能力保持著快速而穩(wěn)定的發(fā)展勢(shì)頭。 我們對(duì)人工智能風(fēng)險(xiǎn)和安全措施的集體認(rèn)知必須與時(shí)俱進(jìn)，這一點(diǎn)至關(guān)重要。 本次《關(guān)鍵更新》為全球決策者提供了基于證據(jù)的最新信息概覽，助其掌握最前沿的科學(xué)資訊，從而確保治理工作具有前瞻性和科學(xué)性。 它還發(fā)揮了銜接作用，為將于2026年初在印度舉辦的人工智能影響力峰會(huì)前發(fā)布的綜合報(bào)告做好準(zhǔn)備?！?/p>
