新華社倫敦10月12日電（記者張家偉）英國(guó)人工智能安全研究所12日發(fā)表文章說(shuō)，隨著前沿人工智能（AI）能力快速提升，安全風(fēng)險(xiǎn)正前移至模型開(kāi)發(fā)階段，而現(xiàn)有安全評(píng)估方法難以跟上技術(shù)發(fā)展，有必要探索新的技術(shù)安全實(shí)踐，以確保前沿AI開(kāi)發(fā)活動(dòng)安全進(jìn)行。

文章指出，此前AI模型安全評(píng)估主要著眼于確保公開(kāi)發(fā)布時(shí)的安全性，但如今部分AI系統(tǒng)自主能力增強(qiáng)，尤其在網(wǎng)絡(luò)安全領(lǐng)域，即使模型尚未公開(kāi)發(fā)布，也可能在訓(xùn)練、內(nèi)部部署和評(píng)估過(guò)程中帶來(lái)風(fēng)險(xiǎn)。

與此同時(shí)，AI能力快速演化，使得評(píng)估AI能力的測(cè)試基準(zhǔn)往往很快失去區(qū)分度。而由于需要涉及越來(lái)越復(fù)雜的任務(wù)、多智能體環(huán)境、持續(xù)多天運(yùn)行和更嚴(yán)格的安全控制等，建立新的評(píng)估體系需耗費(fèi)一定時(shí)間。此外，現(xiàn)有AI對(duì)齊（對(duì)齊即確保AI行為符合人類(lèi)意圖）和控制方面的評(píng)估手段仍處起步階段，這意味著不能確保自主性日益增強(qiáng)的AI智能體完全按預(yù)期行事，或安全監(jiān)控措施能可靠捕捉其不當(dāng)行為。

為應(yīng)對(duì)這些挑戰(zhàn)，人工智能安全研究所提出八項(xiàng)技術(shù)安全實(shí)踐重點(diǎn)，包括開(kāi)發(fā)全過(guò)程風(fēng)險(xiǎn)評(píng)估與記錄、AI系統(tǒng)全生命周期監(jiān)督、維護(hù)和評(píng)估監(jiān)督機(jī)制、AI智能體安全事件響應(yīng)和報(bào)告、共享有關(guān)AI發(fā)展速度的信息、獨(dú)立審查與評(píng)估、安全相關(guān)領(lǐng)域能力評(píng)估以及對(duì)AI對(duì)齊方面情況的評(píng)估。

文章說(shuō)，該機(jī)構(gòu)已與AI行業(yè)合作，在超過(guò)55個(gè)AI模型公開(kāi)發(fā)布前對(duì)其進(jìn)行了獨(dú)立評(píng)估，制定了安全保障評(píng)估原則，幫助建設(shè)風(fēng)險(xiǎn)評(píng)估和安全框架。隨著這些實(shí)踐逐步成熟，需要通過(guò)相關(guān)國(guó)際標(biāo)準(zhǔn)制定機(jī)構(gòu)將其轉(zhuǎn)化為正式技術(shù)標(biāo)準(zhǔn)。

人工智能安全研究所隸屬于英國(guó)科學(xué)、創(chuàng)新和技術(shù)部，主要開(kāi)展先進(jìn)AI系統(tǒng)的能力與風(fēng)險(xiǎn)評(píng)估、安全技術(shù)研究。英國(guó)人工智能大臣卡尼什卡·納拉揚(yáng)當(dāng)天在倫敦發(fā)表講話說(shuō)，人工智能安全研究所將在推動(dòng)各方形成對(duì)相關(guān)技術(shù)標(biāo)準(zhǔn)的共識(shí)方面發(fā)揮重要作用。英國(guó)政府多個(gè)部門(mén)將與人工智能安全研究所合作，制定應(yīng)對(duì)AI智能體安全事件的有效措施。（完）