在剛剛結(jié)束的國(guó)際貨幣基金組織與世界銀行春季會(huì)議上，與中東局勢(shì)同樣受到關(guān)注的是，各國(guó)金融當(dāng)局對(duì)人工智能（AI）模型表現(xiàn)出的不安。
這一議題被推入公眾視野，源于彭博新聞社的一篇報(bào)道：美國(guó)財(cái)政部長(zhǎng)斯科特·貝森特召集華爾街領(lǐng)袖，就美國(guó)AI企業(yè)Anthropic一款即將問(wèn)世的、名為Claude Mythos的大模型發(fā)出警告。該模型被指具備自主識(shí)別金融系統(tǒng)薄弱環(huán)節(jié)、生成定制化攻擊代碼并繞過(guò)傳統(tǒng)防御機(jī)制的能力，其擴(kuò)散風(fēng)險(xiǎn)遠(yuǎn)超常規(guī)網(wǎng)絡(luò)安全威脅。測(cè)試顯示，Mythos能夠構(gòu)建復(fù)雜的漏洞利用鏈，實(shí)施可繞過(guò)多層安全防護(hù)的多步攻擊，甚至自主實(shí)現(xiàn)了權(quán)限提升技術(shù)。
這款A(yù)I模型令人擔(dān)憂的根源還在于，業(yè)界對(duì)相關(guān)威脅存在“認(rèn)知空白”：既無(wú)從判斷模型究竟是監(jiān)管機(jī)構(gòu)已在深入研究的已知威脅，還是需要全新應(yīng)對(duì)方案；也無(wú)從預(yù)測(cè)Mythos是否會(huì)對(duì)銀行賬戶、國(guó)際支付系統(tǒng)，乃至金融體系帶來(lái)不可控的風(fēng)險(xiǎn)隱患。
金融監(jiān)管者擔(dān)憂，一旦其被用于操縱市場(chǎng)數(shù)據(jù)、偽造交易指令或劫持支付清算通道，將直接沖擊金融基礎(chǔ)設(shè)施穩(wěn)定性。金融界由此紛紛發(fā)出警告。
歐洲央行行長(zhǎng)拉加德?lián)模坏┠Ｐ汀奥淙脲e(cuò)誤之手”，后果將不堪設(shè)想。這也是其他央行行長(zhǎng)、多國(guó)財(cái)政部長(zhǎng)，以及監(jiān)管官員和投資機(jī)構(gòu)負(fù)責(zé)人所擔(dān)心的事。這些財(cái)金界重要人物均希望獲取更多關(guān)于大模型潛在威脅和相應(yīng)防護(hù)措施的信息和方案，以便未雨綢繆。
雖然Anthropic在發(fā)布Mythos之前，已主動(dòng)向美國(guó)政府及金融等關(guān)鍵行業(yè)利益相關(guān)方通報(bào)了該模型的相關(guān)能力，但國(guó)際貨幣基金組織總裁格奧爾基耶娃表示，目前，全球尚不具備足夠能力保護(hù)國(guó)際貨幣體系免受大規(guī)模網(wǎng)絡(luò)風(fēng)險(xiǎn)沖擊，“我們迫切希望各方更加重視在AI時(shí)代維護(hù)金融穩(wěn)定所必需的監(jiān)管防線”。她呼吁就此展開(kāi)全球合作。英國(guó)央行行長(zhǎng)貝利也表示，全球監(jiān)管機(jī)構(gòu)需迅速評(píng)估Mythos模型可能對(duì)金融系統(tǒng)構(gòu)成的潛在網(wǎng)絡(luò)安全威脅。
美國(guó)財(cái)政部長(zhǎng)貝森特和美聯(lián)儲(chǔ)主席鮑威爾不久前緊急召集花旗集團(tuán)、摩根士丹利、美國(guó)銀行、高盛等美國(guó)主要金融機(jī)構(gòu)負(fù)責(zé)人開(kāi)會(huì)，通報(bào)了新模型可能帶來(lái)的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。
英國(guó)央行最近也已開(kāi)始通過(guò)情境分析和模擬測(cè)試，評(píng)估Mythos可能給金融系統(tǒng)帶來(lái)的風(fēng)險(xiǎn)。
上周的七國(guó)集團(tuán)財(cái)長(zhǎng)會(huì)議上，各方就建立國(guó)際機(jī)構(gòu)框架以加強(qiáng)AI監(jiān)管展開(kāi)了討論。
Anthropic表示，考慮到Mythos的潛在風(fēng)險(xiǎn)，暫時(shí)不會(huì)面向公眾發(fā)布這款大模型，并啟動(dòng)名為Glasswing的合作項(xiàng)目，向微軟、亞馬遜、谷歌、蘋(píng)果、思科等40多家科技企業(yè)、金融機(jī)構(gòu)以及基礎(chǔ)設(shè)施服務(wù)商開(kāi)放了Mythos預(yù)覽版本的訪問(wèn)權(quán)限，使其能夠?qū)δＰ瓦M(jìn)行測(cè)試，實(shí)現(xiàn)“提前防御”。
正如貝利所言，Mythos提醒大家“AI領(lǐng)域的發(fā)展何其迅速”。而更令人關(guān)注的是，在地緣政治風(fēng)險(xiǎn)急劇上升的背景下，AI在提升金融業(yè)效率的同時(shí)，其帶來(lái)的風(fēng)險(xiǎn)隱患也不容忽視。
顯然，隨著AI技術(shù)的不斷進(jìn)化，善用AI推動(dòng)金融科技進(jìn)一步發(fā)展的前提是控制好AI模型“攻防兩用”能力外溢風(fēng)險(xiǎn)，讓AI真正成為“好”的工具，這已經(jīng)成為當(dāng)下的重要課題。
