率先開(kāi)啟大模型安全賽道 2023 CCF BDCI數(shù)字安全公開(kāi)賽開(kāi)啟報(bào)名
摘要： 聚焦大模型安全 2023 CCF BDCI數(shù)字安全公開(kāi)賽開(kāi)啟報(bào)名
伴隨大語(yǔ)言模型在各數(shù)字領(lǐng)域的迅速普及和廣泛應(yīng)用，所衍生的一系列安全風(fēng)險(xiǎn)引發(fā)了多起安全事件。為積極應(yīng)對(duì)大模型安全帶來(lái)的挑戰(zhàn)，由中國(guó)計(jì)算機(jī)學(xué)會(huì)主辦，由CCF大數(shù)據(jù)與計(jì)算智能大賽 (CCF BDCI)組委會(huì)、大數(shù)據(jù)協(xié)同安全技術(shù)國(guó)家工程研究中心聯(lián)合360集團(tuán)共同承辦的2023年數(shù)字安全公開(kāi)賽聚焦大模型安全，率先開(kāi)啟大模型安全賽道，并于近日正式開(kāi)啟報(bào)名。
提示注入攻擊是一種針對(duì)生成式文本類(lèi)大模型的特殊安全威脅，攻擊者通過(guò)精心設(shè)計(jì)的輸入提示，可以誘導(dǎo)AI模型生成不當(dāng)內(nèi)容或輸出內(nèi)部隱私信息。此前，大數(shù)據(jù)協(xié)同安全技術(shù)國(guó)家工程研究中發(fā)布的國(guó)內(nèi)首份《大語(yǔ)言模型提示注入攻擊安全風(fēng)險(xiǎn)分析報(bào)告》指出，目前大語(yǔ)言模型面臨的風(fēng)險(xiǎn)類(lèi)型多樣，在這些安全威脅中，提示注入攻擊因利用有害提示覆蓋大語(yǔ)言模型的原始指令，具有極高危害性，也被全球性安全組織OWASP列為大語(yǔ)言模型十大安全威脅之首。
為了發(fā)現(xiàn)大語(yǔ)言模型中存在的提示注入安全風(fēng)險(xiǎn)，本屆賽事設(shè)置面向大語(yǔ)言模型的提示注入攻防競(jìng)賽賽題，采用黑盒場(chǎng)景設(shè)置，選擇多個(gè)不同防御等級(jí)的大模型作為目標(biāo)模型，要求參賽隊(duì)伍通過(guò)構(gòu)造不同類(lèi)型的攻擊樣本，使得目標(biāo)模型對(duì)攻擊樣本進(jìn)行響應(yīng)并返回風(fēng)險(xiǎn)內(nèi)容，分別完成目標(biāo)劫持、提示泄露、越獄攻擊等目標(biāo)任務(wù)。
主辦方表示，如今，開(kāi)源軟件供應(yīng)鏈已成為備受青睞的攻擊途徑之一，為有效防范此類(lèi)攻擊，需要實(shí)時(shí)監(jiān)測(cè)開(kāi)源軟件的安全數(shù)據(jù)以識(shí)別潛在威脅。因此，賽事還設(shè)置了基于大模型的開(kāi)源軟件安全應(yīng)用情報(bào)員應(yīng)用開(kāi)發(fā)賽題，拓展賽道類(lèi)型。
目前，2023 CCF BDCI 數(shù)字安全公開(kāi)賽已正面向社會(huì)各界開(kāi)放，除賽事獎(jiǎng)金外，大賽組委會(huì)也為參賽隊(duì)伍提供了獲獎(jiǎng)證書(shū)、招聘綠色通道、安全行業(yè)頂級(jí)會(huì)議門(mén)票、頂級(jí)專(zhuān)家交流機(jī)會(huì)等眾多福利，參賽者可通過(guò)https://datafountain.cn/special/BDCI2023-Digitalsecurity了解報(bào)名。
提示注入攻擊是一種針對(duì)生成式文本類(lèi)大模型的特殊安全威脅，攻擊者通過(guò)精心設(shè)計(jì)的輸入提示，可以誘導(dǎo)AI模型生成不當(dāng)內(nèi)容或輸出內(nèi)部隱私信息。此前，大數(shù)據(jù)協(xié)同安全技術(shù)國(guó)家工程研究中發(fā)布的國(guó)內(nèi)首份《大語(yǔ)言模型提示注入攻擊安全風(fēng)險(xiǎn)分析報(bào)告》指出，目前大語(yǔ)言模型面臨的風(fēng)險(xiǎn)類(lèi)型多樣，在這些安全威脅中，提示注入攻擊因利用有害提示覆蓋大語(yǔ)言模型的原始指令，具有極高危害性，也被全球性安全組織OWASP列為大語(yǔ)言模型十大安全威脅之首。
為了發(fā)現(xiàn)大語(yǔ)言模型中存在的提示注入安全風(fēng)險(xiǎn)，本屆賽事設(shè)置面向大語(yǔ)言模型的提示注入攻防競(jìng)賽賽題，采用黑盒場(chǎng)景設(shè)置，選擇多個(gè)不同防御等級(jí)的大模型作為目標(biāo)模型，要求參賽隊(duì)伍通過(guò)構(gòu)造不同類(lèi)型的攻擊樣本，使得目標(biāo)模型對(duì)攻擊樣本進(jìn)行響應(yīng)并返回風(fēng)險(xiǎn)內(nèi)容，分別完成目標(biāo)劫持、提示泄露、越獄攻擊等目標(biāo)任務(wù)。
主辦方表示，如今，開(kāi)源軟件供應(yīng)鏈已成為備受青睞的攻擊途徑之一，為有效防范此類(lèi)攻擊，需要實(shí)時(shí)監(jiān)測(cè)開(kāi)源軟件的安全數(shù)據(jù)以識(shí)別潛在威脅。因此，賽事還設(shè)置了基于大模型的開(kāi)源軟件安全應(yīng)用情報(bào)員應(yīng)用開(kāi)發(fā)賽題，拓展賽道類(lèi)型。
目前，2023 CCF BDCI 數(shù)字安全公開(kāi)賽已正面向社會(huì)各界開(kāi)放，除賽事獎(jiǎng)金外，大賽組委會(huì)也為參賽隊(duì)伍提供了獲獎(jiǎng)證書(shū)、招聘綠色通道、安全行業(yè)頂級(jí)會(huì)議門(mén)票、頂級(jí)專(zhuān)家交流機(jī)會(huì)等眾多福利，參賽者可通過(guò)https://datafountain.cn/special/BDCI2023-Digitalsecurity了解報(bào)名。
詳情請(qǐng)關(guān)注安在新媒體，一家信息安全領(lǐng)域媒體，以“做有內(nèi)涵的泛黑客媒體”為方向，線(xiàn)上通過(guò)自媒體，采訪(fǎng)網(wǎng)絡(luò)安全領(lǐng)域人物梳理行業(yè)脈絡(luò)，通過(guò)介紹他們的經(jīng)歷、感悟、對(duì)行業(yè)的看法等來(lái)剖析網(wǎng)絡(luò)安全發(fā)展的脈絡(luò)；致力于建立完整的信息發(fā)布矩陣，覆蓋微信、微博、知乎等主流自媒體渠道。
官網(wǎng)：http://anzerclub.com/
市場(chǎng)部聯(lián)系（廠(chǎng)商）：徐倩（微信：Madeline_Sue）
市場(chǎng)部聯(lián)系（甲方）：Tina（微信：xuqingqing823125689 ）及 Enco（微信：Anzer10）