国产美女主播视频一区_国产精品蜜臀在线观看_亚洲成人动漫一区_亚洲视屏在线播放

首頁 > 留學(xué)

讓“無聲的漏洞”無可遁形:詳解2023 數(shù)據(jù)庫頂會(huì)SIGMOD最佳論文

來源:東方資訊 時(shí)間:2023-06-22 22:37:37

【編者按】2023數(shù)據(jù)庫頂會(huì)SIGMOD在美國西雅圖頒出最佳論文。阿里云與浙江大學(xué)合作的《Detecting Logic Bugs of Join Optimizations in DBMS》獲得最佳論文,成為自1975年該會(huì)議至今49年以來,中國大陸研究團(tuán)隊(duì)首次斬獲該獎(jiǎng)項(xiàng)。

這項(xiàng)工作聚焦數(shù)據(jù)庫邏輯測試,始于阿里云PolarDB云原生數(shù)據(jù)庫的內(nèi)核測試,通過開發(fā)創(chuàng)新的自動(dòng)化數(shù)據(jù)庫邏輯測試方案TQS,檢出不易察覺的邏輯漏洞予以修復(fù)。實(shí)驗(yàn)發(fā)現(xiàn),TQS運(yùn)行僅24小時(shí)就檢測出4大商用數(shù)據(jù)庫管理系統(tǒng)的邏輯漏洞115個(gè),予以修復(fù)后,大幅提升數(shù)據(jù)庫穩(wěn)定性。

該論文一作唐秀系浙江大學(xué)博士,這一工作是她在阿里云數(shù)據(jù)庫進(jìn)行研究型實(shí)習(xí)時(shí)的成果;阿里云數(shù)據(jù)庫負(fù)責(zé)人李飛飛也是作者之一,此前他曾以一作身份憑借《Wander Join: Online Aggregation via Random Walks》拿下2016年SIGMOD最佳論文。本次論文獲獎(jiǎng),完成了中國大陸研究團(tuán)隊(duì)在數(shù)據(jù)庫頂會(huì)的歷史性突破,也成為了中國校企合作攻克科研難題的典范之一。


(相關(guān)資料圖)

我們特別邀請到唐秀博士,為我們深入淺出地解讀這篇論文的關(guān)鍵成果。

作者 | 唐秀,浙江大學(xué)博士,2022 年阿里巴巴優(yōu)秀研究型實(shí)習(xí)生

背景與動(dòng)機(jī)

我國數(shù)據(jù)庫正處于高速發(fā)展期,并且隨著應(yīng)用復(fù)雜程度的增加,企業(yè)和用戶對于更強(qiáng)大、更安全的數(shù)據(jù)庫的需求也越來越迫切。因此,如何檢查數(shù)據(jù)庫漏洞和錯(cuò)誤,成為保障數(shù)據(jù)庫安全、提升數(shù)據(jù)庫穩(wěn)定性的關(guān)鍵之一。

在數(shù)據(jù)庫查詢執(zhí)行期間,主要有兩類錯(cuò)誤(bug):一種常見的錯(cuò)誤是數(shù)據(jù)庫突然崩潰停止,這種錯(cuò)誤對于開發(fā)人員來說相對容易檢測,因?yàn)閿?shù)據(jù)庫連接會(huì)突然中斷。然而,還存在一類隱藏的錯(cuò)誤,即邏輯漏洞。在這種情況下,數(shù)據(jù)庫正常運(yùn)行并返回結(jié)果,但實(shí)際上并非正確的結(jié)果。

圖說:邏輯漏洞舉例

以上圖中的兩個(gè)邏輯漏洞為例,圖a展現(xiàn)了MySQL的一個(gè)哈希連接錯(cuò)誤,這種錯(cuò)誤發(fā)生在錯(cuò)誤地將零和負(fù)零視為不同值的情況下,導(dǎo)致最終返回一組空集合;b圖涉及數(shù)據(jù)類型轉(zhuǎn)換和數(shù)據(jù)精度損失導(dǎo)致的錯(cuò)誤半連接:在MySQL中,當(dāng)比較兩個(gè)值是否相等時(shí),數(shù)據(jù)類型轉(zhuǎn)換和精度損失可能導(dǎo)致意外的結(jié)果,從而影響查詢結(jié)果集的構(gòu)建。

邏輯漏洞很難檢測,但其導(dǎo)致的后果確很嚴(yán)重,重則會(huì)導(dǎo)致“上萬航班延誤癱瘓”級別的大規(guī)模宕機(jī),因此也被視為“無聲的漏洞”。本論文便主要聚焦于此。

針對邏輯漏洞,目前已經(jīng)有一些檢測方法,例如部分查詢語義(PQS),但這些方法通常只支持針對單表選擇查詢的檢測,在涉及多表查詢以及不同的連接算法和連接結(jié)構(gòu)的情況下,仍存在大量的研究空白。

而最常用的差分測試,通過在不同數(shù)據(jù)庫中執(zhí)行相同操作,以驗(yàn)證其一致性,這種測試仍存在問題:假如兩個(gè)數(shù)據(jù)庫返回相同的結(jié)果,也有可能是基于同樣錯(cuò)誤的邏輯生成了一樣的結(jié)果, 也即如何驗(yàn)證查詢結(jié)果正確性的關(guān)鍵問題。

同時(shí),測試數(shù)據(jù)庫現(xiàn)在面臨的搜索空間是非常龐大的, 如何引導(dǎo)測試以盡可能消耗最小的資源窮盡全部測試,也是一個(gè)需要解決的問題。

研究思路與核心內(nèi)容

圍繞這兩個(gè)關(guān)鍵問題,我們引入了一個(gè)名為TQS(轉(zhuǎn)換查詢合成)的全新解決方案,以解決MySQL數(shù)據(jù)庫中可能出現(xiàn)的邏輯錯(cuò)誤。

圖說:TQS架構(gòu)圖

TQS包括DSG和KQE兩部分,分別為數(shù)據(jù)驅(qū)動(dòng)的模式和查詢生成,與知識引導(dǎo)的查詢空間探索。

為解決真值生成問題,我們采用了以下方法:首先,根據(jù)給定的寬表,使用函數(shù)依賴(FD)將該表拆分為多個(gè)表。

圖說:DSG是如何拆分寬表的

同時(shí),為了進(jìn)行邊緣測試,我們還插入了一些噪聲數(shù)據(jù)作為邊緣情況的樣本(圖中彩色數(shù)據(jù)),并基于數(shù)據(jù)庫的模式圖模型,隨機(jī)游走生成一系列查詢。

圖說:DSG構(gòu)建針對表連接的Bitmap 索引

在此基礎(chǔ)上,構(gòu)建RowID映射表,用于記錄在表拆分過程中,寬表中的行和拆分后表的行的對應(yīng)關(guān)系。根據(jù)表連接是表拆分的逆向過程的直覺,構(gòu)建基于構(gòu)建RowID映射的Bitmap索引,以便從寬表中檢索到連接查詢的理論真值。 這些真值生成后,便是檢測潛在邏輯錯(cuò)誤的參照樣本。

然而,對于給定的數(shù)據(jù)庫模式,可生成的連接查詢的數(shù)量會(huì)隨著表格和列的數(shù)量呈指數(shù)級增長,顯然無法使用枚舉法一一驗(yàn)證。那么,要如何更高效地探索查詢未知空間呢?我們提出了TQS的第二部分設(shè)計(jì)——KQE。

圖說:KQE原理圖

KQE首先將模式圖進(jìn)一步拓展為一個(gè)規(guī)劃迭代圖,來表示整個(gè)查詢生成空間。同時(shí),在大量的歷史查詢圖中,KQE構(gòu)建了一個(gè)基于嵌入的圖索引,以確保新生成的查詢圖盡可能地遠(yuǎn)離其在歷史查詢中的近鄰,探索更多的未知空間。

總體來看,KQE可基于結(jié)構(gòu)相似性為生成的查詢圖評分,同時(shí)也通過自適應(yīng)隨機(jī)游走多樣化查詢生成, 從而極大降低了對于重復(fù)查詢的概率,節(jié)省了計(jì)算資源開支。

實(shí)驗(yàn)結(jié)果分析

我們的研究在MySQL、MariaDB、TiDB 和 PolarDB 等4大常用DBMS上進(jìn)行了實(shí)驗(yàn)。

運(yùn)行了 24 小時(shí)后,TQS 成功找到了 115 個(gè)漏洞:MySQL 中 31 個(gè)、MariaDB 中 30 個(gè)、TiDB 中 31 個(gè)、PolarDB 中 23 個(gè)。通過最小化測試樣例,我們進(jìn)一步將它們分為20種類型。

圖說:實(shí)驗(yàn)檢出漏洞分類詳表

我們已經(jīng)將檢測到的漏洞提交給相應(yīng)數(shù)據(jù)庫社區(qū),并得到了他們積極的反饋。這些漏洞的危機(jī)程度被數(shù)據(jù)庫社區(qū)判定為首要危急或嚴(yán)重級別,一些漏洞已經(jīng)修復(fù)在了其數(shù)據(jù)庫最新版本中。

具體來說,MySQL 8.0.28的錯(cuò)誤主要集中在Semi-join和Sub-query的執(zhí)行過程中,其中,幾個(gè)錯(cuò)誤被評定為首要危急,即最緊急的錯(cuò)誤,這些錯(cuò)誤已經(jīng)在MySQL 8.0.30版本中得到修復(fù),并提供了相應(yīng)的修復(fù)說明。而對于已使用SQLancer進(jìn)行全面測試的TiDB,TQS也測出了一些首要危急錯(cuò)誤,TiDB對其進(jìn)行了修復(fù)。另外,針對PolarDB,我們則直接提交錯(cuò)誤報(bào)告,相關(guān)錯(cuò)誤已經(jīng)被修復(fù)。

圖說:TQS與原有方法的有效性對比

總的來說,相比于其它方法,TQS在多項(xiàng)指標(biāo)上取得了更優(yōu)的效果,較原有方法實(shí)現(xiàn)高達(dá)100倍的性能提升,各組件的有效性也通過控制變量實(shí)驗(yàn)得到了檢驗(yàn)。

6月21日晚上8點(diǎn)整,本文一作唐秀將直播解讀論文,歡迎廣大讀者預(yù)約收看。

返回搜狐,查看更多

責(zé)任編輯:

相關(guān)稿件

讓“無聲的漏洞”無可遁形:詳解2023 數(shù)據(jù)庫頂會(huì)SIGMOD最佳論文

二乙二醇(二甘醇)商品報(bào)價(jià)動(dòng)態(tài)(2023-06-22) 當(dāng)前熱門

PC/ABS商品報(bào)價(jià)動(dòng)態(tài)(2023-06-22)-全球觀焦點(diǎn)

舞蹈之美與散文之美相融合 環(huán)球新視野

亮出“看家本領(lǐng)”|當(dāng)前熱聞

快消息!“鋼少硅多”如何建設(shè)武科大傳統(tǒng)優(yōu)勢專業(yè)

環(huán)球焦點(diǎn)!海口首次開通英國國際客運(yùn)航線

【環(huán)球新視野】太危險(xiǎn)!大媽在上海黃浦江邊掰射燈玩!網(wǎng)友:這燈是拿來玩的嗎?

信息:2024年開始,這些新能源車需要繳納車輛購置稅!

破紀(jì)錄!全國最熱!41.8℃!專家提醒——-天天新消息

佩香囊、竹編龍舟、制作艾草花…今天,長寧老人歡歡喜喜過端午! 每日熱文

會(huì)計(jì)備案制度名稱一般怎么填_會(huì)計(jì)制度備案信息表怎么填

攝像頭模組相關(guān)上市公司概念有哪些(2023/6/21)

環(huán)球快看點(diǎn)丨馬力刺客|全新標(biāo)桿! 奧迪RS e-tron GT輪上功率實(shí)測

全球熱議:SAAS龍頭股票一覽(A股SAAS3大龍頭近日情勢)

創(chuàng)業(yè)板乳業(yè)板塊股票有哪些(創(chuàng)業(yè)板乳業(yè)板塊股票名單)

可轉(zhuǎn)債指南:6月26日~6月30日3只可轉(zhuǎn)債將公布中簽號碼_天天快資訊

【天天快播報(bào)】電視劇《斗羅大陸2》演員表:唐三和小舞都來了

最新消息:步步高點(diǎn)讀機(jī)教材下載中心(步步高點(diǎn)讀機(jī)教材下載)

新消息丨2023年硝酸板塊股票有哪些(6月21日)

陜西十年來破獲超3萬起毒品犯罪案件 繳獲各類毒品逾6噸

中國最大海上油田累產(chǎn)原油突破5億噸

最新資訊:埃夫特:股東及其一致行動(dòng)人擬合計(jì)減持不超6%公司股份

紅虛空和白虛空_紅玉虛空 世界聚焦

安寧控股(00128.HK):預(yù)計(jì)中期虧損大幅減少

凌雄科技(02436):將盡快刊發(fā)2022年年度業(yè)績 當(dāng)前速遞

中國醫(yī)療網(wǎng)絡(luò)(00383.HK):百利勤金融已獲委任為獨(dú)立財(cái)務(wù)顧問|世界看點(diǎn)

焦點(diǎn)要聞:中國醫(yī)療網(wǎng)絡(luò)(00383)委任百利勤為獨(dú)立財(cái)務(wù)顧問

世界時(shí)訊:朗華國際集團(tuán)(08026)附屬與張春華訂立主服務(wù)協(xié)議

承端午文化精髓 揚(yáng)民族傳統(tǒng)底蘊(yùn) 環(huán)球快看


主站蜘蛛池模板: 日韩av高清| 国产二区视频在线| 国产精品欧美久久久| 91久久精品国产| 欧美精品国产精品久久久| 不卡中文字幕av| 国产欧美日韩中文| 欧美精品在线观看91| 国产成人亚洲综合91| 激情综合在线观看| 欧美在线亚洲在线| 日韩久久不卡| 午夜精品久久久内射近拍高清 | 中文精品一区二区三区 | 久久久在线视频| 日韩中文字幕在线视频播放| 91免费欧美精品| 国产成人精品免高潮在线观看| 久久精品日韩| 久久久久免费精品| 欧美欧美一区二区| 欧美日韩一区二| 欧美一级片一区| 日本精品va在线观看| 日韩精品av一区二区三区| 日本一区二区三区在线视频| 亚洲不卡中文字幕| 一区二区三区四区欧美日韩| 中文字幕一区二区三区四区五区六区| 国产精品高清在线观看| 国产精品亚洲片夜色在线| 国产噜噜噜噜噜久久久久久久久 | 国产福利不卡| 91成人福利在线| 少妇av一区二区三区无码 | 久久久久久久免费| 久久久精品影院| 精品一区二区中文字幕| 国产在线精品一区二区三区| 国产啪精品视频| 国产精品盗摄久久久|