欧美一区二区三区老妇人-欧美做爰猛烈大尺度电-99久久夜色精品国产亚洲a-亚洲福利视频一区二区

利用SQL語句怎么刪除重復(fù)的記錄

利用SQL語句怎么刪除重復(fù)的記錄?很多新手對此不是很清楚,為了幫助大家解決這個難題,下面小編將為大家詳細講解,有這方面需求的人可以來學(xué)習(xí)下,希望你能有所收獲。

創(chuàng)新互聯(lián)于2013年開始,是專業(yè)互聯(lián)網(wǎng)技術(shù)服務(wù)公司,擁有項目網(wǎng)站設(shè)計制作、成都做網(wǎng)站網(wǎng)站策劃,項目實施與項目整合能力。我們以讓每一個夢想脫穎而出為使命,1280元郊區(qū)做網(wǎng)站,已為上家服務(wù),為郊區(qū)各地企業(yè)和個人服務(wù),聯(lián)系電話:18982081108

如果要刪除手機(mobilePhone),電話(officePhone),郵件(email)同時都相同的數(shù)據(jù),以前一直使用這條語句進行去重:

delete from 表 where id not in  
(select max(id) from 表 group by mobilePhone,officePhone,email )  
or 
delete from 表 where id not in  
 (select min(id) from 表 group by mobilePhone,officePhone,email ) 

delete from 表 where id not in 
(select max(id) from 表 group by mobilePhone,officePhone,email ) 
or 
delete from 表 where id not in 
 (select min(id) from 表 group by mobilePhone,officePhone,email )

其中下面這條會稍快些。上面這條數(shù)據(jù)對于100萬以內(nèi)的數(shù)據(jù)效率還可以,重復(fù)數(shù)1/5的情況下幾分鐘到幾十分鐘不等,但是如果數(shù)據(jù)量達到300萬以上,效率驟降,如果重復(fù)數(shù)據(jù)再多點的話,常常會幾十小時跑不完,有時候會鎖表跑一夜都跑不完。無奈只得重新尋找新的可行方法,今天終于有所收獲:

//查詢出唯一數(shù)據(jù)的ID,并把他們導(dǎo)入臨時表tmp中  
select min(id) as mid into tmp from 表 group by mobilePhone,officePhone,email  
 //查詢出去重后的數(shù)據(jù)并插入finally表中  
insert into finally select (除ID以外的字段) from customers_1 where id in (select mid from tmp) 

//查詢出唯一數(shù)據(jù)的ID,并把他們導(dǎo)入臨時表tmp中 
select min(id) as mid into tmp from 表 group by mobilePhone,officePhone,email 
 //查詢出去重后的數(shù)據(jù)并插入finally表中 
insert into finally select (除ID以外的字段) from customers_1 where id in (select mid from tmp)

效率對比:用delete方法對500萬數(shù)據(jù)去重(1/2重復(fù))約4小時。4小時,很長的時間。

用臨時表插入對500萬數(shù)據(jù)去重(1/2重復(fù))不到10分鐘。

其實用刪除方式是比較慢的,可能是邊找邊刪除的原因吧,而使用臨時表,可以將沒有重復(fù)的數(shù)據(jù)ID選出來放在臨時表里,再將表的信息按臨時表的選擇出來的ID,將它們找出來插入到新的表,然后將原表刪除,這樣就可以快速去重啦。

SQL語句去掉重復(fù)記錄,獲取重復(fù)記錄

按照某幾個字段名稱查找表中存在這幾個字段的重復(fù)數(shù)據(jù)并按照插入的時間先后進行刪除,條件取決于order by 和row_num。

方法一按照多條件重復(fù)處理:

delete tmp from(  
select row_num = row_number() over(partition by 字段,字段 order by 時間 desc)  
 from 表 where 時間> getdate()-1  
 ) tmp  
 where row_num > 1 
delete tmp from( 
select row_num = row_number() over(partition by 字段,字段 order by 時間 desc) 
 from 表 where 時間> getdate()-1 
 ) tmp 
 where row_num > 1

方法二按照單一條件進行去重:

delete from 表 where 主鍵ID not in(  
select max(主鍵ID) from 表 group by 需要去重的字段 having count(需要去重的字段)>=1  
 ) 
delete from 表 where 主鍵ID not in( 
select max(主鍵ID) from 表 group by 需要去重的字段 having count(需要去重的字段)>=1 
 )

注意:為提高效率如上兩個方法都可以使用臨時表, not in 中的表可以先提取臨時表#tmp,

然后采用not exists來執(zhí)行,為避免數(shù)量過大,可批量用Top控制刪除量

delete top(2) from 表  
   where not exists (select 主鍵ID  
 from #tmp where #tmp.主鍵ID=表.主鍵ID)

看完上述內(nèi)容是否對您有幫助呢?如果還想對相關(guān)知識有進一步的了解或閱讀更多相關(guān)文章,請關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道,感謝您對創(chuàng)新互聯(lián)的支持。

新聞名稱:利用SQL語句怎么刪除重復(fù)的記錄
鏈接分享:http://chinadenli.net/article28/giccjp.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供小程序開發(fā)網(wǎng)站改版、品牌網(wǎng)站設(shè)計、網(wǎng)站收錄搜索引擎優(yōu)化、網(wǎng)頁設(shè)計公司

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

小程序開發(fā)