MSCBSC 移動(dòng)通信論壇
搜索
登錄注冊(cè)
網(wǎng)絡(luò)優(yōu)化工程師招聘專欄 4G/LTE通信工程師最新職位列表 通信實(shí)習(xí)生/應(yīng)屆生招聘職位

  • 閱讀:7324
  • 回復(fù):13
python使用pyspark大數(shù)據(jù)技術(shù)解決大量數(shù)據(jù)迭代分組取TOPN的問(wèn)題
huming
論壇元老
鎵嬫満鍙風(fēng)爜宸查獙璇? style=


 發(fā)短消息    關(guān)注Ta 

積分 27659
帖子 260
威望 19169 個(gè)
禮品券 18 個(gè)
專家指數(shù) 16
注冊(cè) 2007-6-27
專業(yè)方向  LTE
回答問(wèn)題數(shù) 0
回答被采納數(shù) 0
回答采納率 0%
 
發(fā)表于 2019-03-08 20:06:14  只看樓主 

探討的場(chǎng)景:

1、數(shù)據(jù)源:取出大量指標(biāo)或其他需要計(jì)算統(tǒng)計(jì)的原始數(shù)據(jù)文件(txt、csv等類型),幾十或幾百個(gè)甚至更多,當(dāng)前這個(gè)例子為小時(shí)級(jí)的小區(qū)指標(biāo)文件;
2、存在的問(wèn)題,很難再短時(shí)間內(nèi)對(duì)大量的數(shù)據(jù)計(jì)算出需要需要的結(jié)果;
需求:取出每個(gè)月,每個(gè)小區(qū)<最大RRC連接數(shù)>的最大的三天數(shù)據(jù)和其對(duì)應(yīng)的其他指標(biāo);(迭代分組取TOPN的問(wèn)題)
即:
第一次分組計(jì)算:取出每個(gè)小區(qū)每天24小時(shí)中,哪個(gè)時(shí)段的<最大RRC連接數(shù)>的值最大,并記錄下這個(gè)時(shí)段(即自忙時(shí));
第二次分組計(jì)算:以第一次分組結(jié)算的結(jié)果,作為數(shù)據(jù)源,取每個(gè)月中,每個(gè)小區(qū)<最大RRC連接數(shù)>最大的前三天對(duì)應(yīng)的指標(biāo)數(shù)據(jù);
3、解決方案:
1.png

對(duì)于數(shù)據(jù)量比較大的場(chǎng)景,使用單機(jī)關(guān)系型數(shù)據(jù)庫(kù)實(shí)現(xiàn)迭代分組的功能,耗時(shí)較長(zhǎng),有興趣的朋友可以嘗試一下,oracle里面的開窗函數(shù)可以解決此類場(chǎng)景的問(wèn)題,但是具體性能如何,沒(méi)有嘗試過(guò)。單機(jī)mysql貌似沒(méi)有能夠有高性能的解決方案,我自己嘗試過(guò)好幾種寫法,都無(wú)法避免索引失效導(dǎo)致的全表掃描問(wèn)題;但無(wú)論如何,文件導(dǎo)入數(shù)據(jù)庫(kù)的過(guò)程必然耗費(fèi)大量時(shí)間。

4、業(yè)務(wù)流程:

2.png5、代碼過(guò)程落地:

3.png


4.png

6、源碼:

源碼.rar

源碼.rar


7、視頻說(shuō)明:

鏈接:[url]https://pan.baidu.com/s/1cer_qm6I2AC_69AgLZuotA&nbsp[/url];

提取碼:2aqj 






查看積分策略說(shuō)明
附件下載列表:
2019-3-8 20:05:50  下載次數(shù): 55
源碼.rar (183.82 KB)
2019-3-8 23:10:02  下載次數(shù): 27
源碼.rar (183.12 KB)
2019-3-9 13:51:38  下載次數(shù): 36
源碼.rar (183.12 KB)
掃碼關(guān)注5G通信官方公眾號(hào),免費(fèi)領(lǐng)取以下5G精品資料
  • 1、回復(fù)“YD5GAI”免費(fèi)領(lǐng)取《中國(guó)移動(dòng):5G網(wǎng)絡(luò)AI應(yīng)用典型場(chǎng)景技術(shù)解決方案白皮書
  • 2、回復(fù)“5G6G”免費(fèi)領(lǐng)取《5G_6G毫米波測(cè)試技術(shù)白皮書-2022_03-21
  • 3、回復(fù)“YD6G”免費(fèi)領(lǐng)取《中國(guó)移動(dòng):6G至簡(jiǎn)無(wú)線接入網(wǎng)白皮書
  • 4、回復(fù)“LTBPS”免費(fèi)領(lǐng)取《《中國(guó)聯(lián)通5G終端白皮書》
  • 5、回復(fù)“ZGDX”免費(fèi)領(lǐng)取《中國(guó)電信5G NTN技術(shù)白皮書
  • 6、回復(fù)“TXSB”免費(fèi)領(lǐng)取《通信設(shè)備安裝工程施工工藝圖解
  • 7、回復(fù)“YDSL”免費(fèi)領(lǐng)取《中國(guó)移動(dòng)算力并網(wǎng)白皮書
  • 8、回復(fù)“5GX3”免費(fèi)領(lǐng)取《 R16 23501-g60 5G的系統(tǒng)架構(gòu)1
  • 共獲得 1 次點(diǎn)評(píng) 我要點(diǎn)評(píng)

     
    [充值威望,立即自動(dòng)到帳] [VIP貴賓權(quán)限+威望套餐] 另有大量?jī)?yōu)惠贈(zèng)送活動(dòng),請(qǐng)光臨充值中心
    充值擁有大量的威望和最高的下載權(quán)限,下載站內(nèi)資料無(wú)憂
    bikerboy
    論壇元老
    鎵嬫満鍙風(fēng)爜宸查獙璇? style=


     發(fā)短消息    關(guān)注Ta 

    紀(jì)念勛章·十周年  
    積分 20178
    帖子 548
    威望 201686 個(gè)
    禮品券 115 個(gè)
    專家指數(shù) -1523
    注冊(cè) 2008-11-11
    專業(yè)方向  無(wú)線
    回答問(wèn)題數(shù) 0
    回答被采納數(shù) 0
    回答采納率 0%
     
    發(fā)表于 2019-03-09 10:29:51 
    技術(shù)問(wèn)題,回答得專家指數(shù),快速升級(jí)

    支持原創(chuàng)

    對(duì)本帖內(nèi)容的看法? 我要點(diǎn)評(píng)

     
    [立即成為VIP會(huì)員,百萬(wàn)通信專業(yè)資料立即下載,支付寶、微信付款,簡(jiǎn)單、快速!]
    bikerboy
    論壇元老
    鎵嬫満鍙風(fēng)爜宸查獙璇? style=


     發(fā)短消息    關(guān)注Ta 

    紀(jì)念勛章·十周年  
    積分 20178
    帖子 548
    威望 201686 個(gè)
    禮品券 115 個(gè)
    專家指數(shù) -1523
    注冊(cè) 2008-11-11
    專業(yè)方向  無(wú)線
    回答問(wèn)題數(shù) 0
    回答被采納數(shù) 0
    回答采納率 0%
     
    發(fā)表于 2019-03-09 10:30:17 


    QUOTE:
    原帖由 huming000 于 2019-3-8 20:06:14 發(fā)表
    探討的場(chǎng)景:1、數(shù)據(jù)源:取出大量指標(biāo)或其他需要計(jì)算統(tǒng)計(jì)的原始數(shù)據(jù)文件(txt、csv等類型),幾十或幾百個(gè)甚至更多,當(dāng)前這個(gè)例子為小時(shí)級(jí)的小區(qū)指標(biāo)文件;2、存在的問(wèn)題,很難再短時(shí)間內(nèi)對(duì)大量的數(shù)據(jù)計(jì)算出需要 ...

    點(diǎn)贊!

    對(duì)本帖內(nèi)容的看法? 我要點(diǎn)評(píng)

     
    最新通信職位:廣東通信人才網(wǎng) | 北京通信人才網(wǎng) | 上海通信人才網(wǎng) | 南京通信人才網(wǎng) | 西安通信人才網(wǎng) | 重慶通信人才網(wǎng) | 中國(guó)通信人才網(wǎng)
    大灰熊
    新手上路
    鎵嬫満鍙風(fēng)爜宸查獙璇? style=


     發(fā)短消息    關(guān)注Ta 

    積分 -176
    帖子 91
    威望 9522 個(gè)
    禮品券 8 個(gè)
    專家指數(shù) -631
    注冊(cè) 2012-8-27
    專業(yè)方向  WCDMA
    回答問(wèn)題數(shù) 0
    回答被采納數(shù) 0
    回答采納率 0%
     
    發(fā)表于 2019-03-09 11:05:11 


    QUOTE:
    原帖由 huming000 于 2019-3-8 20:06:14 發(fā)表
    探討的場(chǎng)景:1、數(shù)據(jù)源:取出大量指標(biāo)或其他需要計(jì)算統(tǒng)計(jì)的原始數(shù)據(jù)文件(txt、csv等類型),幾十或幾百個(gè)甚至更多,當(dāng)前這個(gè)例子為小時(shí)級(jí)的小區(qū)指標(biāo)文件;2、存在的問(wèn)題,很難再短時(shí)間內(nèi)對(duì)大量的數(shù)據(jù)計(jì)算出需要 ...

    源碼沒(méi)法下載啊

    對(duì)本帖內(nèi)容的看法? 我要點(diǎn)評(píng)

     
    [2分鐘擁有VIP權(quán)限和充足威望,可下載站內(nèi)任何資料] [快速找到一份高薪的通信行業(yè)職位]
    shujunjie
    銀牌會(huì)員
    鎵嬫満鍙風(fēng)爜宸查獙璇? style=


     發(fā)短消息    關(guān)注Ta 

    積分 2951
    帖子 857
    威望 19152 個(gè)
    禮品券 205 個(gè)
    專家指數(shù) -1334
    注冊(cè) 2010-1-14
    專業(yè)方向  網(wǎng)優(yōu)
    回答問(wèn)題數(shù) 0
    回答被采納數(shù) 0
    回答采納率 0%
     
    發(fā)表于 2019-03-09 23:00:13 

    太牛逼了;謝謝

    對(duì)本帖內(nèi)容的看法? 我要點(diǎn)評(píng)

     
    最新通信職位:廣東通信人才網(wǎng) | 北京通信人才網(wǎng) | 上海通信人才網(wǎng) | 南京通信人才網(wǎng) | 西安通信人才網(wǎng) | 重慶通信人才網(wǎng) | 中國(guó)通信人才網(wǎng)
    JOHNY
    VIP會(huì)員
    鎵嬫満鍙風(fēng)爜宸查獙璇? style=


     發(fā)短消息    關(guān)注Ta 

    紀(jì)念勛章·七周年   財(cái)富勛章·神秘富豪   紀(jì)念勛章·八周年   紀(jì)念勛章·九周年   紀(jì)念勛章·十周年  
    積分 4170
    帖子 840
    威望 320382 個(gè)
    禮品券 54 個(gè)
    專家指數(shù) -30
    注冊(cè) 2010-1-18
    專業(yè)方向  無(wú)線網(wǎng)絡(luò)優(yōu)化
    回答問(wèn)題數(shù) 0
    回答被采納數(shù) 0
    回答采納率 0%
     
    發(fā)表于 2019-03-10 13:27:00 


    QUOTE:
    原帖由 huming000 于 2019-3-8 20:06:14 發(fā)表
    探討的場(chǎng)景:1、數(shù)據(jù)源:取出大量指標(biāo)或其他需要計(jì)算統(tǒng)計(jì)的原始數(shù)據(jù)文件(txt、csv等類型),幾十或幾百個(gè)甚至更多,當(dāng)前這個(gè)例子為小時(shí)級(jí)的小區(qū)指標(biāo)文件;2、存在的問(wèn)題,很難再短時(shí)間內(nèi)對(duì)大量的數(shù)據(jù)計(jì)算出需要 ...

    牛逼不是一般般的

    對(duì)本帖內(nèi)容的看法? 我要點(diǎn)評(píng)

     
    [2分鐘擁有VIP權(quán)限和充足威望,可下載站內(nèi)任何資料] [快速找到一份高薪的通信行業(yè)職位]
    horizon2
    VIP會(huì)員
    鎵嬫満鍙風(fēng)爜宸查獙璇? style=


     發(fā)短消息    關(guān)注Ta 

    積分 28229
    帖子 1102
    威望 19312 個(gè)
    禮品券 66 個(gè)
    專家指數(shù) -399
    注冊(cè) 2007-5-5
    專業(yè)方向  無(wú)線
    回答問(wèn)題數(shù) 0
    回答被采納數(shù) 0
    回答采納率 0%
     
    發(fā)表于 2019-03-11 11:03:27 


    QUOTE:
    原帖由 huming000 于 2019-3-8 20:06:14 發(fā)表
    探討的場(chǎng)景:1、數(shù)據(jù)源:取出大量指標(biāo)或其他需要計(jì)算統(tǒng)計(jì)的原始數(shù)據(jù)文件(txt、csv等類型),幾十或幾百個(gè)甚至更多,當(dāng)前這個(gè)例子為小時(shí)級(jí)的小區(qū)指標(biāo)文件;2、存在的問(wèn)題,很難再短時(shí)間內(nèi)對(duì)大量的數(shù)據(jù)計(jì)算出需要 ...

    請(qǐng)問(wèn)這個(gè)軟件是您編寫的嗎?

    我也在學(xué)python,想向您學(xué)習(xí)一下方法和方向,請(qǐng)幫忙加一下微信號(hào),謝謝!

    我的微信號(hào)是:horizon2

    對(duì)本帖內(nèi)容的看法? 我要點(diǎn)評(píng)

     
    熱點(diǎn): 通信招聘職位 | 網(wǎng)絡(luò)優(yōu)化全集 | WCDMA精品 | TD-SCDMA學(xué)習(xí)資料 | EVDO | MGW媒體網(wǎng)關(guān)資料
    horizon668
    鉆石會(huì)員
    鎵嬫満鍙風(fēng)爜宸查獙璇? style=


     發(fā)短消息    關(guān)注Ta 

    公益·慈善勛章   財(cái)富勛章·神秘富豪   財(cái)富勛章·鉆石王老五  
    積分 13745
    帖子 729
    威望 217316 個(gè)
    禮品券 60 個(gè)
    專家指數(shù) -840
    注冊(cè) 2009-1-9
    專業(yè)方向  無(wú)線網(wǎng)優(yōu)
    回答問(wèn)題數(shù) 0
    回答被采納數(shù) 0
    回答采納率 0%
     
    發(fā)表于 2019-03-11 20:20:38 


    QUOTE:
    原帖由 horizon2 于 2019-3-11 11:03:27 發(fā)表

    請(qǐng)問(wèn)這個(gè)軟件是您編寫的嗎?我也在學(xué)python,想向您學(xué)習(xí)一下方法和方向,請(qǐng)幫忙加一下微信號(hào),謝謝!我的微信號(hào)是:horizon2

    用pandas貌似也簡(jiǎn)單


    data結(jié)構(gòu)如下:

    date_id cell a b c

    0 2019-01-01 cella 39 17 786

    1 2019-01-02 cella 66 569 882

    2 2019-01-03 cella 16 850 960

    3 2019-01-01 cellb 40 427 742

    4 2019-01-02 cellb 9 578 78

    5 2019-01-03 cellb 14 620 831

    6 2019-01-01 cellc 67 333 831

    7 2019-01-02 cellc 68 289 92

    8 2019-01-03 cellc 59 508 264


    取每個(gè)cell的a列top2時(shí)對(duì)應(yīng)行的數(shù)據(jù):


    df = pd.read_csv('data.csv')

    df['num'] = df['a'].groupby(df['cell']).rank(ascending=0,method='first')

    df[df.num <=2]


    共獲得 1 次點(diǎn)評(píng) 我要點(diǎn)評(píng)

     
    熱點(diǎn): 通信招聘職位 | 網(wǎng)絡(luò)優(yōu)化全集 | WCDMA精品 | TD-SCDMA學(xué)習(xí)資料 | EVDO | MGW媒體網(wǎng)關(guān)資料
    菜單欄
    銀牌會(huì)員
    鎵嬫満鍙風(fēng)爜宸查獙璇? style=


     發(fā)短消息    關(guān)注Ta 

    紀(jì)念勛章·七周年   紀(jì)念勛章·九周年  
    積分 4622
    帖子 848
    威望 3953 個(gè)
    禮品券 169 個(gè)
    專家指數(shù) 382
    注冊(cè) 2012-3-9
    專業(yè)方向  LTE/優(yōu)化分析/VBA
    回答問(wèn)題數(shù) 0
    回答被采納數(shù) 0
    回答采納率 0%
     
    發(fā)表于 2019-03-14 19:07:23 


    QUOTE:
    原帖由 horizon668 于 2019-3-11 20:20:38 發(fā)表
    用pandas貌似也簡(jiǎn)單data結(jié)構(gòu)如下:date_idcellabc02019-01-01cella391778612019-01-02cella6656988222019-01-03cella1685096032019-01-01cellb4042774242019-01-02cellb95787852 ...

    pandas可以搞定

    對(duì)本帖內(nèi)容的看法? 我要點(diǎn)評(píng)

     
    [2分鐘擁有VIP權(quán)限和充足威望,可下載站內(nèi)任何資料] [快速找到一份高薪的通信行業(yè)職位]
    huming
    論壇元老
    鎵嬫満鍙風(fēng)爜宸查獙璇? style=


     發(fā)短消息    關(guān)注Ta 

    積分 27659
    帖子 260
    威望 19169 個(gè)
    禮品券 18 個(gè)
    專家指數(shù) 16
    注冊(cè) 2007-6-27
    專業(yè)方向  LTE
    回答問(wèn)題數(shù) 0
    回答被采納數(shù) 0
    回答采納率 0%
     
    發(fā)表于 2019-03-14 22:12:30  只看樓主 


    QUOTE:
    原帖由 FridayCai 于 2019-3-14 19:07:23 發(fā)表


    pandas可以搞定

    是的

    對(duì)本帖內(nèi)容的看法? 我要點(diǎn)評(píng)

     
    [2分鐘擁有VIP權(quán)限和充足威望,可下載站內(nèi)任何資料] [快速找到一份高薪的通信行業(yè)職位]
    shujunjie
    銀牌會(huì)員
    鎵嬫満鍙風(fēng)爜宸查獙璇? style=


     發(fā)短消息    關(guān)注Ta 

    積分 2951
    帖子 857
    威望 19152 個(gè)
    禮品券 205 個(gè)
    專家指數(shù) -1334
    注冊(cè) 2010-1-14
    專業(yè)方向  網(wǎng)優(yōu)
    回答問(wèn)題數(shù) 0
    回答被采納數(shù) 0
    回答采納率 0%
     
    發(fā)表于 2019-03-15 14:32:44 

    會(huì)編程的不搞網(wǎng)優(yōu),搞網(wǎng)優(yōu)的都沒(méi)有會(huì)編程的 ,你懂這個(gè),你就是高手中的高手.........

    對(duì)本帖內(nèi)容的看法? 我要點(diǎn)評(píng)

     
    [2分鐘擁有VIP權(quán)限和充足威望,可下載站內(nèi)任何資料] [快速找到一份高薪的通信行業(yè)職位]
    xiaoduwudi
    初級(jí)會(huì)員
    鎵嬫満鍙風(fēng)爜宸查獙璇? style=


     發(fā)短消息    關(guān)注Ta 

    積分 365
    帖子 73
    威望 282 個(gè)
    禮品券 8 個(gè)
    專家指數(shù) 0
    注冊(cè) 2014-2-26
    專業(yè)方向  移動(dòng)通信
    回答問(wèn)題數(shù) 0
    回答被采納數(shù) 0
    回答采納率 0%
     
    發(fā)表于 2019-03-21 14:23:06 


    QUOTE:
    原帖由 huming000 于 2019-3-8 20:06:14 發(fā)表
    探討的場(chǎng)景:1、數(shù)據(jù)源:取出大量指標(biāo)或其他需要計(jì)算統(tǒng)計(jì)的原始數(shù)據(jù)文件(txt、csv等類型),幾十或幾百個(gè)甚至更多,當(dāng)前這個(gè)例子為小時(shí)級(jí)的小區(qū)指標(biāo)文件;2、存在的問(wèn)題,很難再短時(shí)間內(nèi)對(duì)大量的數(shù)據(jù)計(jì)算出需要 ...

    利用新起的編程語(yǔ)言,厲害!

    對(duì)本帖內(nèi)容的看法? 我要點(diǎn)評(píng)

     
    [2分鐘擁有VIP權(quán)限和充足威望,可下載站內(nèi)任何資料] [快速找到一份高薪的通信行業(yè)職位]
    相思雨312
    初級(jí)會(huì)員
    鎵嬫満鍙風(fēng)爜宸查獙璇? style=


     發(fā)短消息    關(guān)注Ta 

    積分 325
    帖子 65
    威望 73889 個(gè)
    禮品券 0 個(gè)
    專家指數(shù) 0
    注冊(cè) 2014-7-10
    專業(yè)方向  通信
    回答問(wèn)題數(shù) 0
    回答被采納數(shù) 0
    回答采納率 0%
     
    發(fā)表于 2019-04-22 17:35:14 


    QUOTE:
    原帖由 huming000 于 2019-3-8 20:06:14 發(fā)表
    探討的場(chǎng)景:1、數(shù)據(jù)源:取出大量指標(biāo)或其他需要計(jì)算統(tǒng)計(jì)的原始數(shù)據(jù)文件(txt、csv等類型),幾十或幾百個(gè)甚至更多,當(dāng)前這個(gè)例子為小時(shí)級(jí)的小區(qū)指標(biāo)文件;2、存在的問(wèn)題,很難再短時(shí)間內(nèi)對(duì)大量的數(shù)據(jù)計(jì)算出需要 ...

     厲害,學(xué)習(xí)一下

    對(duì)本帖內(nèi)容的看法? 我要點(diǎn)評(píng)

     
    熱點(diǎn): 通信招聘職位 | 網(wǎng)絡(luò)優(yōu)化全集 | WCDMA精品 | TD-SCDMA學(xué)習(xí)資料 | EVDO | MGW媒體網(wǎng)關(guān)資料
    憤怒的菊花
    高級(jí)會(huì)員
    鎵嬫満鍙風(fēng)爜宸查獙璇? style=


     發(fā)短消息    關(guān)注Ta 

    積分 1255
    帖子 238
    威望 66693 個(gè)
    禮品券 0 個(gè)
    專家指數(shù) -36
    注冊(cè) 2007-7-23
    專業(yè)方向  11
    回答問(wèn)題數(shù) 0
    回答被采納數(shù) 0
    回答采納率 0%
     
    發(fā)表于 2021-04-23 10:16:00 


    QUOTE:
    原帖由 huming000 于 2019-3-8 20:06:14 發(fā)表
    探討的場(chǎng)景:1、數(shù)據(jù)源:取出大量指標(biāo)或其他需要計(jì)算統(tǒng)計(jì)的原始數(shù)據(jù)文件(txt、csv等類型),幾十或幾百個(gè)甚至更多,當(dāng)前這個(gè)例子為小時(shí)級(jí)的小區(qū)指標(biāo)文件;2、存在的問(wèn)題,很難再短時(shí)間內(nèi)對(duì)大量的數(shù)據(jù)計(jì)算出需要 ...

    牛人啊,這玩應(yīng)也能整出來(lái);

    對(duì)本帖內(nèi)容的看法? 我要點(diǎn)評(píng)

     
    熱點(diǎn): 通信招聘職位 | 網(wǎng)絡(luò)優(yōu)化全集 | WCDMA精品 | TD-SCDMA學(xué)習(xí)資料 | EVDO | MGW媒體網(wǎng)關(guān)資料

    快速回復(fù)主題    
    標(biāo)題
    內(nèi)容
     上傳資料請(qǐng)點(diǎn)左側(cè)【添加附件】

    (勾選中文件為要?jiǎng)h除文件)


    當(dāng)前時(shí)區(qū) GMT+8, 現(xiàn)在時(shí)間是 2025-01-22 16:54:26
    渝ICP備11001752號(hào)  Copyright @ 2006-2016 mscbsc.com  本站統(tǒng)一服務(wù)郵箱:mscbsc@163.com

    Processed in 0.997621 second(s), 50 queries , Gzip enabled
    TOP
    清除 Cookies - 聯(lián)系我們 - 移動(dòng)通信網(wǎng) - 移動(dòng)通信論壇 - 通信招聘網(wǎng) - Archiver