利用Python進行數(shù)據(jù)分析(10)-移動窗口函數(shù)

Python-for-data-移動窗口函數(shù)

成都創(chuàng)新互聯(lián)為客戶提供專業(yè)的網(wǎng)站制作、成都網(wǎng)站建設、程序、域名、空間一條龍服務，提供基于WEB的系統(tǒng)開發(fā). 服務項目涵蓋了網(wǎng)頁設計、網(wǎng)站程序開發(fā)、WEB系統(tǒng)開發(fā)、微信二次開發(fā)、移動網(wǎng)站建設等網(wǎng)站方面業(yè)務。

本文中介紹的是 ，主要的算子是：

統(tǒng)計和通過其他移動窗口或者指數(shù)衰減而運行的函數(shù)，稱之為 移動窗口函數(shù)

style scoped="".dataframe tbody tr th:only-of-type { vertical-align: middle; } precode.dataframe tbody tr th { vertical-align: top; } .dataframe thead th { text-align: right; } /code/pre/style

2292 rows × 3 columns

rolling算子，行為和resample和groupby類似

rolling可以在S或者DF上通過一個window進行調(diào)用

style scoped="".dataframe tbody tr th:only-of-type { vertical-align: middle; } precode.dataframe tbody tr th { vertical-align: top; } .dataframe thead th { text-align: right; } /code/pre/style

2292 rows × 3 columns

指定一個常數(shù)衰減因子為觀測值提供更多的權(quán)重。常用指定衰減因子的方法：使用span（跨度）

一些統(tǒng)計算子，例如相關(guān)度和協(xié)方差等需要同時操作兩個時間序列。

例如，金融分析中的股票和基準指數(shù)的關(guān)聯(lián)性問題：計算時間序列的百分比變化pct_change()

style scoped="".dataframe tbody tr th:only-of-type { vertical-align: middle; } precode.dataframe tbody tr th { vertical-align: top; } .dataframe thead th { text-align: right; } /code/pre/style

在rolling及其相關(guān)方法上使用apply方法提供了一種在移動窗口中應用自己設計的數(shù)組函數(shù)的方法。

唯一要求：該函數(shù)從每個數(shù)組中產(chǎn)生一個單值(縮聚)，例如使用rolling()...quantile(q)計算樣本的中位數(shù)

Python通過裝飾器并使用cprofile對函數(shù)進行性能分析

Python中提供了很多接口方便我們能夠靈活進行性能分析，包括cProfile模塊中的Profile類和pstat模塊中的Stats類。

--cprofile是一種確定性分析器，只測量CPU時間，并不關(guān)心內(nèi)存的消耗情況和其他與內(nèi)存相關(guān)聯(lián)的信息

--它是基于Isprof的用C語言實現(xiàn)的擴展應用，運行開銷比較合理，適合分析運行時間較長的程序

--enable(): 開始進行性能分析并收集數(shù)據(jù)

--disableI(): 停止性能分析

--create_stats(): 停止收集數(shù)據(jù)，并為已經(jīng)收集的數(shù)據(jù)創(chuàng)建stats對象

--print_stats():創(chuàng)建stats對象并打印分析結(jié)果

--dump_stats(filename): 把當前性能分析的內(nèi)容寫入文件filename中

--runcall(func, *args, **kwargs): 收集被調(diào)用函數(shù)func的性能分析信息

--用來分析cProfile輸出的文件內(nèi)容

--pstas模塊為開發(fā)者提供了Stats類，可以讀取和操作stats文件

（Stats類可以接受stats文件名，也可以直接接受cProfile.Profile對象作為數(shù)據(jù)源。）

--strip_dirs(): 刪除報告中所有函數(shù)文件名的路徑信息

--dump_stats(filename): 把stats中的分析數(shù)據(jù)寫入文件（也可以寫成cProfile.Profile.dump_stats()）

--sort_stats(*keys): 對報告列表進行排序，函數(shù)會一次按照傳入的參數(shù)排序

--reverse_order(): 逆反當前的排序

--print_stats(*restrictions): 把信息打印到標準輸出。*restrictions用于控制打印結(jié)果的形式，比如（10,1.0，".*.py.*")表示打印所有py文件的信息的前10行結(jié)果

--第一行表示運行這個函數(shù)一共使用0.043秒，執(zhí)行了845次函數(shù)調(diào)用

--第二行表示結(jié)果是按什么順序排列的（這里表示按照調(diào)用次數(shù)來進行排列的）

--ncalls: 表示函數(shù)調(diào)用的次數(shù)（有兩個數(shù)值表示有遞歸調(diào)用，總調(diào)用次數(shù)/原生調(diào)用次數(shù)）

--tottime: 函數(shù)內(nèi)部調(diào)用時間（不包括他自己調(diào)用的其他函數(shù)時間）

--percall: tottime/ncalls

--cumtime: 表示累計調(diào)用時間（函數(shù)執(zhí)行玩的總時間），它包含了函數(shù)自己內(nèi)部調(diào)用的函數(shù)時間

--filename:lineno(function): 函數(shù)所在的文件，行號，函數(shù)名稱

上面的函數(shù)do_cProfile(do=False, order='tottime')是一個帶參數(shù)的裝飾器，通過do的值來進行性能分析的開關(guān)控制，通過order的值來選擇輸出結(jié)果按照什么方式進行排序。

比如我們對函數(shù)A和函數(shù)B進行性能分析

如果不給裝飾器傳入?yún)?shù)的話就是默認的False和tottime

python數(shù)據(jù)統(tǒng)計分析

1. 常用函數(shù)庫

? scipy包中的stats模塊和statsmodels包是python常用的數(shù)據(jù)分析工具，scipy.stats以前有一個models子模塊，后來被移除了。這個模塊被重寫并成為了現(xiàn)在獨立的statsmodels包。

?scipy的stats包含一些比較基本的工具，比如：t檢驗，正態(tài)性檢驗，卡方檢驗之類，statsmodels提供了更為系統(tǒng)的統(tǒng)計模型，包括線性模型，時序分析，還包含數(shù)據(jù)集，做圖工具等等。

2. 小樣本數(shù)據(jù)的正態(tài)性檢驗

(1) 用途

?夏皮羅維爾克檢驗法 (Shapiro-Wilk) 用于檢驗參數(shù)提供的一組小樣本數(shù)據(jù)線是否符合正態(tài)分布，統(tǒng)計量越大則表示數(shù)據(jù)越符合正態(tài)分布，但是在非正態(tài)分布的小樣本數(shù)據(jù)中也經(jīng)常會出現(xiàn)較大的W值。需要查表來估計其概率。由于原假設是其符合正態(tài)分布，所以當P值小于指定顯著水平時表示其不符合正態(tài)分布。

?正態(tài)性檢驗是數(shù)據(jù)分析的第一步，數(shù)據(jù)是否符合正態(tài)性決定了后續(xù)使用不同的分析和預測方法，當數(shù)據(jù)不符合正態(tài)性分布時，我們可以通過不同的轉(zhuǎn)換方法把非正太態(tài)數(shù)據(jù)轉(zhuǎn)換成正態(tài)分布后再使用相應的統(tǒng)計方法進行下一步操作。

(2) 示例

(3) 結(jié)果分析

?返回結(jié)果 p-value=0.029035290703177452，比指定的顯著水平（一般為5%）小，則拒絕假設：x不服從正態(tài)分布。

3. 檢驗樣本是否服務某一分布

(1) 用途

?科爾莫戈羅夫檢驗(Kolmogorov-Smirnov test)，檢驗樣本數(shù)據(jù)是否服從某一分布，僅適用于連續(xù)分布的檢驗。下例中用它檢驗正態(tài)分布。

(2) 示例

(3) 結(jié)果分析

?生成300個服從N(0,1)標準正態(tài)分布的隨機數(shù)，在使用k-s檢驗該數(shù)據(jù)是否服從正態(tài)分布，提出假設：x從正態(tài)分布。最終返回的結(jié)果，p-value=0.9260909172362317，比指定的顯著水平（一般為5%）大，則我們不能拒絕假設：x服從正態(tài)分布。這并不是說x服從正態(tài)分布一定是正確的，而是說沒有充分的證據(jù)證明x不服從正態(tài)分布。因此我們的假設被接受，認為x服從正態(tài)分布。如果p-value小于我們指定的顯著性水平，則我們可以肯定地拒絕提出的假設，認為x肯定不服從正態(tài)分布，這個拒絕是絕對正確的。

4.方差齊性檢驗

(1) 用途

?方差反映了一組數(shù)據(jù)與其平均值的偏離程度，方差齊性檢驗用以檢驗兩組或多組數(shù)據(jù)與其平均值偏離程度是否存在差異，也是很多檢驗和算法的先決條件。

(2) 示例

(3) 結(jié)果分析

?返回結(jié)果 p-value=0.19337536323599344, 比指定的顯著水平（假設為5%）大，認為兩組數(shù)據(jù)具有方差齊性。

5. 圖形描述相關(guān)性

(1) 用途

?最常用的兩變量相關(guān)性分析，是用作圖描述相關(guān)性，圖的橫軸是一個變量，縱軸是另一變量，畫散點圖，從圖中可以直觀地看到相關(guān)性的方向和強弱，線性正相關(guān)一般形成由左下到右上的圖形；負面相關(guān)則是從左上到右下的圖形，還有一些非線性相關(guān)也能從圖中觀察到。

(2) 示例

(3) 結(jié)果分析

?從圖中可以看到明顯的正相關(guān)趨勢。

6. 正態(tài)資料的相關(guān)分析

(1) 用途

?皮爾森相關(guān)系數(shù)（Pearson correlation coefficient）是反應兩變量之間線性相關(guān)程度的統(tǒng)計量，用它來分析正態(tài)分布的兩個連續(xù)型變量之間的相關(guān)性。常用于分析自變量之間，以及自變量和因變量之間的相關(guān)性。

(2) 示例

(3) 結(jié)果分析

?返回結(jié)果的第一個值為相關(guān)系數(shù)表示線性相關(guān)程度，其取值范圍在[-1,1]，絕對值越接近1，說明兩個變量的相關(guān)性越強，絕對值越接近0說明兩個變量的相關(guān)性越差。當兩個變量完全不相關(guān)時相關(guān)系數(shù)為0。第二個值為p-value，統(tǒng)計學上，一般當p-value0.05時，可以認為兩變量存在相關(guān)性。

7. 非正態(tài)資料的相關(guān)分析

(1) 用途

?斯皮爾曼等級相關(guān)系數(shù)(Spearman’s correlation coefficient for ranked data )，它主要用于評價順序變量間的線性相關(guān)關(guān)系，在計算過程中，只考慮變量值的順序（rank, 值或稱等級），而不考慮變量值的大小。常用于計算類型變量的相關(guān)性。

(2) 示例

(3) 結(jié)果分析

?返回結(jié)果的第一個值為相關(guān)系數(shù)表示線性相關(guān)程度，本例中correlation趨近于1表示正相關(guān)。第二個值為p-value，p-value越小，表示相關(guān)程度越顯著。

8. 單樣本T檢驗

(1) 用途

?單樣本T檢驗，用于檢驗數(shù)據(jù)是否來自一致均值的總體，T檢驗主要是以均值為核心的檢驗。注意以下幾種T檢驗都是雙側(cè)T檢驗。

(2) 示例

(3) 結(jié)果分析

?本例中生成了2列100行的數(shù)組，ttest_1samp的第二個參數(shù)是分別對兩列估計的均值，p-value返回結(jié)果，第一列1.47820719e-06比指定的顯著水平（一般為5%）小，認為差異顯著，拒絕假設；第二列2.83088106e-01大于指定顯著水平，不能拒絕假設：服從正態(tài)分布。

9. 兩獨立樣本T檢驗

(1) 用途

?由于比較兩組數(shù)據(jù)是否來自于同一正態(tài)分布的總體。注意：如果要比較的兩組數(shù)據(jù)不滿足方差齊性， 需要在ttest_ind()函數(shù)中添加參數(shù)equal_var = False。

(2) 示例

(3) 結(jié)果分析

?返回結(jié)果的第一個值為統(tǒng)計量，第二個值為p-value，pvalue=0.19313343989106416，比指定的顯著水平（一般為5%）大，不能拒絕假設，兩組數(shù)據(jù)來自于同一總結(jié)，兩組數(shù)據(jù)之間無差異。

10. 配對樣本T檢驗

(1) 用途

?配對樣本T檢驗可視為單樣本T檢驗的擴展，檢驗的對象由一群來自正態(tài)分布獨立樣本更改為二群配對樣本觀測值之差。它常用于比較同一受試對象處理的前后差異，或者按照某一條件進行兩兩配對分別給與不同處理的受試對象之間是否存在差異。

(2) 示例

(3) 結(jié)果分析

?返回結(jié)果的第一個值為統(tǒng)計量，第二個值為p-value，pvalue=0.80964043445811551，比指定的顯著水平（一般為5%）大，不能拒絕假設。

11. 單因素方差分析

(1) 用途

?方差分析(Analysis of Variance，簡稱ANOVA)，又稱F檢驗，用于兩個及兩個以上樣本均數(shù)差別的顯著性檢驗。方差分析主要是考慮各組之間的平均數(shù)差別。

?單因素方差分析（One-wayAnova），是檢驗由單一因素影響的多組樣本某因變量的均值是否有顯著差異。

?當因變量Y是數(shù)值型，自變量X是分類值，通常的做法是按X的類別把實例成分幾組，分析Y值在X的不同分組中是否存在差異。

(2) 示例

(3) 結(jié)果分析

?返回結(jié)果的第一個值為統(tǒng)計量，它由組間差異除以組間差異得到，上例中組間差異很大，第二個返回值p-value=6.2231520821576832e-19小于邊界值（一般為0.05）,拒絕原假設, 即認為以上三組數(shù)據(jù)存在統(tǒng)計學差異，并不能判斷是哪兩組之間存在差異 。只有兩組數(shù)據(jù)時，效果同 stats.levene 一樣。

12. 多因素方差分析

(1) 用途

?當有兩個或者兩個以上自變量對因變量產(chǎn)生影響時，可以用多因素方差分析的方法來進行分析。它不僅要考慮每個因素的主效應，還要考慮因素之間的交互效應。

(2) 示例

(3) 結(jié)果分析

?上述程序定義了公式，公式中，"~"用于隔離因變量和自變量，”+“用于分隔各個自變量， ":"表示兩個自變量交互影響。從返回結(jié)果的P值可以看出，X1和X2的值組間差異不大，而組合后的T:G的組間有明顯差異。

13. 卡方檢驗

(1) 用途

?上面介紹的T檢驗是參數(shù)檢驗，卡方檢驗是一種非參數(shù)檢驗方法。相對來說，非參數(shù)檢驗對數(shù)據(jù)分布的要求比較寬松，并且也不要求太大數(shù)據(jù)量。卡方檢驗是一種對計數(shù)資料的假設檢驗方法，主要是比較理論頻數(shù)和實際頻數(shù)的吻合程度。常用于特征選擇，比如，檢驗男人和女人在是否患有高血壓上有無區(qū)別，如果有區(qū)別，則說明性別與是否患有高血壓有關(guān)，在后續(xù)分析時就需要把性別這個分類變量放入模型訓練。

?基本數(shù)據(jù)有R行C列, 故通稱RC列聯(lián)表(contingency table), 簡稱RC表，它是觀測數(shù)據(jù)按兩個或更多屬性（定性變量）分類時所列出的頻數(shù)表。

(2) 示例

(3) 結(jié)果分析

?卡方檢驗函數(shù)的參數(shù)是列聯(lián)表中的頻數(shù)，返回結(jié)果第一個值為統(tǒng)計量值，第二個結(jié)果為p-value值，p-value=0.54543425102570975，比指定的顯著水平（一般5%）大，不能拒絕原假設，即相關(guān)性不顯著。第三個結(jié)果是自由度，第四個結(jié)果的數(shù)組是列聯(lián)表的期望值分布。

14. 單變量統(tǒng)計分析

(1) 用途

?單變量統(tǒng)計描述是數(shù)據(jù)分析中最簡單的形式，其中被分析的數(shù)據(jù)只包含一個變量，不處理原因或關(guān)系。單變量分析的主要目的是通過對數(shù)據(jù)的統(tǒng)計描述了解當前數(shù)據(jù)的基本情況，并找出數(shù)據(jù)的分布模型。

?單變量數(shù)據(jù)統(tǒng)計描述從集中趨勢上看，指標有：均值，中位數(shù)，分位數(shù)，眾數(shù)；從離散程度上看，指標有：極差、四分位數(shù)、方差、標準差、協(xié)方差、變異系數(shù)，從分布上看，有偏度，峰度等。需要考慮的還有極大值，極小值（數(shù)值型變量）和頻數(shù)，構(gòu)成比（分類或等級變量）。

?此外，還可以用統(tǒng)計圖直觀展示數(shù)據(jù)分布特征，如：柱狀圖、正方圖、箱式圖、頻率多邊形和餅狀圖。

15. 多元線性回歸

(1) 用途

?多元線性回歸模型（multivariable linear regression model ），因變量Y（計量資料）往往受到多個變量X的影響，多元線性回歸模型用于計算各個自變量對因變量的影響程度，可以認為是對多維空間中的點做線性擬合。

(2) 示例

(3) 結(jié)果分析

?直接通過返回結(jié)果中各變量的P值與0.05比較，來判定對應的解釋變量的顯著性，P0.05則認為自變量具有統(tǒng)計學意義，從上例中可以看到收入INCOME最有顯著性。

16. 邏輯回歸

(1) 用途

?當因變量Y為2分類變量（或多分類變量時）可以用相應的logistic回歸分析各個自變量對因變量的影響程度。

(2) 示例

(3) 結(jié)果分析

?直接通過返回結(jié)果中各變量的P值與0.05比較，來判定對應的解釋變量的顯著性，P0.05則認為自變量具有統(tǒng)計學意義。

網(wǎng)站欄目：python分析函數(shù) python數(shù)據(jù)處理分析的具體應用
轉(zhuǎn)載來于：http://chinadenli.net/article40/doghjho.html

成都網(wǎng)站建設公司_創(chuàng)新互聯(lián)，為您提供手機網(wǎng)站建設、網(wǎng)站設計、App開發(fā)、營銷型網(wǎng)站建設、企業(yè)建站、App設計

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)