怎樣用 Python 進(jìn)行數(shù)據(jù)分析？

做數(shù)據(jù)分析，首先你要知道有哪些數(shù)據(jù)分析的方法，然后才是用Python去調(diào)用這些方法

10年積累的成都網(wǎng)站設(shè)計(jì)、成都做網(wǎng)站經(jīng)驗(yàn)，可以快速應(yīng)對(duì)客戶對(duì)網(wǎng)站的新想法和需求。提供各種問題對(duì)應(yīng)的解決方案。讓選擇我們的客戶得到更好、更有力的網(wǎng)絡(luò)服務(wù)。我雖然不認(rèn)識(shí)你，你也不認(rèn)識(shí)我。但先建設(shè)網(wǎng)站后付款的網(wǎng)站建設(shè)流程，更有裕安免費(fèi)網(wǎng)站建設(shè)讓你可以放心的選擇與我們合作。

那Python有哪些庫(kù)類是能做數(shù)據(jù)分析的，很多，pandas，sklearn等等

所以你首先要裝一個(gè)anaconda套件，它包含了幾乎所有的Python數(shù)據(jù)分析工具，

之后再學(xué)怎么分析。

python可以做哪些數(shù)據(jù)分析

1、檢查數(shù)據(jù)表

Python中使用shape函數(shù)來查看數(shù)據(jù)表的維度，也就是行數(shù)和列數(shù)。你可以使用info函數(shù)查看數(shù)據(jù)表的整體信息，使用dtypes函數(shù)來返回?cái)?shù)據(jù)格式。Isnull是Python中檢驗(yàn)空值的函數(shù)，你可以對(duì)整個(gè)數(shù)據(jù)表進(jìn)行檢查，也可以單獨(dú)對(duì)某一列進(jìn)行空值檢查，返回的結(jié)果是邏輯值，包含空值返回True，不包含則返回False。使用unique函數(shù)查看唯一值，使用Values函數(shù)用來查看數(shù)據(jù)表中的數(shù)值。

2、數(shù)據(jù)表清洗

Python中處理空值的方法比較靈活，可以使用Dropna函數(shù)用來刪除數(shù)據(jù)表中包含空值的數(shù)據(jù)，也可以使用fillna函數(shù)對(duì)空值進(jìn)行填充。Python中dtype是查看數(shù)據(jù)格式的函數(shù)，與之對(duì)應(yīng)的是astype函數(shù)，用來更改數(shù)據(jù)格式，Rename是更改列名稱的函數(shù)，drop_duplicates函數(shù)刪除重復(fù)值，replace函數(shù)實(shí)現(xiàn)數(shù)據(jù)替換。

3、數(shù)據(jù)預(yù)處理

數(shù)據(jù)預(yù)處理是對(duì)清洗完的數(shù)據(jù)進(jìn)行整理以便后期的統(tǒng)計(jì)和分析工作，主要包括數(shù)據(jù)表的合并、排序、數(shù)值分列、數(shù)據(jù)分組及標(biāo)記等工作。在Python中可以使用merge函數(shù)對(duì)兩個(gè)數(shù)據(jù)表進(jìn)行合并，合并的方式為inner，此外還有l(wèi)eft、right和outer方式。使用ort_values函數(shù)和sort_index函數(shù)完成排序，使用where函數(shù)完成數(shù)據(jù)分組，使用split函數(shù)實(shí)現(xiàn)分列。

4、數(shù)據(jù)提取

主要是使用三個(gè)函數(shù)：loc、iloc和ix，其中l(wèi)oc函數(shù)按標(biāo)簽值進(jìn)行提取，iloc按位置進(jìn)行提取，ix可以同時(shí)按標(biāo)簽和位置進(jìn)行提取。除了按標(biāo)簽和位置提起數(shù)據(jù)以外，還可以按具體的條件進(jìn)行數(shù)據(jù)，比如使用loc和isin兩個(gè)函數(shù)配合使用，按指定條件對(duì)數(shù)據(jù)進(jìn)行提取。

5、數(shù)據(jù)篩選匯總

Python中使用loc函數(shù)配合篩選條件來完成篩選功能，配合sum和 count函數(shù)還能實(shí)現(xiàn)excel中sumif和countif函數(shù)的功能。Python中使用的主要函數(shù)是groupby和pivot_table。groupby是進(jìn)行分類匯總的函數(shù)，使用方法很簡(jiǎn)單，制定要分組的列名稱就可以，也可以同時(shí)制定多個(gè)列名稱，groupby 按列名稱出現(xiàn)的順序進(jìn)行分組。

如何用python進(jìn)行數(shù)據(jù)分析

1、Python數(shù)據(jù)分析流程及學(xué)習(xí)路徑

數(shù)據(jù)分析的流程概括起來主要是：讀寫、處理計(jì)算、分析建模和可視化四個(gè)部分。在不同的步驟中會(huì)用到不同的Python工具。每一步的主題也包含眾多內(nèi)容。

根據(jù)每個(gè)部分需要用到的工具，Python數(shù)據(jù)分析的學(xué)習(xí)路徑如下：

相關(guān)推薦：《Python入門教程》

2、利用Python讀寫數(shù)據(jù)

Python讀寫數(shù)據(jù)，主要包括以下內(nèi)容：

我們以一小段代碼來看：

可見，僅需簡(jiǎn)短的兩三行代碼即可實(shí)現(xiàn)Python讀入EXCEL文件。

3、利用Python處理和計(jì)算數(shù)據(jù)

在第一步和第二步，我們主要使用的是Python的工具庫(kù)NumPy和pandas。其中，NumPy主要用于矢量化的科學(xué)計(jì)算，pandas主要用于表型數(shù)據(jù)處理。

4、利用Python分析建模

在分析和建模方面，主要包括Statsmdels和Scikit-learn兩個(gè)庫(kù)。

Statsmodels允許用戶瀏覽數(shù)據(jù)，估計(jì)統(tǒng)計(jì)模型和執(zhí)行統(tǒng)計(jì)測(cè)試?？梢詾椴煌愋偷臄?shù)據(jù)和每個(gè)估算器提供廣泛的描述性統(tǒng)計(jì)，統(tǒng)計(jì)測(cè)試，繪圖函數(shù)和結(jié)果統(tǒng)計(jì)列表。

Scikit-leran則是著名的機(jī)器學(xué)習(xí)庫(kù)，可以迅速使用各類機(jī)器學(xué)習(xí)算法。

5、利用Python數(shù)據(jù)可視化

數(shù)據(jù)可視化是數(shù)據(jù)工作中的一項(xiàng)重要內(nèi)容，它可以輔助分析也可以展示結(jié)果。

可以讓你快速用Python進(jìn)行數(shù)據(jù)分析的10個(gè)小技巧

一些小提示和小技巧可能是非常有用的，特別是在編程領(lǐng)域。有時(shí)候使用一點(diǎn)點(diǎn)黑客技術(shù)，既可以節(jié)省時(shí)間，還可能挽救“生命”。

一個(gè)小小的快捷方式或附加組件有時(shí)真是天賜之物，并且可以成為真正的生產(chǎn)力助推器。所以，這里有一些小提示和小技巧，有些可能是新的，但我相信在下一個(gè)數(shù)據(jù)分析項(xiàng)目中會(huì)讓你非常方便。

Pandas中數(shù)據(jù)框數(shù)據(jù)的Profiling過程

Profiling（分析器）是一個(gè)幫助我們理解數(shù)據(jù)的過程，而Pandas Profiling是一個(gè)Python包，它可以簡(jiǎn)單快速地對(duì)Pandas 的數(shù)據(jù)框數(shù)據(jù)進(jìn)行 探索 性數(shù)據(jù)分析。

Pandas中df.describe()和df.info()函數(shù)可以實(shí)現(xiàn)EDA過程第一步。但是，它們只提供了對(duì)數(shù)據(jù)非?；镜母攀?，對(duì)于大型數(shù)據(jù)集沒有太大幫助。 而Pandas中的Profiling功能簡(jiǎn)單通過一行代碼就能顯示大量信息，且在交互式HTML報(bào)告中也是如此。

對(duì)于給定的數(shù)據(jù)集，Pandas中的profiling包計(jì)算了以下統(tǒng)計(jì)信息：

由Pandas Profiling包計(jì)算出的統(tǒng)計(jì)信息包括直方圖、眾數(shù)、相關(guān)系數(shù)、分位數(shù)、描述統(tǒng)計(jì)量、其他信息——類型、單一變量值、缺失值等。

安裝

用pip安裝或者用conda安裝

pip install pandas-profiling

conda install -c anaconda pandas-profiling

用法

下面代碼是用很久以前的泰坦尼克數(shù)據(jù)集來演示多功能Python分析器的結(jié)果。

#importing the necessary packages

import pandas as pd

import pandas_profiling

df = pd.read_csv('titanic/train.csv')

pandas_profiling.ProfileReport(df)

一行代碼就能實(shí)現(xiàn)在Jupyter Notebook中顯示完整的數(shù)據(jù)分析報(bào)告，該報(bào)告非常詳細(xì)，且包含了必要的圖表信息。

還可以使用以下代碼將報(bào)告導(dǎo)出到交互式HTML文件中。

profile = pandas_profiling.ProfileReport(df)

profile.to_file(outputfile="Titanic data profiling.html")

Pandas實(shí)現(xiàn)交互式作圖

Pandas有一個(gè)內(nèi)置的.plot（）函數(shù)作為DataFrame類的一部分。但是，使用此功能呈現(xiàn)的可視化不是交互式的，這使得它沒那么吸引人。同樣，使用pandas.DataFrame.plot（）函數(shù)繪制圖表也不能實(shí)現(xiàn)交互。 如果我們需要在不對(duì)代碼進(jìn)行重大修改的情況下用Pandas繪制交互式圖表怎么辦呢？這個(gè)時(shí)候就可以用Cufflinks庫(kù)來實(shí)現(xiàn)。

Cufflinks庫(kù)可以將有強(qiáng)大功能的plotly和擁有靈活性的pandas結(jié)合在一起，非常便于繪圖。下面就來看在pandas中如何安裝和使用Cufflinks庫(kù)。

安裝

pip install plotly

# Plotly is a pre-requisite before installing cufflinks

pip install cufflinks

用法

#importing Pandas

import pandas as pd

#importing plotly and cufflinks in offline mode

import cufflinks as cf

import plotly.offline

cf.go_offline()

cf.set_config_file(offline=False, world_readable=True)

是時(shí)候展示泰坦尼克號(hào)數(shù)據(jù)集的魔力了。

df.iplot()

df.iplot() vs df.plot()

右側(cè)的可視化顯示了靜態(tài)圖表，而左側(cè)圖表是交互式的，更詳細(xì)，并且所有這些在語(yǔ)法上都沒有任何重大更改。

Magic命令

Magic命令是Jupyter notebook中的一組便捷功能，旨在解決標(biāo)準(zhǔn)數(shù)據(jù)分析中的一些常見問題。使用命令％lsmagic可以看到所有的可用命令。

所有可用的Magic命令列表

Magic命令有兩種：行magic命令（line magics），以單個(gè)％字符為前綴，在單行輸入操作；單元magic命令（cell magics），以雙%%字符為前綴，可以在多行輸入操作。如果設(shè)置為1，則不用鍵入%即可調(diào)用Magic函數(shù)。

接下來看一些在常見數(shù)據(jù)分析任務(wù)中可能用到的命令：

% pastebin

％pastebin將代碼上傳到Pastebin并返回url。Pastebin是一個(gè)在線內(nèi)容托管服務(wù)，可以存儲(chǔ)純文本，如源代碼片段，然后通過url可以與其他人共享。事實(shí)上，Github gist也類似于pastebin，只是有版本控制。

在file.py文件中寫一個(gè)包含以下內(nèi)容的python腳本，并試著運(yùn)行看看結(jié)果。

#file.py

def foo(x):

return x

在Jupyter Notebook中使用％pastebin生成一個(gè)pastebin url。

%matplotlib notebook

函數(shù)用于在Jupyter notebook中呈現(xiàn)靜態(tài)matplotlib圖。用notebook替換inline，可以輕松獲得可縮放和可調(diào)整大小的繪圖。但記得這個(gè)函數(shù)要在導(dǎo)入matplotlib庫(kù)之前調(diào)用。

%run

用％run函數(shù)在notebook中運(yùn)行一個(gè)python腳本試試。

%run file.py

%%writefile

%% writefile是將單元格內(nèi)容寫入文件中。以下代碼將腳本寫入名為foo.py的文件并保存在當(dāng)前目錄中。

%%latex

%%latex函數(shù)將單元格內(nèi)容以LaTeX形式呈現(xiàn)。此函數(shù)對(duì)于在單元格中編寫數(shù)學(xué)公式和方程很有用。

查找并解決錯(cuò)誤

交互式調(diào)試器也是一個(gè)神奇的功能，我把它單獨(dú)定義了一類。如果在運(yùn)行代碼單元時(shí)出現(xiàn)異常，請(qǐng)?jiān)谛滦兄墟I入％debug并運(yùn)行它。 這將打開一個(gè)交互式調(diào)試環(huán)境，它能直接定位到發(fā)生異常的位置。還可以檢查程序中分配的變量值，并在此處執(zhí)行操作。退出調(diào)試器單擊q即可。

Printing也有小技巧

如果您想生成美觀的數(shù)據(jù)結(jié)構(gòu)，pprint是首選。它在打印字典數(shù)據(jù)或JSON數(shù)據(jù)時(shí)特別有用。接下來看一個(gè)使用print和pprint來顯示輸出的示例。

讓你的筆記脫穎而出

我們可以在您的Jupyter notebook中使用警示框/注釋框來突出顯示重要內(nèi)容或其他需要突出的內(nèi)容。注釋的顏色取決于指定的警報(bào)類型。只需在需要突出顯示的單元格中添加以下任一代碼或所有代碼即可。

藍(lán)色警示框：信息提示

p class="alert alert-block alert-info"

bTip:/b Use blue boxes (alert-info) for tips and notes.

If it’s a note, you don’t have to include the word “Note”.

/p

黃色警示框：警告

p class="alert alert-block alert-warning"

bExample:/b Yellow Boxes are generally used to include additional examples or mathematical formulas.

/p

綠色警示框：成功

p class="alert alert-block alert-success"

Use green box only when necessary like to display links to related content.

/p

紅色警示框：高危

p class="alert alert-block alert-danger"

It is good to avoid red boxes but can be used to alert users to not delete some important part of code etc.

/p

打印單元格所有代碼的輸出結(jié)果

假如有一個(gè)Jupyter Notebook的單元格，其中包含以下代碼行：

In [1]: 10+5

11+6

Out [1]: 17

單元格的正常屬性是只打印最后一個(gè)輸出，而對(duì)于其他輸出，我們需要添加print()函數(shù)。然而通過在notebook頂部添加以下代碼段可以一次打印所有輸出。

添加代碼后所有的輸出結(jié)果就會(huì)一個(gè)接一個(gè)地打印出來。

In [1]: 10+5

11+6

12+7

Out [1]: 15

Out [1]: 17

Out [1]: 19

恢復(fù)原始設(shè)置：

InteractiveShell.ast_node_interactivity = "last_expr"

使用'i'選項(xiàng)運(yùn)行python腳本

從命令行運(yùn)行python腳本的典型方法是：python hello.py。但是，如果在運(yùn)行相同的腳本時(shí)添加-i，例如python -i hello.py，就能提供更多優(yōu)勢(shì)。接下來看看結(jié)果如何。

首先，即使程序結(jié)束，python也不會(huì)退出解釋器。因此，我們可以檢查變量的值和程序中定義的函數(shù)的正確性。

其次，我們可以輕松地調(diào)用python調(diào)試器，因?yàn)槲覀內(nèi)匀辉诮忉屍髦校?/p>

import pdb

pdb.pm()

這能定位異常發(fā)生的位置，然后我們可以處理異常代碼。

自動(dòng)評(píng)論代碼

Ctrl / Cmd + /自動(dòng)注釋單元格中的選定行，再次命中組合將取消注釋相同的代碼行。

刪除容易恢復(fù)難

你有沒有意外刪除過Jupyter notebook中的單元格？如果答案是肯定的，那么可以掌握這個(gè)撤消刪除操作的快捷方式。

如果您刪除了單元格的內(nèi)容，可以通過按CTRL / CMD + Z輕松恢復(fù)它。

如果需要恢復(fù)整個(gè)已刪除的單元格，請(qǐng)按ESC + Z或EDIT撤消刪除單元格。

結(jié)論

在本文中，我列出了使用Python和Jupyter notebook時(shí)收集的一些小提示。我相信它們會(huì)對(duì)你有用，能讓你有所收獲，從而實(shí)現(xiàn)輕松編碼！

利用Python進(jìn)行數(shù)據(jù)分析(10)-移動(dòng)窗口函數(shù)

Python-for-data-移動(dòng)窗口函數(shù)

本文中介紹的是 ，主要的算子是：

統(tǒng)計(jì)和通過其他移動(dòng)窗口或者指數(shù)衰減而運(yùn)行的函數(shù)，稱之為 移動(dòng)窗口函數(shù)

style scoped="".dataframe tbody tr th:only-of-type { vertical-align: middle; } precode.dataframe tbody tr th { vertical-align: top; } .dataframe thead th { text-align: right; } /code/pre/style

2292 rows × 3 columns

rolling算子，行為和resample和groupby類似

rolling可以在S或者DF上通過一個(gè)window進(jìn)行調(diào)用

style scoped="".dataframe tbody tr th:only-of-type { vertical-align: middle; } precode.dataframe tbody tr th { vertical-align: top; } .dataframe thead th { text-align: right; } /code/pre/style

2292 rows × 3 columns

指定一個(gè)常數(shù)衰減因子為觀測(cè)值提供更多的權(quán)重。常用指定衰減因子的方法：使用span（跨度）

一些統(tǒng)計(jì)算子，例如相關(guān)度和協(xié)方差等需要同時(shí)操作兩個(gè)時(shí)間序列。

例如，金融分析中的股票和基準(zhǔn)指數(shù)的關(guān)聯(lián)性問題：計(jì)算時(shí)間序列的百分比變化pct_change()

style scoped="".dataframe tbody tr th:only-of-type { vertical-align: middle; } precode.dataframe tbody tr th { vertical-align: top; } .dataframe thead th { text-align: right; } /code/pre/style

在rolling及其相關(guān)方法上使用apply方法提供了一種在移動(dòng)窗口中應(yīng)用自己設(shè)計(jì)的數(shù)組函數(shù)的方法。

唯一要求：該函數(shù)從每個(gè)數(shù)組中產(chǎn)生一個(gè)單值(縮聚)，例如使用rolling()...quantile(q)計(jì)算樣本的中位數(shù)

如何利用python進(jìn)行數(shù)據(jù)分析

利用python進(jìn)行數(shù)據(jù)分析 ?

鏈接: ?

?pwd=3nfn 提取碼: 3nfn

本書也可以作為利用Python實(shí)現(xiàn)數(shù)據(jù)密集型應(yīng)用的科學(xué)計(jì)算實(shí)踐指南。本書適合剛剛接觸Python的分析人員以及剛剛接觸科學(xué)計(jì)算的Python程序員。

分享文章：用python函數(shù)分析 python數(shù)據(jù)分析函數(shù)
瀏覽路徑：http://chinadenli.net/article38/dodiesp.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供云服務(wù)器、外貿(mào)建站、建站公司、App設(shè)計(jì)、外貿(mào)網(wǎng)站建設(shè)、動(dòng)態(tài)網(wǎng)站

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)