小編給大家分享一下python如何使用knn實(shí)現(xiàn)特征向量分類,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!
這是一個使用knn把特征向量進(jìn)行分類的demo。
Knn算法的思想簡單說就是:看輸入的sample點(diǎn)周圍的k個點(diǎn)都屬于哪個類,哪個類的點(diǎn)最多,就把sample歸為哪個類。也就是說,訓(xùn)練集是一些已經(jīng)被手動打好標(biāo)簽的數(shù)據(jù),knn會根據(jù)你打好的標(biāo)簽來挖掘同類對象的相似點(diǎn),從而推算sample的標(biāo)簽。
Knn算法的準(zhǔn)確度受k影響較大,可能需要寫個循環(huán)試一下選出針對不同數(shù)據(jù)集的最優(yōu)的k。
至于如何拿到特征向量,可以參考之前的博文。
代碼:
#-*- coding: utf-8 -*- __author__ = 'Rossie' from numpy import * import operator '''構(gòu)造數(shù)據(jù)''' def createDataSet(): characters=array([[1.0,1.1],[1.0,1.0],[0,0],[0,0.1]]) labels=['A','A','B','B'] return characters,labels '''從文件中讀取數(shù)據(jù),將文本記錄轉(zhuǎn)換為矩陣,提取其中特征和類標(biāo)''' def file2matrix(filename): fr=open(filename) arrayOLines=fr.readlines() numberOfLines=len(arrayOLines) #得到文件行數(shù) returnMat=zeros((numberOfLines,3)) #創(chuàng)建以零填充的numberOfLines*3的NumPy矩陣 classLabelVector=[] index=0 for line in arrayOLines: #解析文件數(shù)據(jù)到列表 line=line.strip() listFromLine=line.split('\t') returnMat[index, :]=listFromLine[0:3] classLabelVector.append(listFromLine[-1]) index+=1 return returnMat,classLabelVector #返回特征矩陣和類標(biāo)集合 '''歸一化數(shù)字特征值到0-1范圍''' '''輸入為特征值矩陣''' def autoNorm(dataSet): minVals=dataSet.min(0) maxVals=dataSet.max(0) ranges=maxVals-minVals normDataSet=zeros(shape(dataSet)) m=dataSet.shape[0] normDataSet=dataSet-tile(minVals,(m,1)) normDataSet=normDataSet/tile(ranges,(m,1)) return normDataSet,ranges, minVals def classify(sample,dataSet,labels,k): dataSetSize=dataSet.shape[0] #數(shù)據(jù)集行數(shù)即數(shù)據(jù)集記錄數(shù) '''距離計(jì)算''' diffMat=tile(sample,(dataSetSize,1))-dataSet #樣本與原先所有樣本的差值矩陣 sqDiffMat=diffMat**2 #差值矩陣平方 sqDistances=sqDiffMat.sum(axis=1) #計(jì)算每一行上元素的和 distances=sqDistances**0.5 #開方 sortedDistIndicies=distances.argsort() #按distances中元素進(jìn)行升序排序后得到的對應(yīng)下標(biāo)的列表 '''選擇距離最小的k個點(diǎn)''' classCount={} for i in range(k): voteIlabel=labels[sortedDistIndicies[i]] classCount[voteIlabel]=classCount.get(voteIlabel,0)+1 '''從大到小排序''' sortedClassCount=sorted(classCount.items(),key=operator.itemgetter(1),reverse=True) return sortedClassCount[0][0] '''針對約會網(wǎng)站數(shù)據(jù)的測試代碼''' def datingClassTest(): hoRatio=0.20 #測試樣例數(shù)據(jù)比例 datingDataMat,datingLabels=file2matrix('datingTestSet1.txt') normMat, ranges, minVals=autoNorm(datingDataMat) m =normMat.shape[0] numTestVecs=int(m*hoRatio) errorCount=0.0 k=4 for i in range(numTestVecs): classifierResult=classify(normMat[i, : ],normMat[numTestVecs:m, : ],datingLabels[numTestVecs:m],k) print("The classifier came back with: %s, thereal answer is: %s" %(classifierResult, datingLabels[i])) if(classifierResult!= datingLabels [i] ) : errorCount += 1.0 print("the total error rate is: %f" % (errorCount/float(numTestVecs))) def main(): sample=[0,0]#簡單樣本測試 sampleText = [39948,6.830795,1.213342]#文本中向量樣本測試 k=3 group,labels=createDataSet() label1=classify(sample,group,labels,k)#簡單樣本的分類結(jié)果 fileN = "datingTestSet.txt" matrix,label = file2matrix(fileN) label2 =classify(sampleText,matrix,label,k)#文本樣本的分類結(jié)果 print("ClassifiedLabel of the simple sample:"+label1) print("Classified Label of the textsample:"+label2) if __name__=='__main__': main() #datingClassTest()
以上是“python如何使用knn實(shí)現(xiàn)特征向量分類”這篇文章的所有內(nèi)容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內(nèi)容對大家有所幫助,如果還想學(xué)習(xí)更多知識,歡迎關(guān)注創(chuàng)新互聯(lián)成都網(wǎng)站設(shè)計(jì)公司行業(yè)資訊頻道!
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內(nèi)外云服務(wù)器15元起步,三天無理由+7*72小時售后在線,公司持有idc許可證,提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡單易用、服務(wù)可用性高、性價比高”等特點(diǎn)與優(yōu)勢,專為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應(yīng)用場景需求。
網(wǎng)頁題目:python如何使用knn實(shí)現(xiàn)特征向量分類-創(chuàng)新互聯(lián)
URL分享:http://chinadenli.net/article34/dsggse.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供外貿(mào)建站、關(guān)鍵詞優(yōu)化、用戶體驗(yàn)、標(biāo)簽優(yōu)化、虛擬主機(jī)、ChatGPT
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容