博客

K最近邻算法(KNN)—sklearn+python实现方式

  • Post category:Python

K最近邻算法(KNN)—sklearn+python实现方式

K最近邻算法(KNN)是一种常用的分类算法，它的基本思想是：对于一个未知本，找到与其最近的K个已知样本，然后根据这K个样本的类别来预测未知样本的类。本攻略将介绍如何使用Python和sklearn库实现KNN算法，并提供两个示例来演示如何使用该算法。

KNN算法的原理

KNN算法的基本思想是：对于一个未知样本，找到与其最近的K个已知样本，然后根据这K个样本的类别来预测未知样本的类别。KNN算法的具体步如下：

  1. 计算未知样本与每个已知样本之间的距离。
  2. 选取与未知样本距离最的K个已知样本。
  3. 根据这K个样本的类别来预测未知样本的类别。

在KNN算法中，距离的计算通常使用欧氏距离或曼哈顿距离等。

Python实现KNN算法

以下是使用Python实现KNN算法的示例代码：

from sklearn.neighbors import KNeighborsClassifier
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split

# 加载数据集
iris = load_iris()
X = iris.data
y = iris.target

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)

# 创建KNN分类器
knn = KNeighborsClassifier(n_neighbors=3)

# 训练模型
knn.fit(X_train, y_train)

# 预测测试集
y_pred = knn.predict(X_test)

# 计算准确率
accuracy = knn.score(X_test, y_test)
print('Accuracy:', accuracy)

在这个示例中，我们首先使用sklearn库加载鸢尾花数据集，并将其划分为训练集和测试集。然后，我们使用KNeighborsClassifier类创建一个KNN分类器，并使用fit方法训练模型。最后，我们使用predict方法预测测试集，并使用score方法计算模型的准确率。

KNN算法的应用

KNN算法常用于分类问题，例如图像分类、文本分类和音频分类等。在本攻略中，我们使用KNN算法对鸢尾花数据集进行分类，并提供了一个示例来演示如何使用该算法。该算法还可以用于其他分类任务，例如人脸识别、手写数字识别和语音识别等。

以下是使用KNN算法对鸢尾花数据集进行分类的示例代码：

from sklearn.neighbors import KNeighborsClassifier
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split

# 加载数据集
iris = load_iris()
X = iris.data
y = iris.target

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3 random_state=42)

# 创建KNN分类器
knn = KNeighborsClassifier(n_neighbors=3)

# 训练模型
knn.fit(X_train, y_train)

# 预测测试集
y_pred = knn.predict(X_test)

# 计算准确率
accuracy = knn.score(X_test, y_test)
print('Accuracy:', accuracy)

在这个示例中，我们首先使用sklearn库加载鸢尾花数据集，并将其划分为训练集和测试集。然后，我们使用KNeighborsClassifier类创建一个KNN分类器，并使用fit方法训练模型。最后，我们使用predict方法预测测试集，并使用score方法计算模型的准确率。

示例说明

本攻略中，介绍了KNN算法的原理和Python实现方法。我们使用示例演示了如何使用Python和sklearn库实现KNN算法，并提供了一个示例来演示如何使用该算法。这些示例代码可以帮助读者更好地理解KNN算法的方法和应用场景。

Tags: ,