تُعد مكتبة Scikit-Learn (sklearn) المكتبة مفتوحة المصدر الأساسية في بايثون للنمذجة الإحصائية وتعلم الآلة التقليدي، والمبنية فوق NumPy و SciPy و Matplotlib. وتكمن قوتها الهيكلية في نمط تصميم موحد بدقة يعتمد على ثلاث واجهات برمجية:
- Estimator (المُقدِّر): يتعلم معاملات النموذج من البيانات عبر الدالة
fit(X, y). - Transformer (المُحوِّل): يُعالج الميزات ويُسقطها عبر
transform(X)وfit_transform(X). - Predictor (المُتنبئ): يُنشئ تنبؤات لعينات جديدة عبر
predict(X)وpredict_proba(X)وscore(X, y).
🔗 أوراق مرجعية ذات صلة: ورقة مرجعية لمكتبة NumPy · ورقة مرجعية لمكتبة Pandas · خوارزميات التعلم الخاضع للإشراف · طرق تحليل البيانات · ورقة مرجعية للغة بايثون
1. مثال عملي متكامل للبدء السريع
يوضح البرنامج النصي المستقل التالي خطوات تحميل مجموعة البيانات، والتقسيم الطبقي، وتحجيم الميزات، وتدريب النموذج والتقييم:
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.neighbors import KNeighborsClassifier
from sklearn.metrics import accuracy_score, classification_report
# 1. تحميل البيانات
iris = load_iris()
X, y = iris.data, iris.target
# 2. تقسيم طبقي لبيانات التدريب والاختبار
X_train, X_test, y_train, y_test = train_test_split(
X, y, test_size=0.2, random_state=42, stratify=y
)
# 3. تحجيم الميزات (التطبيق على مجموعة التدريب فقط لتجنب تسريب البيانات)
scaler = StandardScaler()
X_train_scaled = scaler.fit_transform(X_train)
X_test_scaled = scaler.transform(X_test)
# 4. تدريب النموذج
knn = KNeighborsClassifier(n_neighbors=5)
knn.fit(X_train_scaled, y_train)
# 5. التنبؤ والتقييم
y_pred = knn.predict(X_test_scaled)
print(f"الدقة: {accuracy_score(y_test, y_pred):.4f}")
print(classification_report(y_test, y_pred, target_names=iris.target_names))
2. تجهيز البيانات وتقسيمها
تتطلب Scikit-Learn هياكل عددية ثنائية الأبعاد: مصفوفة الميزات $X$ بشكل (n_samples, n_features) ومتجه الهدف $y$ بشكل (n_samples,). تدعم المكتبة مصفوفات NumPy ndarray ومصفوفات SciPy المتناثرة (scipy.sparse) وكائنات DataFrame/Series من Pandas.
2.1 مجموعات البيانات المدمجة والاصطناعية
from sklearn import datasets
# مجموعات بيانات قياسية صغيرة (تُرجع كائن Bunch)
iris = datasets.load_iris() # تصنيف متعدد الفئات
digits = datasets.load_digits() # صور أرقام مكتوبة بخط اليد 8x8
diabetes = datasets.load_diabetes() # بيانات معيارية للانحدار
wine = datasets.load_wine() # تحليل كيميائي للخمور بثلاث فئات
# مجموعات بيانات واقعية معيارية (مخزنة محلياً)
housing = datasets.fetch_california_housing()
# توليد بيانات اصطناعية لاختبار الخوارزميات
X, y = datasets.make_classification(
n_samples=1000, n_features=20, n_informative=15, n_classes=2, random_state=42
)
X_reg, y_reg = datasets.make_regression(n_samples=500, n_features=10, noise=0.1, random_state=42)
X_blob, y_blob = datasets.make_blobs(n_samples=300, centers=3, n_features=2, random_state=42)
2.2 تقسيم مجموعة البيانات (train_test_split)
from sklearn.model_selection import train_test_split
X_train, X_test, y_train, y_test = train_test_split(
X, y,
test_size=0.25, # نسبة مجموعة الاختبار (افتراضياً: 0.25)
random_state=42, # تثبيت البذرة العشوائية لضمان تكرار النتائج
shuffle=True, # خلط العينات قبل التقسيم
stratify=y # موصى به بشدة في التصنيف: يحافظ على نسب الفئات
)
3. هندسة الميزات والمعالجة المسبقة (sklearn.preprocessing & sklearn.impute)
| المُحوِّل | حالة الاستخدام | التحويل الرياضي / المنطق | المعاملات الأساسية |
|---|---|---|---|
StandardScaler |
المعايرة القياسية للميزات العددية (Z-score) | $z = \frac{x - \mu}{\sigma}$ (متوسط 0، وتباين 1) | with_mean=True, with_std=True |
MinMaxScaler |
تحجيم الميزات ضمن مجال مغلق محدد | $x' = \frac{x - x_{\min}}{x_{\max} - x_{\min}} \cdot (\max - \min) + \min$ | feature_range=(0, 1) |
RobustScaler |
تحجيم قوي ومقاوم للقيم الشاذة | تحجيم بالاعتماد على المدى بين الربيعي: $x' = \frac{x - Q_2}{Q_3 - Q_1}$ | quantile_range=(25.0, 75.0) |
Normalizer |
تسوية كل عينة على حدة (لكل صف) | تحويل كل عينة لتكون بمدى معياري أحادي ($L_1$ أو $L_2$ أو Max) | norm='l2' ('l1', 'max') |
Binarizer |
التحويل الثنائي للقيم المستمرة وفق حد فاصل | $x > \text{threshold} \Rightarrow 1$, وإلا $0$ | threshold=0.0 |
SimpleImputer |
تعويض القيم المفقودة (Imputation) | استبدال القيم المفقودة بالمتوسط أو الوسيط أو القيمة الأكثر تكراراً أو قيمة ثابتة | missing_values=np.nan, strategy='mean' |
OneHotEncoder |
ترميز One-Hot للمتغيرات الفئوية الاسمية | تحويل الفئات إلى أعمدة ثنائية دالة | drop='first', handle_unknown='ignore' |
OrdinalEncoder |
الترميز الرتبي للمتغيرات الفئوية المرتبة | تحويل الفئات إلى أعداد صحيحة مرتبة $0, \dots, K-1$ | categories='auto', encoded_missing_value |
LabelEncoder |
ترميز التسميات لمتغير الهدف $y$ | تحويل التسميات النصية إلى أعداد صحيحة $0 \dots C-1$ | يُستخدم فقط لمتغير الهدف $y$، ولا يُستخدم أبداً لمصفوفة الميزات $X$ |
PolynomialFeatures |
توليد ميزات الحدود متعددة الحدود والتفاعلات | توليد ميزات من الدرجات الأعلى $[1, a, b, a^2, ab, b^2]$ | degree=2, include_bias=False |
3.1 أمثلة برمجية للمعالجة المسبقة
import numpy as np
from sklearn.preprocessing import (
StandardScaler, MinMaxScaler, RobustScaler, Normalizer,
Binarizer, OneHotEncoder, OrdinalEncoder, LabelEncoder, PolynomialFeatures
)
from sklearn.impute import SimpleImputer
# 1. المعايرة القياسية (لا تطبق fit على بيانات الاختبار أبداً!)
scaler = StandardScaler()
X_train_std = scaler.fit_transform(X_train)
X_test_std = scaler.transform(X_test)
# 2. تعويض القيم المفقودة (استراتيجية الوسيط)
imputer = SimpleImputer(missing_values=np.nan, strategy='median')
X_train_imp = imputer.fit_transform(X_train)
X_test_imp = imputer.transform(X_test)
# 3. ترميز One-Hot (معالجة الفئات غير المرئية مسبقاً بأمان)
ohe = OneHotEncoder(handle_unknown='ignore', sparse_output=False)
X_train_ohe = ohe.fit_transform(X_train_cat)
X_test_ohe = ohe.transform(X_test_cat)
# 4. ترميز تسميات متغير الهدف
le = LabelEncoder()
y_train_enc = le.fit_transform(y_train)
y_test_enc = le.transform(y_test)
# 5. توسيع الميزات بحدود متعددة الحدود
poly = PolynomialFeatures(degree=2, include_bias=False)
X_train_poly = poly.fit_transform(X_train)
4. الدليل الشامل لأشهر نماذج التقدير
4.1 التعلم الخاضع للإشراف: التصنيف
from sklearn.linear_model import LogisticRegression
from sklearn.neighbors import KNeighborsClassifier
from sklearn.svm import SVC
from sklearn.naive_bayes import GaussianNB
from sklearn.ensemble import RandomForestClassifier, HistGradientBoostingClassifier
# الانحدار اللوجستي (نموذج تصنيف خطي أساسي)
clf_lr = LogisticRegression(C=1.0, max_iter=200, random_state=42)
# خوارزمية الجيران الأقرب (KNN)
clf_knn = KNeighborsClassifier(n_neighbors=5, metric='minkowski', p=2)
# آلات المتجهات الداعمة (نواة RBF)
clf_svm = SVC(C=1.0, kernel='rbf', gamma='scale', probability=True, random_state=42)
# نموذج بايز الساذج الغاوسي
clf_gnb = GaussianNB()
# الغابات العشوائية (تجميع Bagging)
clf_rf = RandomForestClassifier(n_estimators=100, max_depth=None, n_jobs=-1, random_state=42)
# تعزيز التدرج المعتمد على المدرج التكراري (GBDT سريع مشابه لـ LightGBM)
clf_hgb = HistGradientBoostingClassifier(learning_rate=0.1, max_iter=100, random_state=42)
4.2 التعلم الخاضع للإشراف: الانحدار
from sklearn.linear_model import LinearRegression, Ridge, Lasso
from sklearn.svm import SVR
from sklearn.ensemble import RandomForestRegressor, HistGradientBoostingRegressor
# الانحدار الخطي العادي بطريقة المربعات الصغرى (OLS)
reg_lr = LinearRegression()
# انحدار ريدج (تنظيم L2 للحد من التداخل الخطي المتعدد)
reg_ridge = Ridge(alpha=1.0)
# انحدار لاسو (تنظيم L1 لانتقاء الميزات)
reg_lasso = Lasso(alpha=0.1)
# انحدار المتجهات الداعمة (SVR)
reg_svr = SVR(kernel='rbf', C=1.0, epsilon=0.1)
# انحدار الغابات العشوائية
reg_rf = RandomForestRegressor(n_estimators=100, n_jobs=-1, random_state=42)
4.3 التعلم غير الخاضع للإشراف: التجميع وخفض الأبعاد
from sklearn.cluster import KMeans, DBSCAN
from sklearn.decomposition import PCA
# خوارزمية التجميع K-Means
kmeans = KMeans(n_clusters=3, init='k-means++', n_init=10, random_state=42)
kmeans.fit(X)
cluster_labels = kmeans.labels_ # تسميات العناقيد
cluster_centers = kmeans.cluster_centers_
# التجميع المكاني المعتمد على الكثافة (DBSCAN: مقاوم للضوضاء)
dbscan = DBSCAN(eps=0.5, min_samples=5)
db_labels = dbscan.fit_predict(X) # تشير القيمة -1 إلى العينات الشاذة (ضوضاء)
# تحليل المكونات الرئيسية (PCA): الاحتفاظ بـ 95% من التباين
pca = PCA(n_components=0.95)
X_pca = pca.fit_transform(X)
print("عدد المكونات المحتفظ بها:", pca.n_components_)
print("نسبة التباين المفسر:", pca.explained_variance_ratio_)
5. ملخص عمليات واجهة البرمجة الموحدة
| العملية | الدالة القياسية | نوع الكائن المستهدف | الدلالة والقيمة المرجعة |
|---|---|---|---|
| التدريب (Fit) | estimator.fit(X, y) |
جميع نماذج Estimators | تقدير المعاملات من بيانات التدريب؛ تُرجع الكائن نفسه self |
| التنبؤ (Predict) | predictor.predict(X) |
جميع نماذج Predictors | توليد تسميات الفئات أو القيم المستمرة المستهدفة |
| الاحتمالية | predictor.predict_proba(X) |
المصنفات | حساب مصفوفة توزيع الاحتمالات البعدية للفئات |
| مسافة القرار | predictor.decision_function(X) |
النماذج الخطية / SVM | المسافة بإشارة للعينات عن المستوى الفائق الفاصل |
| التحويل (Transform) | transformer.transform(X) |
جميع المُحوِّلات Transformers | إسقاط الميزات المدخلة باستخدام المعاملات التي تم تعلمها |
| التدريب والتحويل معاً | transformer.fit_transform(X) |
جميع المُحوِّلات Transformers | حساب المعاملات وإجراء التحويل في خطوة واحدة محسنة |
| التقييم الافتراضي | estimator.score(X, y) |
المصنفات / نماذج الانحدار | الدقة (Accuracy) في التصنيف؛ ومعامل التحديد $R^2$ في الانحدار |
6. مقاييس التقييم (sklearn.metrics)
6.1 مقاييس التصنيف
from sklearn.metrics import (
accuracy_score, precision_score, recall_score, f1_score,
roc_auc_score, confusion_matrix, classification_report,
ConfusionMatrixDisplay
)
# 1. مقاييس التسميات المحددة (حدد average في المهام متعددة الفئات)
acc = accuracy_score(y_test, y_pred)
prec = precision_score(y_test, y_pred, average='macro')
rec = recall_score(y_test, y_pred, average='macro')
f1 = f1_score(y_test, y_pred, average='macro')
# 2. مقاييس الترتيب المستمر (يتطلب ROC-AUC احتمالات متوقعة)
y_prob = clf.predict_proba(X_test)[:, 1] # احتمالات الفئة الإيجابية
auc = roc_auc_score(y_test, y_prob)
# 3. مصفوفة الارتباك وتقرير التصنيف الشامل
cm = confusion_matrix(y_test, y_pred)
print(classification_report(y_test, y_pred))
# 4. عرض مصفوفة الارتباك بيانيا
disp = ConfusionMatrixDisplay(confusion_matrix=cm)
disp.plot()
6.2 مقاييس الانحدار
from sklearn.metrics import mean_absolute_error, mean_squared_error, r2_score
mae = mean_absolute_error(y_test, y_pred)
mse = mean_squared_error(y_test, y_pred)
rmse = mean_squared_error(y_test, y_pred, squared=False) # الجذر التربيعي لمتوسط مربعات الخطأ (RMSE)
r2 = r2_score(y_test, y_pred) # معامل التحديد R²
6.3 مقاييس التجميع (Clustering)
from sklearn.metrics import (
adjusted_rand_score, homogeneity_score, v_measure_score, silhouette_score
)
# التحقق الخارجي (عند توفر التسميات الحقيقية)
ari = adjusted_rand_score(y_true, cluster_labels) # المجال: [-1, 1]، القيمة الأعلى أفضل
homo = homogeneity_score(y_true, cluster_labels) # المجال: [0, 1]
vm = v_measure_score(y_true, cluster_labels) # المتوسط التوافقي للتجانس والاكتمال
# التحقق الداخلي (هندسي، لا يتطلب تسميات حقيقية)
sil = silhouette_score(X, cluster_labels) # المجال: [-1, 1]، القيمة القريبة من 1 تدل على عناقيد متباعدة بوضوح
7. التحقق المتقاطع وضبط المعاملات الفائقة (sklearn.model_selection)
7.1 التحقق المتقاطع (Cross-Validation)
from sklearn.model_selection import cross_val_score, cross_validate, StratifiedKFold
# التحقق المتقاطع K-Fold القياسي
scores = cross_val_score(clf, X, y, cv=5, scoring='accuracy')
print(f"دقة التحقق المتقاطع 5-Fold: {scores.mean():.4f} (±{scores.std():.4f})")
# مولد K-Fold الطبقي
skf = StratifiedKFold(n_splits=5, shuffle=True, random_state=42)
scores_skf = cross_val_score(clf, X, y, cv=skf, scoring='f1_macro')
# التقييم المشترك بعدة مقاييس
multi_scores = cross_validate(
clf, X, y, cv=5,
scoring=['accuracy', 'roc_auc'],
return_train_score=False
)
print("متوسط AUC للتحقق:", multi_scores['test_roc_auc'].mean())
7.2 البحث الشبكي والبحث العشوائي
from sklearn.model_selection import GridSearchCV, RandomizedSearchCV
from scipy.stats import randint
# 1. البحث الشبكي الشامل (GridSearchCV)
param_grid = {
'n_neighbors': [3, 5, 7, 11],
'weights': ['uniform', 'distance'],
'metric': ['euclidean', 'manhattan']
}
grid = GridSearchCV(
estimator=KNeighborsClassifier(),
param_grid=param_grid,
cv=5,
scoring='accuracy',
n_jobs=-1
)
grid.fit(X_train, y_train)
print("أفضل المعاملات:", grid.best_params_)
best_model = grid.best_estimator_
# 2. البحث العشوائي عن المعاملات (لفضاءات المعاملات الواسعة)
param_dist = {
'n_estimators': randint(50, 300),
'max_depth': [None, 5, 10, 20],
'min_samples_split': randint(2, 11)
}
rand_search = RandomizedSearchCV(
estimator=RandomForestClassifier(random_state=42),
param_distributions=param_dist,
n_iter=20, # عدد التوليفات العشوائية
cv=5,
scoring='accuracy',
random_state=42,
n_jobs=-1
)
rand_search.fit(X_train, y_train)
print("أفضل معاملات البحث العشوائي:", rand_search.best_params_)
8. أفضل الممارسات الإنتاجية: Pipeline و ColumnTransformer
8.1 لماذا تُعد خطوط الأنابيب (Pipelines) إلزامية
تطبيق تحجيم الميزات أو تعويض القيم الناقصة بشكل كلي على كامل مجموعة البيانات قبل التقسيم يؤدي إلى تسريب البيانات (Data Leakage): حيث تتسرب إحصاءات عينات الاختبار إلى بيانات التدريب، مما يعطي نتائج متفائلة بشكل مضلل تفشل عند النشر الفعلي.
تدمج Pipeline مراحل المعالجة والمقدرات في وحدة واحدة متكاملة خالية من التسريب. وخلال التحقق المتقاطع، يتم تدريب المحولات بدقة فقط على أجزاء التدريب الخاصة بكل دورة.
8.2 نموذج إنتاجي باستخدام ColumnTransformer
تجمع البيانات الجدولية الواقعية بين أعمدة رقمية مستمرة ومتغيرات فئوية:
from sklearn.compose import ColumnTransformer
from sklearn.pipeline import Pipeline
from sklearn.impute import SimpleImputer
from sklearn.preprocessing import StandardScaler, OneHotEncoder
from sklearn.ensemble import RandomForestClassifier
# 1. تقسيم أسماء الأعمدة بوضوح
numeric_features = ['age', 'income', 'credit_score']
categorical_features = ['gender', 'occupation', 'city']
# 2. خط أنابيب فرعي للأعمدة الرقمية: تعويض بالوسيط -> معايرة قياسية
numeric_transformer = Pipeline(steps=[
('imputer', SimpleImputer(strategy='median')),
('scaler', StandardScaler())
])
# 3. خط أنابيب فرعي للأعمدة الفئوية: تعويض بقيمة ثابتة -> ترميز One-Hot
categorical_transformer = Pipeline(steps=[
('imputer', SimpleImputer(strategy='constant', fill_value='missing')),
('onehot', OneHotEncoder(handle_unknown='ignore', sparse_output=False))
])
# 4. دمج الأعمدة في كائن ColumnTransformer موحد
preprocessor = ColumnTransformer(transformers=[
('num', numeric_transformer, numeric_features),
('cat', categorical_transformer, categorical_features)
])
# 5. تجميع خط أنابيب النموذج الكامل المتكامل
full_pipeline = Pipeline(steps=[
('preprocessor', preprocessor),
('classifier', RandomForestClassifier(n_estimators=100, random_state=42))
])
# 6. التدريب والاستدلال ككتلة واحدة (صفر تسريب، ونشر سلس)
full_pipeline.fit(X_train_df, y_train)
y_pred = full_pipeline.predict(X_test_df)
print("دقة اختبار خط الأنابيب:", full_pipeline.score(X_test_df, y_test))