المقدمة

تحليل العنصر الرئيسي (PCA) هو إجراء إحصائي يستخدم لتخفیض الأبعاد. ويستخدم تحويلًا متعامدًا لتحويل مجموعة من الملاحظات للمتغيرات المرتبطة المحتملة إلى مجموعة من مقادیر المتغيرات غير المرتبطة خطيًا یسمى العناصر الأساسية. غالبًا ما يستخدم كأسلوب لتخفیض الأبعاد.

الخطوات المتورطة في PCA

1: توحيد مجموعة البيانات.

2: احتساب مصفوفة التغاير (covariance matrix) للخصائص الموجودة في مجموعة البيانات.

3: احتساب القيم الذاتية (eigenvalues) والمتجهات الذاتية (eigenvectors) لمصفوفة التغاير.

4: فرز القيم الذاتية (eigenvalues) والمتجهات الذاتية (eigenvectors) المقابلة لها.

5: اختيار K قيمة ذاتیه (eigenvalue) وشكل مصفوفة من المتجهات الذاتية (eigenvectors).

6: تحويل المصفوفة الأصلية (original matrix).

دعنا الآن نذهب إلى كل الخطوات واحدة تلو الأخرى.

1. توحيد مجموعة البيانات

افترض أن لدينا مجموعة البيانات التالية التي تحتوي على 4 خصائص ومجموعة 5 أمثلة تدريبية.

أولاً، نحتاج إلى توحيد معیاري لمجموعة البيانات ولهذا، نحتاج إلى احتساب المتوسط والانحراف المعياري لكل خصیصة.

وبعد تطبيق الصيغة الخاصة بكل خصیصة في مجموعة البيانات، يتم تحويلها على النحو التالي:

2. احتساب مصفوفة التغاير لمجموعة البيانات بأكملها

صيغة حساب مصفوفة التغاير:

سيتم احتساب مصفوفة التغاير لمجموعة البيانات المحددة على النحو التالي:

نظرًا لأننا قمنا بتوحيد مجموعة البيانات، فإن متوسط كل خصیصة هو 0 والانحراف المعياري هو 1.

وبالطريقة نفسها يمكن احتساب التغايرات الأخرى والتي ستؤدي إلى مصفوفة التغاير أدناه.

3. احتساب القيم الذاتية (eigenvalues) والمتجهات الذاتية (eigenvectors)

المتجه الذاتي هو متجه غير صفري يتغير على الأكثر بعامل قياسي عند تطبيق هذا التحويل الخطي (linear transformation) عليه. القيمة الذاتیة (eigenvalue) المقابلة هي العامل الذي يتم من خلاله تحجيم المتجه الذاتي (eigenvector). لنفترض أن A مصفوفة مربعة (في حالتنا مصفوفة التغاير)، ν متجه و عددي يرضی Av=λv، ثم λ تسمى القیمة الذاتیة المرتبطة بـ ν المتجه الذاتیة لـ A.

إعادة ترتيب المعادلة أعلاه:

نظرًا لأننا نعلم بالفعل أن ν متجه غير صفري، فإن الطريقة الوحيدة التي يمكن أن تساوي بها هذه المعادلة صفر، إذا:

حل المعادلة أعلاه:

المتجهات الذاتية:

حل معادلة 0=(A-λI) من أجل متجه v بقيم λ مختلفة:

بالنسبة إلى λ = 2.51579324، حل المعادلة أعلاه باستخدام قاعدة كرامر، فإن قيم متجه v هن:

باتباع نفس النهج، يمكننا حساب المتجهات الذاتية لقيم الذاتیه الأخرى. ويمكننا ذلك من مصفوفة باستخدام المتجهات الذاتية.

4. فرز القيم الذاتیة (eigenvalues) والمتجهات الذاتية (eigenvectors) المقابلة لها

نظرًا لأن القيم الذاتیه (eigenvalues) يتم فرزها بالفعل في هذه الحالة، فلا داعي لفرزها مرة أخرى.

5. اختیار K قيمة ذاتیة (eigenvalue) وشكل مصفوفة من المتجهات الذاتية (eigenvectors)

إذا اخترنا أعلى اثنین متجهات ذاتية، فستبدو المصفوفة كما يلي:

6. تحويل المصفوفة الأصلية (original matrix)

مصفوفة الخصیصة * أعلى k متجهه الذاتية= البيانات المحولة.

تنفیذ تقنیة PCA في البایثون

کود:

import numpy as np import pandas as pd A = np.matrix([[1,2,3,4], [5,5,6,7],[1,4,2,3],[5,3,2,1],[8,1,2,2]]) df = pd.DataFrame (A, columns = ['fl','f2','f3', '44']) df_std = (df - df.mean()) / (df.std()) n_components = 2 from sklearn.decomposition import PCA pca = PCA(n_components=n_components) principalComponents = pca.fit_transform(df_std) principaldf = pd. DataFrame (data=principalComponents, columns=['nf'+str(i+1) for i in range (n_components)]) print(principaldf)

الإخراج سیکون کما یلی:

 nf1 nf2 0 -0.014003 0.755975 1 2.556534 -0.780432 2 0.051480 1.253135 3 -1.014150 0.000239 4 -1.579861 -1.228917

النتائج هي نفسها، لذلك نجحنا في تحويل بياناتنا من أربعة أبعاد إلى بعدين. فيكون PCA مفيدًا في الغالب عندما تكون خصائص البيانات شديدة الارتباط.

المصادر

المصدر الأول