معيار أكايكي للمعلومة

قالب:بطاقة طريقة علمية معيار أكايكي للمعلومة قالب:إنج هو مقياس للجودة النسبية لنمذجة إحصائية ما، المطبقة على مجموعة بيانات ما، اقترحه الإحصائي الياباني هيروتسوغو أكايكي، سنة 1973. معيار أكايكي، مستلهم من نظرية المعلومات، و يساعد على اختيار النموذج الأمثل، وفق مبدأ التقتير الإحصائي، على غرار معيار المعلومة البايزي، أي أنه يرجح كفة النماذج التي تحقق أحسن توافق بين درجة تعقيد النموذج و قوته الوصفية. يقدم المعيار أيضا تقديرا نسبيا لكمية المعلومات الضائعة عند نمذجة المعلاج النظري المنتج للبيانات، قيد الدراسة.

لا يجب مقاربة المعيار كاختبار لفرضية عدم نجاعة النموذج المدروس، بل هو مجرد معيار نسبي للمقارنة النسبية بين النماذج، و ليست له أية دلالة بخصوص الجودة المطلقة لنموذج ما.

تعريف

قالب:مبرهنة خلال تجريب العديد من النماذج في إشكالية إحصائية ما، يمكن ترجيح النموذج ذي أقل قيمة لمعيار أكايكي. المعيار يستند إلى التوفيق بين تحسين جودة المطابقة و تخفيف تعقد النمذجة. و بذلك، هو لا يرجح كفة النماذج ذات الوسائط الكثيرة، و التي، بطبيعتها يمكن أن تنتج إفراط مطابقة قالب:إنج (لأن تكثير الوسائط في نموذج ما يحسن بالضرورة جودة المطابقة).

معيار أكايكي مبني على نظرية المعلومات، وهو أيضا تقدير لكمية المعلومات المحجوبة، عبر استعمال النموذج المختار. بافتراض أن البيانات مولدة من معلاج مجهول $f$، وباعتبار وجود نموذجين مرشحين لوصف $f$، هما $g_1$ و $g_2$.

إذا كان $f$ معروفا فإن:

• كمية المعلومات الضائعة باستعمال $g_1$ لتمثيل $f$ تستنتج بحساب تباعد كولباك لايبلر $D_{\mathrm{K}\mathrm{L}}(f\Vert g_1)$
• و بنفس الطريقة، تكون كمية المعلومات الضائعة باستعمال $g_2$ لتمثيل $f$ هي $D_{\mathrm{K}\mathrm{L}}(f\Vert g_2)$

أحسن نموذج يستنتج مباشرة باختيار ذي أقل قيمة تباعد.

برهن أكايكي في 1973، بأن معيار أكايكي يمكن من تقدير كمية المعلومة المحجوبة، عبر $g_1$ و $g_2$ حتى و إن كان $f$ مجهولا.