عرض مصدر احتمال مسبق

{{يتيمة|تاريخ =يوليو 2024}}
 

'''التوزيع الاحتمالي المسبق''' لكمية غير مؤكدة، غالبًا ما يسمى ببساطة '''السابق'''، هو [[توزيع احتمال|التوزيع الاحتمالي]] المفترض قبل أخذ بعض الأدلة في الاعتبار. على سبيل المثال، يمكن أن يكون المسبق هو التوزيع الاحتمالي الذي يمثل النسب النسبية للناخبين الذين سيصوتون لسياسي معين في الانتخابات المقبلة. قد تكون الكمية المجهولة [[وسيط (رياضيات)|معلمة]] للنموذج أو متغيرًا كامنًا وليس متغيرًا يمكن ملاحظته.

في [[إحصاء بايزي|الإحصاءات البايزية]]، تنص [[مبرهنة بايز|قاعدة بايز]] على كيفية تحديث المعلومات السابقة للحصول على [[الاحتمال البعدي|التوزيع الاحتمالي الخلفي]]، وهو التوزيع المشروط للكمية غير المؤكدة في ضوء بيانات جديدة. تاريخيًا، كان اختيار القساوسة المهتمين بالرياضيات في كثير من الأحيان مقيدًا بعائلة مترافقة ذات [[دالة الإمكان|وظيفة احتمالية]] معينة، لأن ذلك قد يؤدي إلى خلفية سهلة المنال من نفس العائلة. ومع ذلك، فإن التوافر الواسع النطاق لطرق [[سلسلة ماركوف مونتي كارلو|ماركوف مونت كارلو]] جعل هذا الأمر أقل إثارة للقلق.

هناك طرق عديدة لبناء التوزيع المسبق.<ref>{{استشهاد بكتاب|مؤلف=Robert|الأول=Christian|عنوان=The Bayesian Choice|ناشر=Springer|سنة=1994|مكان=New York|صفحات=89–136|الفصل=From Prior Information to Prior Distributions|مؤلف-وصلة=Christian Robert|isbn=0-387-94296-3}}</ref> في بعض الحالات، يمكن تحديد سلائف من المعلومات السابقة، مثل التجارب السابقة. يمكن أيضًا ''استنباط'' سابقة من التقييم الشخصي البحت لخبير ذي خبرة.<ref>{{استشهاد بكتاب|مؤلف=Chaloner|الأول=Kathryn|عنوان=Bayesian Biostatistics|مسار=https://archive.org/details/bayesianbiostati0151unse|ناشر=Marcel Dekker|سنة=1996|محرر=Berry|محرر-الأول=Donald A.|مكان=New York|صفحات=[https://archive.org/details/bayesianbiostati0151unse/page/141 141]–156|الفصل=Elicitation of Prior Distributions|مؤلف-وصلة=Kathryn Chaloner|محرر2=Stangl|محرر2-الأول=Dalene|isbn=0-8247-9334-X}}</ref><ref>{{استشهاد بدورية محكمة|عنوان=Prior Knowledge Elicitation: The Past, Present, and Future|صحيفة=Bayesian Analysis|مؤلف=Mikkola|الأول=Petrus|إظهار المؤلفين=1|سنة=2023|المجلد=Forthcoming|مؤلف2=Martin|مؤلف3=Chandramouli|مؤلف4=Hartmann|مؤلف5=Abril Pla|مؤلف6=Thomas|مؤلف7=Pesonen|مؤلف8=Corander|مؤلف9=Vehtari|hdl-access=free|الأول2=Osvaldo A.|الأول3=Suyog|الأول4=Marcelo|الأول5=Oriol|الأول6=Owen|الأول7=Henri|الأول8=Jukka|الأول9=Aki|hdl=11336/183197|s2cid=244798734|دوي=10.1214/23-BA1381}}</ref> عندما لا تتوفر معلومات، يمكن اعتماد '''سابقة غير معلوماتية''' على النحو الذي يبرره مبدأ اللامبالاة .<ref name="Zellner1971">{{استشهاد بكتاب|مؤلف=Zellner|الأول=Arnold|عنوان=An Introduction to Bayesian Inference in Econometrics|ناشر=John Wiley & Sons|سنة=1971|مكان=New York|صفحات=41–53|الفصل=Prior Distributions to Represent 'Knowing Little'|مؤلف-وصلة=Arnold Zellner|isbn=0-471-98165-6}}</ref><ref>{{استشهاد بدورية محكمة|عنوان=Uninformative priors for Bayes' theorem|صحيفة=AIP Conf. Proc.|مؤلف=Price|الأول=Harold J.|سنة=2001|المجلد=617|صفحات=379–391|مؤلف2=Manson|الأول2=Allison R.|دوي=10.1063/1.1477060}}</ref> في التطبيقات الحديثة، غالبًا ما يتم الاختيار على اساس الخصائص الميكانيكية لنظام ما، مثل التنظيم واختيار [[اختيار المميزات|الميزات]] .<ref>{{استشهاد بدورية محكمة|عنوان=Sparsity information and regularization in the horseshoe and other shrinkage priors|صحيفة=Electronic Journal of Statistics|مؤلف=Piironen|الأول=Juho|سنة=2017|المجلد=11|العدد=2|صفحات=5018–5051|مؤلف2=Vehtari|الأول2=Aki|أرخايف=1707.01694|دوي=10.1214/17-EJS1337SI|doi-access=free}}</ref><ref>{{استشهاد بدورية محكمة|عنوان=Penalising Model Component Complexity: A Principled, Practical Approach to Constructing Priors|صحيفة=Statistical Science|مؤلف=Simpson|الأول=Daniel|إظهار المؤلفين=1|سنة=2017|المجلد=32|العدد=1|صفحات=1–28|مؤلف2=Rue|مؤلف3=Riebler|مؤلف4=Martins|مؤلف5=Sørbye|الأول2=Håvard|الأول3=Andrea|الأول4=Thiago G.|الأول5=Sigrunn H.|أرخايف=1403.4630|s2cid=88513041|دوي=10.1214/16-STS576}}</ref><ref>{{استشهاد بدورية محكمة|عنوان=Priors in Bayesian Deep Learning: A Review|صحيفة=International Statistical Review|مؤلف=Fortuin|الأول=Vincent|سنة=2022|المجلد=90|العدد=3|صفحات=563–591|hdl-access=free|hdl=20.500.11850/547969|s2cid=234681651|دوي=10.1111/insr.12502}}</ref>

غالبًا ما تعتمد التوزيعات الأولية لمعلمات النموذج على معلمات خاصة بها. يمكن بدوره، التعبير عن عدم اليقين بشأن هذه المعلمات الفائقة على أنها توزيعات احتمالية فائقة الأولوية. على سبيل المثال، إذا استخدم أحد [[توزيع بيتا]] لنمذجة توزيع المعلمة ''p'' [[توزيع برنولي|لتوزيع برنولي]]، فعندئذٍ:

* ''p'' هي معلمة للنظام الأساسي (توزيع برنولي).
* ''α'' و ''β'' هما معلمتان للتوزيع الأولي (توزيع بيتا)؛ وبالتالي هي "معلمات ''مفرطة"''.

== مسبقات معلوماتية ==
تعبر ''المعلومات المسبقة'' عن معلومات محددة ومحددة حول متغير. ومن الأمثلة على ذلك التوزيع المسبق لدرجة الحرارة عند وقت الظهر في الغد. النهج المعقول هو جعل [[توزيع احتمالي طبيعي|التوزيع الطبيعي]] السابق بقيمة [[قيمة متوقعة|متوقعة]] مساوية لدرجة حرارة الظهيرة اليوم، مع [[تباين (إحصاء)|تباين]] يساوي التباين اليومي لدرجة حرارة الغلاف الجوي، أو توزيع درجة الحرارة لذلك اليوم من العام.

يحتوي هذا المثال على خاصية مشتركة مع العديد من الأقدمية، وهي أن الجزء التالي من مشكلة واحدة (درجة حرارة اليوم) يصبح السابق لمشكلة أخرى (درجة حرارة الغد)؛ الدليل الموجود مسبقًا والذي تم أخذه في الاعتبار بالفعل هو جزء من الدليل السابق، ومع تراكم المزيد من الأدلة، يتم تحديد الدليل اللاحق إلى حد كبير من خلال الدليل بدلاً من أي افتراض أصلي، بشرط أن يكون الافتراض الأصلي قد اعترف بإمكانية ماهية الدليل في الاقتراح. يرتبط المصطلحان "السابق" و"الخلفي" أو "اللاحق" عمومًا بمسند أو ملاحظة محددة.

=== سابقة قوية ===
'''المسبق القوي''' هو افتراض أو نظرية أو مفهوم أو فكرة سابقة والتي، بعد أخذ المعلومات الجديدة في الاعتبار، يتم تأسيس افتراض أو نظرية أو مفهوم أو فكرة حالية.{{بحاجة لمصدر|سبب=I've seen usages where a strong prior meant "not a weak prior" or was a synonym for a "highly informative prior." A quick web search only found this page and copycats with this usage.|تاريخ=January 2024}} المسبق القوي هو نوع من المعلومات السابقة التي تهيمن فيها المعلومات الواردة في التوزيع السابق على المعلومات الواردة في البيانات التي يتم تحليلها. يجمع [[استدلال بايزي|التحليل البايزي]] المعلومات الواردة في المعلومات السابقة مع تلك المستخرجة من البيانات لإنتاج [[الاحتمال البعدي|التوزيع اللاحق]] الذي، في حالة "المسبق القوي"، لن يتغير كثيرًا عن التوزيع السابق.

== مسبقات معلوماتية ضعيفة ==
تــٌعبر ''المعلومات المسبقة الضعيفة'' عن معلومات جزئية حول متغير ما، وتوجيه التحليل نحو الحلول التي تتماشى مع المعرفة الحالية دون تقييد النتائج بشكل مفرط ومنع التقديرات المتطرفة. ومن الأمثلة على ذلك، عند تعيين التوزيع المسبق لدرجة الحرارة عند الظهر غدًا في سانت لويس، استخدام التوزيع الطبيعي بمتوسط 50 درجة فهرنهايت وانحراف معياري 40 درجة، وهو ما يقيد درجة الحرارة بشكل فضفاض للغاية إلى النطاق ( بين 10 درجات و 90 درجة فهرنهايت ). مع احتمال ضئيل أن تكون أقل من -30 درجة أو أعلى من 130 درجة. الغرض من المعلومات المسبقة الضعيفة هو [[التنظيم (رياضيات)|التنظيم]]، أي الحفاظ على الاستدلالات في نطاق معقول.

== مسبقات غير معلوماتية ==
تعبر المسبقة ''غير المعلوماتية'' أو ''المسطحة'' أو ''المنتشرة'' عن معلومات غامضة أو عامة حول متغير.<ref name="مولد تلقائيا1">{{استشهاد بكتاب|مؤلف=Zellner|الأول=Arnold|عنوان=An Introduction to Bayesian Inference in Econometrics|ناشر=John Wiley & Sons|سنة=1971|مكان=New York|صفحات=41–53|الفصل=Prior Distributions to Represent 'Knowing Little'|مؤلف-وصلة=Arnold Zellner|isbn=0-471-98165-6}}<cite class="citation book cs1" data-ve-ignore="true" id="CITEREFZellner1971">[[أرنولد زيلنر|Zellner, Arnold]] (1971). "Prior Distributions to Represent 'Knowing Little'". ''An Introduction to Bayesian Inference in Econometrics''. New York: John Wiley & Sons. pp.&nbsp;41–53. [[النظام القياسي الدولي لترقيم الكتب|ISBN]]&nbsp;[[خاص:مصادر الكتب/0-471-98165-6|<bdi>0-471-98165-6</bdi>]].</cite></ref> مصطلح "مسبق غير معلوماتي" هو تسمية خاطئة إلى حد ما. مثل هذه المسبقة يمكن أن تسمى أيضًا ''سابقة غير غنية بالمعلومات''، أو ''سابقة موضوعية''، أي أنها لم يتم استنباطها بشكل واقعي.

يمكن للمسبقين غير المعلوماتيين التعبير عن معلومات "موضوعية" مثل "المتغير إيجابي" أو "متغير أقل من بعض الحدود". أبسط وأقدم قاعدة لتحديد سابقة غير إعلامية هو مبدأ اللامبالاة، الذي يعين احتمالات متساوية لجميع الاحتمالات. في مشاكل تقدير المعلمات، يؤدي استخدام سابقة غير معلوماتية عادةً إلى نتائج لا تختلف كثيرًا عن التحليل الإحصائي التقليدي، حيث أن دالة الاحتمال غالبًا ما تنتج معلومات أكثر من السابقة غير المعلوماتية.

تم إجراء بعض المحاولات لإيجاد احتمالات مسبقة، أي توزيعات احتمالية بمعنى ما تتطلبها طبيعة حالة عدم اليقين؛ هذه موضوع جدل فلسفي، حيث ينقسم البايزيون تقريبًا إلى مدرستين: "البايزيون الموضوعيون"، الذين يعتقدون أن مثل هؤلاء الدارسون موجودون في العديد من المواقف المفيدة، و"البايزيون الذاتيون" الذين يعتقدون أنه في الممارسة العملية عادةً ما يمثل أحكامًا ذاتية للرأي لا يمكن تبريرها بشكل صارم (ويليامسون 2010). ولعل أقوى الحجج لصالح البايزية الموضوعية قدمها [[ادوين طومسون جاينيس|إدوين ت. جاينس]]، والتي استندت بشكل أساسي إلى عواقب التماثلات (عواقب التناظرات) وعلى مبدأ الإنتروبيا القصوى.

كمثال على بداهة مسبقة، ترجع إلى" جاينس" Jaynes (2003)، فقد فكر في موقف يعرف فيه المرء أن الكرة كانت مخبأة تحت واحد من ثلاثة أكواب، A أو B أو C، ولكن لا توجد معلومات أخرى متاحة حول موقعها. في هذه الحالة المسبقة المتساوية '':'' ''ص'' ( ''A'' )&nbsp;= ''ع'' ( ''ب'' )&nbsp;= ''ص'' ( ''ج'' )&nbsp;= 1/3 يبدو بديهيًا أنه الخيار المعقول الوحيد. وبشكل أكثر واقعية، يمكننا أن نرى أن المشكلة تظل كما هي إذا قمنا بتبديل المعلمات ("A" و"B" و"C") الخاصة بالأكواب. لذلك سيكون من الغريب اختيار مسبق يؤدي فيها تبديل التسميات إلى تغيير في توقعاتنا حول الكأس الذي سيتم العثور على الكرة تحته؛ والمسبق المتساوي السابق هو الوحيد الذي يحافظ على هذا الثبات (عدم التغير). إذا قبل المرء مبدأ الثبات هذا، فيمكن للمرء أن يرى أن الشكل السابق هو الصحيح منطقيًا الذي يسبق تمثيل هذه الحالة من المعرفة. تعتبر هذه المقدمة "موضوعية" بمعنى كونها الاختيار الصحيح لتمثيل حالة معينة من المعرفة، ولكنها ليست موضوعية بمعنى كونها سمة مستقلة عن المراقب العام: في الواقع، توجد الكرة تحت كوب معين. ومن المنطقي التحدث عن الاحتمالات في هذه الحالة فقط إذا كان هناك مراقب ذو معرفة محدودة بالنظام.<ref>{{استشهاد بكتاب|مؤلف=Florens|الأول=Jean-Pierre|عنوان=Economic Decision-Making: Games, Econometrics and Optimisation|مسار=https://archive.org/details/economicdecision0000unse_d2c1|ناشر=North-Holland|سنة=1990|مكان=|صفحات=[https://archive.org/details/economicdecision0000unse_d2c1/page/351 351]–367|الفصل=Invariance Arguments in Bayesian Statistics|مؤلف2=Mouchart|مؤلف3=Rolin|الأول2=Michael|الأول3=Jean-Marie|isbn=0-444-88422-X}}</ref>

كمثال أكثر إثارة للجدل، نشر "جاينيز " حجة تعتمد على ثبات السابق في ظل تغيير المعلمات التي تشير إلى أن المسبق الذي يمثل عدم اليقين الكامل حول الاحتمال يجب أن يكون [[توزيع بيتا|هالدين السابق]] ''p''<sup>−1</sup> (1&nbsp;−&nbsp;''p'' )<sup>−1</sup> .<ref name="Jaynes1968">{{استشهاد بدورية محكمة|عنوان=Prior Probabilities|صحيفة=IEEE Transactions on Systems Science and Cybernetics|مسار= http://bayes.wustl.edu/etj/articles/prior.pdf|مؤلف=Jaynes|الأول=Edwin T.|مؤلف-وصلة=Edwin T. Jaynes|تاريخ=Sep 1968|المجلد=4|العدد=3|صفحات=227–241|دوي=10.1109/TSSC.1968.300117|مسار أرشيف= http://web.archive.org/web/20240421084002/https://bayes.wustl.edu/etj/articles/prior.pdf|تاريخ أرشيف=2024-04-21}}</ref> المثال الذي قدمه جاينيس هو العثور على مادة كيميائية في المختبر والسؤال عما إذا كانت ستذوب في الماء في تجارب متكررة. الهالدين السابق <ref>This prior was proposed by [[جون هولدين|J.B.S. Haldane]] in "A note on inverse probability", Mathematical Proceedings of the Cambridge Philosophical Society 28, 55–61, 1932, {{دوي|10.1017/S0305004100010495}}. See also J. Haldane, "The precision of observed values of small frequencies", Biometrika, 35:297–300, 1948, {{دوي|10.2307/2332350}}, {{JSTOR|2332350}}.</ref> يعطي الوزن الأكبر إلى حد بعيد <math>p=0</math> و <math>p=1</math> مما يشير إلى أن العينة إما ستذوب في كل مرة أو لن تذوب أبدًا، باحتمال متساوٍ. ومع ذلك، إذا لاحظ أحد عينات المادة الكيميائية تذوب في تجربة واحدة ولا تذوب في تجربة أخرى، فسيتم تحديث هذا المسبق إلى [[توزيع منتظم|التوزيع الموحد]] في الفاصل الزمني [0، 1]. يتم الحصول على ذلك من خلال تطبيق [[مبرهنة بايز|نظرية بايز]] على مجموعة البيانات التي تتكون من مشاهدة واحدة للذوبان وأخرى لعدم الذوبان، باستخدام ما ورد أعلاه. الهالدين السابق Haldane prior هو توزيع سابق غير صحيح (بمعنى أنه يحتوي على كتلة لا نهائية). ابتكر [[هارولد جيفريز]] طريقة منهجية لتصميم مقدمات غير معلوماتية، على سبيل المثال، جيفريز السابق ''p''<sup>−1/2</sup> (1&nbsp;−&nbsp;''p'' )<sup>−1/2</sup> لمتغير برنولي العشوائي.

حيث&nbsp;''p'' هي الإحتمال probability.

يمكن إنشاء المسبقيات التي تتناسب مع مقياس هار إذا كانت مساحة المعلمة ''X'' تحمل بنية مجموعة طبيعية مما يترك حالتنا المعرفية البايزية ثابتة.<ref name="مولد تلقائيا2">{{استشهاد بدورية محكمة|عنوان=Prior Probabilities|صحيفة=IEEE Transactions on Systems Science and Cybernetics|مسار= http://bayes.wustl.edu/etj/articles/prior.pdf|مؤلف=Jaynes|الأول=Edwin T.|مؤلف-وصلة=Edwin T. Jaynes|تاريخ=Sep 1968|المجلد=4|العدد=3|صفحات=227–241|دوي=10.1109/TSSC.1968.300117|مسار أرشيف= http://web.archive.org/web/20240421084002/https://bayes.wustl.edu/etj/articles/prior.pdf|تاريخ أرشيف=2024-04-21}}<cite class="citation journal cs1" data-ve-ignore="true" id="CITEREFJaynes1968">[[ادوين طومسون جاينيس|Jaynes, Edwin T.]] (Sep 1968). [http://bayes.wustl.edu/etj/articles/prior.pdf "Prior Probabilities"] <span class="cs1-format">(PDF)</span>. ''IEEE Transactions on Systems Science and Cybernetics''. '''4''' (3): 227–241. [[معرف الغرض الرقمي|doi]]:[[doi:10.1109/TSSC.1968.300117|10.1109/TSSC.1968.300117]].</cite></ref> يمكن اعتبار ذلك بمثابة تعميم لمبدأ الثبات (الاستقرار) المستخدم لتبرير النمط الرسمي السابق على الكؤوس الثلاثة في المثال أعلاه. على سبيل المثال، في الفيزياء قد نتوقع أن تعطي التجربة نفس النتائج بغض النظر عن اختيارنا لأصل نظام الإحداثيات. يؤدي هذا إلى إنشاء بنية المجموعة [[انسحاب (هندسة)|لمجموعة الانتقال]] على ''X''، والتي تحدد الاحتمال السابق باعتباره ثابت مسبق غير صحيح. وبالمثل، فإن بعض القياسات تكون ثابتة بشكل طبيعي عند اختيار مقياس عشوائي (على سبيل المثال، سواء تم استخدام السنتيمترات أو البوصات، يجب أن تكون النتائج المادية متساوية). في مثل هذه الحالة، مجموعة المقياس هي بنية المجموعة الطبيعية، والمسبق المقابل لــ ''X'' يتناسب مع 1/ ''x'' . من المهم في بعض الأحيان أن نستخدم مقياس هار الثابت لليسار أو لليمين الثابت. على سبيل المثال، قياسات هار الثابتة اليسرى واليمنى على المجموعة المتقاربة ليست متساوية. بيرغر (1985، ص.&nbsp;413) يرى أن مقياس هار الصحيح (الثابت) هو الاختيار الصحيح.

هناك فكرة أخرى، يؤيدها [[ادوين طومسون جاينيس|إدوين تي جاينز]]، وهي استخدام مبدأ الإنتروبيا القصوى (MAXENT). الدافع هو أن [[اعتلاج (نظرية المعلومات)|إنتروبيا شانون]] للتوزيع الاحتمالي تقيس كمية المعلومات الموجودة في التوزيع. كلما زادت الإنتروبيا، قلّت المعلومات التي يوفرها التوزيع. وبالتالي، من خلال تعظيم الإنتروبيا على مجموعة مناسبة من التوزيعات الاحتمالية على ''X''، يجد المرء التوزيع الأقل إفادة، بمعنى أنه يحتوي على أقل قدر من المعلومات المتوافقة مع القيود التي تحدد المجموعة. على سبيل المثال، الحد الأقصى للإنتروبيا السابقة في مساحة منفصلة، بشرط أن يتم تطبيع الاحتمال إلى 1 (بمعنى احتمال 100%)، هو السابق الذي يعين احتمالًا متساويًا لكل حالة. وفي الحالة المستمرة، يكون الحد الأقصى للإنتروبيا السابقة - مع العلم أن الكثافة طبيعية بمتوسط صفر ووحدة تباين هو [[توزيع احتمالي طبيعي|التوزيع الطبيعي]] القياسي. يعمل مبدأ ''[[أنتروبيا متقاطعة|الحد الأدنى من الإنتروبيا المتقاطعة]]'' على تعميم MAXENT على حالة "تحديث" التوزيع المسبق عشوائي في ظل قيود مناسبة في حالة أقصى للإنتروبيا.

فكرة ذات صلة، [[Reference prior|مرجعية سابقة]]، تم تقديمها بواسطة خوسيه ميغيل برناردو. الفكرة هنا هي تعظيم [[تباعد كولباك - ليبلير|انحراف كولباك-ليبلر]] المتوقع للتوزيع اللاحق بالنسبة إلى التوزيع السابق. يؤدي هذا إلى تعظيم المعلومات الخلفية المتوقعة حول ''X'' عندما تكون الكثافة السابقة للاحتمال ''p''( ''x'' )؛ وبالتالي، إلى حد ما

تكون ''p'' ( ''x'' ) هي "الأقل معلوماتية" مسبق قبل X. يتم تعريف المرجع المسبق في الحد المقارب بعد المد، أي أن المرء يأخذ في الاعتبار حد المقدمات التي تم الحصول عليها بحيث يصل عدد نقاط البيانات إلى ما لا نهاية. في الحالة الحالية، يتم تحديد التباعد KL بين التوزيعات السابقة واللاحقة بواسطة المعادلة :<math display="block"> KL = \int p(t) \int p(x\mid t) \log\frac{p(x\mid t)}{p(x)} \, dx \, dt </math>

هنا تعني <math> t </math> : هي إحصائية كافية لبعض المعلمات <math> x </math> . التكامل الداخلي هو تباعد KL بين الجزء اللاحق <math> p(x\mid t) </math> والمسبق <math> p(x) </math> التوزيعات، والنتيجة هي المتوسط المرجح على جميع قيم <math> t </math> . تقسيم اللوغاريتم إلى قسمين، وعكس ترتيب التكاملات في الجزء الثاني مع ملاحظة أن <math display="block"> \log \, [p(x)] </math> لا يعتمد على عائدات <math> t </math> :

<math display="block"> KL = \int p(t) \int p(x\mid t) \log[p(x\mid t)] \, dx \, dt \, - \, \int \log[p(x)] \, \int p(t) p(x\mid t) \, dt \, dx </math>

التكامل الداخلي في الجزء الثاني هو التكامل انتهى <math> t </math> من كثافة المفاصل <math> p(x, t) </math> . هذا هو التوزيع الهامشي <math> p(x) </math> ، اذا لدينا <math display="block"> KL = \int p(t) \int p(x\mid t) \log[p(x\mid t)] \, dx \, dt \, - \, \int p(x) \log[p(x)] \, dx </math>

نستخدم الآن مفهوم الإنتروبيا والذي في حالة التوزيعات الاحتمالية - هو القيمة السلبية المتوقعة للوغاريتم الكتلة الاحتمالية أو لدالة الكثافة أو <math display="inline"> H(x) = - \int p(x) \log[p(x)] \, dx. </math>

استخدام هذا في المعادلة الأخيرة ينتج عنه: <math display="block"> KL = - \int p(t)H(x\mid t) \, dt + \, H(x) </math>

يعد هذا تباعدًا شبه KL ("شبه" بمعنى أن الجذر التربيعي لمعلومات فيشر قد يكون نواة التوزيع غير الصحيح). نظرًا لعلامة الطرح، نحتاج إلى تقليل ذلك من أجل تعظيم تباعد KL الذي بدأنا به. الحد الأدنى لقيمة المعادلة الأخيرة يحدث عندما لا يتباعد التوزيعان في وسيطة اللوغاريتم، سواء كانا غير صحيحين أم لا. ويحدث هذا بدوره عندما يتناسب التوزيع السابق مع الجذر التربيعي لمعلومات فيشر الخاصة بوظيفة الاحتمالية. ومن ثم، في حالة المعلمة الواحدة، يكون الأقدمون المرجعيون وأتباع جيفريز متطابقين، على الرغم من أن لدى جيفريز أساسًا منطقيًا مختلفًا تمامًا.

غالبًا ما تكون المقدمات المرجعية هي الهدف المسبق للاختيار في المسائل متعددة المتغيرات، حيث أن القواعد الأخرى (على سبيل المثال، قاعدة جيفريز ) قد تؤدي إلى سلوكيات إشكالية. <sup class="noprint Inline-Template" style="margin-left:0.1em; white-space:nowrap;">&#x5B; ''<nowiki><span title="The text near this tag may need clarification or removal of jargon. (September 2015)">مطلوب التوضيح</span></nowiki> هل يرتبط جيفريز السابق باختلاف KL؟'' &#x5D;</sup>

يمكن أيضًا استخلاص التوزيعات الموضوعية المسبقة من مبادئ أخرى، مثل [[نظرية المعلومات|المعلومات]] أو [[نظرية الترميز|نظرية التشفير]] (انظر على سبيل المثال الحد الأدنى لطول الوصف ) أو الإحصائيات المتكررة (ما يسمى [[Probability matching prior|بمطابقة الاحتمالات السابقة]] ).<ref>{{استشهاد بكتاب|مؤلف=Datta|الأول=Gauri Sankar|عنوان=Probability Matching Priors: Higher Order Asymptotics|ناشر=Springer|سنة=2004|مكان=|مؤلف2=Mukerjee|الأول2=Rahul|isbn=978-0-387-20329-4}}</ref> تُستخدم مثل هذه الأساليب في [[نظرية سولومونوف في الاستدلال الاستقرائي|نظرية سولومونوف للاستدلال الاستقرائي]]. لقد تم مؤخرًا إدخال بناء الكهنوت الموضوعي في المعلوماتية الحيوية، وخاصة الاستدلال في بيولوجيا أنظمة السرطان، حيث يكون حجم العينة محدودًا ويتوفر قدر كبير من '''المعرفة المسبقة'''. في هذه الطرق، إما معيار يعتمد على نظرية المعلومات، مثل تباعد KL أو دالة احتمالية السجل لمشكلات التعلم الخاضعة للإشراف الثنائي <ref>{{استشهاد بدورية محكمة|عنوان=Incorporation of Biological Pathway Knowledge in the Construction of Priors for Optimal Bayesian Classification - IEEE Journals & Magazine|صحيفة=IEEE/ACM Transactions on Computational Biology and Bioinformatics|مؤلف=Esfahani|الأول=M. S.|سنة=2014|لغة=en-US|المجلد=11|العدد=1|صفحات=202–18|مؤلف2=Dougherty|الأول2=E. R.|s2cid=10096507|pmid=26355519|دوي=10.1109/TCBB.2013.143}}</ref> ومشكلات نموذج الخليط.<ref>{{استشهاد بدورية محكمة|عنوان=Incorporating biological prior knowledge for Bayesian learning via maximal knowledge-driven information priors|صحيفة=BMC Bioinformatics|مؤلف=Boluki|الأول=Shahin|تاريخ=December 2017|لغة=En|المجلد=18|العدد=S14|صفحات=552|مؤلف2=Esfahani|مؤلف3=Qian|مؤلف4=Dougherty|issn=1471-2105|الأول2=Mohammad Shahrokh|الأول3=Xiaoning|الأول4=Edward R|ببمد_سنترال=5751802|pmid=29297278|دوي=10.1186/s12859-017-1893-4|doi-access=free}}</ref>

ترتبط المشكلات الفلسفية المرتبطة بالمسبقين غير المعلوماتيين باختيار المقياس المتري أو باختيار مقياس مناسب آخر. لنفترض أننا نريد مسبق لسرعة الجري لعداء غير معروف لنا. يمكننا، على سبيل المثال، تحديد توزيع طبيعي سابق لسرعته باعتباره التوزيع المسبق، ولكن يمكننا بدلاً من ذلك تحديد توزيع طبيعي مسبق للزمن الذي يستغرقه لإكمال مسافة 100 متر، والذي يتناسب مع مقلوب التوزيع السابق الأول. هذه سابقات مختلفة تمامًا، لكن ليس من الواضح ما هو المفضل. يمكن لطريقة جاينز في تحويل المجموعات أن تجيب على هذا السؤال في بعض الحالات .<ref>Jaynes (1968), pp. 17, see also Jaynes (2003), chapter 12. Note that chapter 12 is not available in the online preprint but can be previewed via Google Books.</ref>

وبالمثل، إذا طُلب منا تقدير نسبة غير معروفة بين 0 و1، فقد نقول إن جميع النسب متساوية في الاحتمال، ونستخدم مسبق موحد. بدلًا من ذلك، قد نقول إن جميع رتب النسبة متساوية في الاحتمال، أي مٌسبق لوغاريتمي '''{{أنجر مرئي|logarithmic prior}}'''، وهو النمط السابق على لوغاريتم التناسب. يحاول المسبق لدى Jeffreys حل هذه المشكلة عن طريق حساب مسبق تيبر عن نفس الاعتقاد بغض النظر عن المقياس المستخدم. إن "مسبق جيفريز " لنسبة غير معروفة ''p'' هو ''ص'' <sup>−1/2</sup> (1&nbsp;−&nbsp;''p'' ) <sup>−1/2</sup> ، والذي يختلف عن ما يتطلبه جاينز.

يتم استخدام الأسبقية المستندة إلى مفاهيم [[احتمال خوارزمي|الاحتمالية الخوارزمية]] في [[استقراء (منطق)|الاستدلال الاستقرائي]] كأساس للاستقراء في التوزيعات العامة جدًا.

تتضمن المشكلات العملية المرتبطة بالمسبقين غير المعلوماتيين اشتراط أن يكون التوزيع اللاحق مناسبًا. إن المسبقات المعتادة غير الدقيقة عن المتغيرات المستمرة غير المحدودة غير مناسبة. لا ينبغي أن يكون هذا مشكلة إذا كان التوزيع اللاحق مناسبًا. هناك مسألة أخرى ذات أهمية وهي أنه إذا تم استخدام مسبقة غير معلوماتية ''بشكل روتيني''، أي مع العديد من مجموعات البيانات المختلفة، فيجب أن تتمتع بخصائص متكررة جيدة. عادة لا يهتم [[احتمال بيشان|بايزي]] بمثل هذه القضايا، لكنه قد يكون مهمًا في هذه الحالة. على سبيل المثال، قد يرغب المرء في أن تكون أي [[نظرية القرار|قاعدة قرار]] تعتمد على التوزيع اللاحق مقبولة بموجب دالة الخسارة المعتمدة. لسوء الحظ، غالبًا ما يكون من الصعب التحقق من المقبولية، على الرغم من أن بعض النتائج معروفة (على سبيل المثال، Berger and Strawderman 1996). وهذه القضية مهمة بشكل خاص مع نماذج بايز الهرمية. قد يعطي المسبقون المعتادون (على سبيل المثال، أسبقية جيفريز) قواعد قرار غير مقبولة تماما إذا تم استخدامهم في المستويات الأعلى في التسلسل الهرمي.

== مسبقات غير لائقة ==
دع الأحداث <math>A_1, A_2, \ldots, A_n</math> أن تكون حصرية وشاملة. إذا تمت كتابة نظرية بايز بالطريقة التالية : <math display="block">P(A_i\mid B) = \frac{P(B \mid A_i) P(A_i)}{\sum_j P(B\mid A_j)P(A_j)}\, ,</math> فمن الواضح أنه سيتم الحصول على نفس النتيجة إذا تم ضرب جميع الاحتمالات السابقة ''P''( ''A'' <sub>''i''</sub> ) و ''P''( ''A'' <sub>''j''</sub> ) بثابت معين؛ وينطبق الشيء نفسه على [[توزيع احتمال|المتغير العشوائي المستمر]] . إذا كان الجمع في المقام متقاربًا، فإن الاحتمالات الخلفية (اللاحقة) ستظل مجموعها (أو تتكامل) إلى 1، حتى لو لم تكن القيم السابقة متقاربة، وبالتالي قد تحتاج القيم السابقة فقط إلى التحديد بالتناسب الصحيح. وبأخذ هذه الفكرة أبعد من ذلك - في كثير من الحالات - قد لا يحتاج مجموع أو تكامل القيم السابقة إلى أن يكون محدودًا للحصول على إجابات معقولة للاحتمالات اللاحقة. في هذه الحالة، يُطلق على المسبق اسم " '''سابق غير مناسب"''' . ومع ذلك، لا يلزم أن يكون التوزيع اللاحق توزيعًا مناسبًا إذا كان التوزيع السابق غير مناسب.<ref>{{استشهاد بدورية محكمة|عنوان=Marginalization Paradoxes in Bayesian and Structural Inference|صحيفة=Journal of the Royal Statistical Society|مؤلف=Dawid|الأول=A. P.|سنة=1973|سلسلة=Series B (Methodological)|المجلد=35|العدد=2|صفحات=189–233|مؤلف2=Stone|مؤلف3=Zidek|جايستور=2984907|الأول2=M.|الأول3=J. V.}}</ref> وهذا واضح من الحالة التي يكون فيها الحدث ''B'' مستقلاً عن كل الأحداث ''A''<sub>''j''</sub> .

يستخدم الإحصائيون في بعض الأحيان مسبقات غير لائقة باعتبارها مقدمات غير معلوماتية (مسبقات غير معلوماتية) .<ref>{{استشهاد بكتاب|مؤلف=Christensen|الأول=Ronald|عنوان=Bayesian Ideas and Data Analysis : An Introduction for Scientists and Statisticians|تاريخ=2010|ناشر=CRC Press|مكان=Hoboken|صفحة=69|مؤلف2=Johnson|مؤلف3=Branscum|مؤلف4=Hanson|الأول2=Wesley|الأول3=Adam|الأول4=Timothy E.|isbn=9781439894798}}</ref> على سبيل المثال، إذا كانوا بحاجة إلى توزيع مسبق لمتوسط وتباين متغير عشوائي، فقد يفترضون ''p''(''m'',&nbsp;''v'')&nbsp;~&nbsp;1/''v'' لـ (for ''v''&nbsp;>&nbsp;0) مما يشير إلى أن أي قيمة للمتوسط "محتملة بالتساوي" وأن قيمة التباين الإيجابي تصبح "أقل احتمالية" في نسبة عكسية إلى قيمتها. العديد من المؤلفين (ليندلي، 1973؛ دي جروت، 1937؛ كاس وفاسرمان، 1996){{بحاجة لمصدر|تاريخ=December 2008}}</link> يحذر من خطر الإفراط في تفسير تلك المسبقات لأنهم ليسوا كثافات احتمالية. الأهمية الوحيدة لها موجودة في الخلفية المقابلة، طالما أنها محددة جيدًا لجميع المشاهدات .إن "مسبق هالدين " [[توزيع بيتا|هالدين السابق]] هو مثال مضاد نموذجي. {{بحاجة لمصدر|تاريخ=May 2011}}</link> )

على النقيض من ذلك، لا تحتاج [[دالة الإمكان|دوال الاحتمال]] إلى التكامل، ودالة الاحتمال التي تكون موحدة 1 تتوافق مع غياب البيانات (جميع النماذج متساوية في الاحتمال، في حالة عدم وجود بيانات): قاعدة بايز تضرب الرقم السابق في الاحتمالية، و المنتج الفارغ هو مجرد احتمال ثابت 1. ومع ذلك، دون البدء بتوزيع احتمالي سابق، لا ينتهي الأمر بالحصول على توزيع [[الاحتمال البعدي|احتمالي لاحق]]، وبالتالي لا يمكن دمج أو حساب القيم أو حساب الخسارة المتوقعة. انظر {{وصلة قسم|دالة الإمكان|Non-integrability}} للحصول على التفاصيل.

=== أمثلة ===
من أمثلة السوابق (مسبقات) غير اللائقة ما يلي:

* [[توزيع منتظم|التوزيع الموحد]] المتساوي خلال فترة لا نهائية (أي نصف خط أو الخط الحقيقي بأكمله).
* Beta(0,0)، [[توزيع بيتا]] لـ ''α'' = 0، ''β'' = 0 (التوزيع الموحد على مقياس احتمالات السجل ).
* المسبق اللوغاريتمي على [[عدد موجب|القيم الإيجابية]] (التوزيع الموحد على [[مقياس لوغاريتمي|مقياس السجل]] ).

يمكن أيضًا تفسير هذه الدالات، التي يتم تفسيرها على أنها توزيعات موحدة، على أنها [[دالة الإمكان|دالة الاحتمالية]] في غياب البيانات، ولكنها ليست دالات مسبقة مناسبة.

== الاحتمالية المسبقة في الميكانيكا الإحصائية ==
بينما في الإحصائيات البايزية يتم استخدام الاحتمال المسبق لتمثيل المعتقدات الأولية حول معلمة parameter غير مؤكدة، في [[ميكانيكا إحصائية|الميكانيكا الإحصائية]] يتم استخدام الاحتمال المسبق لوصف الحالة الأولية للنظام.<ref>{{استشهاد بكتاب|مؤلف=Iba|الأول=Y.|عنوان=Cooperative Dynamics in Complex Physical Systems|ناشر=Springer|سنة=1989|محرر=Takayama|محرر-الأول=H.|سلسلة=Springer Series in Synergetics|المجلد=43|مكان=Berlin|صفحات=235–236|الفصل=Bayesian Statistics and Statistical Mechanics|دوي=10.1007/978-3-642-74554-6_60|isbn=978-3-642-74556-0}}</ref> يتم تعريف النسخة الكلاسيكية على أنها نسبة عدد الأحداث الأولية (على سبيل المثال، عدد مرات رمي حجر النرد) إلى العدد الإجمالي للأحداث - ويتم النظر فيها بشكل استنتاجي بحت، أي دون أي تجربة. في حالة حجر النرد، إذا نظرنا إليه على الطاولة دون رميه، فسيتم تفسير كل حدث أولي بشكل استنتاجي ليكون له نفس الاحتمال - وبالتالي احتمال كل نتيجة لرمي وهمي للنرد (الكامل) أو ببساطة عن طريق العد عدد الوجوه هو 1/6. يظهر كل وجه من وجوه حجر النرد باحتمال متساوٍ، والاحتمال هو مقياس محدد لكل حدث أولي. وتختلف النتيجة إذا رمينا النرد عشرين مرة وسألنا كم مرة (من أصل 20) ظهر الرقم 6 على الوجه العلوي. في هذه الحالة، يأتي دور الوقت ولدينا نوع مختلف من الاحتمالات اعتمادًا على الوقت أو عدد مرات رمي حجر النرد. من ناحية أخرى، فإن الاحتمال المسبق (الأولي) لا يعتمد على الزمن، حيث يمكنك النظر إلى حجر النرد الموجود على الطاولة طالما شئت دون لمسه، وتستنتج أن احتمال ظهور الرقم 6 على الوجه العلوي هو 1/6.

وفي نظرية الكم الكاملة، يوجد قانون حفظ مماثل. في هذه الحالة، يتم استبدال منطقة فضاء الطور بمساحة فرعية من فضاء الحالات معبرًا عنها بمشغل الإسقاط <math> P</math> ، وبدلاً من الاحتمال في مساحة الطور، لدينا كثافة الاحتمال <math display="block"> \Sigma: = \frac{P}{\text{Tr}(P)},\;\;\; N = \text{Tr}(P) = \mathrm{const.},</math> حيث <math>N</math> هي أبعاد الفضاء الفرعي. يتم التعبير عن قانون الانحفاظ في هذه الحالة من خلال وحدة المصفوفة S. وفي كلتا الحالتين، تفترض الاعتبارات وجود نظام مغلق معزول. هذا النظام المغلق المعزول هو نظام ذو (1) طاقة ثابتة <math>E</math> و (2) عدد ثابت من الجزيئات <math>N</math> في حالة التوازن(ج) . إذا نظر المرء في عدد كبير من النسخ المتماثلة لهذا النظام، فإنه يحصل على ما يسمى ''بالمجموعة القانونية الدقيقة'' . بالنسبة لهذا النظام، يفترض المرء في إحصائيات الكم "المسلمة الأساسية للاحتمالات المسبقة المتساوية لنظام معزول". وهذا يعني أن النظام المعزول في حالة التوازن يشغل كل حالة من حالاته التي يمكن الوصول إليها بنفس الاحتمال. وبالتالي فإن هذه الفرضية الأساسية تسمح لنا بمساواة الاحتمال المسبق بتحلل (اضمحلال) النظام، أي بعدد الحالات المختلفة التي لها نفس الطاقة.

=== مثال ===
يوضح المثال التالي الاحتمالية المسبقة (أو الترجيح المسبق) في (أ) الطريقة الكلاسيكية و(ب) ميكانيكا الكم.{{Ordered list|'''Classical a priori probability'''

Consider the rotational energy E of a diatomic molecule with moment of inertia I in spherical polar coordinates <math> \theta, \phi</math> (this means <math>q</math> above is here <math>\theta, \phi</math>), i.e.
<math display="block"> E = \frac{1}{2I}\left(p^2_{\theta} + \frac{p^2_{\phi}}{\sin^2\theta}\right).</math>
The <math>(p_{\theta}, p_{\phi})</math>-curve for constant E and <math>\theta </math> is an ellipse of area
<math display="block">\oint dp_{\theta}dp_{\phi} = \pi \sqrt{2IE}\sqrt{2IE}\sin\theta = 2\pi IE\sin\theta .</math>
By integrating over <math>\theta </math> and <math>\phi </math> the total volume of phase space covered for constant energy E is
<math display="block">\int^{\phi=2\pi}_{0}\int^{\theta=\pi}_0 2I\pi E\sin\theta d\theta d\phi = 8\pi^2 IE = \oint dp_{\theta}dp_{\phi}d\theta d\phi,</math>
and hence the classical a priori weighting in the energy range <math>dE </math> is
:<math>\Omega \propto</math> (phase space volume at <math>E+dE</math>) minus (phase space volume at <math>E</math>) is given by <math> 8{\pi}^2 I dE.</math>|'''Quantum a priori probability'''

Assuming that the number of quantum states in a range <math>\Delta q \Delta p </math> for each direction of motion is given, per element, by a factor <math>\Delta q\Delta p/h</math>, the number of states in the energy range dE is, as seen under (a) <math>8\pi^2I dE/h^2 </math> for the rotating diatomic molecule. From wave mechanics it is known that the energy levels of a
rotating diatomic molecule are given by
<math display="block"> E_n = \frac{n(n+1)h^2}{8\pi^2 I}, </math>
each such level being (2n+1)-fold degenerate. By evaluating <math>  dn/dE_n = 1/(dE_n/dn)</math>
one obtains
<math display="block">\frac{dn}{dE_n} = \frac{8\pi^2 I}{(2n+1)h^2}, \;\;\; (2n+1) dn = \frac{8\pi^2 I}{h^2} dE_n.</math>
Thus by comparison with <math>\Omega </math> above, one finds that the approximate number of states in the range dE is given by the degeneracy, i.e.
<math display="block"> \Sigma \propto (2n+1)dn.</math>
Thus the a priori weighting in the classical context (a) corresponds to the a priori weighting here in the quantal context (b).
In the case of the one-dimensional simple harmonic oscillator of natural frequency <math> \nu </math> one finds correspondingly: (a) <math> \Omega \propto dE/\nu </math>, and (b) <math> \Sigma \propto dn </math> (no degeneracy).
Thus in quantum mechanics the a priori probability is effectively a measure of the [[انعدام|degeneracy]], i.e. the number of states having the same energy.

In the case of the hydrogen atom or Coulomb potential (where the evaluation of the phase space volume for constant energy is more complicated) one knows that the quantum mechanical degeneracy is <math> n^2 </math> with <math> E\propto 1/n^2 </math>. Thus in this case <math> \Sigma \propto n^2 dn </math>.}}

== أنظر أيضًا ==

* [[مغالطة معدل الأساس|مغالطة المعدل الأساسي]]

== المراجع ==

{{مراجع}}
{{شريط بوابات|رياضيات}}

[[تصنيف:تقييم الاحتمالية]]
[[تصنيف:إحصاء بايزي]]