Root

Description
rrrrrroot

Please download to get full document.

View again

of 68
All materials on our website are shared by users. If you have any questions about copyright issues, please report us to resolve them. We are always happy to assist you.
Information
Category:

Documents

Publish on:

Views: 0 | Pages: 68

Extension: PDF | Download: 0

Share
Tags
Transcript
  ESTIMATION-DETECTION Mme A. BENAZZAVersion mise `a jour en mai 2015  Table des mati`eres 1 Introduction 2 1.1 Statistique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21.1.1 Collecte des donn´ees . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21.1.2 L’exploration statistique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21.1.3 L’inf´erence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31.1.4 La mod´elisation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31.2 Position du probl`eme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31.3 Mod`eles de prise de d´ecision . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41.4 Exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51.4.1 Lot de pi`eces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51.4.2 Fiabilit´e d’´equipements . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51.5 Performances . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61.5.1 Biais . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61.5.2 Matrice de covariance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61.5.3 Matrice d’erreur quadratique moyenne . . . . . . . . . . . . . . . . . . . . . . . 71.5.4 Propri´et´es asymptotiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71.5.5 Comparaison des estimateurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71.5.6 En conclusion ... . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 2 Moindres carr´es 9 2.1 Position du probl`eme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92.2 Crit`ere des moindres carr´es . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92.3 Choix de la matrice de pond´eration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102.4 Un exemple simple . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102.5 R´ef´erence lin´eaire par rapport aux param`etres . . . . . . . . . . . . . . . . . . . . . . . 102.5.1 D´erivation de fonctions multivariables . . . . . . . . . . . . . . . . . . . . . . . 102.5.2 Mod`ele d’observation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112.5.3 Estimateur . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112.5.4 Interpr´etation g´eom´etrique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 122.5.5 Performances de l’estimateur . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132.5.6 Liens avec les autres estimateurs . . . . . . . . . . . . . . . . . . . . . . . . . . 142.6 Moindres carr´es r´ecursifs pour un mod`ele d’observation lin´eaire par rapport aux pa-ram`etres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142.6.1 Position du probl`eme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142.6.2 R´esolution dans le cas non pond´er´e . . . . . . . . . . . . . . . . . . . . . . . . . 142.6.3 Remarques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 162.7 R´ef´erence non lin´eaire par rapport aux param`etres . . . . . . . . . . . . . . . . . . . . 162.7.1 Transformation de param`etres . . . . . . . . . . . . . . . . . . . . . . . . . . . 16i  2.7.2 Lin´earisation de la r´ef´erence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 162.7.3 S´eparabilit´e des param`etres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172.8 Conclusion g´en´erale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17 3 Estimateur du maximum de vraisemblance 18 3.1 Une exemple introductif . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183.2 Principe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183.2.1 Fonction vraisemblance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183.2.2 Crit`ere du maximum de vraisemblance . . . . . . . . . . . . . . . . . . . . . . . 183.2.3 Interpr´etation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183.2.4 Existence et unicit´e non assur´ees! . . . . . . . . . . . . . . . . . . . . . . . . . 193.3 Cons´equences . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 193.4 Invariance `a la reparam´etrisation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 193.4.1 Reparam´etrisation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 193.4.2 D´efinition de la propri´ete . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 193.4.3 Preuve . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 203.4.4 Commentaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 203.5 Propri´et´es asymptotiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 213.6 Lien avec l’estimateur efficace . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 213.7 Lien avec l’exhaustivit´e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 213.8 Mod`ele d’observation lin´eaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223.8.1 R´esolution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223.8.2 Lien avec l’estimateur des moindres carr´es . . . . . . . . . . . . . . . . . . . . . 23 4 Estimateur sans biais `a variance minimale 24 4.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244.1.1 Objectif . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244.1.2 Existence de l’estimateur MVU . . . . . . . . . . . . . . . . . . . . . . . . . . . 244.1.3 Unicit´e de l’estimateur MVU . . . . . . . . . . . . . . . . . . . . . . . . . . . . 254.1.4 Recherche de l’estimateur MVU . . . . . . . . . . . . . . . . . . . . . . . . . . . 25 I Estimateur MVU efficace 27 4.2 Information de Fisher . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 284.2.1 Vecteur score . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 284.2.2 Condition de r´egularit´e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 284.3 Matrice d’information de Fisher . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 284.3.1 D´efinition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 284.3.2 Une autre expression de la matrice d’information de Fisher . . . . . . . . . . . 294.3.3 Propri´et´e d’additivit´e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 294.3.4 Influence de la reparam´etrisation . . . . . . . . . . . . . . . . . . . . . . . . . . 304.3.5 Interpr´etation de la matrice de Fisher . . . . . . . . . . . . . . . . . . . . . . . 304.3.6 A propos de la notion d’“information” . . . . . . . . . . . . . . . . . . . . . . . 304.4 Borner les variances l’estimateurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 304.4.1 Principe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 304.4.2 Cas d’un param`etre scalaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 314.4.3 Cas d’un param`etre vectoriel . . . . . . . . . . . . . . . . . . . . . . . . . . . . 314.5 Estimateur efficace . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 324.5.1 Th´eor`eme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32ii  4.5.2 Preuve du th´eor`eme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 324.6 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33 II Recherche de l’estimateur MVU via une statistique exhaustive 34 5 Statistique exhaustive 35 5.1 Avant-propos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 355.2 Un premier exemple introductif . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 355.3 Un second exemple introductif . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 365.4 D´efinition de l’exhaustivit´e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 365.5 Th´eor`eme de factorisation de Neyman-Fisher . . . . . . . . . . . . . . . . . . . . . . . 365.5.1 Enonc´e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 365.5.2 Preuve . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 375.5.3 Utilit´e du th´eor`eme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 375.6 Famille de lois exponentielles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 385.7 Th´eor`eme de Pitman-Koopman-Darmois . . . . . . . . . . . . . . . . . . . . . . . . . . 385.8 Exhaustivit´e et information . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 385.8.1 Diminution de l’information . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 385.8.2 Conservation de l’information . . . . . . . . . . . . . . . . . . . . . . . . . . . . 395.9 Statistique compl`ete . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 395.9.1 D´efinition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 395.9.2 Justification de la d´enomination . . . . . . . . . . . . . . . . . . . . . . . . . . 395.9.3 V´erification de la propri´et´e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 395.9.4 Cas des lois de la famille exponentielle . . . . . . . . . . . . . . . . . . . . . . . 395.10 Th´eor`eme de Rao-Blackwell . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 405.10.1 Corollaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 415.10.2 Th´eor`eme de Lehman-Scheff´e . . . . . . . . . . . . . . . . . . . . . . . . . . . . 415.11 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41 III M´ethode sous-optimale 42 6 Estimateur lin´eaire sans biais de variance minimale 43 6.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 436.2 Conditions sur le biais et la variance . . . . . . . . . . . . . . . . . . . . . . . . . . . . 436.3 Un r´esultat pr´eliminaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 446.4 R´esolution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 456.5 Lien avec l’estimateur des moindres carr´es . . . . . . . . . . . . . . . . . . . . . . . . . 45 7 Estimateur bay´esien 46 7.1 Principe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 467.2 Exemple historique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 467.3 Mod`ele de d´ecision bay´esienne . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 477.4 Risque bay´esien . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 477.5 Coˆut quadratique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 487.5.1 Estimateur optimal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 487.5.2 Performances . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 497.5.3 Transformation affine du param`etre . . . . . . . . . . . . . . . . . . . . . . . . 497.5.4 Mod`ele bay´esien lin´eaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49iii
Related Search
Similar documents
View more...
We Need Your Support
Thank you for visiting our website and your interest in our free products and services. We are nonprofit website to share and download documents. To the running of this website, we need your help to support us.

Thanks to everyone for your continued support.

No, Thanks