distribution normale

La distribution normale de densité (moyenne 0" $0{\sigma }^2>0$0

• Elle est symétrique autour du point qui est à la fois le mode , la médiane et la moyenne de la distribution.
• Elle est unimodale : sa dérivée première est positive pour , négative pour et nulle uniquement pour .\\mu," $\backslash mu\; ,x>\mu ,$\mu ,
• L'aire délimitée par la courbe et l' axe est égale à l'unité (c'est-à-dire égale à un).
• Sa première dérivée est
• Sa dérivée seconde est
• Sa densité présente deux points d'inflexion (où la dérivée seconde de est nulle et change de signe), situés à un écart type de la moyenne, à savoir à et
• Sa densité est log-concave .
• Sa densité est infiniment différentiable , voire superlisse d'ordre 2.

De plus, la densité distribution normale standard (c'est-à-dire et ) possède également les propriétés suivantes :

• Sa première dérivée est
• Sa dérivée seconde est
• Plus généralement, sa dérivée polynôme d'Hermite (probabiliste) .
• La probabilité qu'une variable normalement distribuée et la fraction a une distribution normale standard.

La transformée de Fourier moyenne

où est l' unité imaginaire . Si la moyenne , le premier facteur est 1, et la transformée de Fourier est, à un facteur constant près, une densité normale sur le domaine fréquentiel , de moyenne 0 et de variance fonction propre de la transformée de Fourier.

réelle est étroitement liée à la fonction caractéristique de cette variable, définie comme l' espérance de cette fréquence de la transformée de Fourier). Cette définition peut être étendue analytiquement à une variable complexe

Les parties réelles et imaginaires de donner : et

De même, et

Ces formules évaluées donnent la valeur attendue de ces fonctions trigonométriques et hyperboliques de base sur une variable aléatoire gaussienne , ce qui pourrait également être considéré comme une conséquence du théorème d'Isserlis .

La fonction génératrice des moments espérance de , en fonction du paramètre réel

Pour tout , le coefficient de dans la fonction génératrice des moments (exprimée sous forme de série de puissance exponentielle en ) est la valeur attendue de la distribution normale .

La fonction génératrice des cumulants est le logarithme de la fonction génératrice des moments, à savoir

Les coefficients de cette série de puissance exponentielle définissent les cumulants, mais comme il s'agit d'un polynôme quadratique en , seuls les deux premiers cumulants sont non nuls, à savoir la moyenne

Certains auteurs préfèrent plutôt travailler avec la fonction caractéristique de Stein, l' opérateur de Stein et la classe d'une variable aléatoire sont et la classe de toutes les fonctions absolument continues

À la limite où tend vers zéro, la densité de probabilité tend vers zéro partout sauf en , où elle tend vers , tandis que son intégrale reste égale à 1. Une extension de la loi normale au cas de variance nulle peut être définie à l'aide de la mesure delta de Dirac , bien que les variables aléatoires résultantes ne soient pas absolument continues et n'admettent donc pas de fonction de densité de probabilité . La fonction de répartition d'une telle variable aléatoire est alors la fonction de Heaviside translatée par la moyenne , à savoir

Parmi toutes les distributions de probabilité sur les nombres réels avec une moyenne finie et une variance finie spécifiées celle qui présente l'entropie maximale . Pour le démontrer, variable aléatoire continue de densité de probabilité du calcul variationnel . Une fonction à trois multiplicateurs de Lagrange est définie :

À entropie maximale, une petite variation autour de produira une variation autour

Puisque cela doit être vrai pour tout petit , le facteur multipliant doit être nul, et la résolution pour donne :

Les contraintes de Lagrange selon lesquelles est correctement normalisé et a la moyenne et la variance spécifiées sont satisfaites si et seulement si , , et sont choisis de sorte que L'entropie d'une distribution normale est égale à qui est indépendante de la moyenne

La distribution normale fractionnée se définit le plus simplement comme la combinaison de portions mises à l'échelle des fonctions de densité de différentes distributions normales, la densité étant ensuite normalisée pour que son intégrale soit égale à un. La distribution normale tronquée résulte de la normalisation d'une portion d'une seule fonction de densité.

Pour tout entier positif variance est la distribution de la somme de divisibilité infinie .

Réciproquement, si et sont des variables aléatoires indépendantes et que leur somme suit une loi normale, alors et doivent toutes deux être des variables aléatoires normales.

Ce résultat est connu sous le nom de théorème de décomposition de Cramér et équivaut à dire que la convolution de deux distributions est normale si et seulement si les deux distributions sont normales. Le théorème de Cramér implique qu'une combinaison linéaire de variables indépendantes non gaussiennes ne suivra jamais une loi normale exacte, même si elle peut s'en approcher arbitrairement.

Le théorème de Kac-Bernstein stipule que si

La notion de distribution normale, qui compte parmi les distributions les plus importantes en théorie des probabilités, a été largement étendue au-delà du cadre standard du cas univarié (c'est-à-dire unidimensionnel) (Cas 1). Toutes ces extensions sont également appelées lois normales ou gaussiennes , ce qui crée une certaine ambiguïté dans la terminologie.

• La distribution normale multivariée décrit la loi gaussienne dans l' espace euclidien lois elliptiques . Ainsi, ses lieux d'isodensitésont des ellipses pour ellipsoïdes pour
• Distribution gaussienne rectifiée : une version rectifiée de la distribution normale dont tous les éléments négatifs sont ramenés à 0.
• La distribution normale complexe traite des vecteurs normaux complexes. Un vecteur complexe La distribution normale matricielle décrit le cas des matrices distribuées normalement.
• Les processus gaussiens sont des processus stochastiques suivant une loi normale . Ils peuvent être vus comme des éléments d'un espace de Hilbert produit scalaire mouvement brownien ;
• Pont brownien ; et
• Procédé Ornstein-Uhlenbeck .

Une variable aléatoire

L'une des principales applications pratiques de la loi de Gauss est la modélisation des distributions empiriques de nombreuses variables aléatoires rencontrées en pratique. Dans ce cas, une extension possible serait une famille de distributions plus riche, comportant plus de deux paramètres et permettant ainsi de mieux ajuster la distribution empirique. Voici quelques exemples de telles extensions :

• Distribution de Pearson — une famille de distributions de probabilité à quatre paramètres qui étend la loi normale pour inclure différentes valeurs d'asymétrie et d'aplatissement.
• La distribution normale généralisée , également connue sous le nom de distribution de puissance exponentielle, permet des queues de distribution avec des comportements asymptotiques plus ou moins épais.

L'analyse bayésienne des données à distribution normale est compliquée par les nombreuses possibilités différentes qui peuvent être envisagées :

• On peut considérer soit la moyenne, soit la variance, soit aucune des deux, comme une quantité fixe.
• Lorsque la variance est inconnue, l'analyse peut être effectuée directement en fonction de la variance ou en fonction de la précision , son inverse. L'expression des formules en fonction de la précision simplifie l'analyse dans la plupart des cas.
• Il convient de prendre en compte les cas univariés et multivariés .
• Des distributions a priori conjuguées ou impropres peuvent être appliquées aux variables inconnues.
• Un autre ensemble de cas se présente en régression linéaire bayésienne , où, dans le modèle de base, les données sont supposées suivre une loi normale et où des lois a priori normales sont appliquées aux coefficients de régression . L'analyse qui en résulte est similaire aux cas de base de données indépendantes et identiquement distribuées .

Les formules pour les cas de régression non linéaire sont résumées dans l' article précédent conjugué .

Pour un ensemble de points de données iid normalement distribués une variance connue a priori conjuguée est également normalement distribuée.

Cela peut être démontré plus facilement en réécrivant la variance comme la précision , c'est-à-dire en utilisant

Premièrement, la fonction de vraisemblance est (en utilisant la formule ci-dessus pour la somme des différences par rapport à la moyenne) :

Nous procédons ensuite comme suit :

Dans la démonstration ci-dessus, nous avons utilisé la formule ci-dessus pour la somme de deux polynômes du second degré et éliminé tous les facteurs constants ne faisant pas intervenir noyau d'une distribution normale, de moyenne et de précision , c'est-à-dire

Cela peut s'écrire sous la forme d'un ensemble d'équations de mise à jour bayésiennes pour les paramètres a posteriori en fonction des paramètres a priori :

Autrement dit, pour combiner moyenne pondérée de la moyenne des données et de la moyenne a priori, chacune étant pondérée par sa précision totale associée. Cela est logique si l'on considère la précision comme un indicateur de la certitude des observations : dans la distribution de la moyenne a posteriori, chaque composante est pondérée par sa certitude, et la certitude de cette distribution est la somme des certitudes individuelles. (Pour une meilleure compréhension de ce concept, on peut comparer avec l'expression « le tout est (ou n'est pas) supérieur à la somme de ses parties ». De plus, il faut considérer que la connaissance de la distribution a posteriori provient d'une combinaison de la connaissance de la distribution a priori et de la vraisemblance ; il est donc logique que nous en soyons plus certains que de chacune de ses composantes.)

La formule ci-dessus explique pourquoi il est plus commode d'effectuer une analyse bayésienne des lois a priori conjuguées pour la distribution normale en termes de précision. La précision a posteriori est simplement la somme des précisions a priori et de vraisemblance, et la moyenne a posteriori est calculée par une moyenne pondérée par la précision, comme décrit précédemment. Ces mêmes formules peuvent être exprimées en termes de variance en inversant toutes les précisions, ce qui donne des formules moins élégantes.

Une distribution normale apparaît dans certaines théories physiques :

• La distribution des vitesses de sphères parfaitement élastiques se déplaçant indépendamment, qui est une conséquence de la théorie dynamique des gaz de Maxwell, partie I (1860) .
• La fonction d'onde de l'état fondamental dans l'espace de position de l' oscillateur harmonique quantique .
• La position d'une particule soumise à la diffusion . Si initialement la particule se trouve en un point précis (sa distribution de probabilité suit la fonction delta de Dirac ), alors après un temps équation de diffusion . Si la position initiale est donnée par une certaine fonction de densité g , alors la densité à l'instant convolution de théorème central limite . Lorsqu'un résultat est produit par de nombreux petits effets agissant de manière additive et indépendante , sa distribution sera proche de la normale. L'approximation normale ne sera plus valable si les effets agissent de manière multiplicative (au lieu d'additif), ou s'il existe une influence externe unique dont l'ampleur est considérablement supérieure à celle des autres effets.
  • Dans les problèmes de dénombrement, où le théorème central limite inclut une approximation discrète-continue et où interviennent des distributions infiniment divisibles et décomposables , comme
    • Variables aléatoires binomiales , associées à des variables de réponse binaires ;
    • variables aléatoires de Poisson , associées à des événements rares ;
  • Le rayonnement thermique suit une distribution de Bose-Einstein sur des échelles de temps très courtes, et une distribution normale sur des échelles de temps plus longues en raison du théorème central limite.

Je ne peux considérer l'apparition de la courbe normale – la courbe laplacienne des erreurs – que comme un phénomène très anormal. Elle est grossièrement approchée dans certaines distributions ; c'est pourquoi, et en raison de sa remarquable simplicité, on peut éventuellement l'utiliser comme première approximation, notamment dans les études théoriques.

Il existe des méthodes statistiques pour tester empiriquement cette hypothèse ; voir la section « Tests de normalité » ci-dessus.

• En biologie , le logarithme de diverses variables tend à suivre une distribution normale, c'est-à-dire une distribution log-normale (après séparation des sous-populations mâles/femelles), avec des exemples tels que :
  • Mesures de la taille des tissus vivants (longueur, hauteur, surface de la peau, poids) ;
  • La longueur des appendices inertes (poils, griffes, ongles, dents) des spécimens biologiques, dans le sens de la croissance ; l'épaisseur de l'écorce des arbres entre vraisemblablement aussi dans cette catégorie ;
  • Certaines mesures physiologiques, comme la pression artérielle chez l'adulte.
• En finance, et notamment dans le modèle de Black-Scholes , on suppose que les variations du logarithme des taux de change, des indices de prix et des indices boursiers suivent une loi normale (ces variables se comportent comme des intérêts composés , et non comme des intérêts simples, et sont donc multiplicatives). Certains mathématiciens, comme Benoît Mandelbrot, ont soutenu que les distributions log-Lévy , caractérisées par des queues épaisses , constitueraient un modèle plus approprié, en particulier pour l'analyse des krachs boursiers . L'utilisation de l'hypothèse de normalité dans les modèles financiers a également été critiquée par Nassim Nicholas Taleb dans ses travaux.
• Les erreurs de mesure dans les expériences physiques sont souvent modélisées par une distribution normale. L'utilisation d'une distribution normale n'implique pas que l'on suppose que les erreurs de mesure suivent une distribution normale ; elle vise plutôt à obtenir les prédictions les plus prudentes possibles compte tenu de la seule connaissance de la moyenne et de la variance des erreurs.
• Dans les tests standardisés , on peut normaliser la distribution des résultats soit en choisissant le nombre et la difficulté des questions (comme pour le test de QI ), soit en transformant les scores bruts en scores de sortie par ajustement à une distribution normale. Par exemple, l' échelle traditionnelle du SAT , de 200 à 800, est basée sur une distribution normale avec une moyenne de 500 et un écart type de 100.

• De nombreux scores sont dérivés d'une distribution normale, notamment les rangs percentiles (ou quantiles), les équivalents de la courbe normale , les stanines , les scores z et les scores T. De plus, certaines procédures statistiques comportementales supposent que les scores suivent une distribution normale ; par exemple, les tests t et les analyses de variance (ANOVA ). La notation par courbe de Gauss attribue des notes relatives en fonction d'une distribution normale des scores.
• En hydrologie, la distribution des débits fluviaux ou des précipitations sur de longues périodes, par exemple les totaux mensuels et annuels, est souvent considérée comme pratiquement normale selon le théorème central limite . Le graphique de droite illustre un exemple d'ajustement d'une distribution normale aux précipitations d'octobre, classées par ordre décroissant, et présente l' intervalle de confiance à 90 % basé sur la distribution binomiale . Les données de précipitations sont représentées par des points dans le cadre de l' analyse de fréquence cumulée .

John Ioannidis a soutenu que l'utilisation d'écarts-types distribués normalement comme critères de validation des résultats de recherche laisse de côté les prédictions falsifiables concernant des phénomènes qui ne suivent pas une distribution normale. Cela inclut, par exemple, les phénomènes qui n'apparaissent que lorsque toutes les conditions nécessaires sont réunies et où aucun élément ne peut se substituer à un autre, ainsi que les phénomènes qui ne sont pas distribués aléatoirement. Ioannidis affirme que la validation centrée sur l'écart-type donne une fausse impression de validité aux hypothèses et aux théories dont certaines prédictions falsifiables, mais pas toutes, suivent une distribution normale. En effet, la portion des prédictions falsifiables contredites peut se situer, et se situe parfois, dans la partie non normalement distribuée de l'intervalle des prédictions falsifiables. De plus, cette approche conduit à rejeter sans fondement des hypothèses dont aucune prédiction falsifiable ne suit une distribution normale, comme si elles étaient irréfutables, alors qu'en réalité, elles formulent des prédictions falsifiables. Ioannidis soutient que de nombreux cas de théories mutuellement exclusives acceptées comme validées par des revues de recherche sont dus à l'incapacité de ces revues à prendre en compte les réfutations empiriques de prédictions non normalement distribuées, et non parce que les théories mutuellement exclusives sont vraies, ce qui est impossible, même si deux théories mutuellement exclusives peuvent être fausses et une troisième correcte.

Dans les simulations informatiques, notamment pour les applications de la méthode de Monte-Carlo , il est souvent souhaitable de générer des valeurs suivant une loi normale. Les algorithmes présentés ci-dessous génèrent tous des variables aléatoires normales standard, puisqu'une variable aléatoire générateur de nombres aléatoires uniformes .

• La méthode la plus simple repose sur la propriété de transformation intégrale de probabilité : si fonction probit Φ⁻¹ , qui ne peut être déterminé analytiquement. Des méthodes approchées sont décrites dans d’erf . Wichura propose un algorithme rapide pour calculer cette fonction avec une ^{R pour calculer les variables aléatoires suivant une loi normale.}
• Une approche approximative facile à programmer, basée sur le théorème central limite, consiste à générer 12 variables aléatoires uniformes d'Irwin-Hall , une approximation polynomiale de degré 11, à 12 segments, de la loi normale. Cette variable aléatoire aura un intervalle limité à méthode de Box-Muller utilise deux nombres aléatoires indépendants uniformément distribués sur (0,1). Les deux variables aléatoires indépendantes . Cette formulation se justifie par le fait que, pour un vecteur aléatoire normal bivarié loi du χ² à deux degrés de liberté, qui correspond à une variable aléatoire exponentielle facilement générée méthode polaire de Marsaglia est une modification de la méthode de Box-Muller qui ne nécessite pas le calcul des fonctions sinus et cosinus. Dans cette méthode, algorithme de la ziggourat est plus rapide que la transformation de Box-Muller tout en restant exact. Dans environ 97 % des cas, il utilise seulement deux nombres aléatoires : un entier et un nombre aléatoire uniforme, une multiplication et un test conditionnel. Ce n'est que dans 3 % des cas, lorsque la combinaison de ces deux nombres se situe en dehors du « noyau de la ziggourat » (une sorte d'échantillonnage par rejet utilisant des logarithmes), que des exponentielles et d'autres nombres aléatoires uniformes doivent être employés.
• L'arithmétique entière peut être utilisée pour échantillonner à partir de la distribution normale standard. Cette méthode est exacte au sens où elle satisfait aux conditions d' approximation idéale ; c'est-à-dire qu'elle est équivalente à échantillonner un nombre réel à partir de la distribution normale standard et à l'arrondir au nombre à virgule flottante représentable le plus proche.
• Des recherches ont également été menées sur le lien entre la transformation de Hadamard rapide et la distribution normale. En effet, cette transformation n'utilise que des additions et des soustractions, et, d'après le théorème central limite, des nombres aléatoires issus de presque n'importe quelle distribution se transforment en nombres suivant une distribution normale. À cet égard, une série de transformations de Hadamard peut être combinée à des permutations aléatoires pour convertir des ensembles de données arbitraires en données suivant une distribution normale.

La fonction de répartition cumulative normale standard est largement utilisée en calcul scientifique et statistique.

Les valeurs de l'intégration numérique , les séries de Taylor , les séries asymptotiques et les fractions continues . Différentes approximations sont utilisées selon le niveau de précision souhaité.

• par fraction continue pour obtenir un algorithme de calcul rapide avec une précision de 16 chiffres.
• l'approximation rationnelle de Chebyshev .
• bibliothèque scientifique GNU calcule les valeurs de la fonction de répartition cumulative normale standard en utilisant les algorithmes de Hart et des approximations avec des polynômes de Chebyshev .

Shore (1982) a introduit des approximations simples pouvant être intégrées aux modèles d'optimisation stochastique en ingénierie et en recherche opérationnelle, comme l'ingénierie de la fiabilité et l'analyse des stocks. En notant

Cette approximation donne pour

Cette dernière avait permis d'obtenir une approximation simple de l'intégrale de perte de la distribution normale, définie par

Cette approximation est particulièrement précise pour la queue de distribution supérieure (erreur maximale de 10⁻³ ^{la méthodologie de modélisation de la réponse} (RMM, Shore, 2011, 2012), sont présentées dans Shore (2005).

D'autres approximations sont disponibles dans la section : Fonction d'erreur#Approximation avec des fonctions élémentaires . En particulier, une faible erreur relative sur l'ensemble du domaine, pour la fonction de répartition

Certains auteurs attribuent la découverte de la distribution normale à de Moivre , qui, en 1738 publia dans la seconde édition de son ouvrage *La Doctrine des chances* l'étude des coefficients du développement binomial de Stiglersouligne que de Moivre lui-même n'a interprété ses résultats que comme la règle approximative des coefficients binomiaux, et qu'en particulier, de Moivre ignorait le concept de fonction de densité de probabilité.

En 1823, Gauss publia sa monographie « Theoria combinationis observationum erroribus minimis obnoxiae », où il introduit notamment plusieurs concepts statistiques importants, tels que la méthode des moindres carrés , la méthode du maximum de vraisemblance et la loi normale . Gauss utilisa des moindres carrés pondérés non linéaires .

Bien que Gauss ait été le premier à suggérer la loi de la loi normale, Laplace y a apporté des contributions significatives. C'est Laplace qui, en 1774, a posé le problème de l'agrégation de plusieurs observations , même si sa propre solution a conduit à la loi laplacienne . C'est également Laplace qui, en 1782, a calculé la valeur de l' intégrale théorème central limite fondamental , soulignant ainsi l'importance théorique de la loi normale.

Il est intéressant de noter qu'en 1809, le mathématicien irlando-américain Robert Adrian publia simultanément et indépendamment de Gauss deux démonstrations pertinentes mais erronées de la loi de probabilité normale. Ses travaux restèrent largement méconnus de la communauté scientifique jusqu'à ce qu'ils soient redécouverts par Abbe en 1871.

Au milieu du XIXe siècle, Maxwell a démontré que la distribution normale n'est pas seulement un outil mathématique pratique, mais qu'elle peut également se manifester dans des phénomènes naturels : Le nombre de particules dont la vitesse, résolue dans une certaine direction, se situe entre

Aujourd'hui, ce concept est généralement connu en anglais sous le nom de distribution normale ou distribution gaussienne . Parmi les autres appellations moins courantes, on trouve distribution de Gauss, distribution de Laplace-Gauss, loi des erreurs, loi de la facilité des erreurs, deuxième loi de Laplace et loi de Gauss.

Gauss lui-même aurait apparemment forgé le terme en référence aux « équations normales » impliquées dans ses applications, « normal » ayant ici le sens technique d'orthogonal plutôt que d'habituel. Cependant, à la fin du XIXe siècle, certains auteurs ont commencé à utiliser l'appellation « distribution normale », où le mot « normal » était employé comme adjectif ; le terme étant alors perçu comme le reflet de cette distribution considérée comme typique, courante , et donc normale. Peirce (l'un de ces auteurs) a un jour défini la « normalité » comme suit : « … la “normale” n'est pas la moyenne (ou toute autre forme de moyenne arithmétique) de ce qui se produit réellement, mais de ce qui se produirait, à long terme, dans certaines circonstances. » Au tournant du XXe siècle, Pearson a popularisé le terme « normale » pour désigner cette distribution.

Par ailleurs, c'est Pearson qui, le premier, a exprimé la distribution en fonction de l'écart type Fisher a ajouté le paramètre de position à la formule de la distribution normale, l'exprimant ainsi comme on l'écrit aujourd'hui :

Le terme distribution normale standard , qui désigne la distribution normale avec une moyenne nulle et une variance unitaire, est entré dans l'usage courant vers les années 1950, apparaissant dans les manuels populaires de P. G. Hoel (1947) Introduction to Mathematical Statistics et d'Alexander M. Mood (1950) Introduction to the Theory of Statistics .