Fonction génératrice des probabilités

En mathématiques, et plus particulièrement en théorie des probabilités, la fonction génératrice des probabilités (ou fonction génératrice des moments factoriels^[1]^,^[2]^,^[3]) d'une variable aléatoire (à valeurs dans les entiers naturels) est la série entière associée à la fonction de masse de cette variable aléatoire. La fonction génératrice des probabilités est utile car elle permet de caractériser entièrement la fonction de masse. La fonction génératrice des probabilités est usuellement identifiée à sa somme.

Définition

Soit $X$ une variable aléatoire entière et positive, la fonction génératrice des probabilités de $X$ est la série entière

G_{X}(t):=\sum _{k\geq 0}\mathbb {P} (X=k)t^{k}

où $\mathbb {P} (X=k)$ est la probabilité que la variable aléatoire $X$ prenne la valeur $k$ . La fonction génératrice des probabilités sera souvent confondue avec sa somme lorsque celle-ci converge.

Si $R$ est le rayon de convergence de la série entière, alors on remarque que la fonction $t\mapsto \mathbb {E} [t^{X}]$ existe et est finie sur l'ensemble $]-R,R[\,\cup \,\{-1,1\}$ (avec pour convention que $00 = 1$ ) et donc^[4]

G_{X}(t)=\mathbb {E} [t^{X}]~~~\forall t\in \,]-R,R[\,\cup \,\{-1,1\}

.

Si $R$ est fini alors cette dernière égalité peut encore être vraie pour $t = R$ ou $t = - R$ ^[5].

Les coefficients de la série entière étant des probabilités, $R$ est supérieur ou égal à $1$ . En effet, pour $0 \leq t \leq 1$ la série est uniformément convergente puisque $\left|\mathbb {P} (X=k)t^{k}\right|\leq {P}(X=k)$ et que $\sum _{k\geq 0}{P}(X=k)=1$ .

Si $R$ est strictement supérieur à $1$ alors $G X$ est développable en série entière au voisinage de $1$ (car la somme d'une série entière est développable en série entière dans son disque ouvert de convergence), de plus $X$ admet des moments factoriels de tout ordre finis^[1] et au voisinage de $1$ on a^[6]

G_{X}(t)=\sum _{k=0}^{+\infty }{\frac {1}{k!}}\mathbb {E} \left[(X)_{k}\right](t-1)^{k}

où $\mathbb {E} \left[(X)_{k}\right]$ désigne le $k$ -ième moment factoriel de $X$ .

Fonctions génératrices de lois usuelles

Fonctions génératrices de lois usuelles^[7]
Nom de la loi	Paramètres	Fonction de masse $k\mapsto \mathbb {P} (X=k)$	Fonction génératrice $G X$	Rayon de convergence de $G X$
Loi de Bernoulli	$p$	$p\mathbf {1} _{k=1}+q\mathbf {1} _{k=0}$	$q+pt$	$\infty$
Loi bêta-binomiale	$n,\alpha ,\beta$	${\binom {n}{k}}{\frac {\mathrm {B} (k+\alpha ,n-k+\beta )}{\mathrm {B} (\alpha ,\beta )}}$	${\frac {_{2}F_{1}(-n,\alpha \,;\,1-\beta -n\,;\,t)}{_{2}F_{1}(-n,\alpha \,;\,1-\beta -n\,;\,1)}}$	$1$
Loi binomiale	$n,p$	${\binom {n}{k}}p^{k}q^{n-k}$	$(q+pt)^{n}$	$\infty$
Loi binomiale négative	$n,p$	${\binom {n+k-1}{k}}p^{n}q^{k}$	$\left({\frac {p}{1-qt}}\right)^{n}$	${\frac {1}{q}}$
Loi binomiale négative étendue	$r,p,m$	${\frac {{r+k-1 \choose k}q^{k}}{p^{-r}-\sum _{i=0}^{m-1}{r+i-1 \choose i}q^{i}}}\mathbf {1} _{k\geq m}$	${\frac {(1-qt)^{-r}-\sum _{i=0}^{m-1}{\binom {r+i-1}{i}}(qt)^{i}}{p^{-r}-\sum _{i=0}^{m-1}{\binom {r+i-1}{i}}q^{i}}}$	${\frac {1}{q}}$
Loi géométrique	$p$	$q^{k-1}p\mathbf {1} _{k\geq 1}$	${\frac {pt}{1-qt}}$	${\frac {1}{q}}$
Loi hypergéométrique	$n,p,N$	${\frac {{\binom {pN}{k}}{\binom {qN}{n-k}}}{\binom {N}{n}}}$	${\frac {_{2}F_{1}(-n,-pN\,;\,1+qN-n\,;\,t)}{_{2}F_{1}(-n,-pN\,;\,1+qN-n\,;\,1)}}$	$1$
Loi logarithmique	$p$	${\frac {-p^{k}}{k\ln q}}\mathbf {1} _{k\geq 1}$	${\frac {\ln(1-pt)}{\ln q}}$	${\frac {1}{p}}$
Loi de Markov-Pólya	$a,b,h,n$	${\binom {n}{k}}{\frac {a^{(k,h)}b^{(n-k,h)}}{m^{(n,h)}}}$	${\frac {_{2}F_{1}(-n,\,a/h\,;\,1-b/h-n\,;\,t)}{_{2}F_{1}(-n,\,a/h\,;\,1-b/h-n\,;\,1)}}$	$1$
Loi de Poisson	$\lambda$	${\frac {\lambda ^{k}}{k!}}\mathrm {e} ^{-\lambda }$	$\mathrm {e} ^{\lambda (t-1)}$	$\infty$
Loi uniforme discrète	$a$ , $b$ , $n$	${\frac {1}{n}}\mathbf {1} _{a\geq k\geq b}$	$t^{a}{\frac {t^{n}-1}{t-1}}$	$\infty$

Propriétés

$G X$ est toujours définie en $t = 1$ et $t = -1$ de plus on a $G_{X}(1)=1$ et $G_{X}(-1)=\mathbb {P} (X{\text{ est pair}})-\mathbb {P} (X{\text{ est impair}})$ .

$X$ admet une espérance finie $\mathbb {E} [X]\$ si et seulement si la dérivée à gauche de $G X$ est définie en $t = 1$ ; le cas échéant on a

\mathbb {E} [X]=G_{X}'(1)

.

$X$ admet une variance finie $\mathbb {V} (X)$ , et donc une espérance finie $\mathbb {E} [X]$ , si et seulement si la dérivée à gauche d'ordre $2$ de $G X$ est définie en $t = 1$ ; le cas échéant on a

\mathbb {V} [X]=G_{X}''(1)+G_{X}'(1)-G_{X}'(1)^{2}

.

Plus généralement, $X$ admet un moment factoriel d'ordre $k$ fini $\mathbb {E} \left[(X)_{k}\right]$ si et seulement si la dérivée à gauche d'ordre $k$ de $G X$ est définie en $t = 1$ ; le cas échéant on a^[1]

\mathbb {E} \left[(X)_{k}\right]=G_{X}^{(k)}(1)

.

Deux variables aléatoires à valeurs dans $\mathbb {N}$ admettent la même fonction génératrice des probabilités si et seulement si elles ont la même loi de probabilité. Autrement dit la fonction génératrice des probabilités caractérise la loi. De plus on a

G_{X}^{(k)}(0)=k!\mathbb {P} (X=k)~~~\forall k\geq 0

.

Soient $X$ et $Y$ deux variables aléatoires à valeurs dans $\mathbb {N}$ . Si $X$ et $Y$ sont indépendantes alors on a : $G_{X+Y}=G_{X}\times G_{Y}.$ Remarque : La réciproque est fausse.
Si $X 1$ , $X 2$ , ..., $X n$ sont des variables aléatoires indépendantes, et si on pose $S_{n}=\sum _{i=1}^{n}a_{i}X_{i}$ où les a_i sont des constantes, alors $G_{S_{n}}(z)=\mathbb {E} (z^{S_{n}})=\mathbb {E} (z^{\sum _{i=1}^{n}a_{i}X_{i},})=G_{X_{1}}(z^{a_{1}})G_{X_{2}}(z^{a_{2}})\cdots G_{X_{n}}(z^{a_{n}})$ .
Si en plus les X_i ont tous la même loi (et donc même fonction génératrice $G$ ), alors la variable aléatoire $S_{n}=\sum _{i=1}^{n}X_{i}$ a pour fonction génératrice : $G_{S_{n}}=G^{n}$ .
Soit (X_n) une suite de variables aléatoires à valeurs dans $\mathbb {N}$ et X une variable aléatoire aussi à valeurs dans $\mathbb {N}$ . Alors les assertions suivantes sont équivalentes :
- ( $X n$ ) converge en loi vers $X$
- Pour tout $k \geq 0$ on a la convergence $\mathbb {P} (X_{n}=k)\rightarrow \mathbb {P} (X=k)$ quand $n$ tend vers l'infini.
- Pour tout $0 < t < 1$ on a la convergence $G_{X_{n}}(t)\rightarrow G_{X}(t)$ quand $n$ tend vers l'infini.

Composition des fonctions génératrices

La propriété suivante est particulièrement utile à l'étude des processus de Galton-Watson.

Théorème — Soit $(X_{n})$ une suite de variables aléatoires de même loi et $N$ une variable aléatoire, toutes à valeurs dans $\mathbb {N}$ .

On pose $S_{N}=\sum _{n=1}^{N}X_{n}=\sum _{n\geq 1}X_{n}\ 1\!\!1_{\{N\geq n\}}$ .
On suppose que $(N,X_{1},X_{2},...)$ est une famille de variables aléatoires indépendantes.

Alors :

G_{S_{N}}=G_{N}\circ G_{X}

.

Démonstration

Notons que, si $S_{0}\equiv 0$ et si

S_{n}=\sum _{k=1}^{n}X_{k},

alors

S_{N}=\sum _{n\geq 0}\ S_{n}\ 1\!\!1_{\{N=n\}}.

Par conséquent,

{\begin{aligned}G_{S_{N}}(z)&=\mathbb {E} \left[z^{S_{N}}\right]\\&=\mathbb {E} \left[z^{\sum _{n\geq 0}\ S_{n}\ 1\!\!1_{\{N=n\}}}\right]\\&=\mathbb {E} \left[\sum _{n\geq 0}\ z^{S_{n}}\ 1\!\!1_{\{N=n\}}\right]\\&=\sum _{n\geq 0}\ \mathbb {E} \left[z^{S_{n}}\ 1\!\!1_{\{N=n\}}\right]\\&=\sum _{n\geq 0}\ \mathbb {E} \left[z^{S_{n}}\right]\times \mathbb {E} \left[1\!\!1_{\{N=n\}}\right]\\&=\sum _{n\geq 0}\ G_{S_{n}}(z)\times \mathbb {P} \left(N=n\right)\\&=\sum _{n\geq 0}\ \mathbb {P} \left(N=n\right)\times \left(G_{X}(z)\right)^{n}\\&=G_{N}\left(G_{X}(z)\right).\end{aligned}}

Généralisation

L'égalité suivante $G_{X}(t)=\mathbb {E} [t^{X}]$ permet de considérer la notion de fonction génératrice des moments factoriels d'une variable aléatoire $X$ dans le cas où $X$ prend des valeurs réelles et $t$ des valeurs complexes (à condition que $t \neq 0$ ou que $X \geq 0$ ). Dans ce cadre plus général, $G X$ ne se voit plus comme la série entière associée à la fonction de masse mais comme une fonction à valeurs complexes définie sur un certain sous-ensemble du plan complexe. Cet ensemble de définition dépend bien-sûr de $X$ mais il contiendra toujours le cercle unité. La restriction de $G X$ au cercle unité est équivalente à la fonction caractéristique $ϕ X$ dans le sens où

G_{X}(\mathrm {e} ^{it})=\phi _{X}(t)~~~\forall t\in \mathbb {R}

.

En pratique la fonction caractéristique est presque exclusivement utilisée pour des variables aléatoires à valeurs réelles tandis que la fonction génératrice des probabilités est utilisée pour des variables aléatoires à valeurs dans les entiers naturels^[8].

Notes et références

↑ ^{a b et c} Laurent Rouvière, « Probabilités générales », p. 43
↑ Magalie Fromont, « Probabilités générales », p. 27
↑ (en) G A Young, « M2S1 Lecture notes », p. 28
↑ Cette égalité apparait souvent comme définition de la fonction génératrice des probabilités, mais dans ce cas, cette dernière perd son statut de série entière pour devenir une fonction définie sur un certain sous ensemble des nombres réels. Il ne faut pas se laisser abuser par le mot "fonction" dans "fonction génératrice des probabilités" car cette dernière est bel et bien une série entière ; sa somme en revanche est une fonction.
↑ Si l'on s'autorise à prendre des valeurs infinies alors l'égalité $G_{X}(t)=\mathbb {E} [t^{X}]\in [0,+\infty ]$ est vraie pour tout $t \geq 0$ .
↑ Cette égalité explique pourquoi la fonction génératrice des probabilités est aussi appelée fonction génératrice des moments factoriels. Cependant il faut faire attention car la série entière générée par les moments factoriels peut avoir un rayon de convergence nul (les moments factoriels peuvent même ne pas être finis) tandis que la série entière générée par les probabilités a toujours un rayon de convergence supérieur ou égal à 1.
↑ Pour alléger les notations on aura posé $q=1-p$ . Dans le cas de la loi de Markov-Pólya on aura aussi posé $m=a+b$ et $x^{(r,i)}:=x(x+i)(x+2i)\dots (x+(r-1)i)$ . La fonction $B$ désigne la fonction bêta et $_{2}F_{1}$ désigne la fonction hypergéométrique. Enfin on aura, par convention, considéré que $k$ parmi $n$ est nul dès que $k>n$
↑ Cependant il faut garder à l'esprit que la fonction caractéristique est parfaitement bien définie pour une variable aléatoire à valeurs entières et que, dans ce cas, elle ne coïncide pas avec la fonction génératrice des probabilités. La fonction caractéristique n'est donc pas une généralisation, stricto sensu, de la fonction génératrice des probabilités.