A Montréal,
l'an passé, le principal souvenir que je garderai de mon cours est le mal que j'ai eu à comprendre comment mettre des notes. Je ne ferais pas un billet sur la difficulté à évaluer le niveau d'un étudiant (car j'ai toujours détesté les examens,
aussi bien en tant qu’étudiant que prof), mais j'ai une une réelle difficulté à comprendre ce que vaut une note... Par exemple, un C, ça correspond à quoi (avec mon référentiel de prof français) ? C'est bien ou pas ? C'est quoi la moyenne ?La
seule information dont on dispose pour mettre les notes est le tableau ci-contre. Et autant je pense voir ce qu'est un travail "excellent", ou "faible", mais "passable" ? Car le tableau me dit qu'un élève qui a 50 sur 100 a une note passable, ce qui est aussi la référence que l'on utilise en France. Sauf que les élèves ont commence à
me dire que 50, c'est pas terrible... qu'une note moyenne ici c’était plutôt 60, voire 65. Bref, sous-entendu (voire entendu, tout court), "monsieur, vous devez remonter les notes". Et comme je l'ai prouve ici, il ne faut jamais croire les élèves...Et effectivement, dans un vieux rapport datant des années 90 (en maths et informatiques), je suis tombé sur le graphique suivant
Prenons maintenant, a titre de comparaison, des cours de maths, dans une université française, en l’occurrence a Rennes, comme analyse (en première année), arithmétique et algèbre linéaire, on a des histogrammes beaucoup plus plats,
D'ailleurs, si on fait un graphique quantile-quantile, avec les cours de maths à Montréal versus les cours de maths a Rennes, on a le graphique suivant
d. [QA 276.12]. Comme pour l'intra, je donnerais les formes des lois, sauf pour les lois usuelles qui sont supposées connues (loi binomiale, normale, et Poisson). Sont supposés connus
. On va
pouvoir tester
, en notant que
voire 
), mais sur les
fonctions de répartition (dans le cas
simple 
). Formellement, on
quitte le monde
de la statistique paramétrique pour entrer dans celui de la statistique
non-paramétrique. Afin de poursuivre ce que j'ai fait en cours, je
voulais montrer comment obtenir, numériquement, la loi limite qui
apparait dans le test de Kolomogorov Smirnov.
, F(x) est proche
de 
. Étant donné que 
"converge" (on reviendra sur une
formalisation de ce concept dans 2 minutes) vers 
, on va se
demander si, pour tout 
est proche de 
, on peut
simplement se demander si pour tout 
est
proche de 
. Ou de manière
équivalente, si la loi 
est
continue, si 
est proche de 
.
est la loi des
observations.
, 
est proche de 
. Étant donné que 
"converge"
vers 
, on aura que, pour
tout 
sera
proche de 
est
proche de 
. Ou de manière
équivalente, si 
est
proche de 
.
, alors
est la fonction de
répartition de la loi normale centrée
réduite. On peut alors, dans le cas Gaussien (ou supposé tel),
représenter le nuage de points
, passant
par 
à l'origine, alors
donné, i.e. sur 
suit une loi 
,
et donc
et le théorème central limite que
un couple de
variables aléatoires continues (ou plutôt absolument continues), de
telle sorte que la
loi du couple admet une densité de probabilité 
.
Soit 
un changement de
variables bijectif. Si on note 
le Jacobien associé à la transformation, i.e.
est donnée par la
densité
une collection de
variables
aléatoires indépendantes, positives, de même loi de densité 
.Soit 
le réarrangement
par ordre croissant des variables 
et notons 
la différence
entre deux statistiques d'ordre avec la convention 
. Le
vecteur 
peut alors être vu
comme
un réarrangement
du vecteur 
pour un
certaine permutation 
de 
. Le nombre de permutation de 
, on
en déduit que
, et alors, en notant abusivement 
(on va se placer dans le cas discret pour illustrer). Alors
sont
distribués suivant une loi exponentielle, alors 
, et donc, la loi de la statistique d'ordre est
. On peut pour cela utiliser la formule de changement de variable évoquée dans le paragraphe précédant. Ici, 
, notons qu'il se réécrit 
et la densité devient
sont indépendantes, et que leur loi est une loi exponentielle. On en déduit alors par exemple que
, et
on cherchait à tester une hypothèse de la forme
, on va utiliser un test sur une loi multinomiale, avec
.
le
nombre de
points tombés dans un ensemble 
(ou 
désigne la région globale). Si on suppose qu'un nombre
aléatoire 
de
points sont lancés aléatoirement
dans 
,
alors 
(de même taille, éventuellement - afin de garder toutes les observations - formant une partition de 
En cours, nous avons poursuivi sur la loi multinomiale, et le test
du chi-deux. Je voulais mettre un petit billet pour récapituler les différents points, et montrer une application numérique (nous reviendrons en détails mercredi sur des applications des outils vus jusqu'à présent).
peut prendre 
modalités, notées 
,
avec 
.
On posera
appartient au simplexe de 
au
sens où
).
Mais plus généralement, on finira les calculs permettant d'établir
que, pour 
).
avec 
et
pour 
.
est 
.
est une matrice de projection si elle est idempotente, i.e. 
.
Ses valeurs propres sont alors 0 ou 1, et si 
est le nombre de fois où 1 est valeur propre, et si 
,
alors 
.
.
Alors
(qui est aussi le nombre de fois où 1 est valeur propre). Donc 
de
dimension 
.
Posons 
,
pour 
le
rang de 
,
en supposant que les 
pour 
sont des variables indépendantes.
pouvant prendre toutes les deux deux modalités (disons deux lois
binomiales). On est alors face a une loi multinomiale à 4 modalités
avec probabilité 
avec probabilité 
avec probabilité 
avec probabilité 
et 
. tels que 
et 
. On a alors 
contraintes sur les paramètres. Ces
deux contraintes additionnelles font que la statistique de test s'écrit
i.e. 
d'après le théorème de Cochrane.
Le deuxième devoir maison sera à rendre pour 
contre 
dans un modèle Gaussien, 
, la région d'acceptation (de niveau 
) sera de la forme
soit acceptée avec un niveau 
, l'intervalle de confiance
pour 
est 
pour 
appartient à 
(contre l'hypothèse bilatérale 
).
-value
en cours (avant de parler tout à l'heure de tests asymptotiques).
Intuitivement, la 
est vraie.
et on cherche à tester 
. On dispose pour cela d'un échantillon 
.
telle que plus 
est
grande, plus on s'éloigne de 
.
Si 
,
on
va construire une région de rejet de la forme
est choisi en fonction d'une probabilité d'erreur de première
espèce souhaitée a priori, i.e.
.
On dispose de 
observations pour tester 
.
L'échantillon est le suivant
,
la région critique s'obtient à l'aide du rapport de
vraisemblance
.
Ici, 
,
la puissance est la
probabilité de rejeter 
sous l'hypothèse où 
est
vraie (rejeter 
.
,
on définit
alors une fonction puissance
pour toute valeur 
lorsque H_1 est une hypothèse de la forme
.
.
.
Ce qui n'a pas de sens si l'on s'en tient au
formalisme énoncé en cours: 
,
correspondant à la puissance du test (cf la discussion dans le
paragraphe précédant).
:
si 
on accepte 
:
si 
on rejette 
2
de 
vérifie la propriété asymptotique suivante.
une suite de vecteurs aléatoires telle que 
où 
. Alors
(pour un paramètre univarié, ça sera alors ).
Mais ce résultat n'est intéressant que si 
est connue. En fait, si on a la suite des variances vérifie 
, alors
Mais avant toute chose, commençons par calculer l'estimateur du maximum de vraisemblance, ainsi que le score et l'information de Fisher. Dans ce modèle de variables de Bernoulli, on connaît des formes explicites de ces quantités. Mais ici, on va utiliser la méthode la plus générale qui soit, i.e. on va maximiser la log-vraisemblance, puis on va calculer le score et l'information de Fisher à la valeur de 
entre l'estimateur du maximum de vraisemblance, et la valeur que l'on cherche à tester (comme le montre le dessin ci-dessous). Cette différence doit être "petite" si 
On peut alors utiliser la statistique suivante
, on doit prendre une
décision. Schématiquement, on peut prendre la décision 
, i.e.
accepter l'hypothèse 
, i.e. on accepter
l'hypothèse 
, et
que l'on cherche à tester
est le quantile de la loi de Student à 
degrés de liberté, de niveau 
.
, ou pour une valeur relativement différente,
observations
