Study Group in French

[Matthieu (Matth D)]

Merci beaucoup @Benoit_c pour tes conseils!

[asi95 (Ahmed Sahraoui)]

Bonjour, pour ceux qui sont sur Lyon,ça vous dit qu’on crée un groupe de travail ?

[Benoit_c (Benoit)]

Bonsoir,
J’ai partagé mon code et mon dataset de classification d’avions A380 et B747 : https://forums.fast.ai/t/lesson-1-beat-google-auto-ml-at-b747-vs-a380/27764
Il y a encore beaucoup à faire alors toute aide sera la bienvenue

[NathanHub (Nathan Hubens)]

Salut Pierre,

Où as-tu trouvé les liens pour la vidéo, ils ont été posté sur le forum ? Ce serait une bonne chose si les vidéos sont systématiquement postées le lendemain (ça éviterait de se lever à 3h du matin )

[pierreguillou]

Bonjour Nathan,
les liens principaux (video, doc, notebooks…) ont été publiés dans le thread Lesson 1: class discussion and resources et ne peuvent pas être publiés en dehors du forum (Jeremy le fera début janvier). J’ai juste ajouté le temps pour accéder directement à certaines parties. Si Jeremy suit le même déroulé que pour les versions précédentes, le lien vers la video sera immédiatement posté sur le forum après le cours… ce qui est sympa en effet

[NathanHub (Nathan Hubens)]

Ah ok, je n’avais pas vu que ça avait été ajouté au Wiki thread, merci !

[MichaelChoudhury]

Merci, Pierre, pour cette timeline de la video qui est tellement utile!

[Benoit_c (Benoit)]

Voici le lien pour le Hangout de ce soir 21h (heure de Paris): https://hangouts.google.com/call/9Jf5bBO3qAJeYb4Dtp-XAAEI

[Benoit_c (Benoit)]

Je n’arrive pas a utiliser mon lien, autre tentative : https://hangouts.google.com/call/myowXXPFIVz72fSMcWRNAAEI

[Kaspar (Kaspar Lund)]

https://twitter.com/samcharrington?lang=da

[Benoit_c (Benoit)]

Moteur de recherche de dataset :
https://toolbox.google.com/datasetsearch

[Kaspar (Kaspar Lund)]

voice l’article de leslie smidth: https://arxiv.org/abs/1803.09820

[jmpap]

En lien avec l’article proposé par Kaspar, voir l’explication très intéressante de sgugger sur la fonction learner.fit_one_cycle() :
https://sgugger.github.io/the-1cycle-policy.html#the-1cycle-policy

Concernant la fonction data.normalize():
Lors de l’entraînement, doit-on utiliser la moyenne et l’écart-type de l’ensemble du jeu de données ou seulement du jeu d’entraînement?

Lors de la prédiction, qu’utilise-t-on alors pour la normalisation de l’image à prédire:
-la moyenne et l’écart-type du jeu d’entraînement?
-la moyenne et l’écart-type de l’ensemble du jeu de données?
-la moyenne et l’écart-type de l’image à prédire?

[Kaspar (Kaspar Lund)]

@jmpap

Concernant la fonction data.normalize():
Lors de l’entraînement, doit-on utiliser la moyenne et l’écart-type de l’ensemble du jeu de données ou seulement du jeu d’entraînement?

en pratique jeremy calcule le moyenne et std sur l’ensembe de donnes. apres chaque image est normalisee comme (image-moyenne)/std

[jmpap]

ok merci

[sgugger]

Même remarque que pour l’autre timeline

[sgugger]

Petite correction, la moyenne et l’écart-type sont plutôt calculées sur l’ensemble d’entrainement (l’ensemble de validation devant être laissé à l’écart le plus possible). En pratique cependant, si l’ensemble de validation est proprement choisi, on trouve le même résultat avec le calcul sur tout l’ensemble ou just l’ensemble d’entrainement.

[pierreguillou]

Merci Sylvain pour ton message (et pour ton article !). Je viens de faire la correction dans la timeline de la manière suivante :

(explication du papier de Leslie Smith dans l’article de @sgugger : The 1cycle policy)

[Benoit_c (Benoit)]

De ma compréhension c’est sur le jeux d’entrainement qu’on doit le calculer. Puis on l’applique à chaque donnée qui est présentée au modèle pour réaliser les prédictions.
Par contre dans le cas où on fait du fine-tuning (utilisation d’un réseau pré entrainé) j’aurais tendance à dire qu’on applique les corrections du jeux d’entrainement initiales pour éviter de trop perturber le modèle.
J’imagine que tout dépend de la proportion dans laquelle on souhaite changer le modèle. Si on a beaucoup de données et qu’elles différent de celles du pré-entrainement surement qu’il faut refaire la normalisation… A tester !

[sgugger]

@Benoit_c

Par contre dans le cas où on fait du fine-tuning (utilisation d’un réseau pré entrainé) j’aurais tendance à dire qu’on applique les corrections du jeux d’entrainement initiales pour éviter de trop perturber le modèle.

Ah oui, dans ce cas on utilise les statistiques utilisées pour entrainer le modèle d’origine (ce pour quoi il y a imagenet_norm et pas la moyenne et écart-type de l’ensemble dog breeds dans le code de la lesson 1).