Study Group in French

Benoit_c · October 28, 2018, 6:54pm

Si vous voulez en savoir plus sur Jeremy et FastAI : https://twimlai.com/twiml-talk-186-the-fastai-v1-deep-learning-framework-with-jeremy-howard/

Benoit_c · October 29, 2018, 12:29pm

Salut,
Je vous conseille le cours de Jeremy sur le Machine Learning :
http://course.fast.ai/lessonsml1/lessonsml1.html
Les 7 premiers épisodes sont sur Random Forest et il prend plus le temps de donner des astuces sur Pandas et Python. Vous pouvez les sauter si le Radom Forest ne vous intéresse pas.
Les 5 suivants sont sur les réseaux de neurones, plus axés théorie que la pratique que l’on va voir dans le cours Deep Learning. Elles traitent uniquement de réseaux complétements connectés, par opposition au réseau convolutif par exemple.

Il y a une version texte très complète ici https://medium.com/@hiromi_suenaga/machine-learning-1-lesson-1-84a1dc2b5236

Je ne pense pas être disponible pour organiser un call cette semaine. Je vous laisse voir quand vous souhaitez le faire.

Benoit_c · November 1, 2018, 8:15pm

@Kaspar Nvidia does a webinar about breast cancer detection, maybe you will learn some tips
http://info.nvidia.com/new-frontiers-in-breast-cancer-detection-reg-page?ncid=em-ded-nnnnn1-62822

Kaspar · November 2, 2018, 6:39am

super i watch

Kaspar · November 2, 2018, 6:15pm

C’etait vraiment bien merci:)

Benoit_c · November 5, 2018, 7:59pm

Bonjour à tous,

Que diriez-vous de refaire une visio ce mercredi soir à 21h ?

Kaspar · November 6, 2018, 6:02am

super

jmpap · November 6, 2018, 1:21pm

Bonjour Benoit, je suis partant pour la visio mercredi.

Benoit_c · November 7, 2018, 7:44pm

Super, voici le lien : https://hangouts.google.com/call/nj2ZDfLYD4MzRQf8ic42AEEI

Benoit_c · November 13, 2018, 8:15am

Bonjour à tous,
Comment ça va ?
Le cours de la semaine dernière était dense, mais motivant
Je suis sur d’autres projets en ce moment mais on se fait une visio vendredi soir à 21h00 ?

Kaspar · November 13, 2018, 9:09am

super je suis partant

jmpap · November 14, 2018, 7:41am

Ok Benoit, ça marche pour vendredi 21h!

Pour info : lien youtube vers l’application en temps réel de mon algo de détection de pieds de betteraves par segmentation (Unet avec tensorflow) : https://youtu.be/f0WOgpMSWB4

J’obtiens un coef dice sur le jeu de validation de 0.79. Suite au cours 3 j’ai réutilisé le Unet de Fastai: j’obtiens un coef dice de 0.75. Un peu moins bien mais visuellement les résultats semblent meilleurs (meilleur détection : moins de faux positifs)
J’ai l’impression que l’utilisation de Resnet34 en encodeur du UNet dans Fastai est donc bénéfique.

Benoit_c · November 15, 2018, 12:45pm

Bravo JM !
Comment ce fait-il qu’il y ait juste un rond rouge au milieu plutôt que toute la plante couverte par un maque rouge ? C’est du post-traitement ?

J’ai justement utilisé ResNet / UNet et fastai (v0.7) pour la compétition Kaggle Airbus https://www.kaggle.com/c/airbus-ship-detection
Je suis dans le top 100 mais sans trop de mérite car j’ai utilisé du code publié par un participant que j’ai simplement entraîné du mieux que j’ai pu…
Voici le source : https://github.com/trancept/kaggle-airbus-ship

Je pourrais vous parler de recommandation si ça vous intéresse car c’est une partie de mon boulot.

Est-ce que certains sont intéressés par le NLP ? On pourrait adapter ce qu’a présenté Jeremy au français.

Kaspar · November 15, 2018, 9:04pm

super - ton video er bien convaincant

Kaspar · November 15, 2018, 9:07pm

qui parlons vendre di - j’ai trouver (et telecharge) en jeux de text de la commision europeenn: https://ec.europa.eu/jrc/en/language-technologies/dgt-acquis

jmpap · November 15, 2018, 9:36pm

Merci Benoit et Kaspar! Le rond rouge est la sortie directe du modèle : l’objectif est de déterminer l’emplacement du pied et non la plante entière. Ce n’est donc pas vraiment de la segmentation même si les techniques utilisées sont les mêmes.

Je suis intéressé si tu pouvais nous parler de recommandation! (j’espère avoir le temps de voir le cours 4 avant vendredi soir)

Benoit_c · November 16, 2018, 9:21am

Tu veux dire que tu n’as labellisé que les pieds ? Comme si tu n’avais labellisé que les roues pour détecter des voitures ?
C’est une super idée je trouve, ça fait gagner beaucoup de temps de labellisation !!!

@Kaspar J’ai justement assisté à une conférence où ils utilisaient les transcriptions en différentes langues du parlement pour entraîner un modèle NLP de traduction automatique ( https://www.limsi.fr/en/research/tlp/topics/topic5 ).
En cherchant les références je suis tombé sur cet article de blog qui fait la même chose : https://machinelearningmastery.com/prepare-french-english-dataset-machine-translation/

tomsthom · November 16, 2018, 9:23am

J’ai entrainé ULMFit pour avoir un modèle de langage français et je l’ai appliqué à des tâches de classifications.
Vous pouvez voir les résultats sur ce thread: ULMFiT - French
Les résultats sont très prometteurs.

Je vais bientôt publier le code sur github.

Kaspar · November 16, 2018, 9:43am

tres interessent
Combine de temps est-ce que vous avec mis pour le metre en ouvre.
Du telechargement au resultat des entrainement?

j’essai d’estimer le temps créer en ulmfit sur les textes de l’union europenne.

tomsthom · November 16, 2018, 9:51am

Avec la dernière version de fastai, c’est devenu très simple de le mettre en œuvre. Ça demandait plus de travail sur les versions précédentes.
Il faut quand même prévoir un bon temps d’entraînement du modèle de langage avec un GPU performant (~10/20h minimum avec une 1080ti).
Par contre, une fois que le modèle de langage est entraîné, c’est très rapide de s’en servir pour entraîner un modèle de classification.
Je vais d’ailleurs publier les poids du modèle, ça permettra de s’en servir comme base, pour faire comme dans le dernier cours (sans devoir tout ré-entraîner sur un gros corpus de texte).