Math Destroy

Ensuite j'expérimenterais avec sklearn (modèles de bases en régression et classification), pymc/pystan/pyro (mcmc/modelisation bayésienne), boosting/bagging (xgboost..etc). Manque plus que le MLOps et vous devenez un tueur haha

J'ai mis les papiers/articles bien pour les algos/modèles de base. Je pense dans un premier temps ignorer tout ce qui est DL/RL et focus uniquement sur le ML de base est vraiment important : Mitchel bon compromis theorie/pratique et ensuite les papiers pour avoir une couverture globale en ML clas

J'ai skippé le deep learning et le reinforcement learning (faudrait des séries à part entières pour celles-ci).

Monte Carlo et MCMC

- artowen.su.domains/mc/

- A Conceptual Introduction to Markov Chain Monte Carlo Methods arxiv.org/abs/1909.12313

- A Conceptual Introduction to
Hamiltonian Monte Carlo www.sas.upenn.edu/~fdiebold/No...

Bonus : mc-stan.org/docs/functio...

Cross Validation :

Le papier de Kohavi www.ijcai.org/Proceedings/...

ces slides mlserver1.cs.siue.edu/ml_24sp/lec/...

Bootstrap :

Chapitre 7-8 ESL www.sas.upenn.edu/~fdiebold/No...

Edgeworth Expansion projecteuclid.org/journals/ann...

Ensemble Learning :

- Intro Schapire www.schapire.net/papers/Schap...

- Slides sur Adaboost raw.githubusercontent.com/pushkar/4641...

- Papier sur Xgboost arxiv.org/abs/1603.02754

- Papier sur lightGBM proceedings.neurips.cc/paper_files/...

- Papier sur Catboost arxiv.org/abs/1706.09516

NMF/reco sys :

- le problème de Netflix cseweb.ucsd.edu/classes/fa17...

- yahoo datajobs.com/data-science...

bonus : www.the-odd-dataguy.com/2024/04/07/f...

A tutorial on hidden Markov models and selected applications in speech recognition This tutorial provides an overview of the basic theory of hidden Markov models (HMMs) as originated by L.E. Baum and T. Petrie (1966) and gives practical details on methods of implementation of the th...

Chaines De Markov Cachées :

- A tutorial on hidden Markov models and selected applications in speech recognition ieeexplore.ieee.org/document/18626

- Chapitre 15 du Norvig/Russel repo.darmajaya.ac.id/5272/1/Artif...

Using Gaussian Mixture Models to Detect Outliers in Seasonal Univariate Network Traffic This article presents an algorithm to detect outliers in seasonal, univariate network traffic data using Gaussian Mixture Models (GMMs). Additionally we show that this methodology can easily be implem...

Estimation de densité :

- Using Gaussian Mixture Models to Detect Outliers in Seasonal Univariate Network Traffic ieeexplore.ieee.org/document/822...

- EM Algorithm file.fouladi.ir/courses/pr/b...

- Frank harrel (regression strategy) la partie sur les splines est très bien nibmehub.com/opac-service...

Dose‐response analyses using restricted cubic spline functions in public health research Taking into account a continuous exposure in regression models by using categorization, when non-linear dose-response associations are expected, have been widely criticized. As one alternative, restr...

Splines :

- Dose-response analyses using restricted cubic spline functions in public health research onlinelibrary.wiley.com/doi/abs/10.1...

- Review of splines bmcmedresmethodol.biomedcentral.com/articles/10....

PCA :

- A Tutorial on Principal Component Analysis arxiv.org/pdf/1404.1100

Lasso :

- Regression Shrinkage and Selection via Lasso webdoc.agsci.colostate.edu/koontz/arec-...

Elastic Net :
- Regularization and variable selection via the
elastic net
www.stat.purdue.edu/~tlzhang/mat...

--> toujours ML classique, sélection de variables/transformation :

ICA: Algorithms and Applications (ml-cs7641.s3.us-east-1.amazonaws.com/ica-algorith...)

Restructuring High Dimensional Data by Charles and Paul Viola (www.cc.gatech.edu/~isbell/pape...)

--> pour les méthodes à noyau/algos SVM :

- An introduction to SVMs for data mining
(www.cc.gatech.edu/classes/AY20...)

- Christopher Burges tutorial on SVMs for pattern recognition
(www.microsoft.com/en-us/resear...)

- Scholkopf's NIPS tutorial slides on SVMs and kernel methods

--> l'apprentissage non supervisé (Clustering), l'apprentissage bayésien, l'optimisation aléatoire et les aspects théoriques du ML (dimensions VC, CLT..etc).

Toujours dans le ML classique je recommende --->

Hello @laurentdietrich.bsky.social je te recommende pour le ML de base :

www.cs.cmu.edu/afs/cs.cmu.e... qui est très bien pour les modèles de classification/regression, arbre de décision, intro aux réseaux de neurones, apprentissage par voisinage (KNNs) -->