VARIABLE SELECTION

1. variable ranking

1.1. specifieke sampling

1.1.1. variance-based methodes (hebben monte carlo integratie nodig = grid sample evaluatie)

1.1.1.1. Sobol sensitivity estimates

1.1.1.2. Fourier Amplitude Sensitivity Test (FAST)

1.2. geen eisen voor sampling

1.2.1. train model in lagere dimensie(s), valideer in hogere met aparte testset (wrapper methode)

1.2.1.1. gebruik eenvoudiger model voor wrapper methode, train uiteindelijk met een ander

1.2.1.1.1. regression, gradient-guided feature selection (RGS)

1.2.1.2. k-nearest neighbour

1.2.2. maak gebruik van eigenschappen van model om variabelen te ranken (embedded methode)

1.2.2.1. SVM

1.2.2.2. Kriging

1.2.3. rank variables zonder model te trainen (filter methode)

1.2.3.1. Pearson correlation coëfficient (lineair)

1.2.3.2. information theory ranking (enkel discrete outputs, inputs moeten gediscretiseerd worden)

1.2.3.2.1. normalized information gain (geen interacties)

1.2.3.2.2. mutual information gain (interacties)

2. variable combination

2.1. lineaire methodes

2.1.1. Principal Component Analysis (PCA)

2.1.2. Linear Discriminant Analysis (DCA)

2.2. niet-lineaire methodes

2.2.1. Multidimensional Scaling (MDS)

2.2.2. Isomap

2.2.3. Kernel PCA

2.2.4. Diffusion Maps

2.2.5. Multilayer autoencoders (ANN)