Supplementary material for "The Peaking Phenomenon in the Presence of Feature Selection"

Supplementary material for

The Peaking Phenomenon in the Presence of Feature Selection

Chao Sima and Edward R. Dougherty

Expected error:

SIMUATIONS		Dn = 0	Dn = 30	Dn = 60	Dn = 90	Dn = 540	Dn = 1140	All Dn's
M1n		LDA (M1)	LDA	LDA	LDA	LDA	LDA	LDA
		3NN (M1)	3NN	3NN	3NN	3NN	3NN	3NN
		LSVM (M1)	LSVM	LSVM	LSVM	LSVM	LSVM	LSVM
M2n		LDA (M2)	LDA	LDA	LDA	LDA	LDA	LDA
		3NN (M2)	3NN	3NN	3NN	3NN	3NN	3NN
		LSVM (M2)	LSVM	LSVM	LSVM	LSVM	LSVM	LSVM
M3n	ρ = 0.4	LDA (M3)	LDA	LDA	LDA	LDA	LDA	LDA
		3NN (M3)	3NN	3NN	3NN	3NN	3NN	3NN
		LSVM (M3)	LSVM	LSVM	LSVM	LSVM	LSVM	LSVM
	ρ = 0.7	LDA (M3)	LDA	LDA	LDA	LDA	LDA	LDA
		3NN (M3)	3NN	3NN	3NN	3NN	3NN	3NN
		LSVM (M3)	LSVM	LSVM	LSVM	LSVM	LSVM	LSVM
M4n	ρ = 0.4	LDA (M4)	LDA	LDA	LDA	LDA	LDA	LDA
		3NN (M4)	3NN	3NN	3NN	3NN	3NN	3NN
		LSVM (M4)	LSVM	LSVM	LSVM	LSVM	LSVM	LSVM
	ρ = 0.7	LDA (M4)	LDA	LDA	LDA	LDA	LDA	LDA
		3NN (M4)	3NN	3NN	3NN	3NN	3NN	3NN
		LSVM (M4)	LSVM	LSVM	LSVM	LSVM	LSVM	LSVM
M5n	ρ = 0.4	LDA (M5)	LDA	LDA	LDA	LDA	LDA	LDA
		3NN (M5)	3NN	3NN	3NN	3NN	3NN	3NN
		LSVM (M5)	LSVM	LSVM	LSVM	LSVM	LSVM	LSVM
	ρ = 0.7	LDA (M5)	LDA	LDA	LDA	LDA	LDA	LDA
		3NN (M5)	3NN	3NN	3NN	3NN	3NN	3NN
		LSVM (M5)	LSVM	LSVM	LSVM	LSVM	LSVM	LSVM
M6n	ρ = 0.4	LDA (M6)	LDA	LDA	LDA	LDA	LDA	LDA
		3NN (M6)	3NN	3NN	3NN	3NN	3NN	3NN
		LSVM (M6)	LSVM	LSVM	LSVM	LSVM	LSVM	LSVM
	ρ = 0.7	LDA (M6)	LDA	LDA	LDA	LDA	LDA	LDA
		3NN (M6)	3NN	3NN	3NN	3NN	3NN	3NN
		LSVM (M6)	LSVM	LSVM	LSVM	LSVM	LSVM	LSVM
M7n		3NN (M7)	3NN	3NN	3NN	3NN	3NN	3NN
M8n		3NN (M8)	3NN	3NN	3NN	3NN	3NN	3NN
M9n		LDA (M9)	LDA	LDA	LDA	LDA	LDA	LDA
		3NN (M9)	3NN	3NN	3NN	3NN	3NN	3NN
		LSVM (M9)	LSVM	LSVM	LSVM	LSVM	LSVM	LSVM
M10n		LDA (M10)	LDA	LDA	LDA	LDA	LDA	LDA
		3NN (M10)	3NN	3NN	3NN	3NN	3NN	3NN
		LSVM (M10)	LSVM	LSVM	LSVM	LSVM	LSVM	LSVM

Expected error:

PATIENT	Dn = 0	Dn = 35	Dn = 70	Dn = 140	Dn = 630	Dn = 1330	All Dn's
Patient	LDA	LDA	LDA	LDA	LDA	LDA	LDA
Patient	3NN	3NN	3NN	3NN	3NN	3NN	3NN

Expected % of regular features:

SIMUATIONS		Dn = 30	Dn = 60	Dn = 120	Dn = 540	Dn = 1140	All Dn's
M1n		LDA	LDA	LDA	LDA	LDA	LDA
M2n		LDA	LDA	LDA	LDA	LDA	LDA
M3n	ρ = 0.4	LDA	LDA	LDA	LDA	LDA	LDA
M3n	ρ = 0.7	LDA	LDA	LDA	LDA	LDA	LDA
M4n	ρ = 0.4	LDA	LDA	LDA	LDA	LDA	LDA
M4n	ρ = 0.7	LDA	LDA	LDA	LDA	LDA	LDA
M5n	ρ = 0.4	LDA	LDA	LDA	LDA	LDA	LDA
M5n	ρ = 0.7	LDA	LDA	LDA	LDA	LDA	LDA
M6n	ρ = 0.4	LDA	LDA	LDA	LDA	LDA	LDA
M6n	ρ = 0.7	LDA	LDA	LDA	LDA	LDA	LDA
M7n		3NN	3NN	3NN	3NN	3NN	3NN
M8n		3NN	3NN	3NN	3NN	3NN	3NN
M9n		LDA	LDA	LDA	LDA	LDA	LDA
M10n		LDA	LDA	LDA	LDA	LDA	LDA

Expected % of noise features:

SIMUATIONS		Dn = 30	Dn = 60	Dn = 120	Dn = 540	Dn = 1140	All Dn's
M1n		LDA	LDA	LDA	LDA	LDA	LDA
M2n		LDA	LDA	LDA	LDA	LDA	LDA
M3n	ρ = 0.4	LDA	LDA	LDA	LDA	LDA	LDA
M3n	ρ = 0.7	LDA	LDA	LDA	LDA	LDA	LDA
M4n	ρ = 0.4	LDA	LDA	LDA	LDA	LDA	LDA
M4n	ρ = 0.7	LDA	LDA	LDA	LDA	LDA	LDA
M5n	ρ = 0.4	LDA	LDA	LDA	LDA	LDA	LDA
M5n	ρ = 0.7	LDA	LDA	LDA	LDA	LDA	LDA
M6n	ρ = 0.4	LDA	LDA	LDA	LDA	LDA	LDA
M6n	ρ = 0.7	LDA	LDA	LDA	LDA	LDA	LDA
M7n		3NN	3NN	3NN	3NN	3NN	3NN
M8n		3NN	3NN	3NN	3NN	3NN	3NN
M9n		LDA	LDA	LDA	LDA	LDA	LDA
M10n		LDA	LDA	LDA	LDA	LDA	LDA