Skip to main content

Table 2 The mean square errors of estimated gene expression levels for simulated cDNA microarray data with differentially expressed genes inserted under the low expression levels condition.

From: Evaluating different methods of microarray data normalization

Percentage of DEG

 

Sinusoid

Banana

Mixed

 

Method

25% Quantile

Median

75% Quantile

25% Quantile

Median

75% Quantile

25% Quantile

Median

75% Quantile

5%

Loess

0.00038

0.00039

0.00040

0.00029

0.00029

0.00029

0.04806

0.04816

0.04825

 

Splines

0.00035

0.00036

0.00037

0.00027

0.00028

0.00028

0.04828

0.04839

0.04848

 

Wavelets

0.00033

0.00034

0.00035

0.00127

0.00128

0.00128

0.04816

0.04827

0.04835

 

Kernel

0.03781

0.03782

0.03783

0.14368

0.14404

0.14416

0.19869

0.19888

0.20098

 

SVR

0.00031

0.00032

0.00033

0.00016

0.00016

0.00017

0.04729

0.04733

0.04738

10%

Loess

0.00047

0.00048

0.00050

0.00038

0.00038

0.00039

0.04631

0.04646

0.04661

 

Splines

0.00044

0.00045

0.00047

0.00037

0.00038

0.00039

0.04649

0.04663

0.04678

 

Wavelets

0.00042

0.00043

0.00045

0.00117

0.00118

0.00118

0.04637

0.04651

0.04666

 

Kernel

0.03780

0.03781

0.03783

0.15535

0.15574

0.15602

0.19177

0.19337

0.19596

 

SVR

0.00040

0.00041

0.00043

0.00031

0.00032

0.00033

0.04543

0.04548

0.04556

15%

Loess

0.00055

0.00057

0.00059

0.00037

0.00038

0.00040

0.05157

0.05177

0.05194

 

Splines

0.00053

0.00055

0.00057

0.00036

0.00036

0.00038

0.05180

0.05199

0.05215

 

Wavelets

0.00050

0.00053

0.00054

0.00085

0.00087

0.00088

0.05165

0.05184

0.05199

 

Kernel

0.03779

0.03781

0.03784

0.16922

0.16965

0.17000

0.18852

0.18989

0.19142

 

SVR

0.00048

0.00050

0.00052

0.00033

0.00034

0.00035

0.05057

0.05069

0.05078

20%

Loess

0.00064

0.00066

0.00068

0.00042

0.00043

0.00044

0.04780

0.04797

0.04819

 

Splines

0.00061

0.00063

0.00066

0.00040

0.00042

0.00043

0.04799

0.04818

0.04837

 

Wavelets

0.00059

0.00061

0.00064

0.00138

0.00140

0.00142

0.04786

0.04807

0.04825

 

Kernel

0.03778

0.03781

0.03785

0.14796

0.14841

0.14864

0.18435

0.18606

0.18721

 

SVR

0.00056

0.00058

0.00060

0.00035

0.00036

0.00037

0.04630

0.04638

0.04647

40%

Loess

0.00098

0.00102

0.00104

0.00057

0.00061

0.00065

0.07937

0.07985

0.08031

 

Splines

0.00096

0.00099

0.00103

0.00060

0.00064

0.00069

0.07965

0.08014

0.08059

 

Wavelets

0.00095

0.00098

0.00101

0.00178

0.00182

0.00187

0.07954

0.08003

0.08047

 

Kernel

0.03771

0.03780

0.03786

0.14208

0.14235

0.14271

0.20321

0.20363

0.20426

 

SVR

0.00088

0.00091

0.00094

0.00047

0.00048

0.00049

0.06863

0.06901

0.06943

  1. DEG: Differentially expressed genes