Skip to main content

Table 2 The mean square errors of estimated gene expression levels for simulated cDNA microarray data with differentially expressed genes inserted under the low expression levels condition.

From: Evaluating different methods of microarray data normalization

Percentage of DEG   Sinusoid Banana Mixed
  Method 25% Quantile Median 75% Quantile 25% Quantile Median 75% Quantile 25% Quantile Median 75% Quantile
5% Loess 0.00038 0.00039 0.00040 0.00029 0.00029 0.00029 0.04806 0.04816 0.04825
  Splines 0.00035 0.00036 0.00037 0.00027 0.00028 0.00028 0.04828 0.04839 0.04848
  Wavelets 0.00033 0.00034 0.00035 0.00127 0.00128 0.00128 0.04816 0.04827 0.04835
  Kernel 0.03781 0.03782 0.03783 0.14368 0.14404 0.14416 0.19869 0.19888 0.20098
  SVR 0.00031 0.00032 0.00033 0.00016 0.00016 0.00017 0.04729 0.04733 0.04738
10% Loess 0.00047 0.00048 0.00050 0.00038 0.00038 0.00039 0.04631 0.04646 0.04661
  Splines 0.00044 0.00045 0.00047 0.00037 0.00038 0.00039 0.04649 0.04663 0.04678
  Wavelets 0.00042 0.00043 0.00045 0.00117 0.00118 0.00118 0.04637 0.04651 0.04666
  Kernel 0.03780 0.03781 0.03783 0.15535 0.15574 0.15602 0.19177 0.19337 0.19596
  SVR 0.00040 0.00041 0.00043 0.00031 0.00032 0.00033 0.04543 0.04548 0.04556
15% Loess 0.00055 0.00057 0.00059 0.00037 0.00038 0.00040 0.05157 0.05177 0.05194
  Splines 0.00053 0.00055 0.00057 0.00036 0.00036 0.00038 0.05180 0.05199 0.05215
  Wavelets 0.00050 0.00053 0.00054 0.00085 0.00087 0.00088 0.05165 0.05184 0.05199
  Kernel 0.03779 0.03781 0.03784 0.16922 0.16965 0.17000 0.18852 0.18989 0.19142
  SVR 0.00048 0.00050 0.00052 0.00033 0.00034 0.00035 0.05057 0.05069 0.05078
20% Loess 0.00064 0.00066 0.00068 0.00042 0.00043 0.00044 0.04780 0.04797 0.04819
  Splines 0.00061 0.00063 0.00066 0.00040 0.00042 0.00043 0.04799 0.04818 0.04837
  Wavelets 0.00059 0.00061 0.00064 0.00138 0.00140 0.00142 0.04786 0.04807 0.04825
  Kernel 0.03778 0.03781 0.03785 0.14796 0.14841 0.14864 0.18435 0.18606 0.18721
  SVR 0.00056 0.00058 0.00060 0.00035 0.00036 0.00037 0.04630 0.04638 0.04647
40% Loess 0.00098 0.00102 0.00104 0.00057 0.00061 0.00065 0.07937 0.07985 0.08031
  Splines 0.00096 0.00099 0.00103 0.00060 0.00064 0.00069 0.07965 0.08014 0.08059
  Wavelets 0.00095 0.00098 0.00101 0.00178 0.00182 0.00187 0.07954 0.08003 0.08047
  Kernel 0.03771 0.03780 0.03786 0.14208 0.14235 0.14271 0.20321 0.20363 0.20426
  SVR 0.00088 0.00091 0.00094 0.00047 0.00048 0.00049 0.06863 0.06901 0.06943
  1. DEG: Differentially expressed genes