Skip to main content

Table 8 Standard deviation of the DE-genes. The estimated overall standard deviation of the DE-genes as defined in Relation 3.

From: Evaluation of microarray data normalization procedures using spike-in experiments

Scanning procedure

Censuring value

Procedure

  

Complete filtration

Partial filtration

No filtration

  

No ba

Ba

No ba

Ba

No ba

Ba

Ba+C

  

I

II

IV

V

VII

VIII

IX

70 scan

1

0.40

0.55

0.46

0.71

0.46

0.61

0.73

 

8

 

0.50

 

0.73

 

0.59

0.69

 

64

 

0.52

 

0.57

 

0.54

0.56

 

512

 

0.30

 

0.28

 

0.29

0.28

80 scan

1

0.38

0.46

0.51

0.61

0.49

0.59

0.60

 

8

 

0.44

 

0.66

 

0.56

0.58

 

64

 

0.43

 

0.62

 

0.56

0.58

 

512

 

0.52

 

0.54

 

0.53

0.53

90 scan

1

0.41

0.53

0.49

0.59

0.46

0.59

0.60

 

8

 

0.52

 

0.62

 

0.57

0.58

 

64

 

0.46

 

0.60

 

0.52

0.53

 

512

 

0.49

 

0.59

 

0.56

0.57

100 scan

1

0.40

0.53

0.44

0.58

0.39

0.61

0.61

 

8

 

0.53

 

0.61

 

0.61

0.61

 

64

 

0.51

 

0.60

 

0.58

0.58

 

512

 

0.47

 

0.58

 

0.53

0.53

RLS 90

1

0.42

0.52

0.50

0.59

0.47

0.59

0.60

 

8

 

0.51

 

0.62

 

0.57

0.58

 

64

 

0.46

 

0.60

 

0.52

0.53

 

512

 

0.50

 

0.59

 

0.57

0.58

RLS 100

1

0.41

0.49

0.48

0.58

0.46

0.60

0.60

 

8

 

0.49

 

0.61

 

0.59

0.59

 

64

 

0.48

 

0.60

 

0.56

0.57

 

512

 

0.44

 

0.59

 

0.52

0.53

CM

1

0.42

0.39

0.48

0.48

0.48

0.47

0.48

 

8

 

0.39

 

0.51

 

0.51

0.51

 

64

 

0.47

 

0.49

 

0.51

0.51

 

512

 

0.26

 

0.26

 

0.25

0.25