Skip to main content

Table 1 Simulated results for simulation 1, comparing the means and standard deviations (in the parentheses) of MSPE

From: Improved two-stage model averaging for high-dimensional linear regression, with application to Riboflavin data analysis

Setting

MACOR

DISCOR

RIDGE

LASSO

FOREST

n100 p500 s20 σ.1

.905 (.3834)

.943 (.387)

.838 (.355)

.0153 (.003)

.965 (.385)

n100 p500 s20 σ1

2.603 (.469)

2.648 (.490)

2.629 (.469)

2.462 (.381)

2.715 (.442)

n100 p500 s20 σ 2

6.785 (.525)

6.742 (.648)

6.904 (.541)

7.094 (.886)

6.987 (.536)

n100 p500 s50 σ.1

4.458 (.760)

4.444 (.789)

4.264 (.843)

4.442 (1.03)

4.496 (.738)

n100 p500 s50 σ1

5.648 (.968)

5.715 (1.051)

5.591 (.932)

6.001 (1.083)

5.874 (.933)

n100 p500 s50 σ 2

10.042 (1.092)

10.103 (1.009)

10.221 (1.005)

10.771 (1.474)

10.050 (.945)

n100 p500 s100 σ.1

10.498 (1.292)

10.647 (1.397)

10.474 (1.402)

11.662 (1.768)

10.442 (1.282)

n100 p500 s100 σ1

11.498 (1.144)

11.879 (1.262)

11.469 (1.092)

12.885 (1.789)

11.701 (1.089)

n100 p500 s100 σ 2

15.652 (1.559)

15.639 (1.440)

15.627 (1.490)

17.047 (2.338)

15.622 (1.404)

n100 p1000 s20 σ.1

1.221 (.524)

1.189 (.489)

1.259 (.528)

.064 (.346)

1.270 (.481)

n100 p1000 s20 σ1

2.945 (.433)

2.845 (.459)

2.979 (.424)

2.867 (.496)

3.062 (.473)

n100 p1000 s20 σ2

6.855 (.613)

6.889 (.616)

6.868 (.571)

7.135 (.780)

6.996 (.635)

n100 p1000 s50 σ.1

4.874 (.779)

4.874 (.820)

4.869 (.786)

5.117 (1.114)

5.049 (.831)

n100 p1000 s50 σ1

6.192 (1.007)

6.107 (1.005)

6.219 (.963)

6.705 (1.359)

6.348 (1.006)

n100 p1000 s50 σ2

10.173 (.995)

10.179 (1.028)

10.112 (.873)

10.716 (1.433)

10.384 (.859)

n100 p1000 s100 σ.1

11.163 (1.463)

11.246 (1.439)

11.182 (1.339)

12.759 (2.017)

11.421 (1.531)

n100 p1000 s100 σ1

12.380 (1.304)

12.538 (1.143)

12.409 (1.165)

13.809 (1.841)

12.763 (1.393)

n100 p1000 s100 σ2

16.815 (1.343)

17.038 (1.574)

16.943 (1.332)

18.969 (2.574)

17.231 (1.563)

n100 p2000 s20 σ.1

1.758 (.569)

1.634 (.565)

1.782 (.574)

.258 (.722)

1.801 (.565)

n100 p2000 s20 σ1

3.041 (.446)

2.936 (.512)

3.088 (.529)

2.874 (.583)

3.081 (.469)

n100 p2000 s20 σ2

7.068 (.554)

7.166 (.592)

7.058 (.578)

7.651 (.985)

7.305 (.586)

n100 p2000 s50 σ.1

5.439 (.895)

5.326 (.942)

5.439 (.845)

5.699 (1.029)

5.599 (.922)

n100 p2000 s50 σ1

6.765 (.968)

6.705 (1.004)

6.808 (.936)

7.304 (1.180)

7.072 (.993)

n100 p2000 s50 σ2

10.364 (.951)

10.382 (.989)

10.469 (1.029)

11.316 (1.196)

10.639 (1.051)

n100 p2000 s100 σ.1

11.672 (1.241)

11.588 (1.282)

11.665 (1.329)

13.039 (1.588)

12.212 (1.294)

n100p2000s100σ1

12.878 (1.205)

13.089 (1.311)

13.104 (1.209)

14.229 (1.816)

13.523 (1.363)

n100 p2000 s100 σ2

16.717 (1.233)

16.799 (1.275)

16.867 (1.317)

18.999 (1.967)

17.074 (1.483)

n200 p500 s20 σ.1

.229 (.132)

.315 (.186)

.178 (.110)

.012 (.001)

.253 (.148)

n200 p500 s20 σ1

1.787 (.298)

1.794 (.312)

1.784 (.272)

1.724 (.179)

1.838 (.284)

n200 p500 s20 σ2

5.878 (.535)

5.869 (.543)

6.014 (.549)

6.078 (.659)

5.986 (.503)

n200 p500 s50 σ.1

2.098 (.654)

2.397 (.642)

1.663 (.685)

.020 (.006)

2.242 (.649)

n200 p500 s50 σ1

4.017 (.619)

4.246 (.658)

3.743 (.731)

2.899 (.585)

4.112 (.653)

n200 p500 s50 σ2

8.364 (.754)

8.511 (.738)

8.321 (.738)

8.641 (1.206)

8.455 (.801)

n200 p500 s100 σ.1

7.973 (1.338)

8.213 (1.254)

6.986 (1.493)

6.836 (1.608)

7.941 (1.381)

n200 p500 s100 σ1

9.123 (1.019)

9.439 (1.096)

8.723 (1.162)

8.559 (1.266)

9.232 (1.045)

n200 p500 s100 σ2

13.662 (1.452)

13.801 (1.352)

13.350 (1.411)

14.299 (1.699)

13.651 (1.359)

n200 p1000 s20 σ.1

.299 (.187)

.331 (.180)

.253 (.171)

.0120 (.001)

.332 (.197)

n200 p1000 s20 σ1

2.021 (.283)

1.991 (.279)

2.024 (.272)

1.809 (.195)

2.056 (.260)

n200 p1000 s20 σ2

6.416 (.554)

6.357 (.528)

6.536 (.552)

6.499 (.952)

6.463 (.576)

n200p1000s50 σ.1

3.046 (.849)

3.261 (.851)

2.848 (.897)

.023 (.008)

3.347 (.866)

n200 p1000 s50 σ1

4.771 (.694)

4.771 (.726)

4.676 (.735)

3.869 (.882)

4.969 (.729)

n200 p1000 s50 σ2

9.089 (.918)

9.093 (.954)

9.159 (.912)

9.323 (1.034)

9.152 (.920)

n200 p1000 s100 σ.1

8.786 (.975)

8.831 (.899)

8.555 (.989)

8.627 (1.375)

9.147 (.981)

n200 p1000 s100 σ1

10.224 (1.005)

10.290 (.981)

10.036 (.940)

10.628 (1.442)

10.509 (1.121)

n200 p1000 s100 σ2

14.143 (1.287)

14.219 (1.386)

14.095 (1.313)

14.976 (1.674)

14.474 (1.371)

n200 p2000 s20 σ.1

.419 (.249)

.432 (.279)

.429 (.276)

.012 (.002)

.473 (.266)

n200 p2000 s20 σ1

2.413 (.416)

2.288 (.368)

2.465 (.407)

1.907 (.228)

2.404 (.399)

n200 p2000 s20 σ2

6.593 (.470)

6.556 (.519)

6.653 (.454)

6.684 (.723)

6.641 (.533)

n200 p2000 s50 σ.1

3.729 (.874)

3.607 (.751)

3.731 (.825)

.419 (1.050)

3.900 (.711)

n200 p2000 s50 σ1

5.354 (.852)

5.089 (.877)

5.330 (.862)

4.518 (1.012)

5.465 (.949)

n200 p2000 s50 σ2

9.707 (.763)

9.583 (.805)

9.827 (.763)

10.054 (1.255)

9.972 (.798)

n200 p2000 s100 σ.1

9.693 (1.046)

9.584 (1.137)

9.686 (.980)

10.119 (1.456)

10.275 (1.169)

n200 p2000 s100 σ1

10.863 (1.194)

10.983 (1.052)

10.578 (1.161)

11.092 (1.609)

11.163 (1.292)

n200 p2000 s100 σ2

15.006 (1.164)

15.057 (1.145)

14.948 (1.126)

15.852 (1.129)

15.462 (1.169)

  1. Bold values indicate the smallest MSPE in each scenario
  2. MARCOR, DISCOR, RIDGE, LASSO, FOREST denote the method of Marginal Correlation, Distance Correlation, Ridge Regression, LASSO, Random Forest, respectively