Skip to main content

Table 1 Simulated results for simulation 1, comparing the means and standard deviations (in the parentheses) of MSPE

From: Improved two-stage model averaging for high-dimensional linear regression, with application to Riboflavin data analysis

Setting MACOR DISCOR RIDGE LASSO FOREST
n100 p500 s20 σ.1 .905 (.3834) .943 (.387) .838 (.355) .0153 (.003) .965 (.385)
n100 p500 s20 σ1 2.603 (.469) 2.648 (.490) 2.629 (.469) 2.462 (.381) 2.715 (.442)
n100 p500 s20 σ 2 6.785 (.525) 6.742 (.648) 6.904 (.541) 7.094 (.886) 6.987 (.536)
n100 p500 s50 σ.1 4.458 (.760) 4.444 (.789) 4.264 (.843) 4.442 (1.03) 4.496 (.738)
n100 p500 s50 σ1 5.648 (.968) 5.715 (1.051) 5.591 (.932) 6.001 (1.083) 5.874 (.933)
n100 p500 s50 σ 2 10.042 (1.092) 10.103 (1.009) 10.221 (1.005) 10.771 (1.474) 10.050 (.945)
n100 p500 s100 σ.1 10.498 (1.292) 10.647 (1.397) 10.474 (1.402) 11.662 (1.768) 10.442 (1.282)
n100 p500 s100 σ1 11.498 (1.144) 11.879 (1.262) 11.469 (1.092) 12.885 (1.789) 11.701 (1.089)
n100 p500 s100 σ 2 15.652 (1.559) 15.639 (1.440) 15.627 (1.490) 17.047 (2.338) 15.622 (1.404)
n100 p1000 s20 σ.1 1.221 (.524) 1.189 (.489) 1.259 (.528) .064 (.346) 1.270 (.481)
n100 p1000 s20 σ1 2.945 (.433) 2.845 (.459) 2.979 (.424) 2.867 (.496) 3.062 (.473)
n100 p1000 s20 σ2 6.855 (.613) 6.889 (.616) 6.868 (.571) 7.135 (.780) 6.996 (.635)
n100 p1000 s50 σ.1 4.874 (.779) 4.874 (.820) 4.869 (.786) 5.117 (1.114) 5.049 (.831)
n100 p1000 s50 σ1 6.192 (1.007) 6.107 (1.005) 6.219 (.963) 6.705 (1.359) 6.348 (1.006)
n100 p1000 s50 σ2 10.173 (.995) 10.179 (1.028) 10.112 (.873) 10.716 (1.433) 10.384 (.859)
n100 p1000 s100 σ.1 11.163 (1.463) 11.246 (1.439) 11.182 (1.339) 12.759 (2.017) 11.421 (1.531)
n100 p1000 s100 σ1 12.380 (1.304) 12.538 (1.143) 12.409 (1.165) 13.809 (1.841) 12.763 (1.393)
n100 p1000 s100 σ2 16.815 (1.343) 17.038 (1.574) 16.943 (1.332) 18.969 (2.574) 17.231 (1.563)
n100 p2000 s20 σ.1 1.758 (.569) 1.634 (.565) 1.782 (.574) .258 (.722) 1.801 (.565)
n100 p2000 s20 σ1 3.041 (.446) 2.936 (.512) 3.088 (.529) 2.874 (.583) 3.081 (.469)
n100 p2000 s20 σ2 7.068 (.554) 7.166 (.592) 7.058 (.578) 7.651 (.985) 7.305 (.586)
n100 p2000 s50 σ.1 5.439 (.895) 5.326 (.942) 5.439 (.845) 5.699 (1.029) 5.599 (.922)
n100 p2000 s50 σ1 6.765 (.968) 6.705 (1.004) 6.808 (.936) 7.304 (1.180) 7.072 (.993)
n100 p2000 s50 σ2 10.364 (.951) 10.382 (.989) 10.469 (1.029) 11.316 (1.196) 10.639 (1.051)
n100 p2000 s100 σ.1 11.672 (1.241) 11.588 (1.282) 11.665 (1.329) 13.039 (1.588) 12.212 (1.294)
n100p2000s100σ1 12.878 (1.205) 13.089 (1.311) 13.104 (1.209) 14.229 (1.816) 13.523 (1.363)
n100 p2000 s100 σ2 16.717 (1.233) 16.799 (1.275) 16.867 (1.317) 18.999 (1.967) 17.074 (1.483)
n200 p500 s20 σ.1 .229 (.132) .315 (.186) .178 (.110) .012 (.001) .253 (.148)
n200 p500 s20 σ1 1.787 (.298) 1.794 (.312) 1.784 (.272) 1.724 (.179) 1.838 (.284)
n200 p500 s20 σ2 5.878 (.535) 5.869 (.543) 6.014 (.549) 6.078 (.659) 5.986 (.503)
n200 p500 s50 σ.1 2.098 (.654) 2.397 (.642) 1.663 (.685) .020 (.006) 2.242 (.649)
n200 p500 s50 σ1 4.017 (.619) 4.246 (.658) 3.743 (.731) 2.899 (.585) 4.112 (.653)
n200 p500 s50 σ2 8.364 (.754) 8.511 (.738) 8.321 (.738) 8.641 (1.206) 8.455 (.801)
n200 p500 s100 σ.1 7.973 (1.338) 8.213 (1.254) 6.986 (1.493) 6.836 (1.608) 7.941 (1.381)
n200 p500 s100 σ1 9.123 (1.019) 9.439 (1.096) 8.723 (1.162) 8.559 (1.266) 9.232 (1.045)
n200 p500 s100 σ2 13.662 (1.452) 13.801 (1.352) 13.350 (1.411) 14.299 (1.699) 13.651 (1.359)
n200 p1000 s20 σ.1 .299 (.187) .331 (.180) .253 (.171) .0120 (.001) .332 (.197)
n200 p1000 s20 σ1 2.021 (.283) 1.991 (.279) 2.024 (.272) 1.809 (.195) 2.056 (.260)
n200 p1000 s20 σ2 6.416 (.554) 6.357 (.528) 6.536 (.552) 6.499 (.952) 6.463 (.576)
n200p1000s50 σ.1 3.046 (.849) 3.261 (.851) 2.848 (.897) .023 (.008) 3.347 (.866)
n200 p1000 s50 σ1 4.771 (.694) 4.771 (.726) 4.676 (.735) 3.869 (.882) 4.969 (.729)
n200 p1000 s50 σ2 9.089 (.918) 9.093 (.954) 9.159 (.912) 9.323 (1.034) 9.152 (.920)
n200 p1000 s100 σ.1 8.786 (.975) 8.831 (.899) 8.555 (.989) 8.627 (1.375) 9.147 (.981)
n200 p1000 s100 σ1 10.224 (1.005) 10.290 (.981) 10.036 (.940) 10.628 (1.442) 10.509 (1.121)
n200 p1000 s100 σ2 14.143 (1.287) 14.219 (1.386) 14.095 (1.313) 14.976 (1.674) 14.474 (1.371)
n200 p2000 s20 σ.1 .419 (.249) .432 (.279) .429 (.276) .012 (.002) .473 (.266)
n200 p2000 s20 σ1 2.413 (.416) 2.288 (.368) 2.465 (.407) 1.907 (.228) 2.404 (.399)
n200 p2000 s20 σ2 6.593 (.470) 6.556 (.519) 6.653 (.454) 6.684 (.723) 6.641 (.533)
n200 p2000 s50 σ.1 3.729 (.874) 3.607 (.751) 3.731 (.825) .419 (1.050) 3.900 (.711)
n200 p2000 s50 σ1 5.354 (.852) 5.089 (.877) 5.330 (.862) 4.518 (1.012) 5.465 (.949)
n200 p2000 s50 σ2 9.707 (.763) 9.583 (.805) 9.827 (.763) 10.054 (1.255) 9.972 (.798)
n200 p2000 s100 σ.1 9.693 (1.046) 9.584 (1.137) 9.686 (.980) 10.119 (1.456) 10.275 (1.169)
n200 p2000 s100 σ1 10.863 (1.194) 10.983 (1.052) 10.578 (1.161) 11.092 (1.609) 11.163 (1.292)
n200 p2000 s100 σ2 15.006 (1.164) 15.057 (1.145) 14.948 (1.126) 15.852 (1.129) 15.462 (1.169)
  1. Bold values indicate the smallest MSPE in each scenario
  2. MARCOR, DISCOR, RIDGE, LASSO, FOREST denote the method of Marginal Correlation, Distance Correlation, Ridge Regression, LASSO, Random Forest, respectively