Skip to main content

Table 5 Error rates in real MAQC data using shadow linear regression and smoothing spline approaches

From: Empirical estimation of sequencing error rates using smoothing splines

Samples SRER EER_CS EER_RS
SRR037452 0.2695 0.3124 0.3362
SRR037453 0.1598 0.1819 0.1822
SRR037454 0.1596 0.2041 0.2196
SRR037455 0.1482 0.1694 0.1700
SRR037456 0.1657 0.2062 0.2162
SRR037457 0.1541 0.1796 0.1793
SRR037458 0.2386 0.2573 0.2575
SRR037459 0.1996 0.2216 0.2233
SRR037460 0.2027 0.2504 0.2647
SRR037461 0.1779 0.2058 0.2093
SRR037462 0.1858 0.2329 0.2319
SRR037463 0.1771 0.2019 0.2072
SRR037464 0.1850 0.2377 0.2448
SRR037465 0.1842 0.2019 0.2070
  1. SRER error rate estimated using shadow regression
  2. EER_CS empirical error rate estimated using cubic smoothing spline
  3. EER_RS empirical error rate estimated using robust smoothing spline