Skip to main content

Table 6 Error rates in real mutation screening data using shadow linear regression and smoothing spline approaches

From: Empirical estimation of sequencing error rates using smoothing splines

Samples SRER EER_CS EER_RS
SRR032565 0.0753 0.1167 0.1206
SRR032566 0.0584 0.0746 0.0745
SRR032567 0.0846 0.1420 0.1446
SRR032568 0.0686 0.1566 0.1566
SRR032569 0.0597 0.1015 0.1020
SRR032570 0.0691 0.0973 0.0954
SRR032571 0.0724 0.1400 0.1400
SRR032572 0.0818 0.1611 0.1593
SRR032573 0.1602 0.2756 0.2752
SRR032574 0.0557 0.1004 0.1053
SRR032575 0.0882 0.1191 0.1179
SRR032576 0.1101 0.1915 0.1899
SRR032577 0.0762 0.1282 0.1280
SRR032578 0.1365 0.1874 0.1873
SRR032580 0.0727 0.1262 0.1266
SRR032581 0.0981 0.0506 0.0511
SRR032582 0.0941 0.1689 0.1679
SRR032583 0.1141 0.2057 0.2042
SRR032584 0.0849 0.0963 0.0742
SRR032586 0.0623 0.3606 0.3621
SRR032587 0.0857 0.1524 0.1532
SRR032588 0.0701 0.1446 0.1440
SRR033543 0.0802 0.1084 0.1102
SRR033544 0.1175 0.1588 0.1586
  1. SRER error rate estimated using shadow regression
  2. EER_CS empirical error rate estimated using cubic smoothing spline
  3. EER_RS empirical error rate estimated using robust smoothing spline