Table 1 Comparison of observed and fitted embryonic mortality in the plant data set.

From: Quantitative modeling of multigenerational effects of chronic ionizing radiation using targeted and nontargeted effects

Location

Time since 1986 (years)

Dose rate (µGy/h)

Robust linear regression fit to ln[dose rate] as function of time

Observed embryonic mortality

Fitted embryonic mortality

Intercept (R0)

Slope (λ, years−1)

Chernobyl

1

73.6

4.56

0.28

0.070

0.119

Chernobyl

2

52.5

4.56

0.28

0.172

0.141

Chernobyl

3

42.0

4.56

0.28

0.227

0.153

Chernobyl

4

31.5

4.56

0.28

0.196

0.159

Chernobyl

5

21.0

4.56

0.28

0.166

0.162

Chernobyl

6

10.5

4.56

0.28

0.107

0.162

Shepelichi

1

1224.0

6.74

0.09

0.154

0.122

Shepelichi

2

720.0

6.74

0.09

0.224

0.146

Shepelichi

3

648.1

6.74

0.09

0.218

0.159

Shepelichi

4

576.0

6.74

0.09

0.167

0.167

Shepelichi

6

504.0

6.74

0.09

0.116

0.175

Stechanka

1

2.1

0.74

0.00

0.066

0.094

Stechanka

2

2.1

0.74

0.00

0.100

0.102

Stechanka

3

2.1

0.74

0.00

0.221

0.107

Stechanka

4

2.1

0.74

0.00

0.062

0.110

Stechanka

6

2.1

0.74

0.00

0.074

0.113

Tolstyi Les

1

322.5

6.05

0.26

0.078

0.121

Tolstyi Les

2

258.1

6.05

0.26

0.090

0.144

Tolstyi Les

3

193.5

6.05

0.26

0.138

0.157

Tolstyi Les

4

129.0

6.05

0.26

0.148

0.165

Tolstyi Les

6

90.3

6.05

0.26

0.139

0.171

Yanov-6

2

23,919.4

11.13

0.50

0.200

0.230

Yanov-6

3

16,560.0

11.13

0.50

0.283

0.235

Yanov-6

4

9200.0

11.13

0.50

0.250

0.228

Yanov-6

5

5520.0

11.13

0.50

0.247

0.217

Yanov-8

3

875.0

6.77

0.00

0.205

0.160

Yanov-8

4

875.0

6.77

0.00

0.111

0.168

Yanov-0

1

1288.1

7.16

0.00

0.125

0.123

Yanov-1

1

2208.3

7.70

0.00

0.104

0.124

Yanov-2

1

4415.3

8.39

0.00

0.180

0.128

Yanov-3

1

23,919.4

10.08

0.00

0.131

0.156

Yanov-4

1

44,159.7

10.70

0.00

0.141

0.184

Yanov-7

2

26,680.6

10.19

0.00

0.216

0.203

Damba

5

52.5

3.96

0.00

0.166

0.164

Yanov-10

5

87.5

4.47

0.00

0.152

0.167

  1. R2 for observed versus model-fitted values was 0.43, and RMSE was 0.044.