計算式

検量線

重み付け

検量線に使用されるデータファイルに標準偏差の値がある時、重み付けを行うことができます。検量線テーブルで重み付けとして 1/SD^2 を選択した場合、各点の重み付けは、次のように計算されます。

 

ここで

S_i : 各点の標準偏差

n : 点の数

重み付けとして 1/x、1/y、1/x^2 を用いる場合、上の式のS_i^-2 の項が1/x、1/y、1/x^2 に置き換わって、重みが計算されます。

重み付けとして 1/x、1/x^2 を用いる場合、x の値が 0 となるようなレベルが存在する重み付けは利用できません。

重み付けとして 1/y を用いる場合、y の値が 0 となるようなレベルが存在する重み付けは利用できません。

直線回帰のみ、重み付けが可能です。

内標準

内標準が選択された場合、検量線の各点のカウントは、同じレベルにある内標準の単位濃度あたりのカウントで割られ、y を算出します。

y＝y_s/(y_i/x_i)（x_i=0 の時、y= class="citation">x_i)（y_s）

ここで

x_i :内標準元素濃度

y_i : 内標準元素のカウント

y_s : サンプルデータのカウント

この値 y は、「検量線の係数」において、y の測定値として使用されます。

相関係数

検量線の相関係数は次の式を用いて計算されます。

 

ここで

: x_i の平均値

: y_i の平均値

x_i: x の測定値

y_i: y の測定値

この値は直線回帰のみ使用可能です。

検量線の係数

この係数 a, b, c は次のように計算されます。

ここでは、

n: ポイント数

x_i: x の測定値

y_i: y の測定値

w_i: 各点の重み付け（重み付けなしの場合は、w_i=1.0）

1. y = ax

 

2. y = ax + b

 

 

3. y = ax² + bx

 

 

4. y = ax² + bx + c

 

 

 

ここで

 

 

 

 

 

5. log (y) = a (log x) + b

 

 

6. y = ax + b + bkg（標準添加法）

 

 

ここで

y_bkg: バックグラウンドのカウント

7. y = ax +[blank]

    

   ここで

   Blk:ブランクのカウント

%相対誤差

%相対誤差（%RE）は、以下の式で計算します。

 

ここで は、検量標準液の真の値で、  は測定した検量標準液の濃度です。

もし が 0（例:ブランク）ならば、この値は計算されません。この場合は、値は空白になります。

%相対誤差（%RE）は、データ解析ソフトウェアの検量線テーブルに表示されます。

%相対標準誤差（%RSE）

%相対標準誤差（%RSE）は、検量線のフィットの指標を表します。値は次のように計算されます。

 

ここで、 は検量線レベル の真の値、 は検量線レベル の測定濃度、 は検量線式の項の数（平均レスポンス係数=1、1 次式=2、2 次式=3）、 は使用可能な検量線のポイント数です。

が 0（空白）の場合、レベルは使用されません。これは、上記の式からレベルがスキップされることを意味します。たとえば、検量線に 4 つのレベルがあり、ブランクに1つのレベルが使用される場合（予想される濃度は 0）、他の 3 つのレベルが計算に使用されます。

%相対標準誤差（%RSE）は、データ解析ソフトウェアの検量線テーブルとバッチテーブルに表示されます。