그림 1과 같이 검출 한계(LOD)는 바탕 용액을 반복 측정 하였을 때의 표준 편차의 약 3배에 해당하는 농도이다. ASTM의 E579-04의 방법에 의하면 최소 검출 농도는 다음의 식 (1)로 나타낼 수 있다.

LOD = (Sample concentration / S ) x (rms noise x 3)          (1)

여기서 S는 형광 최대 파장에서의 신호의 평균에서 바탕값을 빼준 순수 신호 세기(net signal intensity)이다.

여기서 rms noise는 바탕 신호를 이용하여 다음과 같은 식 (2)로 구할 수 있다.

그림 1. LOD, LOQ의 정의 그래프

참고로 rms noise는 일반적으로 peak-to-peak noise를 5로 나눈 값과 비슷하다고 알려져 있기 때문에²⁾ peak-to-peak noise를 5로 나눈 값을 사용해도 무관하다.

FS-2 형광 분광 광도계로 얻은 10 ppb Vitamin B2의 형광 스펙트럼은 그림 2와 같고 10회 측정한 결과는 표 1과 같다.

그림 2. 10 ppb Vitamin B2의 형광 스펙트럼

그림 2에서 검은 선은 증류수의 바탕 신호이며, 붉은 선은 Vitamin B2 용액의 형광 신호이다. 스펙트럼에 표시된 데이터는 측정 값들의 10회 평균 값이다.

표 1. 10ppb Vitamin B2의 최대 형광 세기

측정 결과 순수 신호세기 S는 1460.65, rms noise는 19.12이었으며 식 (1)로부터 FS-2 형광 분광 광도계를 이용해서 검출 할 수 있는 Vitamin B2의 검출 한계(LOD)는 0.4 ppb로 계산되었다.

정량 한계(LOQ)는 일반적으로 바탕 용액을 반복 측정 하였을 때의 표준 편차의 10배에 해당한다(그림 1). 정량 한계는 다음의 식 (3)으로 나타낼 수 있다.³⁾

LOQ= 10Sb/m          (3)

여기서 m은 형광 시료 정량 시 검량 곡선의 기울기(slop of calibration curve)이며, Sb는 바탕 신호의 표준편차 (standard deviation of blank readings)이다.

FS-2를 이용하여 0, 1.5, 2, 3, 5 ppb 농도의 Vitamin B2 용액을 형광 측정 후 얻은 검량선은 그림 3과 같다.

그림 3. Vitamin B2 의 형광 스펙트럼

검량 곡선 기울기인 m은 119.47이며, 3회 반복 한 바탕 신호의 표준 편차는 19.12였으므로 식 (3)으로부터 FS-2 형광 분광 광도계를 이용해서 검출 할 수 있는 Vitamin B2 의 정량 가능한 최소 농도(LOQ)는 1.6 ppb로 계산되었다.

㈜신코의 FS-2 형광 분광 광도계와 FluoroMaster Plus Software를 이용하여 Vitamin B2에 대한 검출 한계와 정량 한계를 측정 해 보았다.
측정 결과 FS-2을 이용해서 검출 할 수 있는 Vitamin B2의 검출 한계(LOD)는 약 0.4 ppb이었고, 정량 한계(LOQ)는 약 1.6 ppb 였다.