При цьому стандартним відхиленням називають:
За великих значень N користуються наближеною формулою:
Якщо на основі експериментально отриманих параметрів x_i вираховувается значення функції y=f(x) то похибку отриманого результату можна оцінити за наступною формулою:
Метод найменших квадратів дозволяє визначити найкращу оцінку параметрів A та В:
,а їх стандартні відхилення визначаються за формулами:
Коефіцієнт кореляції:
Критерій є зваженим відхиленням експериментальних значень від теоретичних або апроксимованих значень і визначає "якість" апроксимації. За допомогою формули
визначають значення . Після цього застосовуючи таблицю значень росподілу chi^2 визначають довірчий інтервал.