alonso_kexano

... экс-химик, много занимавшийся хемометрикой и метрологией.
Впрочем, зарекаться от возврата не стоит.

Если _программа_ считает, то вполне может быть, что там и используется какая-нибудь бяка вроде рядов Тейлора и т.д. Человек, даже химик, :), даже экспериментатор, в здравом уме и твердой памяти вручную считать это не будет.
Самое забавное, что физически смысл этой величины понять относительно легко, а вот вычислить...

Но ладно. Если что-то оказалось для Вас не бесполезным, я рада.