rulinux.net - Форум - Development - [арифметика]погрешности? криворукость? http://rulinux.net/ rulinux.net - Форум - Development - [арифметика]погрешности? криворукость? http://rulinux.net/ http://rulinux.net/rss_icon.png Re:[арифметика]погрешности? криворукость? https://rulinux.net/message.php?newsid=2129&page=1#15774 https://rulinux.net/message.php?newsid=2129&page=1#15774 Fri, 19 Jun 2009 11:23:57 +0400 Из этих формул среднеквадратичное отклонение даёт только первая. Вторая — это дисперсия. Из этих двух формул, а также из определения среднекадратичного отклонения S = sqrt(M((x - M(x))^2)) я бы выбрал первую, потому что в ней возможность вычитания близких чисел присутствует только один раз, и то в самом конце.

За размах выборки среднеквадратичное отклонение, конечно, вылезать не может, потому что, как следует из его определения, S <= sqrt(M(dx_max^2)) = dx_max — максимальное отклонение. Ищи ошибку и вряд ли это численные погрешности, разве что дисперсия почти нулевая.

]]> [арифметика]погрешности? криворукость? https://rulinux.net/message.php?newsid=2129&page=1#15773 https://rulinux.net/message.php?newsid=2129&page=1#15773 Thu, 18 Jun 2009 20:28:38 +0400 возник вопрос по подсчету СКО случайной величины. существуют 2 формулы, которые аналитически равносильны. S=sqrt(M(x^2)-M(x)^2) и S=M(x^2-M(x)^2) M-матожидание. интересует вопрос, если считать все это в double то в каком случае погрешность будет больше? скорость не важна. вопрос возник в связи с тем что считая по первой сормуле СКО иногда вылазит за размах выборки в обе стороны. насколько такое поведение для СВ может быть нормальным?

]]>