Методы обработки экспериментальных данных презентация

НЕОБХОДИМО ЗНАТЬ И ПОНИМАТЬ КАК И ЧТО ПРОИСХОДИТ ВНУТРИ МАТ. ПАКЕТОВ!

1.1. Введение

3. Оценка неизвестной величины

4. Построение моделей и проверка гипотез

Двумерные наборы данных содержат информацию о двух признаках для каждого из объектов. В дополнение к обобщению свойств каждой из этих двух переменных, рассматриваемых как отдельные наборы одномерных данных,

Наборы многомерных данных содержат информацию о трех или более признаках для каждого объекта. В дополнение к обобщению свойств каждой из этих переменных (рассматриваемых как отдельные наборы одномерных данных) и установлению зависимости между парами переменных (как при анализе набора двумерных данных)

Поиск в Internet

Специальные издания и журналы

Покупка готовых данных у специализирующихся компаний

ПРИМЕРЫ: анкетные данные, систолическое давление пациентов, количество лейкоцитов в крови, цена акций, товаров, услуг, потребление, инвестиции, доход, государственные закупки товаров и услуг, инструмент государственного регулирования (в экономике); рейтинг программ, доля зрителей, количество посещений сайта (в рекламе); скорость, температура, объем, масса в (физике) и т. д.

Для этого придуманы описательные или дескриптивные статистики.

Минимум и максимум — это минимальное и максимальное значения переменной.

Среднее — сумма значений переменной, деленная на n (число значений переменной).

Дисперсия и стандартное отклонение — наиболее часто используемые меры изменчивости переменной. Дисперсия меняется от нуля до бесконечности. Крайнее значение 0 означает отсутствие изменчивости, когда значения переменной постоянны.

Медиана дает общее представление о том, где сосредоточены значения переменной, иными словами, где находится ее центр. В некоторых случаях, например при описании доходов населения, медиана более удобна, чем среднее.

Мода представляет собой максимально часто встречающееся значение переменной (иными словами, наиболее «модное" значение переменной), например популярная передача на телевидении, модный цвет платья или марка автомобиля и т. д.

А так же есть еще множество других статистик: квартили, коэффициент асимметрии, эксцесс, коэффициент корреляции и др.

По формуле Байеса вычисляем апостериорные вероятности для всех рассматриваемых классов:

Выносим решение об истинности того класса (с номером ν), для которого апостериорная вероятность максимальная:

По формуле Байеса вычисляем апостериорные вероятности для всех рассматриваемых классов:

Выносим решение об истинности того класса (с номером ν), для которого апостериорная вероятность максимальная:

если

то принимается решение о 1-м классе, иначе о 2-м классе.

Двумерный случай

Одномерный случай

Неизвестные параметры θ1 и θ2 доопределяются с помощью одного из методов математической статистики, например с помощью метода максимального правдоподобия, на основе обучающей выборки.

Дальнейшая классификация проводится, как и в случае 1.

По обучающей выборке доопределяются и априорные вероятности:

Вариант 1. Восстанавливается решающая функция.

Вариант 2. По обучающей выборке восстанавливаются условные плотности

По количеству максимумов определяем кол-во классов
Минимум позволяет разбить выборку на две части – точка c0 (нулевое приближение).
Далее строится процедура последовательного (итерационного) расчета порога c.
В итоге получаем случай 3.

Выход объекта состоит из неизвестного сигнала (функции от входов) и центрированной помехи

Обычно основная цель научного исследования состоит в том, чтобы показать статистическую значимость эффекта воздействия определенного фактора на изучаемую зависимую переменную.

В условиях промышленного эксперимента основная цель обычно заключается в извлечении максимального количества объективной информации о влиянии изучаемых факторов на производственный процесс с помощью наименьшего числа дорогостоящих наблюдений.

Формально цель эксперимента заключается в том, чтобы найти оптимальное положение на поверхности выхода, образованной двумя переменными: временем и температурой.

Взвешивание трех тел с использованием планирования эксперимента.

Видно, что при новой схеме взвешивания дисперсия веса объектов получается вдвое меньше, чем при традиционном методе взвешивания, хотя в обоих случаях выполнялось по четыре опыта.

Необходимо на основе эксперимента (на основе нескольких измерений входов и выхода объекта) вычислить коэффициенты модели.

Экспериментальные точки для входных координат зададим в вершинах гиперпрямоугольника.

Интервалы покачивания относительно базовой точки задаются экспериментатором, и они определяют область изучения объекта.

Точки плана в вершинах прямоугольника в новых координатах оказываются в вершинах квадрата с единичными координатами. Центр плана переходит в начало координат.

В итоге получается план:

Параметры βi модели рассчитаем по критерию наименьших квадратов :

Предполагая, что измерения выхода некоррелированные и равноточные получаем систему линейных алгебраических уравнений:

В 1951 году Бокс и Уилсон предложили использовать последовательный "шаговый" метод движения к экстремуму выхода объекта.

Коэффициенты αi линейной модели являются оценками составляющих градиента:

Далее движение осуществляется по поверхности отклика в направлении оценки градиента

, где k - величина шага.

При построении линейной модели объекта используется полный факторный эксперимент типа 2m. Условия эксперимента записываются в таблицы, в которых строки соответствуют различным опытам, а столбцы – значениям факторов. Такие таблицы называются матрицами планирования эксперимента.

Например, при m=2 можно рассчитать и коэффициенты модели:

Чтобы получить дробную реплику, необходимо за основу взять полный факторный эксперимент (например 23) и в качестве новой переменной взять один из столбцов (например x4), соответствующий фактору взаимодействия (например x4=x1x2). Для данного примера дробная реплика обозначается как 24-1.

Определяющий контраст (или определяющие контрасты, когда их несколько) позволяет установить разрешающую способность дробной реплики. Разрешающая способность будет максимальной, если линейные эффекты будут смешаны с эффектами взаимодействия наибольшего возможного порядка.

Ортогональный план проводится в вершинах правильного симплекса. Правильным симплексом называется выпуклая правильная фигура в многомерном пространстве, число вершин которой превышает размерность этого пространства на единицу.

Эти планы центральные и ортогональные.

Задаются базовые строки. Каждая следующая строка матрицы планирования образуется из исходной циклическим сдвигом вправо. Получается матрица размером m x m. Последняя (m+1) -я строка матрицы планирования состоит из минус единиц.

Пример базисных строк:

В качестве примера рассмотрим ортогональный план 23 . Считаем, что выход объекта имеет аддитивный дрейф на величину Δ1 (когда проводятся эксперименты с номерами 1, 2, 3, 4) и на величину Δ2 (когда проводятся эксперименты № 5, 6, 7, 8). Этот дрейф приводит к смещению на величину (4Δ1-4 Δ2)/8 параметра β3.

Проверка однородности дисперсий производится с помощью различных статистик. Простейшей из них является статистика Фишера, представляющая собой отношение наибольшей из оценок к наименьшей:

Так же можно выполнить проверку с использованием статистики Кочрена:

На основе дополнительного эксперимента объема n0 в одной из точек плана (например в центре плана) строим оценку для дисперсии выхода объекта. Число степеней свободы для оценки n0 -1. По статистике Фишера проверяем гипотезу о равенстве дисперсий, которая совпадает с гипотезой об адекватности модели.

Если статистика не превосходит порогового значения, то принимается гипотеза об адекватности модели. В противоположном случае эта гипотеза отвергается. Надо заново строить модель, например, усложняя ее за счет введения дополнительных факторов, либо отказываться от линейной модели и переходить к квадратичной модели.

Если |t|

Если характер связи между входами и выходом объекта на основе построенной модели не соответствует реальным связям (на базе информации от экспертов) в объекте, то такую модель надо поставить под сомнение либо полностью отказаться от нее.

Для вычисления коэффициентов модели второго порядка необходимо варьировать переменные не менее чем на трех уровнях. Это вызывает необходимость постановки большого числа опытов. Полный факторный эксперимент содержит 3m точек.

Точки на осях координат называют звездными точками. Их количество равно удвоенному числу факторов. Расстояние от центра плана до звездной точки одинаково. Его обозначают буквой α и называют звездным плечом.

Композиционные планы имеют следующие положительные свойства: 1. Они могут быть получены в результате достройки планов первого порядка.
2. Дополнительные точки на осях координат и в центре плана не нарушают ортогональности для столбцов, соответствующих факторам xj и эффектам взаимодействия xixj .

Ортогональный план первого порядка является ротатабельным.

Построение ротатабельного плана второго порядка из симплексных планов:

В 1956 году Сатерзвайт предложил метод случайного баланса для отсеивания небольшого числа значимых факторов на шумовом поле. Метод базируется на постановке экспериментов по плану, содержащему координаты точек, выбранных случайным образом.

Построение матрицы планирования осуществляют следующим образом. Все факторы разбивают на группы. Затем для каждой группы строят матрицы планирования, беря за основу полный факторный эксперимент или дробные реплики. План проведения эксперимента образуется путем случайного смешивания строк соответствующих базовых планов (для групп факторов). Полученный план реализуется на объекте, и результаты анализируются с помощью диаграмм рассеяния.

Рассмотрим некоторые примеры функционалов:

– дисперсия.

– приведенная энтропия.

– математическое ожидание.

Основным свойством оценки Фn(x1,…,xn) является ее состоятельность. Оценка Фn функционала Ф называется состоятельной, если:

Оценка Фn параметра Ф называется несмещенной, если:

Требование состоятельности определяет практическую пригодность оценок, ибо в противоположном случае (при несостоятельности оценок) увеличение объема исходной выборки не будет приближать оценку к "истинной" величине. По этой причине свойство состоятельности должно проверяться в первую очередь.

Она является асимптотически несмещенной, если:

где 1(z) – единичная функция:

Можно получить оценку для плотности распределения :

Здесь δ(x-xi) – дельта-функция Дирака. Она имеет "игольчатый" ("гребенчатый") вид: уходит до ∞ в точке xi , а при остальных значениях аргумента x равна нулю и обладает свойствами:

- площадь под дельта функцией единичная.

селектирующее свойство дельта-функции позволяет легко выполнять интегрирование. Интеграл оказывается равным подынтегральному выражению, стоящему перед дельта-функцией, в особой точке.

Второе селектирующее свойство дельта-функции позволяет легко выполнять интегрирование. Интеграл оказывается равным подынтегральному выражению, стоящему перед дельта-функцией, в особой точке.

Оценка плотности распределения является несмещенной, но несостоятельной. В явном виде её использовать нельзя. Ею удобно пользоваться при вычислении оценок моментов (математического ожидания, дисперсии и др.) для случайной величины или для аналитической функции случайной величины. Получаемые оценки являются состоятельными и часто несмещенными.

Она строится на выборочных интервалах, ограниченных выборочными значениями упорядоченной выборки x1,…,xn. Площадь каждого прямоугольника равна 1/(n-1)

Многомерный случай:

Здесь h – коэффициент размытости ядра. Примеры треугольного, параболического и кубического ядер приведены ниже:

Получим оценку регрессии:

При β=0 ядро K(·) не зависит от x.

Оценка регрессии равна среднему арифметическому выборочных значений выхода объекта для любых x.

Оптимальный параметр β лежит в интервале [0; 1].

и получаем оценку инверсной регрессии:

Кроме математического ожидания случайной величины Y есть другая характеристика среднего положения – медиана. Медиана – это среднее по вероятности значение. Состоятельная оценка медианы представляет собой среднее по номеру значение в упорядоченной выборке:

Некоторые виды функций F(v):

Свойством адаптации человек наделил и созданные им устройства. Управление в этих устройствах осуществляется таким образом, чтобы как можно быстрее и лучше нейтрализовать влияние непредвиденных изменений или приспособиться к ним.

Методами дисперсионного анализа устанавливается наличие влияния заданного фактора на изучаемый процесс (на выходную переменную процесса) за счёт статистической обработки наблюдаемой совокупности выборочных данных.

Расположим эксперимен-тальные данные в виде таблицы

Из предпосылок дисперсионного анализа следует, что должно иметь место равенство всех дисперсий. При выполнении этого условия находим оценку дисперсии, характеризующей рассеяние значений xij вне влияния фактора A, по формуле:

Сравниваем и устанавливаем наличие влияния фактора A.

Однофакторный дисперсионный анализ

Для упрощения вычислений приведем алгоритм их выполнения. Вычисляем последовательно суммы:

Рассмотрим случай, когда анализируется влияние одновременно двух факторов A и B.

Двухфакторный дисперсионный анализ

Дисперсионный анализ для двухфакторных таблиц проводится в следующей последовательности. Вычисляются суммы:

Далее находятся оценки дисперсий:

Если , то влияние фактора B признается значимым.

Далее анализ проводится, как и ранее, с той лишь разницей, что в клетках таблицы вместо отдельных значений используется их средние значения. Вычисляется оценка дисперсии и проверяется значимость взаимодействия факторов:

Если на результат эксперимента действуют одновременно несколько факторов, то наилучший эффект дает одновременный дисперсионный анализ всех этих факторов (многофакторный анализ).

Методы дисперсионного анализа позволяют исследовать и такой случай, когда некоторые сочетания уровней пропущены. Такой эксперимент называется дробным факторным экспериментом (ДФЭ). Планирование при ДФЭ приобретает особо важную роль, ибо пропущенные сочетания уровней не так-то просто нейтрализовать.

Находим сумму квадратов по столбцам, деленную на число наблюдений в столбце:

Находим сумму квадратов итогов по строкам, деленную на число наблюдений в строке:

Находим квадрат общего итога, деленный на число всех наблюдений:

Находим сумму квадратов итогов по уровням фактора C, деленную на число уровней:

Если отличие будет значимым, то

Если отличие будет значимым, то

Теперь чтобы охарактеризовать совокупность данных в целом, уже недостаточно знать лишь типичное значение этих данных (среднее значение) или даже изменчивость этой совокупности данных (дисперсия). В этом случае желательно знать, что, скорее всего, произойдет дальше. НУЖЕН ПРОГНОЗ!

Чтобы выделить сезонное поведение, прежде всего, следует получить отношение исходных значений к скользящему среднему. Полученный результат будет включать сезонный и нерегулярный компоненты, поскольку скользящее среднее исключает из данных тренд и циклический компонент.

Когда временной ряд демонстрирует долгосрочную линейную тенденцию к нарастанию или снижению, для оценки этой тенденции и прогнозирования будущего можно воспользоваться регрессионным анализом.

ARIMA - сокращение от Autoregressive Integrated Moving Average

Процесс случайного шума состоит из случайной выборки (независимых наблюдений) из нормального распределения с постоянным средним и стандартным отклонением. Какие-либо тенденции (тренды) в этом случае отсутствуют, поскольку – по причине независимости - наблюдения не помнят о прошлом поведении ряда.

Любое наблюдение процесса авторегрессии (часть "AR" названия ARIMA) представляет собой линейную функцию от предыдущего наблюдения плюс случайный шум. Таким образом, процесс авторегрессии помнит о своем предыдущем состоянии и использует эту информацию для определения своего дальнейшего поведения.

Любое наблюдение процесса скользящего среднего состоит из константы, (долгосрочное среднее значение процесса), плюс независимый случайный шум минус часть предыдущего случайного шума. Процесс скользящего среднего не помнит в точности своего прошлого, но помнит компонент случайного шума того состояния, в котором он (процесс) находился. Таким образом, его память ограничена одним шагом в будущее; за пределами этого шага для процесса все начинается заново.

Любое наблюдение процесса авторегрессии и скользящего среднего состоит из линейной функции от предыдущего наблюдения плюс независимый случайный шум минус некоторая доля предыдущего случайного шума. Процесс авторегрессии и скользящего среднего запоминает как свое предыдущее состояние, так и компонент случайного шума предыдущего состояния. Таким образом, его память сочетает в себе память процесса авторегрессии с памятью процесса скользящего среднего.

Каждое наблюдение чистого интегрированного (I) процесса (pure integrated (I) process), называемого также случайным блужданием, заключается в случайном шаге в сторону от текущего наблюдения. Этот процесс знает, где он находится, но забыл, как он попал туда.

Процесс состоит из линейной функции предыдущего изменения плюс независимый случайный шум минус определенная доля предыдущего случайного шума. Этот процесс знает, где он находится, помнит, как он попал в это состояние, и помнит даже часть предыдущего шумового компонента.

Модели делятся на статические и динамические. Первые из них описывают объекты в стационарных режимах их работы. Динамические модели описывают переходные процессы в объектах, например, возникающие при переходе с одного стационарного режима работы объекта на другой.

Процесс идентификации складывается из двух взаимосвязанных этапов: идентификации структуры моделей и идентификации параметров в моделях выбранной структуры. При построении структуры модели (или набора конкурирующих либо взаимодополняющих структур) используется априорная информация об объекте. Для каждого класса объектов формируются банки структур с сопутствующей информацией.

Считаем, что выход объекта состоит из полезного сигнала η(u, a) и центрированной помехи ξ.
Сигнальная часть выхода представляет собой известную функцию от входа с неизвестными параметрами a. В структуру функции η(u, a) . Все, что не удается описать в объекте, относят к помехе.

Считаем, что в каждый момент времени ti (момент измерения входа и выхода объекта) помехи ξi, являются центрированными случайными величинами с дисперсиями σi2. Если дисперсии различны, то измерения называются неравноточными.
Тогда критерий наименьших квадратов имеет вид:

Если все помехи ξi коррелированны, т. е:

Это общая форма критерия. Она включает в себя (при соответствующих упрощениях) все предыдущие формы. Запишем критерий в матричной форме.

Параметры α находим по критерию наименьших квадратов:

Необходимое условие минимума приводит к системе линейных алгебраических уравнений:

Так же существуют другие критерии вида:

Примеры функции ψ(e):

Каждому уравнению в пространстве параметров соответствует своя линия

В итоге получаем алгоритм перестройки параметров нелинейной модели:

Дискретные модели привязаны к номерам дискретных моментов времени и поэтому основным аргументом для входных u(t) и выходных x(t), y(t) переменных является номер дискреты t = 0, 1, 2,…
Например:

Линеаризуем модель относительно параметров α(t-1) , вычисленных в предыдущий момент времени:

Здесь y(t|α(t-1)) – выход модели в момент времени t при значениях параметров, полученных в предыдущий момент времени t-1

ω(t) – вектор-столбец функций чувствительности выхода модели к параметрам модели.

Для расчета параметров α(t) можно использовать, например, простейший адаптивный алгоритм:

Пример: Рассмотрим модель без обратной связи:

Функциями чувствительности выхода модели к ее параметрам являются измеренные значения выхода и входа объекта:

Получаем следующие выход модели и функции чувствительности:

Считаем, что поведение объекта в динамическом режиме описывается разностным уравнением:

Обозначим через y(k|α(t)) выход модели в момент времени k при значении вектора параметров α(t), вычисленных в момент времени. Если шум – белый, то

Находим параметры:

Из локального квадратичного критерия оптимальности

Рассчитываем оптимальное управление:

Параметры:

Находим управляющее воздействие :

Выход модели находим из критерия наименьших квадратов:

Решение получается в форме