Многомерная линейная регрессия презентация

Линейная зависимость от нескольких переменных. n-число проведенных экспериментов, Параметров θ может быть несколько: θ1,θ2,…,θr. r-число параметров в общем случае может быть произвольно xi – известные величины (факторы),

Слайд 1Многомерная линейная регрессия
Тема 10-1
Рябева Е.В.
2015


Слайд 2


Слайд 3Линейная зависимость от нескольких переменных.

n-число проведенных экспериментов,

Параметров θ может быть несколько:

θ1,θ2,…,θr. r-число параметров в общем случае может быть произвольно


xi – известные величины (факторы), определяющие i-тый номер эксперимента


Имеем линейную зависимость y от параметров θ


Перейдем к матричной форме написания уравнения. Введем обозначения


Слайд 4Запишем систему линейных уравнений в матричном виде


Слайд 5Для случая двух параметров система выглядела таким образом


Слайд 6Для случая r параметров система


Слайд 7

Эту систему уравнений надо решить относительно θ, используя метод максимального правдоподобия

и тот факт, что погрешности измерений yi с дисперсиями σi подчиняются нормальному распределению, т.е.:



Слайд 8Функция правдоподобия для n измерений имеет вид:

Логарифмическая функция правдоподобия

Это выражение достигает

максимума, когда последнее слагаемое будет минимально.Условие МНК


Как записать εi, используя введённые матричные обозначения


Введём вектор-столбец



Слайд 9 матрица ошибок.

Обратная ей матрица называется весовой:


С учётом введённых обозначений для

Gy можно переписать



или


Слайд 10Для получения min необходимо образовать частные производные Q по θi и

приравнять их к 0.


Для получения искомой оценки параметра


необходимо подействовать оператором



Оценка параметров θ МНК линейный случай



Слайд 11Дисперсия элементов вектора оценок (ковариационная матрица оценок параметров) то же может

быть записана в векторном виде


Дисперсию y можно оценить как и двухмерном случае суммой квадратов отклонений от выровненной (рассчитанной) поверхности

диагональные элементы этой матрицы- дисперсии оценок

Оценка дисперсии оценок параметров


Слайд 12случайная величина
а величины
могут быть использованы для проверки гипотезы о значимости

(отличие от 0 ) θ

Слайд 13Пример 10-4 на многомерный МНК- потребление –производство –градус-дней


Слайд 16
Рассмотрим применение этой оценка к простым случаям
Случай простой линейной регрессии
Зависимость от

двух параметров θ0 и θ1 и одной переменной х
y= θ0 + θ1x


Пусть произвели только 2 измерения

Можно представить задание в матричной форме:






Решение для простой линейной регрессии в матричном виде



Слайд 17Оценить θ для прямых неравноточных измерений.
В этом случае: yi = θ

+ εi i = 1,…n.






Обратная связь

Если не удалось найти и скачать презентацию, Вы можете заказать его на нашем сайте. Мы постараемся найти нужный Вам материал и отправим по электронной почте. Не стесняйтесь обращаться к нам, если у вас возникли вопросы или пожелания:

Email: Нажмите что бы посмотреть 

Что такое ThePresentation.ru?

Это сайт презентаций, докладов, проектов, шаблонов в формате PowerPoint. Мы помогаем школьникам, студентам, учителям, преподавателям хранить и обмениваться учебными материалами с другими пользователями.


Для правообладателей

Яндекс.Метрика