Линейная модель множественной регресии презентация

Содержание

1. Линейная модель множественной регресии
2. 1) Модель множественной регресии (МР) 2) 3)
3. Матричная запись
4. 1) Выборочная модель МР 2)
5. Матричная запись
6. Рекомендация:
7. Независимые переменные –
8. 4. Отсутствие автокорреляции в
9. Для классической нормальной линейной модели МР МНК-оценки
10. 2. Оценка параметров линейной модели МР
11. Метод наименьших квадратов Оценки параметров ЛММР согласно
12. 1) 2) Матричный метод 3)
13. 1) Гомоскедастичность Гетероскедастичность 2)
14. Понятие автокорреляции
15. Обобщенный метод наименьших квадратов Теорема. Если
16. Взвешенный метод наименьших квадратов Теорема. Если
17. Взвешенный метод наименьших квадратов
18. Мультиколлинеарность (МТК) – это явление высокой взаимной
19. Последствия МТК: Оценки коэффициентов УМР ненадежны и
20. Последствия МТК: Оценки коэффициентов УМР становятся очень
21. Причины возникновения МТК: НП характеризуют одну и
22. Методы устранения мультиколлинеарности Переход к смещенным методам оценивания «Ридж – регрессия» («гребневая регрессия»)
23. Регрессия на главных компонентах
25. Тема №1. Линейные эконометрические модели Оценивание параметров ЭМ с учетом ограничений
26. Ограничения 1) 2) 3)
27. Целевая функция 1) при ограничениях 2) 3)
28. Тема №1. Линейные эконометрические модели 5. Проверка качества линейных моделей МР (самостоятельная проработка)
29. Проверка статических гипотез Виды статистических гипотез: 1)
30. Проверка статических гипотез Ошибка первого рода –
31. Проверки статистических гипотез Случайная величина К,
32. Критическая область Область принятия гипотезы H0 Статистическая проверка гипотез
33. Проверка статических гипотез Статистический критерий определяется
34. 1. Нахождением критических точек, соответствующих заданным уровням
35. 2. Задается уровень значимости 1. Формулировка
36. 1. Нахождением критических точек, соответствующих заданным уровням
37. Общая СумКО (TSS) Факторная СумКО (ESS)
38. Коэффициенты R2 в разных моделях с разным числом наблюдений (и переменных) несравнимы
39. 1) 2) Скорректированные коэффициенты
40. 1) 2)
41. Проверка значимости коэффициентов
42. Проверка статических гипотез Статистический критерий определяется
43. Критическая область Область принятия гипотезы H0 Статистическая проверка гипотез
44. Проверка статических гипотез Ошибка первого рода –
45. Проверка значимости коэффициент b0
46. 1) 3) 2)
47. - параметр значим 1) 2) 3) Проверка значимости коэф. УМР Общий случай
49. 1) Доверительный интервал 2) Предельная ошибка
50. - прин. H1 1) 2) 3) Односторонние проверка значимости коэф. УМР
51. - правосторонняя 1) 2)
53. Оценка значимости УМР 1) 2) 3)
54. - прин. H1 1) 2) 4) Тестирование одного линейного ограничения Общий случай
55. - модель значима 1) 2) 3)
57. Меры точности РМ: 1.
58. - хороший подбор РМ 2. Средняя относительная ошибка аппроксимации
59. Типичные ошибки в использовании показателей качества ПР
61. Конец лекции

1) Модель множественной регресии (МР) 2) 3)

Главная
Математика
Линейная модель множественной регресии

Слайд 12. Линейная модель МР

Слайд 2

1)
Модель множественной регресии (МР)
2)
3)

Слайд 3

Матричная запись

Слайд 4

1)
Выборочная модель МР
2)

Слайд 5

Матричная запись

Слайд 6

Рекомендация:

Целесообразно:
объем выборки должен быть в 6-7 раз больше числа

независимых переменных.

Число степеней свободы:

Слайд 7

Независимые переменные – величины неслучайные, возмущения - есть

СВ.
МО возмущений равны 0.
Дисперсия возмущений постоянна
(условие гомоскедастичности).

Слайд 8

4. Отсутствие автокорреляции в возмущениях и их некоррелированность со всеми НП.
5.

Возмущения распределены по нормальному закону.
6. Отсутствие мультиколлинеарности (между НП отсутствует сильная линейная связь).

Слайд 9Для классической нормальной линейной модели МР МНК-оценки параметров модели имеют наименьшую

дисперсию в классе линейных несмещенных оценок

Слайд 10
2. Оценка параметров линейной
модели МР

Слайд 11Метод наименьших квадратов
Оценки параметров ЛММР согласно МНК будем искать из условия:

Условиями

минимума функции являются равенство нулю первых производных по коэффициентам УМР.

Слайд 12

1)
2)
Матричный метод
3)

Слайд 13

1)
Гомоскедастичность
Гетероскедастичность
2)

Слайд 14Понятие автокорреляции

Слайд 15Обобщенный метод наименьших квадратов

Теорема. Если в схеме Гаусса-Маркова не выполняется предпосылка

о гомоскедастичности и некорелированности случайных возмущений, то наилучшей линейной процедурой оценки параметров модели является:

Р - матрица ковариаций случайных возмущений
(положительно определенная матрица)

Слайд 16Взвешенный метод наименьших квадратов

Теорема. Если в схеме Гаусса-Маркова не выполняется предпосылка

о гомоскедастичности случайных возмущений, то наилучшей линейной процедурой оценки параметров модели является:

Р - матрица ковариаций случайных возмущений :

Слайд 17Взвешенный метод наименьших квадратов

Слайд 18Мультиколлинеарность (МТК) – это явление высокой взаимной коррелированности НП.
Два вида МТК: 1)

совершенная (строгая, полная) 2) несовершенная (частичная)

Полная МТК при наличии функциональных связей между НП. Это нарушение требования к рангу матрицы:

Слайд 19Последствия МТК:
Оценки коэффициентов УМР ненадежны и неустойчивы (увеличиваются стандартные ошибки оценок

и уменьшаются t-статистики МНК-оценок)
МНК-оценки коэффициентов неустойчивы (чувствительны к изменениям данных и размерности выборки)
Возможность получения неверного знака у коэффициентов регрессии

Слайд 20Последствия МТК:
Оценки коэффициентов УМР становятся очень чувствительными к ошибкам спец.
Осложнение

процесса определения наиболее существенных факторов
Затрудняет экономическую интерпретацию коэффициентов УМР (выделение характеристик влияния факторов на ЗП в чистом виде)
ОДНАКО:
Оценки коэффициентов остаются несмещенными
Оценки коэффициентов немультикол.
факторов не ухудшаются

Слайд 21Причины возникновения МТК:
НП характеризуют одну и туже сторону экон. процесса
Использование в

модели НП, суммарное значение которых есть постоянная величина
НП, являющиеся элементами друг друга
НП могут иметь общий временный тренд, относительно которой они совершают малые колебания
Наблюдается фиктивная (ложная) линейная связь.

Слайд 22Методы устранения мультиколлинеарности
Переход к смещенным методам оценивания
«Ридж – регрессия» («гребневая регрессия»)

Слайд 23Регрессия на главных компонентах

Слайд 24

Слайд 25Тема №1. Линейные эконометрические модели
Оценивание параметров ЭМ с учетом ограничений

Слайд 26Ограничения
1)
2)
3)

Слайд 27Целевая функция
1)
при ограничениях
2)
3)

Слайд 28Тема №1. Линейные эконометрические модели
5. Проверка качества линейных моделей МР
(самостоятельная

проработка)

Слайд 29Проверка статических гипотез
Виды статистических гипотез:
1) Нулевые (основные);
2) альтернативные (конкурирующие).
Альтернативная гипотеза H1

- гипотеза, которая противоречит нулевой.

Нулевая гипотеза H0 - проверяемая гипотеза

Слайд 30Проверка статических гипотез
Ошибка первого рода – отвергается нулевая гипотеза, когда она

верна.
Обозначают α и наз. уровнем значимости (размером критерия)

Ошибка второго рода –принимается нулевая гипотеза, когда верна альтернативная гипотеза.
Обозначают β и вероятность 1- β не совершить ошибку второго рода наз. мощностью критерия

Слайд 31Проверки статистических гипотез

Случайная величина К, построенная по результатам наблюдений для проверки

нулевой гипотезы, наз. статистическим критерием.

Основа схемы построения статистического критерия – разделение выборочного пространства на две области:
область отклонения нулевой гипотезы (критическая обл.)
область принятия нулевой гипотезы

Слайд 32

Критическая область

Область принятия гипотезы H0
Статистическая проверка гипотез

Слайд 33Проверка статических гипотез
Статистический критерий
определяется заданием:
1) статистической гипотезы Н0;
2) уровня значимости

α;
3) статистики критерия;
4) критической области.

Критерий наз. наиболее мощным, если из всех критериев с заданным уровнем значимости он обладает наибольшей мощностью

Слайд 341. Нахождением критических точек, соответствующих заданным уровням значимости .
2.

Нахождением уровня значимости P (значимой вероятности) , соответствующего наблюдаемому значению статистического критерия.
Если значимость P меньше заданного стандартного уровня значимости , то нулевая гипотеза отвергается в пользу альтернативной.

Два способа проверки гипотез:

Слайд 352. Задается уровень значимости
1. Формулировка нулевой и альтернативной гипотез
3. Определение

объема выборки n.

Общая схема проверки гипотез

4. Выбор статистического критерия для проверки нулевой гипотезы.

6. Вычисление наблюдаемого значения статистического критерия.

5. Определение критической области и области принятия гипотезы.

7. Принятие статистического решения.

Проверка гипотез при двусторонней КО тесно связано с интервальным оцениванием.

Слайд 361. Нахождением критических точек, соответствующих заданным уровням значимости .
2.

Два способа проверки гипотез:

Слайд 37
Общая СумКО (TSS)
Факторная СумКО (ESS)

Остаточная СумКО (RSS)

Качество подгонки данных моделью

Слайд 38

Коэффициенты R2 в разных моделях с разным числом наблюдений (и переменных)

несравнимы

Слайд 39

1)
2)
Скорректированные коэффициенты в разных моделях с разным числом наблюдений (и переменных)

ограниченно сравнимы

Слайд 40

1)
2)

Слайд 41Проверка значимости коэффициентов

Слайд 42Проверка статических гипотез
Статистический критерий
определяется заданием:
1) статистической гипотезы Н0;
2) уровня значимости

α;
3) статистики критерия;
4) критической области.

Слайд 43

Критическая область

Область принятия гипотезы H0
Статистическая проверка гипотез

Слайд 44Проверка статических гипотез
Ошибка первого рода – отвергается нулевая гипотеза, когда она

верна.
Обозначают α и наз. уровнем значимости (размером критерия)

Слайд 45

Проверка значимости коэффициент b0

Слайд 46

1)
3)
2)

Слайд 47
- параметр значим

1)
2)
3)
Проверка значимости коэф. УМР
Общий случай

Слайд 48

Вычисление критической точки РС

Слайд 49

1)
Доверительный интервал
2)
Предельная ошибка

Слайд 50
- прин. H1

1)
2)
3)
Односторонние проверка значимости коэф. УМР

Слайд 51
- правосторонняя

1)
2)
3)
Односторонние гипотезы

- левосторонняя
Если имеется информация о знаках коэф.
Знак «+»

Знак «-»

Слайд 52

Слайд 53

Оценка значимости УМР
1)
2)
3)

Слайд 54
- прин. H1

1)
2)
4)
Тестирование одного линейного ограничения
Общий случай

Слайд 55

- модель значима
1)
2)
3)

Слайд 56

Вычисление критической точки РФ
для правосторонней критической области

Слайд 57

Меры точности РМ: 1. Средняя квадратическая ошибка остаточной компоненты на 1 степень

свободы (стандартная ошибка регрессии RMSE)

Определение точности РМ

Основная величина для измерения качества модели (чем она меньше, тем лучше)

Значения RMSE в однотипных моделях с разным числом наблюдений и (или) переменных сравнимы

Слайд 58

- хороший подбор РМ
2. Средняя относительная ошибка аппроксимации

Слайд 59Типичные ошибки в использовании показателей качества ПР

Слайд 60

Слайд 61Конец лекции

Скачать презентацию

Линейная модель множественной регресии презентация

Содержание

Слайд 12. Линейная модель МР

Слайд 21)Модель множественной регресии (МР)2)3)

Слайд 3Матричная запись

Слайд 41)Выборочная модель МР2)

Слайд 5Матричная запись

Слайд 6 Рекомендация:Целесообразно:объем выборки должен быть в 6-7 раз больше числа

Слайд 7Независимые переменные – величины неслучайные, возмущения - есть

Слайд 84. Отсутствие автокорреляции в возмущениях и их некоррелированность со всеми НП.5.

Слайд 9Для классической нормальной линейной модели МР МНК-оценки параметров модели имеют наименьшую

Слайд 102. Оценка параметров линейной модели МР

Слайд 11Метод наименьших квадратовОценки параметров ЛММР согласно МНК будем искать из условия: Условиями

Слайд 121)2)Матричный метод3)

Слайд 131)ГомоскедастичностьГетероскедастичность2)

Слайд 14Понятие автокорреляции

Слайд 15Обобщенный метод наименьших квадратовТеорема. Если в схеме Гаусса-Маркова не выполняется предпосылка

Слайд 16Взвешенный метод наименьших квадратовТеорема. Если в схеме Гаусса-Маркова не выполняется предпосылка

Слайд 17Взвешенный метод наименьших квадратов

Слайд 18Мультиколлинеарность (МТК) – это явление высокой взаимной коррелированности НП.Два вида МТК: 1)

Слайд 19Последствия МТК:Оценки коэффициентов УМР ненадежны и неустойчивы (увеличиваются стандартные ошибки оценок

Слайд 20Последствия МТК:Оценки коэффициентов УМР становятся очень чувствительными к ошибкам спец. Осложнение

Слайд 21Причины возникновения МТК:НП характеризуют одну и туже сторону экон. процессаИспользование в

Слайд 22Методы устранения мультиколлинеарностиПереход к смещенным методам оценивания«Ридж – регрессия» («гребневая регрессия»)

Слайд 23Регрессия на главных компонентах

Слайд 24

Слайд 25Тема №1. Линейные эконометрические моделиОценивание параметров ЭМ с учетом ограничений

Слайд 26Ограничения1)2)3)

Слайд 27Целевая функция1)при ограничениях 2)3)

Слайд 28Тема №1. Линейные эконометрические модели5. Проверка качества линейных моделей МР (самостоятельная

Слайд 29Проверка статических гипотезВиды статистических гипотез:1) Нулевые (основные);2) альтернативные (конкурирующие).Альтернативная гипотеза H1

Слайд 30Проверка статических гипотезОшибка первого рода – отвергается нулевая гипотеза, когда она

Слайд 31Проверки статистических гипотезСлучайная величина К, построенная по результатам наблюдений для проверки

Слайд 32Критическая областьОбласть принятия гипотезы H0Статистическая проверка гипотез

Слайд 33Проверка статических гипотезСтатистический критерий определяется заданием:1) статистической гипотезы Н0;2) уровня значимости

Слайд 341. Нахождением критических точек, соответствующих заданным уровням значимости .2.

Слайд 352. Задается уровень значимости 1. Формулировка нулевой и альтернативной гипотез3. Определение

Слайд 361. Нахождением критических точек, соответствующих заданным уровням значимости .2.

Слайд 37Общая СумКО (TSS)Факторная СумКО (ESS)Остаточная СумКО (RSS)Качество подгонки данных моделью

Слайд 38Коэффициенты R2 в разных моделях с разным числом наблюдений (и переменных)

Слайд 391)2)Скорректированные коэффициенты в разных моделях с разным числом наблюдений (и переменных)

Слайд 401)2)