- Главная
- Разное
- Дизайн
- Бизнес и предпринимательство
- Аналитика
- Образование
- Развлечения
- Красота и здоровье
- Финансы
- Государство
- Путешествия
- Спорт
- Недвижимость
- Армия
- Графика
- Культурология
- Еда и кулинария
- Лингвистика
- Английский язык
- Астрономия
- Алгебра
- Биология
- География
- Детские презентации
- Информатика
- История
- Литература
- Маркетинг
- Математика
- Медицина
- Менеджмент
- Музыка
- МХК
- Немецкий язык
- ОБЖ
- Обществознание
- Окружающий мир
- Педагогика
- Русский язык
- Технология
- Физика
- Философия
- Химия
- Шаблоны, картинки для презентаций
- Экология
- Экономика
- Юриспруденция
Множественная регрессия презентация
Содержание
- 1. Множественная регрессия
- 2. Цели лекции Обобщение парной регрессии на случай
- 3. Виды множественной регрессии 1. Классическая линейная регрессия 2. Нелинейная регрессия 3. Специальные виды переменных
- 4. Модель множественной регрессии Множественная регрессия имеет вид:
- 5. Линейная модель множественной регрессии Теоретическое уравнение линейной
- 6. Оценки параметров линейной множественной регрессии Эмпирическое уравнение регрессии: Самый распространенный метод оценки параметров – МНК
- 7. Предпосылки МНК Гомоскедастичность Отсутствие автокорреляции 50. Модель является линейной относительно параметров
- 8. Дополнительные предпосылки МНК 60. Отсутствие мультиколлинеарности: между
- 9. Оценка параметров классической регрессионной модели МНК Матричная форма СЛАУ:
- 10. Оценка параметров классической регрессионной модели МНК
- 11. Интерпретация множественной линейной регрессии Интерпретация: коэффициент регрессии
- 12. Интерпретация множественной логарифмической регрессии Интерпретация: коэффициент регрессии
- 13. Интерпретация множественной линейной регрессии Величина оценки коэффициента
- 14. Интерпретация множественной линейной регрессии Рассмотрим проявление множественных
- 15. Интерпретация множественной линейной регрессии В случае исключения
- 16. Интерпретация множественной регрессии: замещающие переменные Замещающая переменная
- 17. Анализ предельного вклада факторов Множественная регрессия позволяет
- 18. Система показателей качества множественной регрессии 1. Показатели
- 19. Показатели качества коэффициентов регрессии 1. Стандартные ошибки
- 20. Ковариационная матрица вектора оценок коэффициентов регрессии На
- 21. Ковариационная матрица вектора возмущений Матрица Σε обладает
- 22. Стандартные ошибки коэффициентов Можно показать, что Поскольку
- 23. Стандартные ошибки коэффициентов Из (1) и (2)
- 24. Стандартные ошибки коэффициентов Как и в случае
- 25. Стандартные ошибки коэффициентов модели с двумя переменными
- 26. Значимость коэффициентов регрессии Значимость коэффициентов множественной регрессии
- 27. Доверительные интервалы для коэффициентов регрессии Данный доверительный
- 28. Доверительная область для условного математического ожидания зависимой переменной
- 29. Доверительная область для индивидуальных значений Y
- 30. Показатели качества уравнения регрессии в целом Основные
- 31. Коэффициент детерминации R2 Коэффициент R2 показывает долю
- 32. Скорректированный коэффициент детерминации показывает
- 33. F-статистика для проверки качества уравнения регрессии F-статистика
- 34. F-статистика для проверки значимости коэффициента R2 F-статистика
- 35. Сумма квадратов остатков RSS Является оценкой необъясненной
- 36. Стандартная ошибка регрессии Se Является оценкой величины
- 37. Расчет эластичности для линейной регрессии Средние коэффициенты эластичности: Частные коэффициенты эластичности:
- 38. Индекс множественной корреляции Тесноту совместного влияния факторов
- 39. Индекс множественной корреляции Справедливо неравенство: При правильном
- 40. Новые возможности множественной регрессии 1. Многочлены от
- 41. Многочлены от объясняющих переменных Появляются возможности: -
- 42. Лаговые переменные Учет структуры взаимосвязей во времени зависимой и объясняющих переменных
- 43. Анализ структурных сдвигов Тест Чоу на наличие структурного сдвига Фиктивные переменные сдвига и наклона
- 44. Конец лекции
Цели лекции Обобщение парной регрессии на случай нескольких объясняющих переменных Интерпретация множественной регрессии Качество множественной регрессии Новые возможности регрессии
Слайд 2Цели лекции
Обобщение парной регрессии на случай нескольких объясняющих переменных
Интерпретация множественной регрессии
Качество
множественной регрессии
Новые возможности регрессии
Новые возможности регрессии
Слайд 3Виды множественной регрессии
1. Классическая линейная регрессия
2. Нелинейная регрессия
3. Специальные виды переменных
Слайд 4Модель множественной регрессии
Множественная регрессия имеет вид:
Уравнение множественной регрессии:
где
X = (X1, X2, … , Xm) − вектор объясняющих переменных,
β − вектор параметров (подлежащих определению),
ε − вектор случайных ошибок (отклонений),
Y − зависимая переменная.
β − вектор параметров (подлежащих определению),
ε − вектор случайных ошибок (отклонений),
Y − зависимая переменная.
Слайд 5Линейная модель множественной регрессии
Теоретическое уравнение линейной множественной
регрессии:
или для индивидуальных наблюдений:
i =
1, 2, … , n, n ≥ m+1, k = n−m−1 − число степеней свободы
Для обеспечения статистической надежности должно выполняться условие:
Слайд 6Оценки параметров линейной множественной регрессии
Эмпирическое уравнение регрессии:
Самый распространенный метод оценки параметров
– МНК
Слайд 7Предпосылки МНК
Гомоскедастичность
Отсутствие автокорреляции
50. Модель является линейной относительно параметров
Слайд 8Дополнительные предпосылки МНК
60. Отсутствие мультиколлинеарности: между объясняющими переменными отсутствует строгая (сильная)
линейная зависимость
70. Ошибки εi имеют нормальное распределение:
При выполнении этих предпосылок МНК-оценки коэффициентов множественной регрессии будут несмещенными, состоятельными и эффективными в классе линейных оценок
Слайд 11Интерпретация множественной линейной регрессии
Интерпретация: коэффициент регрессии при
переменной X1 выражает предельный прирост
зависимой
переменной при изменении
переменной X1 , при условии постоянства других
переменных:
переменной X1 , при условии постоянства других
переменных:
Слайд 12Интерпретация множественной логарифмической регрессии
Интерпретация: коэффициент регрессии при
переменной lnX1 выражает эластичность
зависимой переменной
при изменении
переменной X1 , при условии постоянства
других переменных:
переменной X1 , при условии постоянства
других переменных:
Слайд 13Интерпретация множественной линейной регрессии
Величина оценки коэффициента регрессии формируется
под влиянием не только
связи изучаемого фактора с
зависимой переменной, но и структуры связей между
объясняемыми переменными
зависимой переменной, но и структуры связей между
объясняемыми переменными
Оценка коэффициента регрессии:
Слайд 14Интерпретация множественной линейной регрессии
Рассмотрим проявление множественных связей в
парной регрессии (в случае
исключения значимой
переменной X2):
переменной X2):
Слайд 15Интерпретация множественной линейной регрессии
В случае исключения значимой переменной X2 часть
изменений Y
за счет X2 будет приписана X1 , если
переменная X1 может замещать X2. В результате оценка
значения β1 будет смещена.
переменная X1 может замещать X2. В результате оценка
значения β1 будет смещена.
Слайд 16Интерпретация множественной регрессии: замещающие переменные
Замещающая переменная – это переменная,
коррелирующая с отсутствующей
переменной
уравнения множественной регрессии, и
выполняющая за счет этого функции
отсутствующей переменной
уравнения множественной регрессии, и
выполняющая за счет этого функции
отсутствующей переменной
Включение замещающей переменной позволяет правильно оценить роль других факторов, освободив их от функции замещения отсутствующих переменных
Слайд 17Анализ предельного вклада факторов
Множественная регрессия позволяет
разложить суммарное влияние факторов на
составные части,
точнее выявив
предельный вклад каждого фактора
предельный вклад каждого фактора
Слайд 18Система показателей качества множественной регрессии
1. Показатели качества коэффициентов
регрессии
2. Показатели качества уравнения
в целом
Слайд 19Показатели качества коэффициентов регрессии
1. Стандартные ошибки оценок.
2. Значения t-статистик.
3. Интервальные оценки
коэффициентов линейного уравнения регрессии.
4. Доверительные области для зависимой переменной.
4. Доверительные области для зависимой переменной.
Слайд 20Ковариационная матрица вектора оценок коэффициентов регрессии
На главной диагонали матрицы
находятся дисперсии оценок коэффициентов регрессии:
Слайд 21Ковариационная матрица вектора возмущений
Матрица Σε обладает следующими свойствами:
1. Все элементы, не
лежащие на главной диагонали, равны нулю (30).
2. Все элементы, лежащие на главной диагонали равны (10 и 20):
2. Все элементы, лежащие на главной диагонали равны (10 и 20):
Слайд 22Стандартные ошибки коэффициентов
Можно показать, что
Поскольку истинное значение дисперсии σ2 по выборке
определить нельзя, заменяем его несмещенной оценкой:
Слайд 23Стандартные ошибки коэффициентов
Из (1) и (2) следует формула для расчета выборочных
дисперсий эмпирических коэффициентов регрессии:
Здесь − диагональные элементы матрицы
Слайд 24Стандартные ошибки коэффициентов
Как и в случае парной регрессии:
− стандартная ошибка регрессии
−
стандартные ошибки коэффициентов
Слайд 25Стандартные ошибки коэффициентов модели с двумя переменными
Расчет стандартных ошибок коэффициентов регрессии
для случая двух факторов:
Слайд 26Значимость коэффициентов регрессии
Значимость коэффициентов множественной регрессии проверяется по t-критерию Стьюдента:
t-тесты
обеспечивают проверку значимости предельного вклада каждой переменной при допущении, что все остальные переменные уже включены в модель
− расчетное значение t-статистики коэффициента bj
Незначимость коэффициента регрессии не всегда может служить основанием для исключения соответствующей переменной из модели
Слайд 27Доверительные интервалы для коэффициентов регрессии
Данный доверительный интервал накрывает с надежностью (1−α)
истинное значение коэффициента регрессии
Слайд 30Показатели качества уравнения регрессии в целом
Основные показатели качества:
Коэффициент детерминации R2
Скорректированный коэффициент
детерминации
Значение F-статистики
Сумма квадратов остатков (RSS)
Стандартная ошибка регрессии Se
Прочие показатели: средняя ошибка аппроксимации, индекс множественной корреляции и т.д.
Значение F-статистики
Сумма квадратов остатков (RSS)
Стандартная ошибка регрессии Se
Прочие показатели: средняя ошибка аппроксимации, индекс множественной корреляции и т.д.
Слайд 31Коэффициент детерминации R2
Коэффициент R2 показывает долю
объясненной вариации зависимой
переменной:
Низкое значение R2 не
свидетельствует о плохом качестве модели, и может объясняться наличием существенных факторов, не включенных в модель
Коэффициенты R2 в разных моделях с разным числом наблюдений (и переменных) несравнимы
R2 всегда увеличивается с включением новой переменной
Слайд 32Скорректированный коэффициент детерминации
показывает долю объясненной вариации зависимой
переменной с
учетом числа объясняющих переменных
уравнения регрессии:
уравнения регрессии:
Скорректированные коэффициенты в разных моделях с разным числом наблюдений (и переменных) ограниченно сравнимы
Добавление переменной приведет к увеличению , если ее t-статистика будет по модулю больше 1. Следовательно, увеличение при добавлении новой переменной необязательно означает, что ее коэффициент значимо отличается от нуля
Слайд 33F-статистика для проверки качества уравнения регрессии
F-статистика представляет собой отношение объясненной
суммы квадратов
(в расчете на одну независимую переменную)
к остаточной сумме квадратов (в расчете на одну степень
свободы)
к остаточной сумме квадратов (в расчете на одну степень
свободы)
n – число выборочных наблюдений, m – число объясняющих переменных
Слайд 34F-статистика для проверки значимости коэффициента R2
F-статистика рассчитывается на основе коэффициента детерминации
Для
проверки значимости F-статистики используются таблицы F-распределения с m и (n–m–1) степеней свободы
Слайд 35Сумма квадратов остатков RSS
Является оценкой необъясненной части вариации
зависимой переменной
Используется как основная
минимизируемая величина в МНК, а также для расчета других показателей
Значения RSS в разных моделях с разным числом наблюдений и (или) переменных несравнимы
Слайд 36Стандартная ошибка регрессии Se
Является оценкой величины квадрата ошибки,
приходящейся на одну степень
свободы модели
Используется как основная величина для измерения качества модели (чем она меньше, тем лучше)
Значения Se в однотипных моделях с разным числом наблюдений и (или) переменных сравнимы
Слайд 37Расчет эластичности для линейной регрессии
Средние коэффициенты эластичности:
Частные коэффициенты эластичности:
Слайд 38Индекс множественной корреляции
Тесноту совместного влияния факторов на
результат характеризует индекс (показатель)
множественной корреляции:
Диапазон
значений лежит от 0 до 1. Чем ближе его значение к 1, тем теснее связь результативного признака Y со всем набором объясняющих факторов Xi
Слайд 39Индекс множественной корреляции
Справедливо неравенство:
При правильном включении факторов в модель индекс множественной
корреляции будет существенно превосходить наибольшее из значений коэффициента парной корреляции
Слайд 40Новые возможности множественной регрессии
1. Многочлены от объясняющих переменных
2. Исследование структуры связи
во времени: запаздывающие переменные – лаги
3. Анализ структурных сдвигов
3. Анализ структурных сдвигов
Слайд 41Многочлены от объясняющих переменных
Появляются возможности:
- исследования зависимостей, для которых
существенно наличие максимумов
и минимумов,
- прямой анализ нелинейных эффектов
- прямой анализ нелинейных эффектов
Слайд 43Анализ структурных сдвигов
Тест Чоу на наличие структурного сдвига
Фиктивные переменные сдвига и
наклона
