факторов.
2. Отбор факторов в уравнение множественной регрессии.
3. Выбор формы связи.
- Главная
- Разное
- Дизайн
- Бизнес и предпринимательство
- Аналитика
- Образование
- Развлечения
- Красота и здоровье
- Финансы
- Государство
- Путешествия
- Спорт
- Недвижимость
- Армия
- Графика
- Культурология
- Еда и кулинария
- Лингвистика
- Английский язык
- Астрономия
- Алгебра
- Биология
- География
- Детские презентации
- Информатика
- История
- Литература
- Маркетинг
- Математика
- Медицина
- Менеджмент
- Музыка
- МХК
- Немецкий язык
- ОБЖ
- Обществознание
- Окружающий мир
- Педагогика
- Русский язык
- Технология
- Физика
- Философия
- Химия
- Шаблоны, картинки для презентаций
- Экология
- Экономика
- Юриспруденция
Спецификация множественной регрессии презентация
Содержание
- 1. Спецификация множественной регрессии
- 2. 1. Результаты ошибочного отбора факторов.
- 3. Как уже отмечалось,
- 4. 2. Между факторами не должно
- 5. При отборе факторов
- 6. Рассмотрим вначале случай, когда
- 8. Убедимся, что оценка (1) будет смещенной, если
- 9. Поскольку
- 10. Находим математическое ожидание от обеих частей последнего
- 11. Направление смещения будет зависеть
- 12. Рассмотрим теперь последствия того
- 13. вместо выражения (1). Оценка
- 14. Из формулы (4) видно, что
- 15. В итоге можно сделать следующие выводы.
- 16. 2. Отбор факторов в уравнение множественной регрессии.
- 17. На первом этапе в модель отбираются поте-нциальные
- 18. В качестве исходной информации
- 19. Далее процедура отбора факторов состоит из следующих
- 20. 2. Из множества
- 21. 3. Из оставшегося множества потенциальных переменных исключаются
- 22. Для отбора
- 23. К первому типу
- 24. На первом шаге процедуры, полагая
- 25. В качестве критерия
- 26. В соответствии с критерием останова следует выбрать
- 27. Если линейная
- 28. Если
- 29. Модели второго типа, например,
- 30. Измерение тесноты связи
- 31. Если же
- 32. Например, если в одной
- 33. 1.Вычисляется среднее геометрическое
- 34. 4. Для того чтобы проверить не является
Слайд 21. Результаты ошибочного отбора факторов.
Все предыдущие рассуждения и
выводы, касающиеся классической или обобщенной модели множественной регрессии, основы-вались на предположении, что выполнена правильная спецификация модели.
Слайд 3 Как уже отмечалось, под спецификацией множественной модели
понимается отбор объясняющих переменных в модель и уста-новление формы связи между этими пере-менными и зависимой переменной.
Факторы, включаемые в модель, должны удовлетворять следующим требованиям:
1. Факторы должны быть количественно измеримы. Если необходимо включить каче-ственный фактор, то ему нужно придать ко-личественную определенность, т.е. ввести в рассмотрение фиктивные переменные.
Слайд 4 2. Между факторами не должно быть высо-кой корреляции (
), тем более ли-нейной функциональной зависимости. Иначе нельзя допускать мультиколлинеарности объясняющих переменных.
3. Каждый отбираемый фактор должен быть достаточно тесно связан с зависимой пере-менной . Если фактор мало влияет на , то его не следует включать в модель.
3. Каждый отбираемый фактор должен быть достаточно тесно связан с зависимой пере-менной . Если фактор мало влияет на , то его не следует включать в модель.
Слайд 5 При отборе факторов возможны ошибки двух типов.
Можно ошибочно включить в уравнение переменные, которых там не дол-жно быть или ошибиться и не включить фак-тор, который там должен присутствовать.
Какие последствия этих ошибок? Оказывается, свойства оценок коэффициен-тов регрессии в значительной мере зависят от правильной спецификации модели. Рассмотрим эти вопросы подробнее.
Какие последствия этих ошибок? Оказывается, свойства оценок коэффициен-тов регрессии в значительной мере зависят от правильной спецификации модели. Рассмотрим эти вопросы подробнее.
Слайд 6 Рассмотрим вначале случай, когда в мо-дели отсутствует существенная
переменная.
Пусть переменная зависит от двух факторов и в соответствии с соотно-шением:
Пусть переменная зависит от двух факторов и в соответствии с соотно-шением:
Однако мы не уверены в значимости фактора и считаем, что модель должна выглядеть так:
Слайд 9Поскольку
и в силу того, что не является случайной величиной (именно в этом предпосылка 1°), то имеем
Отсюда окончательно получаем:
Отсюда окончательно получаем:
Слайд 10Находим математическое ожидание от обеих частей последнего выражения
так как слагаемые в
правой части остаются неизменными.
Таким образом, при неравенстве имеем т.е. оценка является смещенной на величину
Таким образом, при неравенстве имеем т.е. оценка является смещенной на величину
Слайд 11 Направление смещения будет зависеть от знаков величин
и . Если они будут одного знака (например, больше нуля), то будет давать в среднем завышенные оценки коэффициента .
Слайд 12 Рассмотрим теперь последствия того слу-чая, когда в модель
включена несуществен-ная переменная.
Допустим, что истинная модель имеет вид
а мы считаем, что ею является уравнение
и рассчитываем оценку по формуле (для двухфакторной регрессии):
Слайд 13
вместо выражения (1).
Оценка будет несмещенной (
), но в общем случае она будет неэффективной.
Действительно, можно показать, что диспе-рсии параметров и вычисляются по формулам:
Слайд 14
Из формулы (4) видно, что зависит
от коэффициента корреляции . Если то дисперсии совпадают , а в противном случае , т.е. оценка не является эффективной.
Слайд 15В итоге можно сделать следующие выводы.
1. Если опущена переменная, которая должна
быть включена в модель, то оценки регрес-сии, вообще говоря, оказываются смещенны-ми, их значения могут существенно отлича-ться от оцениваемых значений коэффициен-тов .
2. Если в модель включена переменная, кото-рой там не должно быть, то оценки регрессии становятся неэффективными. Стандартные ошибки оценок будут большими, и резуль-таты тестирования будут неверными.
2. Если в модель включена переменная, кото-рой там не должно быть, то оценки регрессии становятся неэффективными. Стандартные ошибки оценок будут большими, и резуль-таты тестирования будут неверными.
Слайд 162. Отбор факторов в уравнение множественной регрессии.
При
отборе факторов для множественной регрессии часто используются частные ко-эффициенты корреляции. С их помощью можно ранжировать факторы по степени влияния на результирующий признак и затем исключить маловлияющие факторы.
Другой подход основан на анализе мат-рицы коэффициентов корреляции.
Другой подход основан на анализе мат-рицы коэффициентов корреляции.
Слайд 17На первом этапе в модель отбираются поте-нциальные факторы исходя из представле-ния
исследователя о природе взаимосвязи моделируемого показателя с другими экономическими переменными, т.е. исходя из сущности проблемы. Пусть их число рав-но .
На втором этапе из числа потенциальных факторов выбираются такие объясняющие переменные, которые сильно коррелируют с объясняемой переменной и, одновременно, слабо коррелируют между собой.
На втором этапе из числа потенциальных факторов выбираются такие объясняющие переменные, которые сильно коррелируют с объясняемой переменной и, одновременно, слабо коррелируют между собой.
Слайд 18 В качестве исходной информации служит матрица коэффициентов корреляции,
найден-ная для всех потенциальных переменных модели.
Задаётся уровень значимости и для числа степеней свободы рассчиты-вается критическое значение коэффициента корреляции
где критическое значение распределения Стьюдента для двусторонней критической области.
Задаётся уровень значимости и для числа степеней свободы рассчиты-вается критическое значение коэффициента корреляции
где критическое значение распределения Стьюдента для двусторонней критической области.
Слайд 19Далее процедура отбора факторов состоит из следующих шагов.
1. Из множества потенциальных объяс-няющих переменных исключаются все фак-торы, для которых справедливо неравенство
так как они несущественно коррелируют с переменной .
так как они несущественно коррелируют с переменной .
Слайд 20 2. Из множества оставшихся факторов выбирается тот
фактор , для которого выполняется равенство
поскольку он является носителем наиболь-шего количества информации о переменной
поскольку он является носителем наиболь-шего количества информации о переменной
Слайд 213. Из оставшегося множества потенциальных переменных исключаются все факторы, для которых
выполняется неравенство
поскольку эти факторы слишком сильно коррелируют с и, следовательно, только воспроизводят представленную ею инфор-мацию.
Указанные шаги 1-3 повторяются вплоть до опустошения множества потенциальных объясняющих переменных до определенного числа .
поскольку эти факторы слишком сильно коррелируют с и, следовательно, только воспроизводят представленную ею инфор-мацию.
Указанные шаги 1-3 повторяются вплоть до опустошения множества потенциальных объясняющих переменных до определенного числа .
Слайд 22 Для отбора факторов также используют так
называемые процедуры пошагового от-бора переменных. В компьютерные пакеты включены различные эвристические проце-дуры отбора факторов:
процедура последовательного присоединения;
процедура последовательного присоединения-удаления;
процедура последовательного удаления.
процедура последовательного присоединения;
процедура последовательного присоединения-удаления;
процедура последовательного удаления.
Слайд 23 К первому типу относят процедуру "всех возможных
регрессий", которая заключается в следующем.
Для заданного значения путем полного перебора возможных комби-наций из объясняющих переменных, отобранных из исходного потенциального набора факторов , определяют такие переменные , для которых коэффициент детерминации с был бы максимальным.
Для заданного значения путем полного перебора возможных комби-наций из объясняющих переменных, отобранных из исходного потенциального набора факторов , определяют такие переменные , для которых коэффициент детерминации с был бы максимальным.
Слайд 24На первом шаге процедуры, полагая
, находят одну объясняющую переменную из всего набора, которая является наиболее информированным фактором, т.е. для неё
На втором шаге процедуры ( ) опре-деляется уже наиболее информативная пара переменных, которая имеет наиболее тесную связь с результатом . В эту пару может и не войти тот фактор, который был отобран на первом шаге. Такой процесс продолжается до значения .
На втором шаге процедуры ( ) опре-деляется уже наиболее информативная пара переменных, которая имеет наиболее тесную связь с результатом . В эту пару может и не войти тот фактор, который был отобран на первом шаге. Такой процесс продолжается до значения .
Слайд 25 В качестве критерия остановки процесса, т.е. выбора
оптимального числа факторов модели предлагается следующее.
На каждом шаге вычисляется нижняя доверительная граница коэффициента детерминации
где скорректированный коэффициент детерминации для наиболее информативных факторов, обычный коэффициент детерминации.
На каждом шаге вычисляется нижняя доверительная граница коэффициента детерминации
где скорректированный коэффициент детерминации для наиболее информативных факторов, обычный коэффициент детерминации.
Слайд 26В соответствии с критерием останова следует выбрать такое
, при котором величина (5) достигает своего максимума.
3. Выбор формы связи.
При выборе формы связи между резуль-тирующим признаком и факторами начинают с наиболее простой зависимости – линейной.
Слайд 27 Если линейная модель множественной регрессии неадекватно
отражает исследуемое явление или процесс, то лучшее приближе-ние могут дать нелинейные уравнения. Они, в свою очередь, могут быть нелинейными только по факторам, но линейными по пара-метрам, либо нелинейными как по парамет-рам, так и по факторам.
Например, уравнение, нелинейное только по факторам, имеет вид
Например, уравнение, нелинейное только по факторам, имеет вид
Слайд 28 Если ввести в рассмотрение новые
переменные
то получим уже линейное уравнение с новы-ми переменными
для получения оценок которого в случае вы-полнения всех предпосылок используется обычный МНК.
то получим уже линейное уравнение с новы-ми переменными
для получения оценок которого в случае вы-полнения всех предпосылок используется обычный МНК.
Слайд 29 Модели второго типа, например, функцию спроса
после предварительного
логарифмирования
можно линеаризовать
путём введения соответствующих новых переменных.
можно линеаризовать
путём введения соответствующих новых переменных.
Слайд 30 Измерение тесноты связи переменной с факторами
для моделей первого типа осу-ществляется с помощью индекса корреляции
или индекса детерминации
При рассмотрении альтернативных нелиней-ных моделей такого типа с одной функци-ональной формой зависимой переменной процедура выбора модели проста: по значе-ниям
или индекса детерминации
При рассмотрении альтернативных нелиней-ных моделей такого типа с одной функци-ональной формой зависимой переменной процедура выбора модели проста: по значе-ниям
Слайд 31 Если же модели второго типа, то
такой подход неправомерен. В этом случае используют остаточную сумму : чем она меньше, тем точнее модель.
Однако если модели используют разные функциональные формы , то проблема выбора формы усложняется: нельзя непос-редственно сравнивать коэффициенты детерминации или остаточные суммы
Однако если модели используют разные функциональные формы , то проблема выбора формы усложняется: нельзя непос-редственно сравнивать коэффициенты детерминации или остаточные суммы
Слайд 32 Например, если в одной модели в левой части
уравнения стоит , а в другой модели - , то такое сравнение бессмысленно по суммам .
В этом случае можно использовать стандартную процедуру, известную под названием теста Бокса-Кокса (или его частный случай тест Зарембки), который заключается в следующем.
В этом случае можно использовать стандартную процедуру, известную под названием теста Бокса-Кокса (или его частный случай тест Зарембки), который заключается в следующем.
Слайд 33 1.Вычисляется среднее геометрическое в выборке.
2. Пересчитываются наблюдения зависи-мой переменной по формуле:
3. Оценивается регрессия для линейной модели с использованием вместо и в логарифмической модели с заменой на Теперь остаточные суммы срав-нимы и модель с меньшей суммой является более точной.
3. Оценивается регрессия для линейной модели с использованием вместо и в логарифмической модели с заменой на Теперь остаточные суммы срав-нимы и модель с меньшей суммой является более точной.
Слайд 344. Для того чтобы проверить не является ли одна из моделей
значимо лучше, используют статистику
где число наблюдений, отношение остаточных сумм в пересчитанных регрессиях.
Эта статистика имеет распределение с числом степеней свободы . Если
то имеется значимая разница в качестве моделей.
где число наблюдений, отношение остаточных сумм в пересчитанных регрессиях.
Эта статистика имеет распределение с числом степеней свободы . Если
то имеется значимая разница в качестве моделей.
