Проект "Оценка результатов обучения в высшем образовании" (Assessment of Higher Education Learning Outcomes, AHELO) в России Вебинар для вузов-участников проекта AHELO-Инженерные науки25 апреля 2012 презентация

Education Learning Outcomes, AHELO) в России Вебинар для вузов-участников проекта AHELO-Инженерные науки 25 апреля 2012

Высшая школа экономики, Москва, 2011
www.hse.ru

заданий, инструментарий для оценки контекста результатов обучения.
Предварительные результаты реализации проекта в России.
Роль и задачи институционального координатора, администраторов тестирования в участвующих вузах. Порядок взаимодействия с Национальным контактным центром AHELO.  
Определение целевых групп студентов и преподавателей. Подготовка списков студентов и преподавателей и процедура выборки.
Приглашение студентов и преподавателей к участию в исследовании. Организационная и техническая подготовка к проведению тестирования студентов.
Обсуждение возможного перечня инженерных специальностей для тестирования студентов по направлению «гражданская инженерия».
Работа с данными исследования. Перспективы для дальнейшей работы консорциума участвующих вузов.

и научно обоснованного подхода к оценке результатов обучения в ВО (альтернатива международным рейтингам вузов); получение международно сопоставимой информации о результатах обучения в ВО на уровне вузов, факультетов, образовательных программ

Цель feasibility study (2008-2012) - оценка принципиальной возможности международного измерения уровня знаний и практических навыков студентов вузов, обучающихся в различных языковых, культурных и институциональных контекстах; разработка соответствующих инструментов измерения для оценки общих знаний и компетенций и специальных знаний и компетенций для двух пилотных дисциплин – Экономика и Инженерные науки

– наблюдатели)

разработка и апробация инструментария (2010 – 2011)
Перевод, адаптация и верификация для оценки компетенций студентов
Разработка инструментария для оценки контекста результатов обучения
Проведение фокус-групп
Проведение исследования на небольшой выборке студентов

2-я фаза (full implementation phase) – проведение полевого исследования на основе репрезентативной стратифицированной выборки во всех вузах (2011 -2012)

программ обучения и степеней
Не унификация, а сопоставимость и общее понимание
Платформа для выработки университетами согласованных контрольных параметров (в терминах результатов обучения и компетенций ) по предметным областям, необходимых для обеспечения сопоставимости, совместимости и прозрачности программ.
Результаты обучения - ключевые знания и навыки, которыми должен овладеть студент в ходе процесса обучения; то, что учащийся должен знать, понимать и уметь демонстрировать после завершения обучения (уровень компетенции)






OECD (2011) A Tuning-AHELO Conceptual Framework of Expected Desired/Learning Outcomes in Engineering http://dx.doi.org/10.1787/5kghtchn8mbn-en

Высшая школа экономики, Москва, 2011

Методология проекта
(2)

фото

фото

90 мин., состоящее из 2 типов заданий:
- 3 варианта заданий открытого типа с конструируемым ответом (в каждом варианте 5-6 заданий)
- 10 заданий с выбором единственного правильного ответа (тестовые задания)

2. Инструментарий AHELO для оценки контекста результатов обучения
Заполнение онлайн вопросников (10 мин.)
Для студентов
Для преподавателей
Для институциональных координаторов и администрации вузов

3. Дополнительный инcтрументарий для оценки контекста результатов обучения (AHELO+)
Заполнение онлайн вопросников (15 мин.)
Для студентов wwwwww.www.hsewww.hse.www.hse.ruwww.hse.ru/www.hse.ru/ahelowww.hse.ru/ahelo/www.hse.ru/ahelo/q
Для преподавателей www Для преподавателей www. Для преподавателей www.hse Для преподавателей www.hse. Для преподавателей www.hse.ru Для преподавателей www.hse.ru/ Для преподавателей www.hse.ru/ahelo Для преподавателей www.hse.ru/ahelo/ Для преподавателей www.hse.ru/ahelo/f

Высшая школа экономики, Москва, 2011

Инструментарий проекта

фото

фото

для оценки качества ВО и возможности учета лучшего зарубежного опыта при совершенствовании национальной оценки качества
Международно сопоставимые данные об уровне подготовки студентов
Международное позиционирование российских вузов в международном образовательном пространстве
Привлечения внимания иностранных учащихся и преподавателей к российским образовательным программам
Возможности участия в разработке комплексной международной системы оценки качества подготовки в вузах и учета особенностей, интересов и потребностей отечественного образования в этом международном процессе

к оценке качества с учетом требований рынка труда, переход на ФГОС-3, переход на Болонские принципы, в том числе в области качества, предложения МОН по проведению внешней аттестации для студентов-бакалавров …)
Реализация проекта AHELO в России как крупного межвузовского горизонтального проекта, направленного на формирование системы независимой оценки качества высшего образования

Высшая школа экономики, Москва, 2011

Основные результаты

фото

фото

академия народного хозяйства и государственной службы при Президенте Российской Федерации
Государственный университет управления
Дальневосточный федеральный университет
Казанский (Приволжский) государственный университет
Московский государственный институт международных отношений (Университет) МИД России 
Московский государственный университет им. М.В. Ломоносова
Московский государственный университет экономики, статистики и информатики 
Национальный исследовательский университет «Новосибирский государственный университет»
Российский экономический университет им. Г.В. Плеханова
Санкт-Петербургский государственный университет
Санкт-Петербургский государственный университет экономики и финансов
Северный (Арктический) федеральный университет
Северо-Восточный федеральный университет им. М.К. Аммосова
Сибирский федеральный университет
Уральский федеральный университет имени первого Президента России Б.Н. Ельцина
Финансовый университет при Правительстве РФ 
Южный федеральный университет
Алтайский государственный университет

Высшая школа экономики, Москва, 2011

Вузы-участники проекта (1)

фото

фото

технический университет
Московский государственный технический университет им. Н.Э. Баумана
Национальный исследовательский Иркутский государственный технический университет
Казанский национальный исследовательский технический университет им. А.Н. Туполева
Национальный исследовательский технологический университет МИСиС
Пермский национальный исследовательский политехнический университет
Санкт-Петербургский государственный политехнический университет
Северный (Арктический) федеральный университет им. М.В.Ломоносова
Северо-Восточный федеральный университет им. М. К. Аммосова
Сибирский федеральный университет
Национальный исследовательский Томский политехнический университет
Тюменский государственный нефтегазовый университет
Уральский государственный  горный университет
Уральский государственный университет путей сообщения
Уральский федеральный университет им. первого Президента РФ Б.Н. Ельцина
Южный федеральный университет
Южно-Российский государственный технический университет

Высшая школа экономики, Москва, 2011

Вузы-участники проекта (2)

фото

фото

во всех вузах (18 на русс. языке, 3 на англ. яз, всего 204 студента)
Июнь-сентябрь 2011 – обработаны и проанализированы результаты фокус-групп
Сентябрь 2011 - завершен ATAV (адаптация, перевод и верификация) оценочных заданий + пост-верификация с учетом результатов фокус-групп и рекомендаций модераторов из вузов
Октябрь 2011 – завершен ATAV инструментов для оценки контекста результатов обучения (анкеты для преподавателей, студентов, администрации вузов)
Создана система коммуникации и сетевого взаимодействия с вузами: сайт проекта www.hse.ahelo, регулярные тренинги и вебинары для вузов-участников

2-я фаза
Январь-февраль 2012 - Проведение выборки из целевых групп студентов и преподавателей
Февраль 2012- Апробация онлайн системы тестирования
Февраль-март 2012 - Организационная и техническая подготовка к проведению поля

Высшая школа экономики, Москва, 2011

Что уже сделано

фото

(тестирования и опроса студентов, опроса преподавателей и институциональных координаторов)
До конца июня 2012 – оценка заданий с конструируемыми ответами
Июнь – август 2012 - обработка и представление данных. Качественный и количественный анализ ОЭСР
Август- октябрь - Подготовка отчетных материалов для ОЭСР. Внутренний анализ результатов
Декабрь 2012, Итоговая национальная конференция - Обсуждение возможностей использования методологии, инструментария и результатов AHELO в ходе текущей работы по внедрению ФГОС-3 и созданию независимой комплексной системы оценки качества высшего образования в России
Середина марта 2013, итоговая международная конференция (Университет прикладных наук Утрехта) - Обсуждение возможностей реализации полномасштабного международного мониторингового исследования качества на основе методологии AHELO (PISA для высшего образования) как реальной альтернативы международных рейтингов

Высшая школа экономики, Москва, 2011

Текущая и дальнейшая работа

фото

фото

НКЦ

документами, необходимыми для исследования, рассылаемыми НЦ
ВАЖНО! Получение, проверка и обеспечение строгой конфиденциальности и безопасности всех тестовых материалов и инструментария, получаемых на протяжении всего периода подготовки и проведения исследования
Подготовка необходимых документов для проведения исследования
Своевременное определение и резервирование аудиторий (компьютерных классов) для проведения исследования
Определение и подготовка администраторов тестирования, взаимодействие с ними и с внешними наблюдателями в ходе проведения исследования
Проверка всех материалов, которые должны быть возвращены и переданы в НЦ
ОЭСР (2011) Руководство по координации работы с учебными заведениями http://www.hse.ru/ahelo/docs

мониторинга тестирования и оценивания студентов (экзаменов, зачетов и т.д.)
Должны иметь опыт использования компьютерных и онлайн систем оценивания (быть способны загрузить и запустить онлайн систему, решить возможные технические проблемы студентов и т.д.)
Желательно не иметь прямых профессиональных контактов со студентами, которые участвуют в тестировании
Численность АТ
От вуза – один АТ на одну аудиторию, если аудитория большая – 1 АТ на 40 студентов
От НЦ – один или несколько независимых наблюдателей

ВАЖНО! Желательно присутствие непосредственно на тестировании (или в пределах досягаемости) ИТ-сотрудника

тестирования
Получение, проверка, установка и обеспечение конфиденциальности установленной версии всех тестовых материалов
Проверка готовности помещений и рабочих мест (не позднее чем за 30 мин. до начала тестирования)
Совместно с ИК - встреча студентов, проверка и отметка прибывших и отсутствующих студентов по списочным листам (будут подготовлены НЦ в формате Excel после процедур выборки)
Сопровождение студентов до рабочих мест, выдача им индивидуальных логинов и паролей
Предварительное объяснение правил тестирования и установочные рекомендации
Мониторинг во время тестирования (обход, отслеживание процесса выполнения студентами заданий на компьютере) и напоминание о времени тестирования
Сопровождение студентов при необходимости выхода из аудитории
Ведение отчета о прохождении тестирования
Завершение тестирования
Сбор всех вспомогательных материалов и черновиков после тестирования
ОЭСР (2011) Руководство по проведению тестирования http://www.hse.ru/ahelo/docs

Задачи администраторов тестирования

(одноступенчатая или многоступенчатая)
Доля участия – 75 % от включенных в выборку
Ожидаемый размер выборки для студентов – 200 человек от вуза (150 человек – реальное участие с учетом 25% не участвующих)
Если менее 200 или чуть более 200 – включаются все
Ожидаемый размер выборки для преподавателей – 40 человек от вуза (30 человек – реальное участие с учетом 25% не участвующих)
Если менее 40 или чуть более 40 – включаются все
ВАЖНО! Не допускается замена не участвующих студентов и преподавателей (‘volunteer sampling’)
ОЭСР (2011) Руководство по формированию выборки http://www.hse.ru/ahelo/docs

курс бакалавритата или специалитета по направлениям инженерной подготовки, соответствующих профилю «Гражданская инженерия»
Студент должен быть официально зачислен, регулярно посещать занятия, не относиться к категории студентов, готовящихся к отчислению

В целевую группу не входят и должны быть исключены при выборке:
Студенты на стажировке в период исследования
Студенты на производственной практике в период исследования
Студенты, обучающие дистанционно или заочно (в случае нехватки выборки из студентов-очников в выборку можно включать студентов, обучающихся по очно-заочной/вечерней форме)

В целевую группу входят, но должны быть изъяты из выборки в случае попадания в выборку
Студенты с ограниченными возможностями

ВАЖНО! В общий список вуза включаются все студенты (в том числе подлежащие исключению или изъятию из выборки). Студенты, исключенные из выборки должны быть указаны в конце общего списка и помечены как исключенные

относимые к категории ППС, в чьи трудовые обязанности входит в том числе подготовка студентов-бакалавров (или специалистов) по направлению подготовки Инженерные науки по профильным для студентов-инженеров дисциплинам в течение текущего учебного года, включая период проведения исследования
В целевую группу не входят (должны быть исключены при выборке):
Преподаватели, обучающие не по профильным предметам (например, преподаватели истории)
Преподаватели, обучающие профильным предметам студентов не-инженеров
Преподаватели, в том числе совместители, исследовали, АУП, не имеющие текущих преподавательских обязанностей
В целевую группу входят, но могут быть изъяты из выборки в случае попадания в
Преподаватели, преподающие профильные дисциплины для студентов, но имеющие большую доп. административную нагрузку

ВАЖНО! В общий список вуза включаются все преподаватели (в том числе подлежащие исключению или изъятию из выборки). Преподаватели, исключенные из выборки должны быть указаны в конце общего списка и помечены как исключенные

студентов, на основании рамки (таблицы), подготовленной НЦ и включающей:
Пол студента
Уровень успеваемости (по используемой в вузе 5 или 10-балльной шкале)
Широкое направление подготовки (в соответствии с МСКО)
Узкое направление подготовки (в соответствии с МСКО)
ФИО студента
Дата рождения студента
E-mail студента
Номер студенческого (ID) студента
Тел. студента
Статус студент- включен/изъят/исключен из выборки
Доп. основание для стратификации – обучение на бюджетной или платной основе
Другие основания для стратификации? (для обсуждения)
Шаг 2: Подготовка анонимного списка студентов
Шаг 3: Отправка полного анонимного списка студентов в НЦ
Шаг 4: Автоматизированная случайная выборка + присвоение ID (НЦ)
Шаг 5: выдача логинов и паролей для тестирования (МК)
Шаг 6: передача логинов и паролей НКЦ вузам (не позднее чем за 3 дня до начала тестирования)

преподавателей на основании рамки (таблицы), подготовленной НЦ
Шаг 2: Подготовка анонимного списка преподавателей
Шаг 3: отправка полного анонимного списка преподавателей в НЦ
Шаг 4: автоматизированная случайная выборка (НЦ)
Шаг 5: Автоматизированная случайная выборка + присвоение ID (НЦ)
Шаг 6: выдача логинов и паролей для опроса (МК)
Шаг 7: передача логинов и паролей НКЦ вузам (вместе с паролями студентов либо в день завершения тестирования студентов – опрос преподавателей проходит в течение недели после тестирования студентов )

с присвоенными логинами и паролями
ВАЖНО! Не рассылать никому логины и пароли до проведения тестирования
Идентификация попавших в выборку студентов и преподавателей
Приглашение к участию в исследовании: подготовка и рассылка пригласительных писем
Мотивирование, бонусы и поощрения для студентов
Мотивирование преподавателей
Обеспечение явки студентов (административные меры)

подготовка тестирования

проекта письма от НКЦ (аналогично для преподавателей)
Выдача международных сертификатов об участии – согласовано с межд. консорциумом
Дополнительные возможности:
Дополнительные баллы, кредиты
Подарочные сертификаты, например, кредит-сертификат в университетский книжный магазин
Денежное вознаграждение (нежелательно)
Подарки и презенты (USB, сувениры с университетской символикой…)
Лотереи среди студентов (значимые подарки показавшим лучшие результаты…)
Анонсирование и PR проекта и важности участия в исследовании на университетских сайтах, газетах и т.д…..
ВАЖНО! По возможности – организация питания студентов после прохождения тестирования

менее 3 часов, включая:
Тех. и орг. подготовку (загрузка заданий, проверка компьютеров, рабочих мест и т.д.) – не менее 30 мин.
Встречу студентов, проверку участников по спискам, сопровождение до рабочих мест, выдачу инд. паролей и логинов – не менее 30 мин.
Объяснение правил участия, установочные рекомендации – 10 мин.
Тестирование – 90 мин. (студент сам распределяет время между двумя модулями заданий)
Заполнение вопросника (AHELO) – 10 мин.
Заполнение вопросника (AHELO+) – 10 мин.
Завершение работ, благодарности – 10 мин.

Тестирование студентов – один или несколько дней
Преподаватели и ИК заполняют вопросники онлайн в свободное время

для тестирования
Адекватная температура в помещении
Освещение, вентиляция, отсутствие лишнего шума, наличие в доступности туалетных комнат с указателями
Наличие одного стационарного работающего компьютера (с клавиатурой, монитором, мышью и интернет-соединением) на каждого студента
Наличие места для проходя АТ между рабочими местами (оптимально не менее 60 см.)
Наличие микрофонов и громкой связи – при необходимости
Наличие одного компьютера на каждого АТ
Наличие как минимум двух дополнительных свободных компьютера для ИК и АТ, а также на случай поломки других компьютеров

расходных и вспомогательных материалов
ручки, карандаши и ластики, чистые листы бумаги (желательно цветные)
Калькуляторы разрешены для AHELO-Инженерные науки

На рабочем месте студента не должно быть:
Верхних вещей и сумок
Никаких электронных приборов (мобильных телефонов, коммуникаторов, планшетников, электронных книг и т.д.)
Никаких расходных и вспомогательных материалов кроме ручки, карандаша, ластика и бумаги)
Книг и бумаг
Напитков и еды, кроме воды в пластиковых бутылках

Explorer 6+, Firefox 3.6+, Safari 3.0+, Opera 10.5+, Chrome 6+
Разрешение экрана монитора: 1024 х 768 или выше
Действующее интернет-соединение
Специальное ПО не требуется, необходима предустановленная Java, разрешены всплывающие окна в баузере

ВАЖНО! Не допускается использование собственных ноутбуков студентов
Желательно поставить дополнительную защиту на компьютеры для предотвращения:
возможности доступа в источникам информации в интернете или каким-либо другим источникам информации
изменения установок онлайн системы тестирования
(либо более внимательная работа администраторов тестирования по контролю за соблюдением процедуры)

направлению «гражданская инженерия».
2. Работа с данными исследования. Перспективы для дальнейшей работы консорциума участвующих вузов, в том числе в части анализа программ подготовки инженеров с точки зрения ожидаемых результатов обучения и формируемых компетенций .

628-7931
www.hse.ru

Контактное лицо по вопросам реализации проекта AHELO в России Мешкова Татьяна Анатольевна tmeshkova@hse.ru +7(495)531-00-02, +7(985)960-41-54

Для получения дополнительной информации www.hse.ru/ahelo/
www.oecd.org/edu/ahelo