Тема 1.4
Основы теории ИНС.
Часть 2.
Реализация модели ассоциативной памяти
На основе НС «Звезда Гроссберга»
Санкт-Петербург, 2007
- Главная
- Разное
- Дизайн
- Бизнес и предпринимательство
- Аналитика
- Образование
- Развлечения
- Красота и здоровье
- Финансы
- Государство
- Путешествия
- Спорт
- Недвижимость
- Армия
- Графика
- Культурология
- Еда и кулинария
- Лингвистика
- Английский язык
- Астрономия
- Алгебра
- Биология
- География
- Детские презентации
- Информатика
- История
- Литература
- Маркетинг
- Математика
- Медицина
- Менеджмент
- Музыка
- МХК
- Немецкий язык
- ОБЖ
- Обществознание
- Окружающий мир
- Педагогика
- Русский язык
- Технология
- Физика
- Философия
- Химия
- Шаблоны, картинки для презентаций
- Экология
- Экономика
- Юриспруденция
Санкт-Петербургский государственный университетинформационных технологий, механики и оптики презентация
Содержание
- 1. Санкт-Петербургский государственный университетинформационных технологий, механики и оптики
- 2. Авто – ассоциативная память Восстановление целого образа
- 3. 4. Звезда Гроссберга.
- 4. 4. Звезда Гроссберга. Реализация авто-ассоциативной
- 5. 4. Звезда Гроссберга. Реализация авто-ассоциативной
- 6. 4. Звезда Гроссберга. Реализация авто-ассоциативной
- 7. Гетеро – ассоциативная память Восстановление по искаженному
- 8. 5. Звезда Гроссберга.
- 9. 5. Звезда Гроссберга. Реализация гетеро-ассоциативной
- 10. 5. Звезда Гроссберга. Реализация гетеро-ассоциативной
- 11. 5. Звезда Гроссберга. Реализация гетеро-ассоциативной
Авто – ассоциативная память Восстановление целого образа по его искаженной версии или фрагменту. Увидев фрагмент, Вспоминаем целый образ, которому фрагмент принадлежит
Слайд 1
Кафедра фотоники и оптоинформатики
Санкт-Петербургский государственный университет
информационных технологий, механики и оптики
А.В.Павлов
Оптические Технологии
Искусственного Интеллекта
Тема 1.4
Основы теории ИНС.
Часть 2.
Реализация модели ассоциативной памяти
На основе НС «Звезда Гроссберга»
Тема 1.4
Основы теории ИНС.
Часть 2.
Реализация модели ассоциативной памяти
На основе НС «Звезда Гроссберга»
Слайд 2Авто – ассоциативная память
Восстановление целого образа по его искаженной версии или
фрагменту.
Увидев фрагмент,
Вспоминаем целый образ, которому фрагмент принадлежит
Слайд 3
4. Звезда Гроссберга. Реализация авто-ассоциативной памяти
0.5
1
0.5
1
0.5
0
0
0.8
0.3
0.5
0.8
0.3
1
0.5
1
0.5
1
0.5
0
0
0.8
0.3
0.5
0.8
0.3
1
Обучим, в соответствии с правилом Хэбба,
две нейронные сети типа «Звезда Гроссберга», идентичными векторами:
I – {1;0.5;0;0.5;0.8;0.3} и II – {1;0.5;0;0.5;0.8;0.3}
I – {1;0.5;0;0.5;0.8;0.3} и II – {1;0.5;0;0.5;0.8;0.3}
Слайд 4
4. Звезда Гроссберга. Реализация авто-ассоциативной памяти
1
0.5
0
0.5
0.8
0.3
1
0.5
0
0.5
0.8
0.3
Теперь, соединим обученные сети следующим образом:
соединим
выходы первой и второй сети, так, чтобы они стали зеркальными
отображениями друг друга, как показано на рисунке.
отображениями друг друга, как показано на рисунке.
Слайд 5
4. Звезда Гроссберга. Реализация авто-ассоциативной памяти
1
0.5
0
0.5
0.8
0.3
1
0.5
0
0.5
0.8
0.3
0.5
0.9
0.7
0
0.8
0.3
0.5
1
0.5
0
0.8
0.3
Если на вход такой НС из
двух «Звезд Гроссберга» поступает вектор - искаженный вариант эталона, например, {0.9;0.5;0;0.7;0.8;0.3}, и порог выходного нейрона позволяет распознать этот вектор, то
возбуждение выходного нейрона первой НС передается на выходной нейрон
второй НС, которая, работая в «обратном направлении», восстановит эталонный
вектор, на выходе всей структуры НС.
Слайд 6
4. Звезда Гроссберга. Реализация авто-ассоциативной памяти
1
0.5
0
0.5
0.8
0.3
1
0.5
0
0.5
0.8
0.3
0.3
0
0
1
0.5
1
0
0
0
0
0
0
Если на вход поступает вектор, совершенно
не похожий на эталонный, например
{0;0.3;1;0;0.5;1}, и первый выходной нейрон не возбуждается (сеть не узнала
вектор).
{0;0.3;1;0;0.5;1}, и первый выходной нейрон не возбуждается (сеть не узнала
вектор).
То, дальнейшего распространения сигнала нет. На выходе «пусто».
Слайд 7Гетеро – ассоциативная память
Восстановление по искаженному образу или его фрагменту ассоциированного
с ним образа.
Увидев фрагмент,
Вспоминаем целый образ, которому фрагмент принадлежит
А затем вспоминаем образ, ассоциированный с ним!
Цепочка ассоциаций может быть продолжена – зачетка, пятерки, повышенная стипендия, …
Другой вариант цепочки ассоциаций – зачетка, двойки, отчисление из института …
Выбирайте сами.
Слайд 8
5. Звезда Гроссберга. Реализация гетеро-ассоциативной памяти
0.5
1
0.5
1
0.5
0
0
0.8
0.3
0.5
0.8
0.3
1
1
0
0.3
0
1
0.5
0.5
1
0.8
0.3
1
0.8
1
Обучим, в соответствии с правилом Хэбба,
две нейронных сети,
эталонным вектором и ассоциированным с ним вектором :
I – {1;0.5;0;0.5;0.8;0.3} и II – {0;1;0.5;0.3;1;0.8}
эталонным вектором и ассоциированным с ним вектором :
I – {1;0.5;0;0.5;0.8;0.3} и II – {0;1;0.5;0.3;1;0.8}
Вектора разные!
Слайд 9
5. Звезда Гроссберга. Реализация гетеро-ассоциативной памяти
1
0.5
0
0.5
0.8
0.3
0
1
0.5
0.3
1
0.8
Теперь, соединим обученные сети аналогично тому,
как делали это
при конструировании авто-ассоциативной памяти, а именно:
при конструировании авто-ассоциативной памяти, а именно:
соединим выходы первой и второй сети, как показано на рисунке.
Слайд 10
5. Звезда Гроссберга. Реализация гетеро-ассоциативной памяти
1
0.5
0
0.5
0.8
0.3
0
1
0.5
0.3
1
0.8
0.5
0.9
0.7
0
0.8
0.3
1
0
0.3
0.5
1
0.8
Если на вход такой НС поступает
искаженная версия вектора-эталона, которому обучена первая звезда, {0.9;0.5;0;0.7;0.8;0.3}, и порог выходного нейрона позволяет распознать этот вектор, то
Возбуждение выходного нейрона первой НС передается на входной нейрон
второй НС, которая, работая в «обратном направлении», восстановит на выходе вектор,ассоциированный (связанный) с эталоном.
Слайд 11
5. Звезда Гроссберга. Реализация гетеро-ассоциативной памяти
1
0.5
0
0.5
0.8
0.3
0
1
0.5
0.3
1
0.8
0.3
0
0
1
0.5
1
0
0
0
0
0
0
Решение задачи памяти
Если на вход поступает
вектор, совершенно не похожий на эталонный, например
{0;0.3;1;0;0.5;1}, то выходной нейрон первой звезды не возбуждается (сеть не узнала
вектор), то
{0;0.3;1;0;0.5;1}, то выходной нейрон первой звезды не возбуждается (сеть не узнала
вектор), то
Вторая звезда остается не активированной – на ее вход ничего не поступает
