GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.1 (5)След. > >>   Поиск:  
 Автор Тема: Модель механизма забывания
ci
Сообщений: 69
Модель механизма забывания
Добавлено: 03 апр 13 6:16
Думаю, что для системы ИИ одной из необходимых ее подсистем является механизм забывания "ненужной" информации.
Здесь мой пример реализации алгоритма распознавания паттернов с механизмом забывания.
http://ciappsonline.com/App2
Время "жизни" найденного паттерна зависит от его изначального рейтинга. С определенной периодичностью рейтинг уменьшается в соответствии с заданной функцией. При повторном определении паттерна во входных данных его рейтинг увеличивается.

Но реализовано в лоб - рейтинг считается для каждой ячейки памяти. Что в реальной системе, где очевидно ячеек памяти будет очень большое количество, будет работать медленно. Как можно было бы оптимизировать этот механизм? Какие вообще есть примеры реализации мезанизмов забывания?
[Ответ][Цитата]
vchc
Сообщений: 194
На: Модель механизма забывания
Добавлено: 03 апр 13 14:15
Обычно в таких задача расчёт уровня активации того или иного паттерна куда более затратная задача, чем забывание в любом виде. Не думаю, что стоит беспокоится именно о забывании.

Паттерны удобно представлять в виде списка, отсортированного по рейтингу. При обновлении рейтинга паттерна, вы двигаете его вниз/вверх по списку, чтобы он занял нужную позицию в смысле критерия сортировки. Если вам нужно поддерживать уровень рейтинга в каком-то заданном диапазоне, то его лучше модифицировать не с помощью цикла обновления (забывания), а в момент операции с рейтингом конкретного паттерна. Для этого для каждого паттерна вводится дополнительный параметр - номер такта последнего обновления. На основе разницы между номером текущего такта (глобальный параметр) и номером такта последнего обновления вы можете вычислить коэффициент забывания. Надеюсь я правильно понял задачу )
[Ответ][Цитата]
ci
Сообщений: 69
На: Модель механизма забывания
Добавлено: 03 апр 13 23:36
Цитата:
Автор: vchc
Надеюсь я правильно понял задачу

Спасибо за дельный комментарий.
Моя идея была в том, что рейтинг паттерна при отсутствии подкрепления должен постепенно снижаться. Я думал о том, чтобы вычислять рейтинг с учетом забывания не для всех паттернов сразу, а в момент обращения к конкретному паттерну. И у меня хранится информация о времени обновления. Но проблема в том, что само извлечение паттерна из памяти должно происходить на основе его текущего рейтинга (с учетом забывания).
[Ответ][Цитата]
covax
Сообщений: 1609
На: Модель механизма забывания
Добавлено: 04 апр 13 1:26
Цитата:
Автор: ci
.... Но проблема в том, что само извлечение паттерна из памяти должно происходить на основе его текущего рейтинга (с учетом забывания).


Обратитесь к алгоритмам кэширования. Забывание паттерна зависит от плотности обращений к нему в течение некоторого времени. Чем меньше плотность обращений (в отношении с другими паттернами) тем больше шанс на забывание.
[Ответ][Цитата]
vchc
Сообщений: 194
На: Модель механизма забывания
Добавлено: 04 апр 13 15:28
Цитата:
Автор: ci

Но проблема в том, что само извлечение паттерна из памяти должно происходить на основе его текущего рейтинга (с учетом забывания).


Надо смотреть уже более подробно на алгоритм и от него плясать. Мне кажется, что на этапе моделирования такими вещами заниматься не стоит. Делайте прямо по задумке, а если ресурсов не будет хватать, тогда можно озаботится оптимизацией. Обычно куда проще нагрузить ещё несколько ядер процессора, чем разрабатывать сложные алгоритмы.
[Ответ][Цитата]
ci
Сообщений: 69
На: Модель механизма забывания
Добавлено: 06 апр 13 9:00
Цитата:
Автор: covax
Обратитесь к алгоритмам кэширования.

Кэширование тут не очень подходит. В кэш попадут наиболее часто используемые объекты. При этом может существовать объект, который давно не использовался, и, соответственно, отсутствует в кэше, но при этом с рейтингом, определяющим необходимость его извлечения из памяти.
[Ответ][Цитата]
ci
Сообщений: 69
На: Модель механизма забывания
Добавлено: 06 апр 13 9:02
Цитата:
Автор: vchc
Делайте прямо по задумке, а если ресурсов не будет хватать, тогда можно озаботится оптимизацией. Обычно куда проще нагрузить ещё несколько ядер процессора, чем разрабатывать сложные алгоритмы.

Пока так и сделал. Но хотелось бы заранее понимать какие есть возможные пути оптимизации, и есть ли они вообще.
[Ответ][Цитата]
covax
Сообщений: 1609
На: Модель механизма забывания
Добавлено: 06 апр 13 10:10
Цитата:
Автор: ci
Кэширование тут не очень подходит. В кэш попадут наиболее часто используемые объекты. При этом может существовать объект, который давно не использовался, и, соответственно, отсутствует в кэше, но при этом с рейтингом, определяющим необходимость его извлечения из памяти.


Если объект давно не использовался, то он удаляется из кэша и его рейтинг обнуляется. У вас, в этом случае, объект (паттерн) забывается. Разве у вас другой алгоритм?
[Ответ][Цитата]
Kek
Сообщений: 1133
На: Модель механизма забывания
Добавлено: 07 апр 13 0:30
Я бы рассмотрел еще один параметр наряду с плотностью или частотой использования.
Для начала скажу, что любая информация в том числе и шум в системе распознавания по любому кластеризуется.
Паттерн состоит из нескольких кластеров. И задача распознавания многоуровневая.
Например, распознать букву в системе OCR, или фонему в речи - это один уровень,
а распознать номер машины, или слово - это более высокий уровень.
Паттерну присваивается оценка сообразно тому оказался он востребованным на высоком уровне или нет.
[Ответ][Цитата]
rrr3
Сообщений: 11857
На: Модель механизма забывания
Добавлено: 07 апр 13 21:26
Цитата:
Автор: Kek

Я бы рассмотрел еще один параметр наряду с плотностью или частотой использования.
Для начала скажу, что любая информация в том числе и шум в системе распознавания по любому кластеризуется.
Паттерн состоит из нескольких кластеров. И задача распознавания многоуровневая.
Например, распознать букву в системе OCR, или фонему в речи - это один уровень,
а распознать номер машины, или слово - это более высокий уровень.
Паттерну присваивается оценка сообразно тому оказался он востребованным на высоком уровне или нет.

Когда Вы начали говорить, что задача распознавания многоуровневая, на мой взгляд Вы начали двигаться в направлении подсказки самому себе. Механизмов забывания может быть множество. Но они же интересуют Вас не сами по себе, а в контексте какой-то цели. Так вот эта цель у Вас "плывет". Не "остановив" ее трудно будет остановиться на каком либо решении по забыванию. Телега стоит раньше лошади, а это не удобно. Аналогичная ситуации при поиске ИИ.
Истин не глаголю...
[Ответ][Цитата]
ci
Сообщений: 69
На: Модель механизма забывания
Добавлено: 07 апр 13 23:07
Цитата:
Автор: Kek
Паттерну присваивается оценка сообразно тому оказался он востребованным на высоком уровне или нет.

Я планирую реализовать подобный механизм. В принципе считаю, что оценка паттерна должна увеличваться при любой его активности. Либо при его распознавании из входных даных, либо при его использовании в качестве элемента паттерна более высокого уровня.
[Ответ][Цитата]
ci
Сообщений: 69
На: Модель механизма забывания
Добавлено: 07 апр 13 23:52
Цитата:
Автор: rrr3
Механизмов забывания может быть множество.

Какие то конкретные примеры можете привести?
[Ответ][Цитата]
ci
Сообщений: 69
На: Модель механизма забывания
Добавлено: 07 апр 13 23:57
Цитата:
Автор: covax
Если объект давно не использовался, то он удаляется из кэша и его рейтинг обнуляется. У вас, в этом случае, объект (паттерн) забывается. Разве у вас другой алгоритм?

Да алгоритм другой, во всяком случае задумывается другим.
Мне кажется что забывание должно быть независимым процессом.
[Ответ][Цитата]
rrr3
Сообщений: 11857
На: Модель механизма забывания
Добавлено: 08 апр 13 0:05
Цитата:
Автор: ci
Какие то конкретные примеры можете привести?

Не было такой необходимости. Но раз возник вопрос, что-то надо ответить...
Но выискивать и придумывать разные примеры - лень. А на вскидку, к сожалению, могу сослаться только на пример забывания в Нечто-Когнитроне (что не есть красиво, но да ладно). Там забывание происходит за счет "смертности" во время когда на вход элемента поступает большое разнообразие возможных сигналов и Напрямую Не связано с применимостью ("полезностью", связано косвенно) этого элемента и его связей, а скорее с наличием "большой" случайности-разнообразия на его входе.
Другими словами чем меньше случайностей на его входе, тем дольше он сидит (не забывается) спокойно вне зависимости от его роли (значимости) в ....ну пусть будет в распознавнии.

Вообще-то суть моего прежнего поста была в другом. Бабочка летит на свечу и сгорает. И так будет до тех пор пока бабочки не поймут, что им нужен свет а не свеча и что их цель (свеча) изначально ошибочна. А для того чтобы это понять бабочкам придется освоить простую, но сложную для исполнения технологию. У младенца когда он обучается считать, в голове образуются понятия 1, 2, 3 и т.д., хотя он понятия не имел ранее, что это такое и цели узнать, что это такое у него не было, и объяснить на основе других понятий не было никакой возможности...
[Ответ][Цитата]
Grosh
Сообщений: 162
На: Модель механизма забывания
Добавлено: 08 апр 13 2:42
Забывание, это интересная мысль. Это ваша собственная или где-то еще можно об этом прочесть?
[Ответ][Цитата]
 Стр.1 (5): [1]  2  3  4  5След. > >>