GotAI.NET - Форум - Искусственный интеллект

Все темы | Новая тема

Стр.1 (8)

След. > >>

Поиск:

Автор

Тема: Дисскусия S.Yakovlev и V.Tsaregorodtsev о перцептронах

tac
Сообщений: 2601

Дисскусия S.Yakovlev и V.Tsaregorodtsev о перцептронах

Добавлено: 06 ноя 11 8:26

Кто не знает что такое перцептрон - брысь от сюда

Мне тут пришла сырая идея о том какая должна быть архитектура перцептрона, чтобы он мог справится с проблемой инвариантности.

В частности для этого он должен уметь производить геометрические преобразования над информацией поступившей на сетчатку. И ему нужно кроме трех имеющихся слоев (S, A, R) иметь четвертый (B). Если слои S-A решают проблему нелинейности, сводя задачу к линейному представлению, а слои A-R решают задачу поиска конкретной системы уравнений дающей решение.

То теперь. Вводим слой B связанный со слоем A по правилу умножения матриц, где элементами матриц являются весовые коэффициенты. Тогда если матрица B единичная, то имеем классический перцептрон. Если же мы начинаем обучать слой A*B->R, то тем самым мы обучаем перцептрон инвариантности.

Вся проблема в том, как этому обучать ?

Ищу людей которые могли бы помочь над этим поработать реально на компьютерных экспериментах.

upd. После размышлений оказывается, что "ловить инвариантность" во втором слое поздно. Нам то нужно, чтобы инвариантно воспринимались исходные образы (например, все горизонтальные линии воспринимались бы одинаково). А после случайного связывания первого слоя мы уже получаем преобразование образа в другом пространстве. Таким образом, слой B должен быть связан со слоем S, и тогда речь идет о обучении S*B->A, причем так чтобы инвариантные образы на сетчатке одинаково воспринимались УЖЕ в ассоциативном (А) слое.

И тут важно, то, что перцептрон не полносвязный. Скажем для матрицы 2х2 (т.е. 4 входах), каждый А-элемент будет иметь только 2 связи с S-элементами, но связи от B к А будут связаны с двумя другими (следствие умножения матриц) А элементами. Тогда скажем если горизонтальная линия занимает элементы S1 и S2, а вторая горизонтальная линия S3 и S4. И наличие сигналов от элементов S1 и S2 возбуждает скажем элемент A1, то цель обучения становится такой: надо так установить сигналы от B-элементов, чтобы элемент А1 возбудился даже при том, что внешних сигналов от S1 и S2 нету, а есть сигналы от S3 и S4. Тогда А1 становится признаком горизонтальности, а выставление нужных сигналов на внутренних В-элементах - есть обучение определенному виду инвариантности.

И важно что на втором слое нам нужно получить пространство большей размерности, поэтому матрицы A и B будут разного размера. Скажем, если сетчатка 2х2 то матрица инвариантности будет 2х8, тогда получим 16 элементов в слое А.

(если не ясно спрашивайте

)

Форум: Проблемы искусственного интеллекта