GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.3 (4)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Обмен практическим опытом
Nikolay
Сообщений: 26
На: Обмен практическим опытом
Добавлено: 16 дек 07 20:48
Цитата:
Автор: shuklin



3 нейрона маловато будет для прикладных задач. Вот в этой разработке http://www.gotai.net/forum/Default.aspx?postid=5352#5352 при построении СЛД генерируются сотни тысяч нейронов.


Я ведь нейроны «не генерю», я их паяльником «паялю»!
Ну и что, что три. Для фундаментальной науки достаточно.
Вон IBM за 4 года 11 кубитов «спаяло». Какой бюджет у IBM и где я?
Причем кубиты, если я помню двоичные, а наши нейроны – не менее 10-значные (читайте матчасть). Таким образом, я через каждые 100 мкс могу реализовывать одну из 10^10^3=10^1000 функций. Хватит пока, всех и не перебрать!
Опять же, нейроны наши пока в 10000 раз больше природных. Ну и куда я такую голову поставлю, а корму ей, а охлаждение? Ну и зачем мне такой головняк? Ну вот я и других упредить хочу – не делайте ИИ, если головняков не хотите!
[Ответ][Цитата]
Nikolay
Сообщений: 26
На: Обмен практическим опытом
Добавлено: 22 дек 07 18:26
В продолжение…
Тут по обмену опытом как раз в тему Blue Brain от IBM подоспел (21.12.2007, может кто раньше в первоисточниках видел?):
http://rnd.cnews.ru/math/news/top/index_science.shtml?2007/12/21/280664

Помнится, в мае 2005 раздавались очень щедрые обещания: моделирование мозга человека на молекулярном уровне. А сегодня эта задача звучит несколько иначе: а возможно, и на молекулярном уровне...(да и речи про крыс что-то не припомню, поправьте, если ошибаюсь). Три года почти прошло (а программы то еще раньше были написаны). Мда…

Особенно хорош пассаж:
… Неокортекс человека содержит несколько миллионов колонок, каждая из которых состоит из большего числа нейронов, чем в описываемой модели (от десятков тыс. до 100 млн. по сравнению с 10 тыс. в модели). Причем потребность в вычислительных мощностях, требуемых для моделирования работы всего мозга человека, растет не пропорционально увеличению числа нейронов, а на гораздо большую величину…

(Прим. Отсюда следует: для моделирования мозга человека нужен комп с эффективностью мозга человека)

ЗЫ. В нашей сети информация «переваривается» за время пробега самого медленного спайка от аксонного холмика до выходной терминали аксона и не зависит от числа нейронов, по крайней мере, в однослойной сети ….
[Ответ][Цитата]
Плюмаж
Сообщений: 110
На: Обмен практическим опытом
Добавлено: 17 мар 08 2:19
Что-бы не флудить, напишу здесь. Итак, язык обработки текстов (тестовая версия, но работает - с примерами и описанием). Поддержка сопоставления с образцом, рекурсии, back-tracking и арифметических операций. При использовании навевает напоминания о SNOBOL, LISP, PROLOG и FORTH.

Исполняемый файл, с примерами и описанием: http://rundschau.narod.ru/MiLK.rar (260 кБ)

Документация отдельным архивом: http://rundschau.narod.ru/MiLK_man.rar (20 кБ)

Т.к. это пробная версия, то работает достаточно медленно - ожидание от секунды и выше. Все примеры рабочие.
[Ответ][Цитата]
Corwin
Сообщений: 1324
На: Обмен практическим опытом
Добавлено: 17 мар 08 3:24
Ну вот опять просто убили
Ваша программа супер
На первом курсе университета я начал было писать интерпретатор специального языка программирования который должен был бы быть в основе Логоса (Эта разработка несколько напоминала то что написали Вы). Но потом сообразил что можно обойтись и без подобного интерпретатора и проект заглох или скорее перешел на создание разных модификаций Логоса. Ваша программа довольно сильно переплевывает то что я себе планировал
Очень впечатлен что Вам удалось написать вполне полноценный интерпретатор для обработки ЕЯ (и не только). Программы написаны на нем выглядят весьма красиво и более просто чем аналогичные написанные на С или Делфи.


>Что-бы не флудить, напишу здесь.

Что значит не флудить? А обсуждение Вашей программы здесь не будет флудом? Я настойчиво прошу создать новую тему для обсуждения Вашей программы и в основном не из-за того что жалко эту тему, а из-за того, что Ваша программа более чем этого достойна!
Впрочем создается впечатление, что Вы просто не хотите чтобы на Ваши разработки особо обращали внимание
[Ответ][Цитата]
Плюмаж
Сообщений: 110
На: Обмен практическим опытом
Добавлено: 17 мар 08 3:42
Спасибо, Corwin. Взаимности ради признаюсь, что та шутка про Терминатора была моей.

- Отдельную тему создавать не очень хочется - еще сыровато и не все ясно. Например, с отключением правил (этого нет в описании). Кроме того, пока все не определится, нельзя переходить к оптимизации по времени исполнения.

- Про университет. В далеком-далеком 1999 году я даже написал курсовую работу по MDL - так назывался прототип (тоже мой). Потом, этот прототип несколько лет использовался для генерации программ на FoxPro (DOS) - был создан язык более высокого уровня, позволявший с меньшими проблемами создавать диалоговые окна и обработку их событий, а MDL конвертровал все это в код FoxPro. Очень сработанная пара получилась.

Еще раз, спасибо.
[Ответ][Цитата]
daner
Сообщений: 4593
На: Обмен практическим опытом
Добавлено: 17 мар 08 3:54
не хотел в начале писать, потом подумал... если на это не отвечать, то вообще на форуме получаются обсуждения только тарасовок и все.

Но не смотря на это, меня не впечатлил представленный язык. Он не очень то выразителен. И те же самые примеры, на python выглядели бы не менее (ИМХО, даже более) красиво.
Как минимум, не хватает регулярных выражений и еже с ними. Так же я не до конца понял принцип обработке? Каждое правило применяется к каждой строке? сколько проходов по тексту? когда генерируется новый текст (строка), куда он генерируется?

Какие цели языка?
[Ответ][Цитата]
Corwin
Сообщений: 1324
На: Обмен практическим опытом
Добавлено: 17 мар 08 4:12
И всеравно прошу создать новою тему. ИМХО "сырость" продукта это не аргумент, так как формально любую программу можно улучшать до бесконечности - так она всегда будет сырой. Стоит ценить то что имеем.
В новой теме я бы мог выкласть свои старые результаты с исходниками (хоть они и примитивны, но какимто начинающим программистам могли бы сгодиться). Но поскольку мои разработки просто тонут в тени Ваших, так что думаю что тему создавать всетаки стоит Вам
[Ответ][Цитата]
Плюмаж
Сообщений: 110
На: Обмен практическим опытом
Добавлено: 27 мар 08 3:36
Это сообщение точно не заслуживает отдельной темы. Это просто побочный эффект от другого побочного эффекта (принцип домино). Вообщем, наткнулся на структуру (которая, наверняка уже кем-то как-то названа, но не "нейронная сеть" - т.к. та представляет собой (как мне кажется) просто частный случай того, о чем речь ниже).

Рабочее название - мембранная сеть. Это множество элементов, соединения которых обладают способностью пропускать возбуждение в обе стороны.

Краткое описание здесь.

http://rundschau.narod.ru/membrana.rar (примерно 53 кБ - файл MsWord)

Приношу извинения за терминологию - навык пользования ею, если и был какой-то, утрачен.
[Ответ][Цитата]
daner
Сообщений: 4593
На: Обмен практическим опытом
Добавлено: 27 мар 08 14:41
Слушайте, Плюмаж, может это конечно только мое мнение, но вы совершенно не умеете оценить интерес к своим постам!!!

Конечно (ИМХО) эта статья заслуживает отдельного топика!!!
Кстати, очень рад видеть, что данную работу вы уже представили в виде статьи, с четкими определениями (почти) и т.д. Было очень удобно читать, спасибо.

Куча вопросов. Это не моя сфера, но я всегда стараюсь не далеко уходить от подобных нейронных структур, так что мне это интересно.
Вы зря так пренебрежительно отозвались об этой работе. Мне бы очень хотелось надеяться, что вы продолжите более глубокое изучение этой сети.
Что лично мне, хотелось бы узнать :
1. формальное доказательство (сравнение) Сети Розенблата (перцептрона) и Мембранной
2. ----//---- Хопфильда и Мембранной
3. ----//---- Хемминга и Мембранной
4. ----//---- Ассоциативной и Мембранной (Это вообще обязательно, так как ваша сеть оооочень напоминает Ассоциативную)
Т.е. кто из них частный случай (или они эквивалентны).
Такое сравнение, может дать интересное развитие способам обучения сети (так как можно будет подумать как методы обучения частных случаев (если ИНС это частные случае) могут быть применены к Мембранной Сети.
Вы у помянули в конце о том, что надо бы знать классы задач решаемых МС, и это верно. И я думаю сравнение с ИНС-ами в этом поможет как ничто другое.

Так же в случае эквивалентности, можно рассуждать о том, какие из вариантов компактнее и т.д. Кроме того, вы сказали, что требуется длительный процесс обучения без гарантий.
Вот это тоже тема для продолжения. Что значит без гарантий? А можно ли доказать теоретическую сходимость вашего алгоритма обучения МС для каких-либо функций если есть бесконечное число нейронов и бесконечное время и т.д. (ну и потом скажем с конечным числом нейронов или с конечным временем).

Даже не вдаваясь в теоретические расчёты, было бы совсем не лишним сравнить длительности и точности обучения МС и других ИНС и т.д.

В общем, продолжение этой работы мне было бы очень интересно. И я даже буду рад помогать чем смогу, если конечно моя помощь понадобиться.

П.С.
Наконец-то свежий воздух на форуме.
Кстати, большая просьба, если уже делаете статью отдельным файлом, то делайте это в PDF формате. (и лично от себя советую пользоваться OpenOffice а не MSWord, именно по причине удобства для документов с мат.формулами)
[Ответ][Цитата]
гость
89.208.11.*
На: Обмен практическим опытом
Добавлено: 27 мар 08 14:54
* (admin: оскорбления, информативность - 0)
[Ответ][Цитата]
гость
89.208.11.*
На: Обмен практическим опытом
Добавлено: 27 мар 08 14:57
* (admin: спам)
[Ответ][Цитата]
Corwin
Сообщений: 1324
На: Обмен практическим опытом
Добавлено: 27 мар 08 22:52
Плюмаж, если не секрет кем Вы работаете или вернее какая у вас професия?
[Ответ][Цитата]
Плюмаж
Сообщений: 110
На: Обмен практическим опытом
Добавлено: 28 мар 08 1:11
Цитата:
Автор: Daner


Спасибо, большое, Daner. Не ценю потому, например, что очень мало понимаю и знаю - часто приходится дилетанствовать (сам себе порой напоминаю одного из Гостей форума).

Но, постараюсь что-нибудь предпринять.

Кстати, мембранная сеть обязана своим возникновением Вашей работе "Из воды на сушу" (извините, если исказил название) - косвенно, она привела к размышлениям о мутациях в нервной системе. Возникло предположение, что новые рецепторы (эффекторы) могут "подключаться к мозгу в любом месте" - игра случая. Нейронная сеть здесь подходит (при условии, что выходы всех нейронов являются входами других), но она была-бы слишком большой (и, конечно, надо решить проблему циклов, замкнутых петель, по которым начнет распространяться сигнал).

Цитата:
Автор: Corwin
Плюмаж, если не секрет кем Вы работаете или вернее какая у вас професия?


Тут все сложно. С одной стороны, за спиной шесть лет экономического факультета; с другой стороны, к счастью, из меня вышел никудышный экономист. Обычно, если приходится, соискательствую должность программиста.
[Ответ][Цитата]
daner
Сообщений: 4593
На: Обмен практическим опытом
Добавлено: 28 мар 08 1:55
_QUOTE_Автор: Плюмаж

Цитата:
Спасибо, большое, Daner. Не ценю потому, например, что очень мало понимаю и знаю - часто приходится дилетанствовать (сам себе порой напоминаю одного из Гостей форума).

Нееее, не то плохо, что вы что-то не знаете, а вот когда не знаете, но бить себя в грудь и гордится этим -- вот что плохо.

Настоятельно прошу (пока еще ответов не много) открыть для обсуждения этой статьи отдельный топик. Пока еще не проблема туда просто скопировать наши здешние посты.

Цитата:
Кстати, мембранная сеть обязана своим возникновением Вашей работе "Из воды на сушу" (извините, если исказил название) - косвенно, она привела к размышлениям о мутациях в нервной системе.

Очень приятно слышать. Значит публикация работы достигла своей цели .

Цитата:
Возникло предположение, что новые рецепторы (эффекторы) могут "подключаться к мозгу в любом месте" - игра случая. Нейронная сеть здесь подходит (при условии, что выходы всех нейронов являются входами других), но она была-бы слишком большой (и, конечно, надо решить проблему циклов, замкнутых петель, по которым начнет распространяться сигнал).

Это все верно. Но именно поэтому, я бы и хотел сравнения вашей МС с Ассоциативной Нейронной Сетью. Там тоже все нейроны соединены между собой и вообще они очень похожи. Я правда, досконально не помню АНС (и как-то нет времени искать по ним материал, сравнивать и все такое), но вам серьезно стоило бы это сделать. Т.е. сравнить в чем точно схожесть и разница двух этих структур.
[Ответ][Цитата]
Плюмаж
Сообщений: 110
На: Обмен практическим опытом
Добавлено: 14 апр 08 1:50
http://rundschau.narod.ru/chr2.rar (220 кБ)

Честно искал тему "Флуд", но, либо она называлась иначе, либо ее не было. К разделу "Исскуственная жизнь" мало подходит - статичные картинки получаются. Вообщем, тут можно выращивать что-то зубастое и клыкастое (первоначальная идея была: выращивать это по шаблону - дан образец формы, а затем, методом генетических алгоритмов, выращивать нечто, близкое к этой форме. От идеи пришлось почти отказаться - медленно, но картинки получились завораживающие).

Еще, например, возник такой вопрос: (модель Scarlapena) - допустим, мы выращиваем многоножку - длинное тело, разделенное на сегменты; каким образом организм узнает, что, например, после пятьдесят четвертого сегмента должен быть роскошный яйцеклад, а не пятьдесят пятый сегмент? (в модели, был введен лимит повтора).

Кроме того, замечание к той-же Скарлапене - для простоты, после деления, клетки (в модели) не растут больше, то поэтому, вид не очень естественный; более натуральный процесс (продолжение роста разделившейся клетки) привел-бы к "природной" каплевидной форме мокрицы (но от этого пришлось отказаться - сильно замедлило-бы (предположительно) и усложнило реализацию ).

[Ответ][Цитата]
 Стр.3 (4)1  2  [3]  4<< < Пред. | След. > >>