GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.1 (2)След. > >>   Поиск:  
 Автор Тема: Нейросеть Виктора Царегородцева
гость
185.100.86.*
Нейросеть Виктора Царегородцева
+3
Добавлено: 23 июн 19 11:26
Все заинтригованны MLP Виктора Генадиевича, почему у него он работает быстрее, теперь каждый может в этом убедиться.

NeuralNet.cpp

#include "BackProp.h"
// NeuralNet.cpp : Defines the entry point for the console application.
//

#include "backprop.h"

int main(int argc, char* argv[])
{


// prepare XOR traing data
double data[][4]={
0, 0, 0, 0,
0, 0, 1, 1,
0, 1, 0, 1,
0, 1, 1, 0,
1, 0, 0, 1,
1, 0, 1, 0,
1, 1, 0, 0,
1, 1, 1, 1 };

// prepare test data
double testData[][3]={
0, 0, 0,
0, 0, 1,
0, 1, 0,
0, 1, 1,
1, 0, 0,
1, 0, 1,
1, 1, 0,
1, 1, 1};


// defining a net with 4 layers having 3,3,3, and 1 neuron respectively,
// the first layer is input layer i.e. simply holder for the input parameters
// and has to be the same size as the no of input parameters, in out example 3
int numLayers = 4, lSz[4] = {3,3,2,1};


// Learing rate - beta
// momentum - alpha
// Threshhold - thresh (value of target mse, training stops once it is achieved)
double beta = 0.3, alpha = 0.1, Thresh = 0.00001;


// maximum no of iterations during training
long num_iter = 2000000;


// Creating the net
CBackProp *bp = new CBackProp(numLayers, lSz, beta, alpha);

cout<< endl << "Now training the network...." << endl;
for (long i=0; i<num_iter ; i++)
{

bp->bpgt(data[i%8], &data[i%8][3]);

if( bp->mse(&data[i%8][3]) < Thresh) {
cout << endl << "Network Trained. Threshold value achieved in " << i << " iterations." << endl;
cout << "MSE: " << bp->mse(&data[i%8][3])
<< endl << endl;
break;
}
if ( i%(num_iter/10) == 0 )
cout<< endl << "MSE: " << bp->mse(&data[i%8][3])
<< "... Training..." << endl;

}

if ( i == num_iter )
cout << endl << i << " iterations completed..."
<< "MSE: " << bp->mse(&data[(i-1)%8][3]) << endl;

cout<< "Now using the trained network to make predctions on test data...." << endl << endl;
for ( i = 0 ; i < 8 ; i++ )
{
bp->ffwd(testData[i]);
cout << testData[i][0]<< " " << testData[i][1]<< " " << testData[i][2]<< " " << bp->Out(0) << endl;
}

return 0;
}





BackProp.H

//////////////////////////////////////////////
// Fully connected multilayered feed //
// forward artificial neural network using //
// Backpropogation algorithm for training. //
//////////////////////////////////////////////


#ifndef backprop_h
#define backprop_h

#include<assert.h>
#include<iostream.h>
#include<stdio.h>
#include<math.h>


class CBackProp{

// output of each neuron
double **out;

// delta error value for each neuron
double **delta;

// vector of weights for each neuron
double ***weight;

// no of layers in net
// including input layer
int numl;

// vector of numl elements for size
// of each layer
int *lsize;

// learning rate
double beta;

// momentum parameter
double alpha;

// storage for weight-change made
// in previous epoch
double ***prevDwt;

// squashing function
double sigmoid(double in);

public:

~CBackProp();

// initializes and allocates memory
CBackProp(int nl,int *sz,double b,double a);

// backpropogates error for one set of input
void bpgt(double *in,double *tgt);

// feed forwards activations for one set of inputs
void ffwd(double *in);

// returns mean square error of the net
double mse(double *tgt) const;

// returns i'th output of the net
double Out(int i) const;
};

#endif


BackProp.cpp
#include "backprop.h"
#include <time.h>
#include <stdlib.h>


// initializes and allocates memory on heap
CBackProp::CBackProp(int nl,int *sz,double b,double a):beta(b),alpha(a)
{

// set no of layers and their sizes
numl=nl;
lsize=new int[numl];

for(int i=0;i<numl;i++){
lsize[i]=sz[i];
}

// allocate memory for output of each neuron
out = new double*[numl];

for( i=0;i<numl;i++){
out[i]=new double[lsize[i]];
}

// allocate memory for delta
delta = new double*[numl];

for(i=1;i<numl;i++){
delta[i]=new double[lsize[i]];
}

// allocate memory for weights
weight = new double**[numl];

for(i=1;i<numl;i++){
weight[i]=new double*[lsize[i]];
}
for(i=1;i<numl;i++){
for(int j=0;j<lsize[i];j++){
weight[i][j]=new double[lsize[i-1]+1];
}
}

// allocate memory for previous weights
prevDwt = new double**[numl];

for(i=1;i<numl;i++){
prevDwt[i]=new double*[lsize[i]];

}
for(i=1;i<numl;i++){
for(int j=0;j<lsize[i];j++){
prevDwt[i][j]=new double[lsize[i-1]+1];
}
}

// seed and assign random weights
srand((unsigned)(time(NULL)));
for(i=1;i<numl;i++)
for(int j=0;j<lsize[i];j++)
for(int k=0;k<lsize[i-1]+1;k++)
weight[i][j][k]=(double)(rand())/(RAND_MAX/2) - 1;//32767

// initialize previous weights to 0 for first iteration
for(i=1;i<numl;i++)
for(int j=0;j<lsize[i];j++)
for(int k=0;k<lsize[i-1]+1;k++)
prevDwt[i][j][k]=(double)0.0;

// Note that the following variables are unused,
//
// delta[0]
// weight[0]
// prevDwt[0]

// I did this intentionaly to maintains consistancy in numbering the layers.
// Since for a net having n layers, input layer is refered to as 0th layer,
// first hidden layer as 1st layer and the nth layer as output layer. And
// first (0th) layer just stores the inputs hence there is no delta or weigth
// values corresponding to it.
}



CBackProp::~CBackProp()
{
// free out
for(int i=0;i<numl;i++)
delete[] out[i];
delete[] out;

// free delta
for(i=1;i<numl;i++)
delete[] delta[i];
delete[] delta;

// free weight
for(i=1;i<numl;i++)
for(int j=0;j<lsize[i];j++)
delete[] weight[i][j];
for(i=1;i<numl;i++)
delete[] weight[i];
delete[] weight;

// free prevDwt
for(i=1;i<numl;i++)
for(int j=0;j<lsize[i];j++)
delete[] prevDwt[i][j];
for(i=1;i<numl;i++)
delete[] prevDwt[i];
delete[] prevDwt;

// free layer info
delete[] lsize;
}

// sigmoid function
double CBackProp::sigmoid(double in)
{
return (double)(1/(1+exp(-in)));
}

// mean square error
double CBackProp::mse(double *tgt) const
{
double mse=0;
for(int i=0;i<lsize[numl-1];i++){
mse+=(tgt[i]-out[numl-1][i])*(tgt[i]-out[numl-1][i]);
}
return mse/2;
}


// returns i'th output of the net
double CBackProp::Out(int i) const
{
return out[numl-1][i];
}

// feed forward one set of input
void CBackProp::ffwd(double *in)
{
double sum;

// assign content to input layer
for(int i=0;i<lsize[0];i++)
out[0][i]=in[i]; // output_from_neuron(i,j) Jth neuron in Ith Layer

// assign output(activation) value
// to each neuron usng sigmoid func
for(i=1;i<numl;i++){ // For each layer
for(int j=0;j<lsize[i];j++){ // For each neuron in current layer
sum=0.0;
for(int k=0;k<lsize[i-1];k++){ // For input from each neuron in preceeding layer
sum+= out[i-1][k]*weight[i][j][k]; // Apply weight to inputs and add to sum
}
sum+=weight[i][j][lsize[i-1]]; // Apply bias
out[i][j]=sigmoid(sum); // Apply sigmoid function
}
}
}


// backpropogate errors from output
// layer uptill the first hidden layer
void CBackProp::bpgt(double *in,double *tgt)
{
double sum;

// update output values for each neuron
ffwd(in);

// find delta for output layer
for(int i=0;i<lsize[numl-1];i++){
delta[numl-1][i]=out[numl-1][i]*
(1-out[numl-1][i])*(tgt[i]-out[numl-1][i]);
}

// find delta for hidden layers
for(i=numl-2;i>0;i--){
for(int j=0;j<lsize[i];j++){
sum=0.0;
for(int k=0;k<lsize[i+1];k++){
sum+=delta[i+1][k]*weight[i+1][k][j];
}
delta[i][j]=out[i][j]*(1-out[i][j])*sum;
}
}

// apply momentum ( does nothing if alpha=0 )
for(i=1;i<numl;i++){
for(int j=0;j<lsize[i];j++){
for(int k=0;k<lsize[i-1];k++){
weight[i][j][k]+=alpha*prevDwt[i][j][k];
}
weight[i][j][lsize[i-1]]+=alpha*prevDwt[i][j][lsize[i-1]];
}
}

// adjust weights usng steepest descent
for(i=1;i<numl;i++){
for(int j=0;j<lsize[i];j++){
for(int k=0;k<lsize[i-1];k++){
prevDwt[i][j][k]=beta*delta[i][j]*out[i-1][k];
weight[i][j][k]+=prevDwt[i][j][k];
}
prevDwt[i][j][lsize[i-1]]=beta*delta[i][j];
weight[i][j][lsize[i-1]]+=prevDwt[i][j][lsize[i-1]];
}
}
}

[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3182
На: Нейросеть Виктора Царегородцева
Добавлено: 23 июн 19 14:38
Ой, какая прелесть
Опущенный мудила Зайцев (погнанный "красавицей") откопал где-то говнокод и приписывает его мне.
Более того, этот шизик думает (судя по тому, какой код сюда суёт), что я пишу консольки. Да, далёк мудила зайцев от реальности

Заявляю, что данный код мне не принадлежит и оценивается как говнокод.

Красавица, не пости сюда свою шизу - я и тут буду тебя опускать
[Ответ][Цитата]
гость
171.25.193.*
На: Нейросеть Виктора Царегородцева
+1
Добавлено: 23 июн 19 15:30
Цитата:
Автор: Victor G. Tsaregorodtsev
этот шизик думает (судя по тому, какой код сюда суёт), что я пишу консольки.
А что плохого в консольках? ИМХО GUI для юзеров, для гуманитариев, а трушные кодеры работают в консоли с командной строкой.
[Ответ][Цитата]
Кусаюсь
Сообщений: 950
На: Нейросеть Виктора Царегородцева
Добавлено: 23 июн 19 17:30
Для этого мозг иметь нужно и эго раздутое меньше чем на пол галактики.
[Ответ][Цитата]
Андрей Кучеменко
Сообщений: 37
На: Нейросеть Виктора Царегородцева
Добавлено: 24 июн 19 4:29
Да пофиг кто автор, вполне работающий код, есть пару странных ошибок(не инициализированы переменные счетчика цикла) а так всё вполне прилично и работоспособно. На месте VGT я бы не плевался так, особенно если самому показать нечего взамен.
[Ответ][Цитата]
Сергей Гаврилов
Сообщений: 144
На: Нейросеть Виктора Царегородцева
Добавлено: 25 июн 19 4:52
Цитата:
Автор: Андрей Кучеменко

вполне работающий код, есть пару странных ошибок(не инициализированы переменные счетчика цикла) а так всё вполне прилично и работоспособно.
Подтверждаю, сетка рабочая. Архитектурно это конечно мрак, но это решается за 10 минут.
[Ответ][Цитата]
гость
199.195.250.*
На: Нейросеть Виктора Царегородцева
Добавлено: 25 июн 19 13:12
Достаточно сложно разобраться в таком коде, тройные циклы это ахтунг, нельзя так программировать, человек не воспринимает более двух вложений, действует наугад, импровизирует, а это до добра не доводит, называется "программирование в расчете на стечение обстоятельств".
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3182
На: Нейросеть Виктора Царегородцева
Добавлено: 25 июн 19 14:01
Мудила Зайцев, хоть ты и пишешь каждый раз с нового айпи - тебя выдаёт твой лексикон.
Твоё нытьё про трудности и попаболь - это у тебя перманентно и навсегда:
Цитата:
Автор: гость
сложно... это до добра не доводит

Нравится, не нравится - терпи, Данила Зайцев моя красавица! (С)
Тебя все вокруг трахали, трахают и будут трахать. Но ты должен выдержать - с твоей-то тренированной задницей


ЗЫ. Забавно наблюдать, как народ в теме фиксируется на исследовании говнокода вместо реакции на отмеченный факт вранья. Да ещё и гонят, что я им что-то должен (видимо, такие же шизики, как и мудила зайцев).
[Ответ][Цитата]
гость
199.195.250.*
На: Нейросеть Виктора Царегородцева
Добавлено: 25 июн 19 16:38
Цитата:
Автор: Victor G. Tsaregorodtsev

Мудила Зайцев, хоть ты и пишешь каждый раз с нового айпи - тебя выдаёт твой лексикон.
Твоё нытьё про трудности и попаболь - это у тебя перманентно и навсегда:

Нравится, не нравится - терпи, Данила Зайцев моя красавица! (С)
Тебя все вокруг трахали, трахают и будут трахать. Но ты должен выдержать - с твоей-то тренированной задницей


ЗЫ. Забавно наблюдать, как народ в теме фиксируется на исследовании говнокода вместо реакции на отмеченный факт вранья. Да ещё и гонят, что я им что-то должен (видимо, такие же шизики, как и мудила зайцев).
У Вас истерика сэр, я никакой не "зайцев", никому ни врал, а код сложен для понимания, это факт. Такое называется "программирование в расчете на стечение обстоятельств".
[Ответ][Цитата]
Сергей Гаврилов
Сообщений: 144
На: Нейросеть Виктора Царегородцева
Добавлено: 26 июн 19 5:03
Цитата:
Автор: Victor G. Tsaregorodtsev
ЗЫ. Забавно наблюдать, как народ в теме фиксируется на исследовании говнокода вместо реакции на отмеченный факт вранья. Да ещё и гонят, что я им что-то должен (видимо, такие же шизики, как и мудила зайцев).
Это форум такой, людям тут меняют ориентацию, профессию и даже хоронят по несколько раз, обвинения же в том что написали вполне рабочий код MLP с бэкпропом, на самом деле должны быть очень лесными, в данном контексте
[Ответ][Цитата]
Дмитрий Пагода
Сообщений: 63
На: Нейросеть Виктора Царегородцева
Добавлено: 26 июн 19 6:41
Даю справку, код написан в 2006 индусом Tejpal Singh Chhabra https://www.codeproject.com/script/Articles/ViewDownloads.aspx?aid=13582 так что Виктор Царегородцев тут не причем, он мог разве что основывать свою сетку на этой, но автор точно не он, это также совпадает с его показаниями.

[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3182
На: Нейросеть Виктора Царегородцева
Добавлено: 27 июн 19 14:08
Цитата:
Автор: Дмитрий Пагода
он мог разве что основывать свою сетку на этой

О, ещё одного надо сдать в шизодурку
MLP я написал ещё в прошлом тысячелетии


Но я призываю народ активно продолжать - надо же повеселить мои домашние тапочки У моих тапочек интеллекта однозначно выходит больше, чем у многих посетителей гоготайки.
[Ответ][Цитата]
Дмитрий Пагода
Сообщений: 63
На: Нейросеть Виктора Царегородцева
Добавлено: 27 июн 19 16:24
Цитата:
Автор: Victor G. Tsaregorodtsev


О, ещё одного надо сдать в шизодурку
MLP я написал ещё в прошлом тысячелетии


Но я призываю народ активно продолжать - надо же повеселить мои домашние тапочки У моих тапочек интеллекта однозначно выходит больше, чем у многих посетителей гоготайки.
Вы держите себя в руках и выбирайте выражения. То что это не Ваша сетка давно всем понятно, это собственно особо мало кого волнует, а также когда и на основе чего Вы сделали свою, что совсем не факт, кода то никто не видел, могли стырить и выдать за своё, как последний подлец.
[Ответ][Цитата]
ёж
Сообщений: 54
На: Нейросеть Виктора Царегородцева
Добавлено: 28 июн 19 9:30
Цитата:
Автор: Victor G. Tsaregorodtsev

Мудила Зайцев, хоть ты и пишешь каждый раз с нового айпи - тебя выдаёт твой лексикон.
Твоё нытьё про трудности и попаболь - это у тебя перманентно и навсегда:

Нравится, не нравится - терпи, Данила Зайцев моя красавица! (С)
Тебя все вокруг трахали, трахают и будут трахать. Но ты должен выдержать - с твоей-то тренированной задницей


ЗЫ. Забавно наблюдать, как народ в теме фиксируется на исследовании говнокода вместо реакции на отмеченный факт вранья. Да ещё и гонят, что я им что-то должен (видимо, такие же шизики, как и мудила зайцев).

Данила Зайцев печально известная в узких кругах персона, сам кое что не лицеприятное о нём слышал, но не буду сплетни распространять, беспокойный он парень, возможно это следствие экспериментов с ИИ, а может с наркотиками.
Цитата:
Автор: Сергей Гаврилов

Это форум такой, людям тут меняют ориентацию, профессию и даже хоронят по несколько раз, обвинения же в том что написали вполне рабочий код MLP с бэкпропом, на самом деле должны быть очень лесными, в данном контексте
Да ну, представьте себя на месте VGT, что какая то гадина выдаёт говнокод за Ваше творчество. ИМХО это обидно будет.
[Ответ][Цитата]
гость
62.210.37.*
На: Нейросеть Виктора Царегородцева
Добавлено: 29 июн 19 4:05
Цитата:
Автор: ёж
какая то гадина выдаёт говнокод за Ваше творчество. ИМХО это обидно будет.
Не факт что сам VGT не пишет говнокод и троллит народ что это не его, эта тема наверняка его рук дело. Он уже не раз попадался на "черном пиаре"(если это применимо к задроту с Красноярска, подрабатывающего на рефератах и репетиторстве), все помнят как он поднял некро-тему про свой NeuroPro от имени анонима-трейдера, где расхваливал свой софт 98-го года. VGT очень подлый и коварный человек, как и любой с российской глубинки, таким нужно быть что бы выжить, там перманентные 90-е.


[Ответ][Цитата]
 Стр.1 (2): [1]  2След. > >>