Ответы нейросети по сравнению с реальными данными в реальном (не-нормализованном) масштабе
Эксперимент 2 по прогнозированию временного ряда: скользящие средние
Сообщений 21 страница 34 из 34
Поделиться212006-09-25 02:18:40
- Администратор
- Откуда: Россия, Ростовская область
- Зарегистрирован: 2006-08-15
- Приглашений: 0
- Сообщений: 948
- Уважение: [+0/-0]
- Позитив: [+0/-0]
- Пол: Мужской
- Возраст: 45 [1979-03-22]
- Провел на форуме:
1 день 19 часов - Последний визит:
2012-01-20 10:09:24
Поделиться222006-09-25 02:33:25
- Администратор
- Откуда: Россия, Ростовская область
- Зарегистрирован: 2006-08-15
- Приглашений: 0
- Сообщений: 948
- Уважение: [+0/-0]
- Позитив: [+0/-0]
- Пол: Мужской
- Возраст: 45 [1979-03-22]
- Провел на форуме:
1 день 19 часов - Последний визит:
2012-01-20 10:09:24
Ну, а теперь - все по-настоящему!!!
Смотрим ответы описанной нейросети на реальных данных, которых не было в обучающем множестве (которые вообще намного позже (по времени) и которые физически хранятся в отдельном файле)... хм... (последнее - больше для себя написал: т.с., для отчистки совести, что, мол, обучаемая НС даже не "прикасалась" при обучении к этим данным)...
Итак, следующие посты - это иллюстрации реальных ответов НС на абсолютно неизвестных для нее данных.
Поделиться232006-09-25 02:39:04
- Администратор
- Откуда: Россия, Ростовская область
- Зарегистрирован: 2006-08-15
- Приглашений: 0
- Сообщений: 948
- Уважение: [+0/-0]
- Позитив: [+0/-0]
- Пол: Мужской
- Возраст: 45 [1979-03-22]
- Провел на форуме:
1 день 19 часов - Последний визит:
2012-01-20 10:09:24
Реальные ответы описанной НС (на неизвестных для нее данных)...
Поделиться242006-09-25 02:34:35
- Администратор
- Откуда: Россия, Ростовская область
- Зарегистрирован: 2006-08-15
- Приглашений: 0
- Сообщений: 948
- Уважение: [+0/-0]
- Позитив: [+0/-0]
- Пол: Мужской
- Возраст: 45 [1979-03-22]
- Провел на форуме:
1 день 19 часов - Последний визит:
2012-01-20 10:09:24
Реальные ответы описанной НС (на неизвестных для нее данных)
Поделиться252006-09-25 02:39:45
- Администратор
- Откуда: Россия, Ростовская область
- Зарегистрирован: 2006-08-15
- Приглашений: 0
- Сообщений: 948
- Уважение: [+0/-0]
- Позитив: [+0/-0]
- Пол: Мужской
- Возраст: 45 [1979-03-22]
- Провел на форуме:
1 день 19 часов - Последний визит:
2012-01-20 10:09:24
Реальные ответы описанной НС (на неизвестных для нее данных)
Поделиться262006-09-25 02:40:09
- Администратор
- Откуда: Россия, Ростовская область
- Зарегистрирован: 2006-08-15
- Приглашений: 0
- Сообщений: 948
- Уважение: [+0/-0]
- Позитив: [+0/-0]
- Пол: Мужской
- Возраст: 45 [1979-03-22]
- Провел на форуме:
1 день 19 часов - Последний визит:
2012-01-20 10:09:24
Реальные ответы описанной НС (на неизвестных для нее данных)
Поделиться272006-09-25 02:40:50
- Администратор
- Откуда: Россия, Ростовская область
- Зарегистрирован: 2006-08-15
- Приглашений: 0
- Сообщений: 948
- Уважение: [+0/-0]
- Позитив: [+0/-0]
- Пол: Мужской
- Возраст: 45 [1979-03-22]
- Провел на форуме:
1 день 19 часов - Последний визит:
2012-01-20 10:09:24
Реальные ответы описанной НС (на неизвестных для нее данных)
Поделиться282006-09-25 02:36:18
- Администратор
- Откуда: Россия, Ростовская область
- Зарегистрирован: 2006-08-15
- Приглашений: 0
- Сообщений: 948
- Уважение: [+0/-0]
- Позитив: [+0/-0]
- Пол: Мужской
- Возраст: 45 [1979-03-22]
- Провел на форуме:
1 день 19 часов - Последний визит:
2012-01-20 10:09:24
Реальные ответы описанной НС (на неизвестных для нее данных)
Поделиться292006-09-25 02:36:41
- Администратор
- Откуда: Россия, Ростовская область
- Зарегистрирован: 2006-08-15
- Приглашений: 0
- Сообщений: 948
- Уважение: [+0/-0]
- Позитив: [+0/-0]
- Пол: Мужской
- Возраст: 45 [1979-03-22]
- Провел на форуме:
1 день 19 часов - Последний визит:
2012-01-20 10:09:24
Реальные ответы описанной НС (на неизвестных для нее данных)
Поделиться302006-09-25 05:50:48
- Администратор
- Откуда: Россия, Ростовская область
- Зарегистрирован: 2006-08-15
- Приглашений: 0
- Сообщений: 948
- Уважение: [+0/-0]
- Позитив: [+0/-0]
- Пол: Мужской
- Возраст: 45 [1979-03-22]
- Провел на форуме:
1 день 19 часов - Последний визит:
2012-01-20 10:09:24
Весьма впечатляющие данные... но... только для случая, когда прогнозировать надо всего лишь один шаг вперед 
.
Что же происходит, если прогнозировать дальше (в будущее)... ? Я планирую поставить несколько субэкспериментов в рамках этой ветки. Забегая вперед, скажу, что первый из них уже поставлен, и результаты его неутешительные.
Впрочем, окончательное суждение я планирую вынести по результатам хотя бы двух-трех экспериментов (а если после двух-трех не будет все окончательно ясно с моей субъективной точки зрения - проведу еще несколько).
Итак, что же произошло во время первого эксперимента?...
Иллюстрирую:
Поделиться312006-09-25 06:04:14
- Администратор
- Откуда: Россия, Ростовская область
- Зарегистрирован: 2006-08-15
- Приглашений: 0
- Сообщений: 948
- Уважение: [+0/-0]
- Позитив: [+0/-0]
- Пол: Мужской
- Возраст: 45 [1979-03-22]
- Провел на форуме:
1 день 19 часов - Последний визит:
2012-01-20 10:09:24
Галочкой помечен "последний известный бар". Все, что дальше - уже предсказания НС (толстая, темно-бардовая линия). За то время, пока прогнозировал... (пока что - все приходится делать руками: это - крайне не удобно (почесал репу... подумал, как все-таки хорошо было бы иметь собственную прогу, эмулирующую НС) и занимает много времени, так что, пока я прогнозировал, уже стало во многом видно, что результаты не правильное)... однако, я не прекратил, и продолжал до тех пор, пока не напрогнозировал на этот день до самого вечера.
Ну, так... красная линия - тонкая - это то, что уже набежало (в реале)... пока я там прогнозировал.
Итак, что же там происходило... В общем виде - нет повести печальнее на свете, чем повесть о заклинившем "резете"... Зависли, короче, мы на старте.
Как и ожидалось, прогноз следующего шага был дан идеальный (все очень точно). На графике видно отличие первого шага прогноза от фактического значения, но исчисляется оно долями пункта. Если ограничиться точностью до пункта, - то все идеально точно...
Дальше же пошло хужее...
НС подумала, что нисходящий тренд, (который вошел в последние фактические данные) - затухающий. И мы начали колебаться около нулевых приращений в отрицательную сторону...
а порой даже срывались на положительные приращения (на графике видно, что кривая прогноза несколько растет в серединке).
Однако, так или иначе, (везение это, случайность или закономерность - по первому опыту сказать крайне сложно) - позже нейросеть поняла, что тренд, который начался - будет развиваться и расти!!
Впрочем, если НС учитывает макроэкономические данные, то... 
Ведь, ептыть, это и понятно: доллар-то под давлением... 
гы-гы... (я в это время, как раз выпускал очередную макроэкономическую новость о том, что на доллар негативно влияет замедление экономики США, которое, как считают многие аналитики, станет еще более очевидно после публикации сегодня вечером состояния вторичного рынка жилья в Америке, а также не придает радости долларовым быкам то, что на заседании Сената, возможно, будет принято решение ввести санкции против КИтая). А это должно привести к тому, что график фунт/доллар будет расти, а не падать (т.е. все больше долларов будут давать за один фунт: доллар падает, фунт - укрепляется).
Ну, на графике это не очень видно, но ближе к концу предсказательная линия начинает снижаться все быстрее и быстрее.... Видимо, НС решила, что макроэкономические данные - само собой, но ТА - прежде всего
Однако, последнее отрицательное приращение оказалось уже меньше, чем предпоследнее... Короче... очевидно, что этот опыт не удался...
Поделиться322006-09-25 06:49:54
- Администратор
- Откуда: Россия, Ростовская область
- Зарегистрирован: 2006-08-15
- Приглашений: 0
- Сообщений: 948
- Уважение: [+0/-0]
- Позитив: [+0/-0]
- Пол: Мужской
- Возраст: 45 [1979-03-22]
- Провел на форуме:
1 день 19 часов - Последний визит:
2012-01-20 10:09:24
Вот и второй результат подоспел... На сей раз, уже я не стал дожидаться очевидного подтверждения, что прогноз, который так точен для первого шага - совершенно не соответствует действительности, начиная с шага следующего.
Впрочем, я примерно такого и ожидал... (и об этом были мои размышления в ветке "на грани с философией")... Что нам дает знание следующего шага такой "массивно" скользящей средней (с периодом 21) - да вот, как и предполагалось, - практически, ничего...
Привожу картинку, которую описывать уже не буду... И так все понятно (все по аналогии).
Скажу только, что, ожидания того, что НС будет просто слегка продлевать последние известные данные - подтвердились в рамках данного эксперимента. Так вот... на этом рисунке, где прогнозирование начинается со следующего бара (по отношению к предыдущему рисунку), - нейросети уже известно, что нисходящий тренд идет достаточно бойко уже. Ну, вот она и демонстрирует свои способности к апроксимации гы-гы... (и полную неспособность к пониманию того, что рынок живой и подвижный, и что если так было еще совсем-таки недавно, - то это не означет, что так теперь будет всегда...)
Впрочем, добавлю еще и то, что, возможно, все-таки стоило бы попрогнозировать подальше... а ну, как там дальше какие-то изменения будут... Но, поскольку пока что при моем инструментарии, это больше напоминает закат солнца вручную... то терпения уже не хватило... да и смена моя через 12 минут кончится...
Рисунок, собственно:
Поделиться332006-09-25 20:01:27
- Администратор
- Откуда: Ярославль
- Зарегистрирован: 2006-08-15
- Приглашений: 0
- Сообщений: 375
- Уважение: [+0/-0]
- Позитив: [+0/-0]
- Провел на форуме:
19 часов 38 минут - Последний визит:
2007-07-18 08:14:16
Как-нибудь в будущем изложу свои мысли по общей методологии прогнозирования. Поэтому здесь пока буду комментировать только технические детали. Несколько удивила топология. Если я правильно всё понял: входной слой – 8 нейронов, 4 скрытых слоя и 1 выходной нейрон? Такая топология излишня. Сетка с 1 скрытым слоем способна аппроксимировать всё, что угодно, если в нем достаточно нейронов.
В качестве ошибки лучше всего учитывать корреляцию прогнозов сети с реальными данными (обучающими и тестовыми) – в NS это есть. Про корреляцию напишу отдельно, поскольку эта тема очень интересная и практически важная…
Кроме того, лучше исп не on-line, а batch («пачечное») обучение.
То, что НС может предсказать на один шаг такую тяжелую среднюю не оч. удивительно. Как правило будущее продолжает текущую тенденцию (для СС с бол периодом, конечно). Интересно сможет ли она спрогнозировать разворот тренда. В принципе должна...
Поделиться342006-09-26 21:06:40
- Администратор
- Откуда: Россия, Ростовская область
- Зарегистрирован: 2006-08-15
- Приглашений: 0
- Сообщений: 948
- Уважение: [+0/-0]
- Позитив: [+0/-0]
- Пол: Мужской
- Возраст: 45 [1979-03-22]
- Провел на форуме:
1 день 19 часов - Последний визит:
2012-01-20 10:09:24
Как-нибудь в будущем изложу свои мысли по общей методологии прогнозирования. Поэтому здесь пока буду комментировать только технические детали. Несколько удивила топология. Если я правильно всё понял: входной слой – 8 нейронов, 4 скрытых слоя и 1 выходной нейрон? Такая топология излишня. Сетка с 1 скрытым слоем способна аппроксимировать всё, что угодно, если в нем достаточно нейронов.
Ну, где-то на каких-то сайтах я читал, что топология нейросети - дело во многом творческое, и что при построении ее следует руководствоваться такими принципами:
* количество скрытых слоев - не более 5 (ибо, как правило, для решения большинства задач хватает одного-двух скрытых слоев...
* общее количество связей (которое, лично я вычисляю, суммируя произвдения всех нейронов одного слоя на все нейроны следующего (послойно)... уж не знаю, правильно ли это... (теперь уже ни в чем не уверен, и удивляюсь, как вообще у меня что-то работало гы-гы)...ну, та вот... общее количество связей в НС должно быть существенно меньше, чем количество примеров в обучающей выборке (лучше, - если на порядок меньше)...
учту твои пожелания. Надеюсь, что это позволит моим сетям обучаться намного быстрее... (для меня это очень критично). Впрочем, я и сам пришел к выводу, что бОльшее количество скрытых слоев практически не дает никакого ощутимого преимущества против аналогичной сети с меньшим количеством скрытых слоев!
В качестве ошибки лучше всего учитывать корреляцию прогнозов сети с реальными данными (обучающими и тестовыми) – в NS это есть. Про корреляцию напишу отдельно, поскольку эта тема очень интересная и практически важная…
Ну, я ведь пока что пользуюсь этой приблудой - нейропакетом для экселя... так что уж что есть - то и привожу... корреляции - никакой гы-гы! Зато появилось мало-мало опыта... и все это я изложу в ветке "Эксперимент 3"... А по поводу корреляции - жду твоих постов!
Кроме того, лучше исп не on-line, а batch («пачечное») обучение.
Понял! Попробую! Просто, на сколько я понимаю, в Дедукторе использован "он-лайн" метод обучения (а это - первое, что я "пощупал" руками)... так что вот... по аналогии и делал. Поэкспериментирую с "пакетной" обработкой.
То, что НС может предсказать на один шаг такую тяжелую среднюю не оч. удивительно. Как правило будущее продолжает текущую тенденцию (для СС с бол периодом, конечно). Интересно сможет ли она спрогнозировать разворот тренда. В принципе должна...
Нет... во всяком случае, в рамках данного эксперимента - нет! Она просто продолжает... и продолжает... и продолжает ту динамику, на которой остановились последние известные фактические данные (я надеялся, что из рисунков это будет видно)...
Эксперимент сей можно считать давшим отрицательные результаты, но подбавившим мне опыта и новых идей.