Здравствуйте, SomeOne_TT, Вы писали:
SO_>Здравствуйте, Khimik, Вы писали:
K>>Итого получится столбец из примерно 30 цифр. Далее этот столбец прогоняется через нейросеть, и выдаётся итоговый результат. K>>Поскольку нейросеть будет небольшая, для её оптимизации, возможно, даже не придётся применять градиентный спуск, а хватит банального перебора.
SO_>Обучение нейросети перебором? Нет.
Вот этот момент мне непонятен.
Я вроде понимаю, что для свёрточных нейросетей нужен именно градиентный спуск. Но в моём названном примере я что-то не уверен, что градиентный спуск вообще тут может что-то дать. Здесь ведь на вход НС подаётся набор дескрипторов, и буквы или цифры должны определяться по конкретному сочетанию этих дескрипторов.
Ну вот как отличить 6 от 9, напримеп: у обоих знаков есть одна полость и несколько изогнутых линий, но центр тяжести по оси Y для шестерки ниже, чем для девятки. Т.е. тут почти бинарная логика:
одна полость, несколько линий, центр тяжести внизу — это 6
одна полость, несколько линий, центр тяжести вверху — это 9.
Это как у Платона, который назвал человека двуногим существом без перьев, а Диоген ощипал петуха и заявил, что он точно соответствует этому определению, после чего Платон внес уточнение, добавив, что человек — это двуногое существо без перьев и с плоскими ногтями.
Когда речь о какой-то такой бинарной логике, я не вижу как может помочь градиентный спуск. Тут надо именно перебирать все варианты.
"Ты должен сделать добро из зла, потому что его больше не из чего сделать." Р.П. Уоррен