Здравствуйте, Sinclair, Вы писали:

S>Здравствуйте, DemonsInside, Вы писали:
DI>>Отлично поставленные вопросы!
DI>>Меня волнуют другие вопросы, например, каким образом можно измерить мощность интеллекта. Есть ли предел у этого значения?
S>Ну вот на мой взгляд, основная работа разума — это pattern recognition. В широком смысле — то есть охотник выделяет зебру на фоне тростника, а математик находит применение теоремы из одной отрасли науки к совершенно, на первый взгляд, к другой отрасли.

Чем больше я работаю с данными тем больше осознаю первичность данных, и методов их подготовки, а не алгоритмов pattern recognition.
Есть ощущение, что сам pattern recognition у человека может быть вполне себе примитивный. На уровне перцептронов или простейших нейро сетей. А вот умение подбирать и преобразовывать входные данные и менять "loss function" в зависимости от данных — у человека не высоте.

В том же machine learning на подготовку данных и фичь\признаков уходит заметно больше времени и сил чем на обучение модели. Разница между алгоритмами тренировки опять таки не такая уж большая.

Для меня нейронные сети интересны не столько как мощные алгоритмы обучения (обычно бустинг-деревья их легко уделывают) сколько как инструмент способный объединить стадии подготовки данных и тренеровки модели (pattern recognition). Например, хорошо известный https://en.wikipedia.org/wiki/Autoencoder который делает PCA по сути, т.е. готовит данные. Один мой знакомый кандидатскую на эту тему защищал. Говорит, что PCA часто можно заметить в нейро сетях если присмотреться. На работе, в соседней группе на основе диип-лернинга выделяли кросс-фичи (скоро опубликуют статью), которые все такие к подготовке данных имеют большее отношение чем к тренировке модели.

Я это все к тому, что фокусироваться надо на подготовке данных, их представлении, а не алгоритмах. Способности мышления человека тоже надо изучать со стороны данных. Если же мы осознаем как данные представлены в мозгу человек, то сможем применить к ним более мощные компьютерные алгоритмы.