Shmj:

S>Вот сейчас LLM-ки последние научились как бы рассуждать, перебирать варианты. И прямо пишут в логе ход мыслей так сказать. Очень похоже на то как учителя учат думать школьников, рассуждать вслух.

S>И я начал обращать внимание — совпадает ли это с тем что происходит в голове человека или же нет.

S>Отчасти да, есть такие процессы. Иногда даже варианты нужно выписать на листочке и все сводится к выбору правильного варианта, отбрасыванию не правильных.

S>Но! Вот что еще заметил. Есть некая нерешенная задача, которую пока не ясно как решать. Пошел спать с этим. Потом лежу лежу — и само без моего участия — бах — и приходит решение. Без обдумывания, без перебора — просто готовое. Как вспышка, как просто случайно возникшая идея. И, получается, не было этого процесса обдумывания а как-то само решается
Тоже самое обдумывание, но "в фоновом режиме".

Я думаю, есть символьные вычисления, на которых возможно построить объяснения. А есть вычисления на более низком нейронном уровне — там только "озарение", объяснить трудно, если сеть этому не обучалась..


S>Наблюдали ли вы за этим? Как у вас?
Ну да. Долго обдумываешь тему — потом приходит озарение. Так это и работает.

Примеров озарения в литературе полно. Взять например, как Витя Малеев решал задачу для младшей сестры...