Здравствуйте, WolfHound, Вы писали:

WH>ИИ должен либо давать верный ответ, либо честное "я не знаю".

Ответ "я не знаю", действительно очень ценный. Была некая игра у Галкина с ответами на вопросы. И там была "помощь зала". Если бы в зале отвечали только те, кто уверен в ответе, то ответы были бы полезные. А когда усредняется по маленькому количеству знающих и большому количеству незнающих, получается мусор.

Теоретически, нейросетей могло бы быть много, обученных(или устроенных) по-разному (у всех разные специализации, преимущества-недостатки). Если бы при объединении ответов учитывалась степень надежности ответов, то это повысило бы качество.

Более серьезный AI, скорее всего будет не монолитный, а состоять из подсистем и, возможно, с иерархической организацией.
С обменом информацией между подсистемами либо на человеческом языке(английском), либо на специальном. В том числе возможность для AI погуглить вопросы в инете (если более удобной базы знаний не создадут), воспользоваться Wolfram Mathematica, доступ к компилятору (чтобы написать программу и изучить результаты ее выполнения).

Здравствуйте, WolfHound, Вы писали:

WH>ИИ должен либо давать верный ответ, либо честное "я не знаю".

Ответ "я не знаю", действительно очень ценный. Была некая игра у Галкина с ответами на вопросы. И там была "помощь зала". Если бы в зале отвечали только те, кто уверен в ответе, то ответы были бы полезные. А когда усредняется по маленькому количеству знающих и большому количеству незнающих, получается мусор.

Теоретически, нейросетей могло бы быть много, обученных(или устроенных) по-разному (у всех разные специализации, преимущества-недостатки). Если бы при объединении ответов учитывалась степень надежности ответов, то это повысило бы качество.

Более серьезный AI, скорее всего будет не монолитный, а состоять из подсистем и, возможно, с иерархической организацией.
С обменом информацией между подсистемами либо на человеческом языке(английском), либо на специальном. В том числе возможность для AI погуглить вопросы в инете (если более удобной базы знаний не создадут), воспользоваться Wolfram Mathematica, доступ к компилятору (чтобы написать программу и изучить результаты ее выполнения).

В некотором смысле, AI играющий в шахматы и Go уже иерархический с подсистемами. Верхний уровень алгоритмический, не позволит выбрать запрещенный ход, организует перебор ходов наперед и отправляет подзадачи в AI, который занимается только эвристиками, оценками качества.