Здравствуйте, CodeMonkey, Вы писали:

CM>Здравствуйте, sharpcoder, Вы писали:

S>> — большая и очень быстрая видео память, т.к. нейросетка должна вся в ней помещаться

CM>Vega VII — 16 Gb HBM2

Да может быть, но железом мы уже обеспечены под завязку.

S>>В итоге у дорогого сервака 4 слота для видюшки, и ставить туда более дешевые но в несколько раз менее производительные карты AMD не рентабельно, т.к. общая стоимость сервака снизится скажем на 30% а производительность на 70%.

CM>Понятно.

CM>Еще такой вопрос. FPGA используете или планируете использовать? Или слышали, что кто-то использует?

Не используем. Не слышали. О технологии читали, но не пробовали.
Мое мнение что FPGA будет востребовано во встраиваемых решениях, типа инференс непосредственно в камере наблюдения, или каком-то смарт датчике. Там где важен инференс на месте чтобы трафик rawdata не гонять, а ставить полноценный комп рядом с камерой не выгодно.

О том что FPGA может по мощности тягаться с мощными видюшками не слышал и пока не очень верю что сможет в ближайшие годы.

Я думаю, для рывка в области ИИ нужны другие архитектуры и решения, в которых искусственные нейроны не просто будут реализованы в железе, но и их устройство будет другим. Они всегда будут обучаться при каждом прохождении сигнала, они должны иметь память, работать автономно (как нейроны у животных от «нечего делать» могут общаться друг с другом), они должны при обучении менять свою активаторную функцию, должны быть общие воздействующие на работу нейронов сигналы (по типу дофаминов, эндорфинов, психоделиков) с помощью которых нейронная сеть должна подстраиваться под изменяющиеся условия реальности.
Исследователи во всем мире сейчас разрабатывают подобные идеи, результат я ожидаю лет через 15.