mgu>Мы ставим 10 касс и одного человека, который за ними следит. Это уже произошло. Такой же сценарий будет и в других областях. Вместо отдела программистов посадим одного.
[q]
А эскаватор заменяет 10 земпекопов с лопатами. Есть области, где машина эффективнее человека, есть — где наоборот.
mgu>[q]— Уже случилась автоматизация программирования, но нет адаптации и внедрения. Будет этот процесс в программировании везде и всюду. Каста программистов перестанет быть таковой. Это будет большим шоком для них, потому что программисты привыкли, что они самые умные и высокооплачиваемые. Возможно, они повторят в России судьбу ученых или учителей. Это будет долгий процесс, но начнется. Сейчас на Западе идут увольнения программистов, которые не принимают решения, а до России еще не дошло.
Вот этот вот код, который пишет ИИ вместо человека — может его и вовсе не стоило бы писать?
P.S. Вообще, если посмотреть на "программирование на промптах" как на программирование на очень высокоуровневом языке, при использовании которого человек, фактически, описывает архитектуру, а машина "додумывает" детали — может в эту сторону и стоит развиваться?
Но это не замена человека машиной, это переход от условного ассемблера на условный язык высокого уровня.
M>Я тоже пробовал. Если применять как задумано, когда архитектор с аналитиком совместно рисуют диаграммы, а потом из этих диаграмм генерируются стабы и отдаются на имплементацию кодеру, то получается довольно эффективно.
Это называется "friction by design", и совершенно неважно, каким именно образом создается оный friction.
M>А какую проблему, на твой взгляд, нужно было решать? Программисты в массе даже сейчас не умеют в архитектуру, а тогда и подавно не умели.
Какую проблему — зависело от конкретной конторы. Во времена rational rose (для меня это был примерно 2003-2005) в большинстве контор не умели даже банальный source control, не говоря уже про tests и прочие CI. Внедрение этих "прорывных технологий" и нужно было решать. А не писать код диаграммами.
M>Rational Rose в свое время изумительно работал. Что мешало его применять?
А вы пробовали внедрять все эти инструменты от Rational? Я вот пробовал. И Rose, и даже (свят-свят) ClearCase. Как вспомню, так вздрогну. И ведь не то чтоб идеи плохие были, или продукты.
Просто решали они совсем не ту задачу, которую нужно было.
Мы ставим 10 касс и одного человека, который за ними следит. Это уже произошло. Такой же сценарий будет и в других областях. Вместо отдела программистов посадим одного.
— Хорошо, любопытно получается. А какой главный тренд в ИИ на 2026 год, если не брать роботов?
— Уже случилась автоматизация программирования, но нет адаптации и внедрения. Будет этот процесс в программировании везде и всюду. Каста программистов перестанет быть таковой. Это будет большим шоком для них, потому что программисты привыкли, что они самые умные и высокооплачиваемые. Возможно, они повторят в России судьбу ученых или учителей. Это будет долгий процесс, но начнется. Сейчас на Западе идут увольнения программистов, которые не принимают решения, а до России еще не дошло.
— Речь о джунах и прочих начинающих программистах?
— Нет, это не джуны. Много людей в программировании занимаются вещами, которые можно автоматизировать. Человек может всю жизнь работать в компании, но делает работу, которую легко автоматизировать. Его заменят.
Тут, конечно, кто-нибудь гордо заявит, что уже нашёл свою нишу -- чистка отхожих мест в репозитории, гле наговнокодил ИИ. Разочарую: вы готовите стажёра себе на замену.
Пока во всей этой вакханалии я не понимаю, на какие шиши безработные "кожаные мешки" будут покупать произведённую роботами продукцию.
Здравствуйте, mrTwister, Вы писали:
T>2) LLM могут генерировать код для решения задач, которые уже были многократно решены ранее
Это уже далеко не так, серьезные LLM уже могут генерировать код по описанию в статье. То есть даешь на вход статью, описывающую алгоритм/метод и просьбу что-то в соответствии реализовать и оно таки пишет.
T>3) Чем больше будет появляться кода, сгенерированного LLM, тем хуже датасет для обучения следующих LLM. В определенный момент окажется, что LLM, натренированная по актуальным данным работает хуже, чем прошлая версия LLM. Есть признаки того, что это уже настало.
Современная LLM — уже далеко не чисто продукт тренировки на датасете, скорее даже где-то малая часть, потому что после тренировки на датасете они проходят обучение с подкреплением по разным изощренным сценариям и прочие настройки и подстройки. AlfaGo еще 10 лет назад в 2016-м выиграла у чемпиона игры в Го вовсе не за счет датасета.
M>>Современная LLM — уже далеко не чисто продукт тренировки на датасете, скорее даже где-то малая часть, потому что после тренировки на датасете они проходят обучение с подкреплением по разным изощренным сценариям и прочие настройки и подстройки. AlfaGo еще 10 лет назад в 2016-м выиграла у чемпиона игры в Го вовсе не за счет датасета.
T>AlfaGo не имеет ничего общего с современными LLM. После обучения для LLM делают скорее файн-тюнинг, в результате которого новые знания и умения не появляются. Знания и умения берутся только из обучающего датасета.
Я влезаю напомнить про разницу между AlphaGo и AlphaZero. AlphaGo обучалась на играх людей, после чего играла сама с собой, и разработала стратегии лучше чем те, на которых обучалась. Она выиграла у человеков.
AlphaZero обучалась вообще с нуля, и обыграла AlphaGo.
Современные общедоступные LLM ближе к AlphaGo — они обучаются на человечьих датасетах. И они пытаются шаг за шагом превратиться в AlphaZero. В тех утечках, которые обсуждаются сейчас, и которые выкатят в 2026-м, после начального обучения на датасете, идёт состязательное обучение. Нейросеть-решала читает задачу и пишет решение, а нейросеть-критик решение оценивает (в том числе пишет тесты, которые решение ломают). И обе сети обучаются и растут параллельно. Оно уже создаёт куски кода (пока небольшие), лучшие чем всё человеческое. И, что для контор с гигантскими датацентрами важнее всего, у такого процесса пока не нашли точки выхода на плато.
Здравствуйте, landerhigh, Вы писали:
L>К примеру, youtube — это простая система или сложная?
Система примитивная и уже написанная в 2006-м несколькими "энтузиастами". Сейчас над ней трудятся сотни отборных дебилов, способных с закрытыми глазами сбалансировать красно-чёрные деревья, то только сейчас разродившиеся древовидными комментариями. А уж правильно их подсчитать после цензуры -- миссия для них невыполнимая.
Но есть м сложности. Аппаратное масштабирование -- это про финансы. А что касается слежки за пользователями и подсовывания рекламы подгузников за год до наступления беременности -- тут Ютубу нет равных.
Здравствуйте, mgu, Вы писали:
mgu>Пока во всей этой вакханалии я не понимаю, на какие шиши безработные "кожаные мешки" будут покупать произведённую роботами продукцию.
Все, как зашоренные технари, ринулись обсуждать технологические достижения в области методов тренировки LLM, но что-то не вижу, чтобы обсуждали экономическую модель этого светлого (или тёмного) ИИ-будущего. А между тем, это же самое главное. Плюс цивилизационно-культурные последствия.
С экономической моделью всё просто. Та модель, которая привела к развитию экономики, техники и в частности LLM как раз и противоречит фундаментальным принципам, на которых основаны LLM.
LLM учится на датасетах, составленных людьми. И никакие "тандемы", "LLM-критики" и прочие маркетинговые баззворды не изменят этого факта. Всё это лишь наукообразные фасады, за которыми скрывается лишь простое "мы научили LLM более эффективно работать с датасетом. Спешите инвестировать в наш стартап!". Что ещё можно сделать? Дать LLM кучу компов, объединённых сетью, с кучей суперкомпов, с кучей GPGPU, чтобы она могла на ходу ставить эксперименты и корректировать свои ответы экспериментально.
Что мы получим? Гигантскую систему, жрущую гораздо больше энергии в единицу времени, чем группа сапиенсов, которые решат задачу, да, не идеально, да, дольше, но это будет работать. Далее, потенциальные датасеты — это проприетарный код корпораций. Т.е. максимум, что LLM сможет достичь — переливать из пустого в порожнее из того, что есть в опенсорсе и того, что есть в отдельно взятой корпе ("социализм в отдельно взятой стране"
И эффективнее они будут просто потому что синапсы с нейронами перестраиваются более энергоэффективно, чем программы в полупроводниковом компе. Вернее, в data-driven подходе, программы вообще не перестраиваются сами.
ИИ может решить очень конкретную и очень сложную оптимизационную задачу, которую люди будут решать тысячелетиями, но человеческий интеллект не про это. Человеческий интеллект — это целесообразная адаптация на небольшое изменение среды во взаимодействие с другими сапиенсами. Здесь требуется на небольшую дельту-т изменений среды произвести небольшое изменение дельта-игрек в мозгу. И сообщить что-то важное другим членам коллектива. Надо ли говорить, что LLM тут в заведомом проигрыше, хотя бы потому, что письменные язык — это всего лишь форма манифестации человеческого мышления, и вся ИИ машинерия, все эти жрущие дохрена энергии тренировочные компы всего лишь побочный эффект деятельности человеческого мозга.
Посмотрите на пример шахмат. Вот уже любой смартфон обыграет любого Магнуса Карлсена, даже не особо нагреваясь (а когда-то, когда Каспаров проигрывал гигантскому супер-компу, казалось, что вот-вот машины уничтожат шахматы как человеческую игру). Прошло более 20 лет, и что мы видим? Люди перестали играть в шахматы? Нет. И коммерция из шахмат не исчезает. Профессиональные шахматисты, начиная с определённого уровня, обеспечивают себя за счёт шахмат, за счёт игры с другими людьми или обучения других людей.
Цивилизационно-культурные последствия будут такие, что если верхнее руководство будет через колено ломать всю экономику потребления, заменяя всех и вся ИИ, то просто мы прийдём к нео-средневековью. Будут монархи, и будет каста учёных и инженеров, генерящих новое знание. У них будут в руках все суперкомпы и датасеты мира, и по началу они смогут сами решать общественные задачи. И если они захотят, они смогут заставить половину земного шара крутить педали, чтобы выработать энергию для работы своих датацентров.
Но не долго.
Поскольку средний класс исчезнет, а кругом будут холопы разного уровня приближённости к элите, но все малограмотные, высшие касты просто не смогут банально обслуживать и развивать свою ИИ-машинерию, и всё вернётся обратно, опять начнут ценить человеческий разум, хреновый, но адекватный среде.
Здравствуйте, Miroff, Вы писали:
M>Rational Rose в свое время изумительно работал. Что мешало его применять?
То, что он являлся неправильным решением несуществующей проблемы.
M>С ИИ будет то же самое. Недостаточный уровень автоматизации обусловлен социальными причинами, а не экономикой. Кожаным мешкам ничего не грозит
Доцент просто троллит журналиста:
Попросите у нейросети составить план покупок в магазине. Он изменит покупки, которые делали раньше. Можно загрузить в него каталог супермаркета, а он сделает список еды для здорового питания. Еда просто становится правильной — начинаешь худеть. Никакой диеты. Ешь то, что есть дома. Однако вредной еды больше нет, потому что ее не покупаешь. Это такой личный совет.
mgu>— Уже случилась автоматизация программирования, но нет адаптации и внедрения. Будет этот процесс в программировании везде и всюду. Каста программистов перестанет быть таковой. Это будет большим шоком для них, потому что программисты привыкли, что они самые умные и высокооплачиваемые. Возможно, они повторят в России судьбу ученых или учителей. Это будет долгий процесс, но начнется.
В, например, 2000 году абсолютно такими же словами рекламировали, ну, продукты Rational, например.
mgu>
Сейчас на Западе идут увольнения программистов, которые не принимают решения, а до России еще не дошло.
А кто такие "програмисты, которые не принимают решения"?
Ой:
Попросите у нейросети составить план покупок в магазине. Он изменит покупки, которые делали раньше. Можно загрузить в него каталог супермаркета, а он сделает список еды для здорового питания. Еда просто становится правильной — начинаешь худеть. Никакой диеты. Ешь то, что есть дома. Однако вредной еды больше нет, потому что ее не покупаешь. Это такой личный совет.
Здравствуйте, mgu, Вы писали:
mgu>Возможно, они повторят в России судьбу ученых или учителей.
Вообще-то и те и другие ой как нужны. Там просто бизнес-модели другие. Ученые и учителя не приносят деньги непосредственно. А программисты — приносят. Так что вообще ничего общего
Здравствуйте, landerhigh, Вы писали:
L>В, например, 2000 году абсолютно такими же словами рекламировали, ну, продукты Rational, например.
Вот да, существует огромное количество вещей, которые можно было автоматизировать ещё 20 лет назад, но вот что-то нет. Те же розничные продажи, в каждой конторе сидит отдел продаж, хотя казалось бы, высунь на сайт прайс с остатками и положи рядом форму заказа. Ладно бы продажники оценивали клиента и предлагали индивидуальную цену, так ведь нет, они тупо в тот же прайс смотрят.
Rational Rose в свое время изумительно работал. Что мешало его применять?
С ИИ будет то же самое. Недостаточный уровень автоматизации обусловлен социальными причинами, а не экономикой. Кожаным мешкам ничего не грозит
LLM обучены на массе существующиего кода. Из этого следует несколько выводов:
1) LLM не могут генерировать код уровнем выше среднего, так как они обучены на среднем коде (по определению).
2) LLM могут генерировать код для решения задач, которые уже были многократно решены ранее
3) Чем больше будет появляться кода, сгенерированного LLM, тем хуже датасет для обучения следующих LLM. В определенный момент окажется, что LLM, натренированная по актуальным данным работает хуже, чем прошлая версия LLM. Есть признаки того, что это уже настало.
Здравствуйте, Nuzhny, Вы писали:
L>>А кто такие "програмисты, которые не принимают решения"? N>В Люксофте были целые отделы таких. Им сваливали код, баги, надо было проверить, позапускать, что-то подправить по мелочи. То есть у этих людей не было проекта, не было выбора что делать. Прилетает из Дойче банка таска: такая-то функция не проходит вот этот тест, исправь. Он впервые видит код, разбирается, исправляет и больше никогда его в жизни может и не увидеть. Вот и вся работа.
С одной стороны все так, с другой стороны все это надо делать быстро. Многое в программирование превратилось в рутину.
N>Ещё видел, как интегрируют новые протоколы или форматы. У системы есть свой API и человек, который его знает, прикручивает протоколы/форматы для разных клиентов/расширений. Он не занимается архитектурой, понятия не имеет, как оно внутри работает — только внешне. И годами может писать обёртки и конвертеры.
Я дума, что понимание имеется, но не всей системы. Вся система может быть слишком большой для одного человека. Та же ОС или промышленная СУБД
какая-нибудь. Есть люди, которые живут в каком-то коде и за это получают деньги.
N>Видел отдел, который занимался исключительно разбором логов и дампов от ошибок в эмуляторе видеокарты.
Едва ли только разбором логов. Но с другой стороны для какой-нибудь nvidia это может быть критически важной задачей. Почему нет?
N>Короче, есть в профессии рутина, которую можно забрать у людей. Другой вопрос, насколько она массовая. И часто такую рутину или аутсорсят или отдают тем у кого нет способностей/желания заниматься более сложными вещами. N>Если нейронки заберут именно рутину и только её, то ничего страшного не произойдет.
Все так, просто ту же рутину надо тоже проверять, особенно после нейронок.
M>Задумано разработчиком инструмента, очевидно. Задумано для того чтобы упросить проектирование очень сложных систем. M>В том проекте, где я работал, одних экранных форм было 1.5 тысячи, а классов порядка 10 тысяч и все это обеспечивала команда всего человек в 15 не считая контракторов.
"Экранные формы" и "классов порядка 10 тысяч" наводят меня на мысль, что речь идет не о действительно сложной системе, а монолитном десктоп приложении. В которых из этих полторы тысяч экранных форм примерно все либо не были востребованы пользователями, либо заставляли пользователей дрочить мышкой, чтобы заставить вашу суперсложную систему сделать то, что она должна была делать автоматически. Классический опердень с окошками классса "отчет сформирован" с одной кнопкой "ок".
Короче, сложность тут искусственная. Которая возникла в том числе вследствие проектирования "сверху вниз" с использованием "высокоуровневых инструментов".
M>Современный проект с аджайлом аналогичного объема будет занимать порядка 100 микросервисов и требовать команды в полтысчи человек.
А может, и не будет.
M>Естественно, кодер может написать и стаб класса и сам класс и даже тесты на класс. А вот чего он не может это увязать свой класс с остальной системой ничего не поломав.
А может, и может.
M>В результате сейчас приходится со всех сторон обкладываться интеграционными тестами,
Так и запишем — Rational заменяет интеграционные тесты.
Самому-то не смешно?
M>потому что высокоуровневыми инструментами индустрия пользоваться совершенно разучилась.
Здравствуйте, landerhigh, Вы писали:
L>А кто такие "програмисты, которые не принимают решения"?
В Люксофте были целые отделы таких. Им сваливали код, баги, надо было проверить, позапускать, что-то подправить по мелочи. То есть у этих людей не было проекта, не было выбора что делать. Прилетает из Дойче банка таска: такая-то функция не проходит вот этот тест, исправь. Он впервые видит код, разбирается, исправляет и больше никогда его в жизни может и не увидеть. Вот и вся работа.
Ещё видел, как интегрируют новые протоколы или форматы. У системы есть свой API и человек, который его знает, прикручивает протоколы/форматы для разных клиентов/расширений. Он не занимается архитектурой, понятия не имеет, как оно внутри работает — только внешне. И годами может писать обёртки и конвертеры.
Видел отдел, который занимался исключительно разбором логов и дампов от ошибок в эмуляторе видеокарты.
Короче, есть в профессии рутина, которую можно забрать у людей. Другой вопрос, насколько она массовая. И часто такую рутину или аутсорсят или отдают тем у кого нет способностей/желания заниматься более сложными вещами.
Если нейронки заберут именно рутину и только её, то ничего страшного не произойдет.
Здравствуйте, SkyDance, Вы писали:
M>>Rational Rose в свое время изумительно работал. Что мешало его применять?
SD>А вы пробовали внедрять все эти инструменты от Rational? Я вот пробовал. И Rose, и даже (свят-свят) ClearCase. Как вспомню, так вздрогну. И ведь не то чтоб идеи плохие были, или продукты.
Я тоже пробовал. Если применять как задумано, когда архитектор с аналитиком совместно рисуют диаграммы, а потом из этих диаграмм генерируются стабы и отдаются на имплементацию кодеру, то получается довольно эффективно. Проблемы в внедрением случаются когда кодер считает себя умным и вместо того чтобы кодировать что сказано лезет в архитектуру. В результате диаграммы быстро перестают отражать реальность. Но я как-то работал в команде, где было физически запрещено менять архитектуру в коде, только через диаграммы и кодогенерацию. И, в общем, это даже работало не смотря на то, что к моему приходу эту технологию уже лет 10 забили развивать и от нее остались ER диаграммы. В любом случае внедрение это социальная проблема, а не техническая. Сейчас с появлением ИИ агентов мы движемся в том же направлении, только вместо красивого многомерного UML у нас теперь одномерный текст.
SD>Просто решали они совсем не ту задачу, которую нужно было.
А какую проблему, на твой взгляд, нужно было решать? Программисты в массе даже сейчас не умеют в архитектуру, а тогда и подавно не умели.
Здравствуйте, Nuzhny, Вы писали:
N>Вообще, будет ли так, что программа — это промт + граничные условия, а тело программы на выбранном ЯП нейроннка каждый раз переписывает заново.
ЕМНИП, пару лет назад на YouTube один бородадый болтун предсказывал именно такой итог: мол, немногие оставшиеся программисты будущего будут писать не код на языках программирования, а промпты для ИИ-шек. Собственно, эти самые промпты и должны быть итогом работы программистов в том светлом будущем, которое нам пророчат.
Здравствуйте, mrTwister, Вы писали:
T>При условии, что LLM "знает", как преобразовывать инструкции из статьи в код. Твой пример скорее идентичен преобразованию программы с одного языка программирования в другой, то что на входе псевдокод с текстовым описанием сути не меняет. Это LLM конечно умеют. А вот такую статью с новым алгоритмом она уже придумать не сможет (но сможет скомпоновать несколько существующих алгоритмов).
Сейчас идут опыты с тем, чтобы LLM смогли решать ранее нерешенные задачи. Успехи есть, хотя пока и не впечатляющие.
T>AlfaGo не имеет ничего общего с современными LLM. После обучения для LLM делают скорее файн-тюнинг, в результате которого новые знания и умения не появляются. Знания и умения берутся только из обучающего датасета.
Я знаю, что архитектурно LLM и AlfaGo имеют мало общего (но кстати что-то имеют), я про сам подход, в том числе опять же есть опыты с агентским самообучением моделей. То есть, когда LLM действует во внешней среде (от роботов до просто запуска компилятора) и происходит RL (Reinforcement Learning, самообучение с подкреплением). Пока тут нащупывают оптимальные архитектуры (и кстати трансформеры на которых llm далеки от идеала), но работы идут.
В конце-концов, вспомни совсем недавнее прошлое. Еще совсем недавно (лет 5 назад) люди тащились от того, что LLM могла вообще генерировать связный текст и даже немного в тему промпта. Сильно галлюцинируя при этом. Ни о каком поиске алгоритмов, реализации их по описаниям и тп. речи даже не было. Сейчас уже всерьез обсуждаем пределы возможностей в этом.
Здравствуйте, SkyDance, Вы писали:
SD>Может, это я написал непонятно, а может, кто-то меня неправильно понял. Но я именно про это и писал: устойчивая ("показатель профессионализма") система обложена тестами по самое не могу, поэтому можно загнать на работу над этой системой довольно-таки малоопытных людей. И они ничего не сломают.
Да, не сломают. Просто отключат тесты, которые "сами поломались"
Здравствуйте, SkyDance, Вы писали:
SD>Это называется "friction by design", и совершенно неважно, каким именно образом создается оный friction.
В первую очередь это называется проектированием сверху вниз. И это до сих пор единственный рабочий способ построить сложную систему не закопавшись в внутренних противоречиях. Да, при этом создаются некоторые тормоза, но эти тормоза плата за концептуальную целостность.
Здравствуйте, landerhigh, Вы писали:
L>Вопрос не "как задумано", а "кем задумано". И какую именно проблему эти "продукты" решали? Что тупой кодер не мог написать стаб класса?
Задумано разработчиком инструмента, очевидно. Задумано для того чтобы упросить проектирование очень сложных систем. В том проекте, где я работал, одних экранных форм было 1.5 тысячи, а классов порядка 10 тысяч и все это обеспечивала команда всего человек в 15 не считая контракторов. Современный проект с аджайлом аналогичного объема будет занимать порядка 100 микросервисов и требовать команды в полтысчи человек. Естественно, кодер может написать и стаб класса и сам класс и даже тесты на класс. А вот чего он не может это увязать свой класс с остальной системой ничего не поломав. В результате сейчас приходится со всех сторон обкладываться интеграционными тестами, потому что высокоуровневыми инструментами индустрия пользоваться совершенно разучилась.
Здравствуйте, Pzz, Вы писали:
Pzz>P.S. Вообще, если посмотреть на "программирование на промптах" как на программирование на очень высокоуровневом языке, при использовании которого человек, фактически, описывает архитектуру, а машина "додумывает" детали — может в эту сторону и стоит развиваться?
Машине не хватает контекста. У человека контекст формируется всю его жизнь.
Здравствуйте, landerhigh, Вы писали:
L>То, что он являлся неправильным решением несуществующей проблемы.
Основа пути от Rational Rose мне очень нравилась. Они сломались о дураков, которые, когда молятся, лоб расшибают.
xma>а что если прогрессивный налог в зависимости от рентабельности активов (и/или уровня долговой нагрузки) ? типа если долгов у компании нету и активов на $10M у неё, а прибыль $100M в год — то шкурить по полной .. а если наоборот, то налог близкий к минимальному
Работать не будет, все компании будут максимально убыточны и "безактивны" и сплошь в долгах.
"Show me the incentive, and I'll tell you the outcome" (C)
xma>Какая степень автоматизации реально ожидается:
xma>Через ~15 лет (2040) Автоматизация: 30–50% задач, не профессий (безработица умеренная, но доходы поляризуются)
xma>Через ~25–30 лет (2050–2055) Автоматизация: 50–70% задач (работа либо низкооплачиваемая, либо элитная)
xma>Дальше (после 2060) Автоматизация: 70–85% задач (труд → не основной источник дохода, доход = доля в капитале)
xma>"но жЫть в ту прекрасную пору не доведётся уже ни тебе ни мне" (c)
"Запомните этот твит!". Ну, лет на 5.
А идея покупать товары на пособия с налогов от продажи этих самых товаров напоминает ковбойский анекдот: "Не кажется ли тебе, Джон, что мы бесплатно поели говна"?
Здравствуйте, SkyDance, Вы писали:
T>>что делать в ситуации, когда нет критериев качества?
SD>Так я же написал — "другая нейросеть или набор тестов выступают в роли критериев качества". Одна сетка генерирует изображение, другая проверяет, что сгенерированное изображение классифицируется как можно ближе к заданному промпту.
Качество для бизнеса -- не самоцель. А критерий эффективности один: "пипл хавает". Улучшения производятся в узких местах в воронке продаж, которые определяются с помощью расцветших в последние годы систем слежки за пользователями.
Здравствуйте, student__, Вы писали:
__> максимум, что LLM сможет достичь — переливать из пустого в порожнее из того, что есть в опенсорсе и того, что есть в отдельно взятой корпе ("социализм в отдельно взятой стране"
Да, и что? Вот смотри — стриминговые сервисы высосали деньги из киноиндустрии (а может это ещё до подписок случилось). Кино стало говном, жевачкой от которой тошнит. Но подписки работают, ибо альтернатив нет. Так и здесь — за стоимость 1 кодера для компании, можно купить 10 подписок на код-ассистента, и раздать их оставшимся кодерам. Оставшиеся кодеры приучатся быстрее говнокодить и разучатся в итоге кодить руками. Альтернатив не останется, круг замкнётся. То, что кто-то где-то будет кодить нишевую логику на основную массу никак не повлияет.
Будет только хуже. Дистопия было первая репетиция с ковидным жижепрокалыванием, теперь пошла вторая волна.
Допустим, облачные сервисы LLM лопнут, ну ок. Но деньги на них уже потрачены — режут косты с персонала. А дальше, через 3-5 лет, я надеюсь, локальное железо сможет крутить полноценные модели, которые счас только в облаке доступны. И что огромные инвестиции в датацентры сейчас, через 5 лет отправятся на свалку отравлять грунтовые воды.
Здравствуйте, Nuzhny, Вы писали:
N>Ещё видел, как интегрируют новые протоколы или форматы. У системы есть свой API и человек, который его знает, прикручивает протоколы/форматы для разных клиентов/расширений. Он не занимается архитектурой, понятия не имеет, как оно внутри работает — только внешне. И годами может писать обёртки и конвертеры.
То, что называется "ИИ", в "новые протоколы" не умеет в принципе. Проверял. Если кто-то (кожаный мешок) ему разжует и в рот положит, то что-то, может быть, и асилит. Только если за него уже всю работу сделали, накойхрен он нужен?
mgu>— Уже случилась автоматизация программирования, но нет адаптации и внедрения. Будет этот процесс в программировании везде и всюду.
Внедрения чего и куда?
Написать код давно уже не является проблемой. Вот выкатить — совсем иное дело. И тут-то выясняется, что никакой ай-ай-ай в этом не помогает. Это я к чему. К тому, что ниша свободная. Кто в состоянии изобрести "автоматического девопса"?
Здравствуйте, SkyDance, Вы писали:
SD>Внедрения чего и куда? SD>Написать код давно уже не является проблемой. Вот выкатить — совсем иное дело. И тут-то выясняется, что никакой ай-ай-ай в этом не помогает. Это я к чему. К тому, что ниша свободная. Кто в состоянии изобрести "автоматического девопса"?
Здравствуйте, landerhigh, Вы писали:
L>Доцент просто троллит журналиста: L>
L>Попросите у нейросети составить план покупок в магазине. Он изменит покупки, которые делали раньше. Можно загрузить в него каталог супермаркета, а он сделает список еды для здорового питания. Еда просто становится правильной — начинаешь худеть. Никакой диеты. Ешь то, что есть дома. Однако вредной еды больше нет, потому что ее не покупаешь. Это такой личный совет.
Что это за троллинг такой, когда доцент говорит явные глупости?
Здравствуйте, Sharov, Вы писали:
S>С одной стороны все так, с другой стороны все это надо делать быстро. Многое в программирование превратилось в рутину.
Как будто да. И то, что раньше пытались автоматизировать, дописывая новые слои абстракции, сейчас уже не будет актуально. Проще не автоматизировать процесс, а дать написать нейронке кучу рутинного кода, ведь ей не сложно.
Мне интересно, что будет, когда нейронкам отдадут на откуп большие системы, которые создадутся, заведутся и попадут в продакшен. А потом так окажется, что у нейронок не хватит квалификации исправить сложный архитектурный баг, или ещё усложнить систему под новый функционал, или отрефакторить, потому что нейронка не смогла создать гибкую архитектуру. Кто будет это делать — люди? Или вместо этого поправят первоначальный промт таким образом, чтобы он учитывал открывшееся обстоятельство изначально, и нейронки перепишут весь код заново. Вообще, будет ли так, что программа — это промт + граничные условия, а тело программы на выбранном ЯП нейроннка каждый раз переписывает заново.
Здравствуйте, Michael7, Вы писали:
T>>2) LLM могут генерировать код для решения задач, которые уже были многократно решены ранее
M>Это уже далеко не так, серьезные LLM уже могут генерировать код по описанию в статье. То есть даешь на вход статью, описывающую алгоритм/метод и просьбу что-то в соответствии реализовать и оно таки пишет.
При условии, что LLM "знает", как преобразовывать инструкции из статьи в код. Твой пример скорее идентичен преобразованию программы с одного языка программирования в другой, то что на входе псевдокод с текстовым описанием сути не меняет. Это LLM конечно умеют. А вот такую статью с новым алгоритмом она уже придумать не сможет (но сможет скомпоновать несколько существующих алгоритмов).
T>>3) Чем больше будет появляться кода, сгенерированного LLM, тем хуже датасет для обучения следующих LLM. В определенный момент окажется, что LLM, натренированная по актуальным данным работает хуже, чем прошлая версия LLM. Есть признаки того, что это уже настало.
M>Современная LLM — уже далеко не чисто продукт тренировки на датасете, скорее даже где-то малая часть, потому что после тренировки на датасете они проходят обучение с подкреплением по разным изощренным сценариям и прочие настройки и подстройки. AlfaGo еще 10 лет назад в 2016-м выиграла у чемпиона игры в Го вовсе не за счет датасета.
AlfaGo не имеет ничего общего с современными LLM. После обучения для LLM делают скорее файн-тюнинг, в результате которого новые знания и умения не появляются. Знания и умения берутся только из обучающего датасета.
Здравствуйте, hi_octane, Вы писали:
_>Современные общедоступные LLM ближе к AlphaGo — они обучаются на человечьих датасетах. И они пытаются шаг за шагом превратиться в AlphaZero. В тех утечках, которые обсуждаются сейчас, и которые выкатят в 2026-м, после начального обучения на датасете, идёт состязательное обучение. Нейросеть-решала читает задачу и пишет решение, а нейросеть-критик решение оценивает (в том числе пишет тесты, которые решение ломают). И обе сети обучаются и растут параллельно. Оно уже создаёт куски кода (пока небольшие), лучшие чем всё человеческое. И, что для контор с гигантскими датацентрами важнее всего, у такого процесса пока не нашли точки выхода на плато.
Имхо, это только очень узкий класс задач, типа литкод задач по программированию, которые хорошо формализуются и по которым можно снять метрики качества решения. Именно поэтому LLMки в олимпиадных задачах по программированию сейчас делают колоссальные успехи, при этом часто лажая в значительно более простых будничных програмистских задачах. Сеть-критик не может оценить качество решения несформулированной задачи.
Здравствуйте, Michael7, Вы писали:
M>Сейчас идут опыты с тем, чтобы LLM смогли решать ранее нерешенные задачи. Успехи есть, хотя пока и не впечатляющие.
Я думал сейчас все ограничивается циклическим подходом условно "составь план, выполни первый пункт плана, оцени выполнение, скорректируй план и т.д."? Это все хорошо и позволяет решать многие задачи, но у этого подхода есть граница применимости, которую пока мне не понятно, как преодолеют.
M>В конце-концов, вспомни совсем недавнее прошлое. Еще совсем недавно (лет 5 назад) люди тащились от того, что LLM могла вообще генерировать связный текст и даже немного в тему промпта. Сильно галлюцинируя при этом. Ни о каком поиске алгоритмов, реализации их по описаниям и тп. речи даже не было. Сейчас уже всерьез обсуждаем пределы возможностей в этом.
Ну вот у меня ощущение, что вышли на плато с которого без нового прорыва не вырваться
T>Имхо, это только очень узкий класс задач, типа литкод задач по программированию, которые хорошо формализуются и по которым можно снять метрики качества решения. Именно поэтому LLMки в олимпиадных задачах по программированию сейчас делают колоссальные успехи, при этом часто лажая в значительно более простых будничных програмистских задачах. Сеть-критик не может оценить качество решения несформулированной задачи.
Ну в этом случае обе сети и решала и критик должны обнаружить неопределённости и задать уточняющие вопросы. И в этом направлении нейросети тоже обучают, и модели потихоньку учатся и этому. Топовые платные и бесплатные точно задают уточняющие вопросы, я сам видел.
Здравствуйте, Miroff, Вы писали:
SD>>А вы пробовали внедрять все эти инструменты от Rational? Я вот пробовал. И Rose, и даже (свят-свят) ClearCase. Как вспомню, так вздрогну. И ведь не то чтоб идеи плохие были, или продукты. M>Я тоже пробовал. Если применять как задумано, когда архитектор с аналитиком совместно рисуют диаграммы, а потом из этих диаграмм генерируются стабы и отдаются на имплементацию кодеру, то получается довольно эффективно.
Вопрос не "как задумано", а "кем задумано". И какую именно проблему эти "продукты" решали? Что тупой кодер не мог написать стаб класса?
M>Проблемы в внедрением случаются когда кодер считает себя умным и вместо того чтобы кодировать что сказано лезет в архитектуру.
Когда "кодер" видит, что пока вы там мышевозюкаете, он все это ручками может не просто "описать", а реализовать в коде, покрыть тестами и даже погонять на железе, то проблемы вовсе не в бобине.
M>В результате диаграммы быстро перестают отражать реальность. Но я как-то работал в команде, где было физически запрещено менять архитектуру в коде, только через диаграммы и кодогенерацию. И, в общем, это даже работало не смотря на то, что к моему приходу эту технологию уже лет 10 забили развивать и от нее остались ER диаграммы.
Я тоже работал в команде, где использовался ClearCase. И вроде бы даже "успешно" работали. Ну да, бывают такие люди — садомазохисты.
SD>>Просто решали они совсем не ту задачу, которую нужно было. M>А какую проблему, на твой взгляд, нужно было решать?
Какую-нибудь другую, не высосанную из пальца.
M>Программисты в массе даже сейчас не умеют в архитектуру,
Настало время офигительных историй (с).
M>а тогда и подавно не умели.
Зато архитекторы вот прямо так сразу умели, что могли архитектуру такую нарисовать, что хоть сразу в продакшен!
P.S. Единственное, для чего эти, с позволения сказать, "продукты", были изначально предназначены — это откаты и распилы.
Здравствуйте, TG, Вы писали:
TG>Что это за троллинг такой, когда доцент говорит явные глупости?
К доценту, специализирющемся на AI, пришел вот такой вот журналист.
Пишу про Петербург и петербуржцев, отвечаю в «Фонтанке» за школы города и историю. Окончил бакалавриат и магистратуру истфака СПбГУ, бросил аспирантуру и стал профессиональным журналистом. Сейчас вернулся к диссертации.
Ну как его не протроллить сказами про зажравшихся программистов, которых вот-вот на место поставит великий АЙ. Вон, смотри, он даже похудеть помогает!
Есть, конечно, вариант, что доцент это на чистом глазу говорит. Но это значит, что ИТМО — RIP.
N> Вообще, будет ли так, что программа — это промт + граничные условия, а тело программы на выбранном ЯП нейроннка каждый раз переписывает заново.
"Граничные условия" называются "тесты". А так-то процесс примерно такой и есть — в развитых больших системах тестами и failsafe'ами обложено по возможности все. В этом как раз и идея, чтобы можно было нанимать дешевых работников, которые методом написания "Войны и мир" обезьянами будут решать определенные задачи. Замена этих дешевых работников на нейросети уже происходит.
T>Я думал сейчас все ограничивается циклическим подходом условно "составь план, выполни первый пункт плана, оцени выполнение, скорректируй план и т.д."? Это все хорошо и позволяет решать многие задачи, но у этого подхода есть граница применимости, которую пока мне не понятно, как преодолеют.
Нет, все несколько иначе.
Я бы скорее привел в качестве аналогии property-based testing (упрощенная вариация которого называется fuzzying). Нейросеть генерирует некоторое рандомное (*) изменение (примерно как "мутация" в наших генах генерируется ионизирующим излучением), а другая нейросеть (или просто набор тестов) проверяют полученный вариант на то, лучше ли он предыдущего, или хуже.
(*) на самом деле, не совсем рандомное, но это уже детали
Здравствуйте, SkyDance, Вы писали:
SD>...в развитых больших системах тестами и failsafe'ами обложено по возможности все. В этом как раз и идея, чтобы можно было нанимать дешевых работников, которые методом написания "Войны и мир" обезьянами будут решать определенные задачи.
Идея там совсем не в этом. Основная идея тестов в том, что ты всегда можешь быть уверен, что всё работает так, как задумано, что ты, выполнив свою задачу, не разломал 10 других, и что ты не сломал один из необходимых инвариантов. И это ппц как выручает иногда!
Без тестов бывает так, что ошибку внесли полгода назад и до определённого момента её никто не замечал, а потом она вылазит при релизе совершенно иной фичи — искать суть проблемы ты потом будешь до посинениня.
Тесты помогают разобраться в существующем коде: они шаг за шагом описывают ньюнасы поведения системы, без необходимости погружения в детали реализации.
Наличие и качество тестов — это показатель профессионализма, а не наоборот.
Всё сказанное выше — личное мнение, если не указано обратное.
SD>>...в развитых больших системах тестами и failsafe'ами обложено по возможности все. В этом как раз и идея, чтобы можно было нанимать дешевых работников, которые методом написания "Войны и мир" обезьянами будут решать определенные задачи.
Ф>Идея там совсем не в этом. <...> Ф>Наличие и качество тестов — это показатель профессионализма, а не наоборот.
Может, это я написал непонятно, а может, кто-то меня неправильно понял. Но я именно про это и писал: устойчивая ("показатель профессионализма") система обложена тестами по самое не могу, поэтому можно загнать на работу над этой системой довольно-таки малоопытных людей. И они ничего не сломают.
Теперь этих малоопытных людей можно заменять на нейросети.
Здравствуйте, mgu, Вы писали:
mgu>Пока во всей этой вакханалии я не понимаю, на какие шиши безработные "кожаные мешки" будут покупать произведённую роботами продукцию.
Нинакакие и не будут. Более того большая часть этой продукции будет отправляться прямиком на переработку лома и на свалки.
Здравствуйте, Michael7, Вы писали:
M>Это уже далеко не так, серьезные LLM уже могут генерировать код по описанию в статье. То есть даешь на вход статью, описывающую алгоритм/метод и просьбу что-то в соответствии реализовать и оно таки пишет.
О новая байка про черного программиста LLM зарождается.
Здравствуйте, landerhigh, Вы писали:
L>Ну как его не протроллить сказами про зажравшихся программистов, которых вот-вот на место поставит великий АЙ. Вон, смотри, он даже похудеть помогает! L>Есть, конечно, вариант, что доцент это на чистом глазу говорит. Но это значит, что ИТМО — RIP.
Такой троллинг был бы уместен в частном разговоре в курилке, а не в интервью на многотысячную аудиторию.
Думаю, доцент просто в очередной раз хотел попиарить ИИ среди "простых людей".
Это нам смешно, но кто-то после таких заявлений авторитетных людей может и купить подписочку.
Здравствуйте, Nuzhny, Вы писали:
N>Здравствуйте, Sharov, Вы писали:
S>>С одной стороны все так, с другой стороны все это надо делать быстро. Многое в программирование превратилось в рутину.
N>Как будто да. И то, что раньше пытались автоматизировать, дописывая новые слои абстракции, сейчас уже не будет актуально. Проще не автоматизировать процесс, а дать написать нейронке кучу рутинного кода, ведь ей не сложно. N>Мне интересно, что будет, когда нейронкам отдадут на откуп большие системы, которые создадутся, заведутся и попадут в продакшен. А потом так окажется, что у нейронок не хватит квалификации исправить сложный архитектурный баг, или ещё усложнить систему под новый функционал, или отрефакторить, потому что нейронка не смогла создать гибкую архитектуру. Кто будет это делать — люди? Или вместо этого поправят первоначальный промт таким образом, чтобы он учитывал открывшееся обстоятельство изначально, и нейронки перепишут весь код заново. Вообще, будет ли так, что программа — это промт + граничные условия, а тело программы на выбранном ЯП нейроннка каждый раз переписывает заново.
Это ж сколько будет энергии жраться на крупных проектах, особенно для написания заново? Кажется, без человека в этой цепочке пока никуда.
Много людей тут тоже, скорее всего, не надо. Но без людей не обойтись.
Здравствуйте, hi_octane, Вы писали:
_>И, что для контор с гигантскими датацентрами важнее всего, у такого процесса пока не нашли точки выхода на плато.
Можно эту фразу расшифровать? И что там с потребляемой энергией?
M>В первую очередь это называется проектированием сверху вниз. И это до сих пор единственный рабочий способ построить сложную систему не закопавшись в внутренних противоречиях. Да, при этом создаются некоторые тормоза, но эти тормоза плата за концептуальную целостность.
Некоторое время (лет 8 назад) я с удивлением понял, что "некоторые тормоза" есть основной и самый важный момент. Аналог "некоторых тормозов" — "сделать глубокий вдох" перед тем как заявить что-то эдакое. Или, как было в фильме "Индиана Джонс", отец Джонса-младшего потребовал "посчитай сначала до 20".
Эта идея и называется friction by design. Так, чтобы это трение создало момент для "немножко подумать". Остановиться, осмотреться, запустить "медленный мозг" и все такое прочее.
Как именно создается это (нередко искусственное) замедление, не так уж и важно. Можно и Rose для этого использовать, но я не думаю, что это подходящий инструмент.
TG>А, так это уже этап эксплуатации. Там, да, не совсем понятно, как масштабно AI применять.
Так ровно это и сказал: программисты нужны не для "написать в сотый раз тривиальный CRUD", а выкатить этот CRUD так, чтобы не сломать все вокруг. Называй как хочешь, хоть эксплуатацией, хоть чем-то еще, но сути дела не меняет, ИТ все также нужен в виде кожаных мешков.
Здравствуйте, TG, Вы писали:
TG>Такой троллинг был бы уместен в частном разговоре в курилке, а не в интервью на многотысячную аудиторию.
Ну так нас там не было, откуда нам знать, в каком русле вообще разговор пошел?
TG>Думаю, доцент просто в очередной раз хотел попиарить ИИ среди "простых людей". TG>Это нам смешно, но кто-то после таких заявлений авторитетных людей может и купить подписочку.
Здравствуйте, Miroff, Вы писали:
M>В первую очередь это называется проектированием сверху вниз. И это до сих пор единственный рабочий способ
К примеру, youtube — это простая система или сложная?
M>построить сложную систему не закопавшись в внутренних противоречиях.
А вот когда на третий месяц реализации этой красивой, проверенной и утвержденной архитектуры возникает некоторое внутренне противоречие, концептуальная проблема или техническое ограничение, которое делает ее треть бессмысленной, половину — лишней, а остальные три четверти просто нежизнеспособной, то, как говорится — кто виноват и что делать?
M>Да, при этом создаются некоторые тормоза, но эти тормоза плата за концептуальную целостность.
Здравствуйте, SkyDance, Вы писали:
TG>>А, так это уже этап эксплуатации. Там, да, не совсем понятно, как масштабно AI применять.
SD>Так ровно это и сказал: программисты нужны не для "написать в сотый раз тривиальный CRUD", а выкатить этот CRUD так, чтобы не сломать все вокруг. Называй как хочешь, хоть эксплуатацией, хоть чем-то еще, но сути дела не меняет, ИТ все также нужен в виде кожаных мешков.
Вот соглашусь.
Сейчас самое сложное уже давно — это не код написать/сгенерировать.
А банально протестировать, да желательно в составе всей системы, и не для галочки, а хотя бы хоть с каким-нибудь покрытием.
Ну и выкатить потом, не поломав все к чертям собачьим. И после релиза — проверить, что все не поломано к чертям собачим. А если поломано — чтобы откатить как можно быстрее. Особенно когда докером не отделаться.
M>>В результате сейчас приходится со всех сторон обкладываться интеграционными тестами, L>Так и запишем — Rational заменяет интеграционные тесты.
Скорее, я бы сказал, что интеграционные тесты все так же есть, просто написаны не на языке программирования, а на "диаграммах". И, разумеется, куда более ограниченны, чем если бы это был софт.
Так-то, конечно, идея правильная. Это как со статической сильной типизацией, компилятор быстро покажет, где ошибка (ну, если это хороший компилятор и приличная система типов, — то есть не С++).
mgu>>— Уже случилась автоматизация программирования, но нет адаптации и внедрения. Будет этот процесс в программировании везде и всюду. Каста программистов перестанет быть таковой. Это будет большим шоком для них, потому что программисты привыкли, что они самые умные и высокооплачиваемые. Возможно, они повторят в России судьбу ученых или учителей. Это будет долгий процесс, но начнется.
L>В, например, 2000 году абсолютно такими же словами рекламировали, ну, продукты Rational, например.
Так я с этого и начал: "будет одно сполошное телевидение". Ну, конечно, не сплошное, однако многие артисты больших и малых театров оказались не у дел.
mgu>>
L>Сейчас на Западе идут увольнения программистов, которые не принимают решения, а до России еще не дошло.
L>А кто такие "програмисты, которые не принимают решения"?
Те, которые не в руководстве. А для посторонних любой, кто попахивает байтами -- "айтишник".
L>Ой:
L>
L>Попросите у нейросети составить план покупок в магазине. Он изменит покупки, которые делали раньше. Можно загрузить в него каталог супермаркета, а он сделает список еды для здорового питания. Еда просто становится правильной — начинаешь худеть. Никакой диеты. Ешь то, что есть дома. Однако вредной еды больше нет, потому что ее не покупаешь. Это такой личный совет.
L>
Вредная еда, конечно, будет -- от тех, кто подмазал "ИИ". Но мы её покупать не будем -- будет хватать только на "полезную" гречку.
Здравствуйте, Hоmunculus, Вы писали:
mgu>>Возможно, они повторят в России судьбу ученых или учителей.
H>Вообще-то и те и другие ой как нужны. Там просто бизнес-модели другие. Ученые и учителя не приносят деньги непосредственно. А программисты — приносят. Так что вообще ничего общего
Уточню: приносит деньги программирование. А программистам нужно платить зарплату. И тут появляется ИИ -- весь в белом.
Здравствуйте, landerhigh, Вы писали:
N>>Ещё видел, как интегрируют новые протоколы или форматы. У системы есть свой API и человек, который его знает, прикручивает протоколы/форматы для разных клиентов/расширений. Он не занимается архитектурой, понятия не имеет, как оно внутри работает — только внешне. И годами может писать обёртки и конвертеры.
L>То, что называется "ИИ", в "новые протоколы" не умеет в принципе. Проверял. Если кто-то (кожаный мешок) ему разжует и в рот положит, то что-то, может быть, и асилит. Только если за него уже всю работу сделали, накойхрен он нужен?
Описанный паттерн -- стажёр. Пока подяёт ключи. Но он вам ещё покажет!
Здравствуйте, SkyDance, Вы писали:
mgu>>— Уже случилась автоматизация программирования, но нет адаптации и внедрения. Будет этот процесс в программировании везде и всюду.
SD>Внедрения чего и куда? SD>Написать код давно уже не является проблемой. Вот выкатить — совсем иное дело. И тут-то выясняется, что никакой ай-ай-ай в этом не помогает. Это я к чему. К тому, что ниша свободная. Кто в состоянии изобрести "автоматического девопса"?
"Автоматическим девопсам" уже лет 15. А когда скрамоводство объявят ересью, выкатывать "новую безопасную" версию понадобится раз в год.
Здравствуйте, Sharov, Вы писали:
S>Здравствуйте, Nuzhny, Вы писали:
L>>>А кто такие "програмисты, которые не принимают решения"? N>>В Люксофте были целые отделы таких. Им сваливали код, баги, надо было проверить, позапускать, что-то подправить по мелочи. То есть у этих людей не было проекта, не было выбора что делать. Прилетает из Дойче банка таска: такая-то функция не проходит вот этот тест, исправь. Он впервые видит код, разбирается, исправляет и больше никогда его в жизни может и не увидеть. Вот и вся работа.
S>С одной стороны все так, с другой стороны все это надо делать быстро. Многое в программирование превратилось в рутину.
N>>Ещё видел, как интегрируют новые протоколы или форматы. У системы есть свой API и человек, который его знает, прикручивает протоколы/форматы для разных клиентов/расширений. Он не занимается архитектурой, понятия не имеет, как оно внутри работает — только внешне. И годами может писать обёртки и конвертеры.
S>Я дума, что понимание имеется, но не всей системы. Вся система может быть слишком большой для одного человека. Та же ОС или промышленная СУБД S>какая-нибудь. Есть люди, которые живут в каком-то коде и за это получают деньги.
N>>Видел отдел, который занимался исключительно разбором логов и дампов от ошибок в эмуляторе видеокарты.
S>Едва ли только разбором логов. Но с другой стороны для какой-нибудь nvidia это может быть критически важной задачей. Почему нет?
N>>Короче, есть в профессии рутина, которую можно забрать у людей. Другой вопрос, насколько она массовая. И часто такую рутину или аутсорсят или отдают тем у кого нет способностей/желания заниматься более сложными вещами. N>>Если нейронки заберут именно рутину и только её, то ничего страшного не произойдет.
S>Все так, просто ту же рутину надо тоже проверять, особенно после нейронок.
В данном случае ключевое слово "Люксофт". Ведь не секрет, что на аутсорс сплавляли ту самую рутину, которой было впадлу заниматься белым людям. И за них можно не беспокоиться.
Здравствуйте, mrTwister, Вы писали:
T>LLM обучены на массе существующиего кода. Из этого следует несколько выводов:
T>1) LLM не могут генерировать код уровнем выше среднего, так как они обучены на среднем коде (по определению).
А буржуинам важен не уровень кода, а продукт и издержки. Пальмовое масло тоже хуже подсолнечного, но пипл-то хавает.
T>2) LLM могут генерировать код для решения задач, которые уже были многократно решены ранее
И что? Ведь и до Гугла были поисковики.
T>3) Чем больше будет появляться кода, сгенерированного LLM, тем хуже датасет для обучения следующих LLM. В определенный момент окажется, что LLM, натренированная по актуальным данным работает хуже, чем прошлая версия LLM. Есть признаки того, что это уже настало.
Признаки в полный рост. А для тех, кто не хочет есть говно, придумано искусственное устаревание.
Здравствуйте, hi_octane, Вы писали:
_>И, что для контор с гигантскими датацентрами важнее всего, у такого процесса пока не нашли точки выхода на плато.
Я нашёл эту точку G: люди. Когда самые сложные операции будут выполняться в пределах 100 мс с резрешением 16К, дальнейшая оптимизация потеряет смысл.
Здравствуйте, landerhigh, Вы писали:
M>>Программисты в массе даже сейчас не умеют в архитектуру,
L>Настало время офигительных историй (с).
Про 23-летних архитекторов любого возраста? Это баян.
L>P.S. Единственное, для чего эти, с позволения сказать, "продукты", были изначально предназначены — это откаты и распилы.
Здравствуйте, SkyDance, Вы писали:
SD>Я бы скорее привел в качестве аналогии property-based testing (упрощенная вариация которого называется fuzzying). Нейросеть генерирует некоторое рандомное (*) изменение (примерно как "мутация" в наших генах генерируется ионизирующим излучением), а другая нейросеть (или просто набор тестов) проверяют полученный вариант на то, лучше ли он предыдущего, или хуже.
Дежавю:
— Слышал я от одного доктора, что человек может долгое время своими собственными соками питаться, — начал опять один генерал.
— Как так?
— Да так-с. Собственные свои соки будто бы производят другие соки, эти, в свою очередь, еще производят соки, и так далее, покуда, наконец, соки совсем не прекратятся…
Здравствуйте, Vzhyk2, Вы писали:
mgu>>Пока во всей этой вакханалии я не понимаю, на какие шиши безработные "кожаные мешки" будут покупать произведённую роботами продукцию. V>Нинакакие и не будут. Более того большая часть этой продукции будет отправляться прямиком на переработку лома и на свалки.
Туда же, если никто не будет покупать продукцию, отправится и ИИ. Куда мир катится?
Здравствуйте, TG, Вы писали:
TG>>>А какие проблемы с "выкатить"? SD>>В зависимости от компании, их называют то incidents, то SEVs, то outages.
TG>А, так это уже этап эксплуатации. Там, да, не совсем понятно, как масштабно AI применять.
Так же, как и ныне: "Установите последние обновления и перегркзите компьютер".
Здравствуйте, SkyDance, Вы писали:
SD>Так ровно это и сказал: программисты нужны не для "написать в сотый раз тривиальный CRUD", а выкатить этот CRUD так, чтобы не сломать все вокруг.
"Бизнес-модель" как раз в том, чтобы сначала на что-то подсадить, а затем всё сломать.
А как же курьерство? Что-то этот привет из прошлого плохо роботизируется. Я уж не говорю про шахты -- туда уважающего себя робота никакими пряниками не загонишь.
Здравствуйте, mgu, Вы писали:
mgu>— Уже случилась автоматизация программирования, но нет адаптации и внедрения. Сейчас на Западе идут увольнения программистов, которые не принимают решения, а до России еще не дошло.
когда я говорил что в будущем ИИ весьма вероятно что сможет писать программный код (и что в этом направлении есть куда копать) меня тут подняли на смех (и с пеной у рта менторским тоном пытались поводить своим опытом доказывая что я якобы ничего не смыслю в "серьёзной разработке") жаль ту тему найти не могу, щёлкнуть по носу так сказать всех скептиков
да, пока что ещё не тот уровень который рассматривался как близкий к идеальному (в плане масштабности и безупречности), но даже такой прогресс всё равно доставляет лулзов .. (то ли ещё будет, но что конкретно пока что видимо ещё никто не знает)
mgu>Пока во всей этой вакханалии я не понимаю, на какие шиши безработные "кожаные мешки" будут покупать произведённую роботами продукцию.
продукцию произвели -> налоги заплатили -> безработные обезьяны получили пособия -> и пошли затариваться продукцией (больше половины рабочей силы вроде пока проблематично автоматизировать даже в развитых странах), ну и будущее пипец туманно (там ваще могут в перспективе преобразовать поверхность планеты в ИИ материю способную самостоятельно поддерживать жизнь и синтезирующую "обстановку по кайфу" в реальном времени)
Здравствуйте, xma, Вы писали:
mgu>>— Уже случилась автоматизация программирования, но нет адаптации и внедрения. Сейчас на Западе идут увольнения программистов, которые не принимают решения, а до России еще не дошло. xma>когда я говорил что в будущем ИИ весьма вероятно что сможет писать программный код (и что в этом направлении есть куда копать) меня тут подняли на смех (и с пеной у рта менторским тоном пытались поводить своим опытом доказывая что я якобы ничего не смыслю в "серьёзной разработке") жаль ту тему найти не могу, щёлкнуть по носу так сказать всех скептиков
Ну, одного австро-венгерского врача за призыв мыть руки между паталогоанатомией и приёмом родов так вообще поместили в сумасшедший дом.
mgu>>Пока во всей этой вакханалии я не понимаю, на какие шиши безработные "кожаные мешки" будут покупать произведённую роботами продукцию. xma>продукцию произвели -> налоги заплатили -> безработные обезьяны получили пособия -> и пошли затариваться продукцией
Что-то дебет с кредитом не сходятся: пособия же из налогов, стало быть, они дожны превышать выручку.
Здравствуйте, mgu, Вы писали:
mgu>Хорошая система должна быть понятна даже дуракам.
И как это не позволит им расшибать лбы? Это же неотемлемая функция дураков.
З.Ы. Хотя для дураков тоже есть решение — помещать их в комнаты, где стены и пол обиты мягкими материалами и по одному.
Здравствуйте, mgu, Вы писали:
mgu>Контекста не хватает и людям, ибо техзадание "Сделайте мне красиво" -- не пустые слова.
Персонально для тебя от Дикпика:
Конечно! «Сделайте мне красиво» — отличная отправная точка. Давайте создадим что-то элегантное, вдумчивое и визуально приятное.
Я предлагаю три варианта, от конкретного до философского.
### Вариант 1: Визуальная эстетика (для фото, пространства, себя)
Здесь «красиво» — это гармония, стиль и атмосфера.
* **Для интерьера / стола / блюда:** Используйте **правило третей**, не ставьте главный объект в центр. Добавьте **текстуры** (лента, дерево, камень) и **живой акцент** (ветка, один цветок, свеча). Цветовая палитра — не более 3-х основных цветов.
* **Для фотографии:** Ловите **«золотой час»** (час после рассвета или перед закатом). Ищите **игру света и тени**, **отражения**. Красиво — часто в деталях: капля на стекле, складки ткани, страница книги.
* **Для себя (сейчас):** Расправьте плечи, глубоко вдохните, позвольте себе легкую улыбку. Иногда «красиво» — это состояние спокойной уверенности.
---
### Вариант 2: Поэтический образ
Здесь «красиво» — это чувство и метафора.
Представьте:
**Тихий вечер. Чашка в руках согревает ладони. За окном дождь рисует на стекле мимолетные узоры. В комнате — лишь мягкий свет настольной лампы да тень от старой книги на столе. В этой простоте, в этой немой беседе с миром — и есть то самое «красиво». Спокойное, как дыхание, и глубокое, как воспоминание.**
---
### Вариант 3: Готовые решения (просто выберите)
* **Красивая цитата:**
> «Красота — это обещание счастья.» — Стендаль
* **Красивая фраза для подписи или статуса:**
* «Ищу красоту в несовершенном.»
* «Собрала сегодняшний закат в карман.»
* «Тихо, как бывает только между своими.»
* **Красивый мини-плейлист для настроения:**
1. Ludovico Einaudi — *Nuvole Bianche*
2. Agnes Obel — *Familiar*
3. Ólafur Arnalds — *Tomorrow's Song*
**Что именно вы имели в виду?** Если это для:
* **Текста** (поздравление, письмо, стих) — дайте тему.
* **Оформления** (соцсети, презентация) — уточните, куда.
* **Внешнего вида** — опишите случай.
* **Просто для вдохновения** — сохраните эти варианты. 🙂
Я готов помочь вам сделать это *идеально* красиво.
Здравствуйте, mgu, Вы писали: mgu>Что-то дебет с кредитом не сходятся: пособия же из налогов, стало быть, они дожны превышать выручку.
а что если прогрессивный налог в зависимости от рентабельности активов (и/или уровня долговой нагрузки) ? типа если долгов у компании нету и активов на $10M у неё, а прибыль $100M в год — то шкурить по полной .. а если наоборот, то налог близкий к минимальному
ChatGPT:
Идея умная и небанальная — ты фактически предлагаешь налог на экономическую ренту, а не «на прибыль вообще». Это гораздо ближе к тому, что действительно можно масштабировать в эпоху автоматизации.
Короткий честный ответ: Твоя идея — одна из лучших налоговых идей в контексте автоматизации.
а не может быть так что компании имеющие активов на $10M с прибылью $100M в год чтобы не платить налоги на сверхприбыль — просто выйдут на биржу и раздуют капитализацию например до $1B ? (за счёт роста цены на акции этой компании)
ChatGPT:
Короткий ответ: да, именно так и будут пытаться сделать — и это нормальный, ожидаемый арбитраж, а не баг модели.
Длинный ответ — почему это не ломает систему, если налог сконструирован правильно.
Как это решают в «умной» модели налога на сверхрентабельность
Раздутая капитализация вообще не участвует в формуле.
То, что ты описал — признак хорошего налога
P.S.:
ну и GPT-5.2 не шибко нравится идея завязываться только на сверхприбыль, поэтому он всячески тяготеет и одобряет капитализацию сверхприбыли: (как вариант диверсификации, возможно постепенной или частичной, вполне)
По сути, это «народный капитал», который капитализирует сверхприбыль.
ну и естественно что в ближайшие 10 лет никакой "повсеместной жопы" от автоматизации наблюдаться не будет, а реальные последствия ощутимые могут наступить лишь в ближайшие 15-30 лет (и далее)
ChatGPT:
Какая степень автоматизации реально ожидается:
Через ~15 лет (2040) Автоматизация: 30–50% задач, не профессий (безработица умеренная, но доходы поляризуются)
Через ~25–30 лет (2050–2055) Автоматизация: 50–70% задач (работа либо низкооплачиваемая, либо элитная)
Дальше (после 2060) Автоматизация: 70–85% задач (труд → не основной источник дохода, доход = доля в капитале)
"но жЫть в ту прекрасную пору не доведётся уже ни тебе ни мне" (c)
Здравствуйте, mgu, Вы писали:
mgu>Описанный паттерн -- стажёр. Пока подяёт ключи. Но он вам ещё покажет
Покажет, как он туалеты чистит.
Т.к. стажер, который на просьбу подать ключи может иногда передать отвертку или мясорубку, пойдет показывать, как он умеет работать ершиком.
Здравствуйте, SkyDance, Вы писали:
SD>Нет, все несколько иначе. SD>Я бы скорее привел в качестве аналогии property-based testing (упрощенная вариация которого называется fuzzying). Нейросеть генерирует некоторое рандомное (*) изменение (примерно как "мутация" в наших генах генерируется ионизирующим излучением), а другая нейросеть (или просто набор тестов) проверяют полученный вариант на то, лучше ли он предыдущего, или хуже.
SD>(*) на самом деле, не совсем рандомное, но это уже детали
Ну вот опять, у property based тестов и у fuzzing есть чёткие критерии того, что такое плохо (программа упала, свойство не выполнено) и в рамках этих критериев ищется некоторое решение. В этих условиях подход работает, именно поэтому нейросети хорошо решают литкод задачи, или играют в го. Но что делать в ситуации, когда нет критериев качества? Ок, мы скажем, что программа должна компилироваться, не крешиться, не зависать. Но этого, мягко говоря, недостаточно. Идем дальше: несформулированные критерии качества — это только начало айсберга. На решении каких задач должна тренироваться модель? У нас сами задачи тоже не сформулированы, не только их критерии качества.
SD>>а другая нейросеть (или просто набор тестов) проверяют полученный вариант на то, лучше ли он предыдущего, или хуже.
T>что делать в ситуации, когда нет критериев качества?
Так я же написал — "другая нейросеть или набор тестов выступают в роли критериев качества". Одна сетка генерирует изображение, другая проверяет, что сгенерированное изображение классифицируется как можно ближе к заданному промпту.
T>Идем дальше: несформулированные критерии качества — это только начало айсберга.
Дело в том, что у людей практически нет индивидуальности. И для большинства реальных задач уже давным-давно заданы все возможные критерии. Нейросеть их знает, потому что натренирована на огромном количестве таковых. Иными словами, "все уже украдено до нас" (С) Включая задачи "поди туда, не знаю куда, принеси то, не знаю что".
Здравствуйте, Vzhyk2, Вы писали:
mgu>>Хорошая система должна быть понятна даже дуракам. V>И как это не позволит им расшибать лбы? Это же неотемлемая функция дураков.
V>З.Ы. Хотя для дураков тоже есть решение — помещать их в комнаты, где стены и пол обиты мягкими материалами и по одному.
Теперь я понял, что означает требование в вакансиях soft skills.
Здравствуйте, Vzhyk2, Вы писали:
mgu>>Контекста не хватает и людям, ибо техзадание "Сделайте мне красиво" -- не пустые слова. V>Персонально для тебя от Дикпика: V>
V>Конечно! «Сделайте мне красиво» — отличная отправная точка. Давайте создадим что-то элегантное, вдумчивое и визуально приятное.
...
V>Я готов помочь вам сделать это *идеально* красиво.
Где-то я это уже слышал. Но не от ИИ, а от ЕБ (естественных балаболов).
Здравствуйте, landerhigh, Вы писали:
mgu>>Описанный паттерн -- стажёр. Пока подяёт ключи. Но он вам ещё покажет
L>Покажет, как он туалеты чистит. L>Т.к. стажер, который на просьбу подать ключи может иногда передать отвертку или мясорубку, пойдет показывать, как он умеет работать ершиком.
Здравствуйте, SkyDance, Вы писали:
xma>>а что если прогрессивный налог в зависимости от рентабельности активов (и/или уровня долговой нагрузки) ? типа если долгов у компании нету и активов на $10M у неё, а прибыль $100M в год — то шкурить по полной .. а если наоборот, то налог близкий к минимальному
SD>Работать не будет, все компании будут максимально убыточны и "безактивны" и сплошь в долгах.
Здравствуйте, Miroff, Вы писали:
M> Но я как-то работал в команде, где было физически запрещено менять архитектуру в коде, только через диаграммы и кодогенерацию. И, в общем, это даже работало не смотря на то, что к моему приходу эту технологию уже лет 10 забили развивать и от нее остались ER диаграммы.
сам-то понял, что наприсал?
Многие и рады были бы испытать когнитивный диссонанс, но нечем.
Здравствуйте, SkyDance, Вы писали:
SD>Так я же написал — "другая нейросеть или набор тестов выступают в роли критериев качества". Одна сетка генерирует изображение, другая проверяет, что сгенерированное изображение классифицируется как можно ближе к заданному промпту.
Лишние конечности, лиш6ие стволы у ружей, массовка из одинаковых ботов с чуть рандомными искажениями- это что пока что генерит промпт. Ладно когда от картинки не зависит рещультат, но когда картинки в обучалке сгенерены нейросетью и от того, на какую из двух кнопок с крестиком кликнул, зависит рещультат прошёл тест или нет- это неприятно.
Здравствуйте, student__, Вы писали:
__>Здравствуйте, mgu, Вы писали:
mgu>>Пока во всей этой вакханалии я не понимаю, на какие шиши безработные "кожаные мешки" будут покупать произведённую роботами продукцию.
__>Поскольку средний класс исчезнет, а кругом будут холопы разного уровня приближённости к элите, но все малограмотные, высшие касты просто не смогут банально обслуживать и развивать свою ИИ-машинерию, и всё вернётся обратно, опять начнут ценить человеческий разум, хреновый, но адекватный среде.
Здравствуйте, mgu, Вы писали:
mgu>Средний класс исчезнет? Как и куда?
Скажем так, сократится. Ремесленники (программисты) будут ИТ инфраструктуру в замке феодала, которая будет связана не с холопами внизу под холмом, а с соседними замками других феодалов.
Здравствуйте, mgu, Вы писали:
mgu>А идея покупать товары на пособия с налогов от продажи этих самых товаров напоминает ковбойский анекдот: "Не кажется ли тебе, Джон, что мы бесплатно поели говна"?
не с налогов от продажи, а с налогов на экономическую ренту сверхприбыльных предприятий
Здравствуйте, mgu, Вы писали:
mgu>Средний класс исчезнет? Как и куда?
Единицы прощемятся в высшую касту (касту феодалов), все сотальные отправятся в низшую касту (касту холопов). Это процесс уже идет. Прикольно, что ты его не замечаешь.
Здравствуйте, xma, Вы писали:
mgu>>А идея покупать товары на пособия с налогов от продажи этих самых товаров напоминает ковбойский анекдот: "Не кажется ли тебе, Джон, что мы бесплатно поели говна"? xma>не с налогов от продажи, а с налогов на экономическую ренту сверхприбыльных предприятий
Здравствуйте, Vzhyk2, Вы писали:
mgu>>Средний класс исчезнет? Как и куда? V>Единицы прощемятся в высшую касту (касту феодалов), все сотальные отправятся в низшую касту (касту холопов). Это процесс уже идет. Прикольно, что ты его не замечаешь.
А что прикольного? Круг моих знакомых ограничен, а по встречным "холопам" не определить процент "из бывших".
Здравствуйте, mgu, Вы писали:
mgu>А откуда будут браться эти сверхприбыли?
при стандартном налогообложении ? ну представь, работников у тебя мало — вложений тоже не то чтобы много, но зато ты например окучиваешь весь российский (а то и не только) рынок доставки (например роботами-андроидами), а также рынок такси (в перспективе практически полностью ставшими беспилотными) ..
или там например рубишь бенефиты с автоматизации конвейера (там где раньше человек был) — например упаковка готовой продукции в ящики и их подготовка к дальнейшей логистике, разделка мяса/курицы/рыбы и их порцирование для дальнейшей автоматической вакуумной упаковки, или даже пошив одежды, сборка бытовой техники, комплектовщик в каком нить озоне/wb, автоматический склад с заменой всех грузчиков, сборка тепличных продуктов, роботы-комбайны и всякая прочая такая хрень ..
если роботы будут и дальше дешеветь и улучшаться, там реально применение миллиардам роботов в мире найдётся (тупо пенсы се на дачу брать будут чтобы он им урожай "окучивал", это кстате не так уж и не реалистично), ну или там дачный кооператив будет роботов приобретать и сдавать в аренду — технически и по бабкам это уже близко к точке безубыточности (особенно если только по железу считать, а софт опять же можно на всю страну тиражнуть а то и мир)
Здравствуйте, mgu, Вы писали:
mgu>А что прикольного? Круг моих знакомых ограничен, а по встречным "холопам" не определить процент "из бывших". https://www.youtube.com/watch?v=chHB1EgMoiE
Здравствуйте, xma, Вы писали:
xma>Здравствуйте, mgu, Вы писали:
mgu>>А откуда будут браться эти сверхприбыли? xma>при стандартном налогообложении ? ну представь, работников у тебя мало — вложений тоже не то чтобы много, но зато ты например окучиваешь весь российский (а то и не только) рынок доставки (например роботами-андроидами),
Представил: народу на предприятии мало, но налогополучателей же много. Дебет с кредитом сходятся только при налоге 100%.
(больше половины рабочей силы вроде пока проблематично автоматизировать даже в развитых странах), ну и будущее пипец туманно (там ваще могут в перспективе преобразовать поверхность планеты в ИИ материю способную самостоятельно поддерживать жизнь и синтезирующую "обстановку по кайфу" в реальном времени)
(тупо пенсы се на дачу брать будут чтобы он им урожай "окучивал", это кстате не так уж и не реалистично), ну или там дачный кооператив будет роботов приобретать и сдавать в аренду — технически и по бабкам это уже близко к точке безубыточности (особенно если только по железу считать, а софт опять же можно на всю страну тиражнуть а то и мир)
