Здравствуйте, SkyDance, Вы писали:
SD>Нет, все несколько иначе. SD>Я бы скорее привел в качестве аналогии property-based testing (упрощенная вариация которого называется fuzzying). Нейросеть генерирует некоторое рандомное (*) изменение (примерно как "мутация" в наших генах генерируется ионизирующим излучением), а другая нейросеть (или просто набор тестов) проверяют полученный вариант на то, лучше ли он предыдущего, или хуже.
SD>(*) на самом деле, не совсем рандомное, но это уже детали
Ну вот опять, у property based тестов и у fuzzing есть чёткие критерии того, что такое плохо (программа упала, свойство не выполнено) и в рамках этих критериев ищется некоторое решение. В этих условиях подход работает, именно поэтому нейросети хорошо решают литкод задачи, или играют в го. Но что делать в ситуации, когда нет критериев качества? Ок, мы скажем, что программа должна компилироваться, не крешиться, не зависать. Но этого, мягко говоря, недостаточно. Идем дальше: несформулированные критерии качества — это только начало айсберга. На решении каких задач должна тренироваться модель? У нас сами задачи тоже не сформулированы, не только их критерии качества.
SD>>а другая нейросеть (или просто набор тестов) проверяют полученный вариант на то, лучше ли он предыдущего, или хуже.
T>что делать в ситуации, когда нет критериев качества?
Так я же написал — "другая нейросеть или набор тестов выступают в роли критериев качества". Одна сетка генерирует изображение, другая проверяет, что сгенерированное изображение классифицируется как можно ближе к заданному промпту.
T>Идем дальше: несформулированные критерии качества — это только начало айсберга.
Дело в том, что у людей практически нет индивидуальности. И для большинства реальных задач уже давным-давно заданы все возможные критерии. Нейросеть их знает, потому что натренирована на огромном количестве таковых. Иными словами, "все уже украдено до нас" (С) Включая задачи "поди туда, не знаю куда, принеси то, не знаю что".
Здравствуйте, Vzhyk2, Вы писали:
mgu>>Хорошая система должна быть понятна даже дуракам. V>И как это не позволит им расшибать лбы? Это же неотемлемая функция дураков.
V>З.Ы. Хотя для дураков тоже есть решение — помещать их в комнаты, где стены и пол обиты мягкими материалами и по одному.
Теперь я понял, что означает требование в вакансиях soft skills.
Здравствуйте, Vzhyk2, Вы писали:
mgu>>Контекста не хватает и людям, ибо техзадание "Сделайте мне красиво" -- не пустые слова. V>Персонально для тебя от Дикпика: V>
V>Конечно! «Сделайте мне красиво» — отличная отправная точка. Давайте создадим что-то элегантное, вдумчивое и визуально приятное.
...
V>Я готов помочь вам сделать это *идеально* красиво.
Где-то я это уже слышал. Но не от ИИ, а от ЕБ (естественных балаболов).
xma>Какая степень автоматизации реально ожидается:
xma>Через ~15 лет (2040) Автоматизация: 30–50% задач, не профессий (безработица умеренная, но доходы поляризуются)
xma>Через ~25–30 лет (2050–2055) Автоматизация: 50–70% задач (работа либо низкооплачиваемая, либо элитная)
xma>Дальше (после 2060) Автоматизация: 70–85% задач (труд → не основной источник дохода, доход = доля в капитале)
xma>"но жЫть в ту прекрасную пору не доведётся уже ни тебе ни мне" (c)
"Запомните этот твит!". Ну, лет на 5.
А идея покупать товары на пособия с налогов от продажи этих самых товаров напоминает ковбойский анекдот: "Не кажется ли тебе, Джон, что мы бесплатно поели говна"?
Здравствуйте, landerhigh, Вы писали:
mgu>>Описанный паттерн -- стажёр. Пока подяёт ключи. Но он вам ещё покажет
L>Покажет, как он туалеты чистит. L>Т.к. стажер, который на просьбу подать ключи может иногда передать отвертку или мясорубку, пойдет показывать, как он умеет работать ершиком.
Здравствуйте, SkyDance, Вы писали:
xma>>а что если прогрессивный налог в зависимости от рентабельности активов (и/или уровня долговой нагрузки) ? типа если долгов у компании нету и активов на $10M у неё, а прибыль $100M в год — то шкурить по полной .. а если наоборот, то налог близкий к минимальному
SD>Работать не будет, все компании будут максимально убыточны и "безактивны" и сплошь в долгах.
Здравствуйте, Miroff, Вы писали:
M> Но я как-то работал в команде, где было физически запрещено менять архитектуру в коде, только через диаграммы и кодогенерацию. И, в общем, это даже работало не смотря на то, что к моему приходу эту технологию уже лет 10 забили развивать и от нее остались ER диаграммы.
сам-то понял, что наприсал?
Многие и рады были бы испытать когнитивный диссонанс, но нечем.
Здравствуйте, SkyDance, Вы писали:
T>>что делать в ситуации, когда нет критериев качества?
SD>Так я же написал — "другая нейросеть или набор тестов выступают в роли критериев качества". Одна сетка генерирует изображение, другая проверяет, что сгенерированное изображение классифицируется как можно ближе к заданному промпту.
Качество для бизнеса -- не самоцель. А критерий эффективности один: "пипл хавает". Улучшения производятся в узких местах в воронке продаж, которые определяются с помощью расцветших в последние годы систем слежки за пользователями.
Здравствуйте, SkyDance, Вы писали:
SD>Так я же написал — "другая нейросеть или набор тестов выступают в роли критериев качества". Одна сетка генерирует изображение, другая проверяет, что сгенерированное изображение классифицируется как можно ближе к заданному промпту.
Лишние конечности, лиш6ие стволы у ружей, массовка из одинаковых ботов с чуть рандомными искажениями- это что пока что генерит промпт. Ладно когда от картинки не зависит рещультат, но когда картинки в обучалке сгенерены нейросетью и от того, на какую из двух кнопок с крестиком кликнул, зависит рещультат прошёл тест или нет- это неприятно.
Здравствуйте, mgu, Вы писали:
mgu>Пока во всей этой вакханалии я не понимаю, на какие шиши безработные "кожаные мешки" будут покупать произведённую роботами продукцию.
Все, как зашоренные технари, ринулись обсуждать технологические достижения в области методов тренировки LLM, но что-то не вижу, чтобы обсуждали экономическую модель этого светлого (или тёмного) ИИ-будущего. А между тем, это же самое главное. Плюс цивилизационно-культурные последствия.
С экономической моделью всё просто. Та модель, которая привела к развитию экономики, техники и в частности LLM как раз и противоречит фундаментальным принципам, на которых основаны LLM.
LLM учится на датасетах, составленных людьми. И никакие "тандемы", "LLM-критики" и прочие маркетинговые баззворды не изменят этого факта. Всё это лишь наукообразные фасады, за которыми скрывается лишь простое "мы научили LLM более эффективно работать с датасетом. Спешите инвестировать в наш стартап!". Что ещё можно сделать? Дать LLM кучу компов, объединённых сетью, с кучей суперкомпов, с кучей GPGPU, чтобы она могла на ходу ставить эксперименты и корректировать свои ответы экспериментально.
Что мы получим? Гигантскую систему, жрущую гораздо больше энергии в единицу времени, чем группа сапиенсов, которые решат задачу, да, не идеально, да, дольше, но это будет работать. Далее, потенциальные датасеты — это проприетарный код корпораций. Т.е. максимум, что LLM сможет достичь — переливать из пустого в порожнее из того, что есть в опенсорсе и того, что есть в отдельно взятой корпе ("социализм в отдельно взятой стране"
И эффективнее они будут просто потому что синапсы с нейронами перестраиваются более энергоэффективно, чем программы в полупроводниковом компе. Вернее, в data-driven подходе, программы вообще не перестраиваются сами.
ИИ может решить очень конкретную и очень сложную оптимизационную задачу, которую люди будут решать тысячелетиями, но человеческий интеллект не про это. Человеческий интеллект — это целесообразная адаптация на небольшое изменение среды во взаимодействие с другими сапиенсами. Здесь требуется на небольшую дельту-т изменений среды произвести небольшое изменение дельта-игрек в мозгу. И сообщить что-то важное другим членам коллектива. Надо ли говорить, что LLM тут в заведомом проигрыше, хотя бы потому, что письменные язык — это всего лишь форма манифестации человеческого мышления, и вся ИИ машинерия, все эти жрущие дохрена энергии тренировочные компы всего лишь побочный эффект деятельности человеческого мозга.
Посмотрите на пример шахмат. Вот уже любой смартфон обыграет любого Магнуса Карлсена, даже не особо нагреваясь (а когда-то, когда Каспаров проигрывал гигантскому супер-компу, казалось, что вот-вот машины уничтожат шахматы как человеческую игру). Прошло более 20 лет, и что мы видим? Люди перестали играть в шахматы? Нет. И коммерция из шахмат не исчезает. Профессиональные шахматисты, начиная с определённого уровня, обеспечивают себя за счёт шахмат, за счёт игры с другими людьми или обучения других людей.
Цивилизационно-культурные последствия будут такие, что если верхнее руководство будет через колено ломать всю экономику потребления, заменяя всех и вся ИИ, то просто мы прийдём к нео-средневековью. Будут монархи, и будет каста учёных и инженеров, генерящих новое знание. У них будут в руках все суперкомпы и датасеты мира, и по началу они смогут сами решать общественные задачи. И если они захотят, они смогут заставить половину земного шара крутить педали, чтобы выработать энергию для работы своих датацентров.
Но не долго.
Поскольку средний класс исчезнет, а кругом будут холопы разного уровня приближённости к элите, но все малограмотные, высшие касты просто не смогут банально обслуживать и развивать свою ИИ-машинерию, и всё вернётся обратно, опять начнут ценить человеческий разум, хреновый, но адекватный среде.
Здравствуйте, student__, Вы писали:
__> максимум, что LLM сможет достичь — переливать из пустого в порожнее из того, что есть в опенсорсе и того, что есть в отдельно взятой корпе ("социализм в отдельно взятой стране"
Да, и что? Вот смотри — стриминговые сервисы высосали деньги из киноиндустрии (а может это ещё до подписок случилось). Кино стало говном, жевачкой от которой тошнит. Но подписки работают, ибо альтернатив нет. Так и здесь — за стоимость 1 кодера для компании, можно купить 10 подписок на код-ассистента, и раздать их оставшимся кодерам. Оставшиеся кодеры приучатся быстрее говнокодить и разучатся в итоге кодить руками. Альтернатив не останется, круг замкнётся. То, что кто-то где-то будет кодить нишевую логику на основную массу никак не повлияет.
Будет только хуже. Дистопия было первая репетиция с ковидным жижепрокалыванием, теперь пошла вторая волна.
Допустим, облачные сервисы LLM лопнут, ну ок. Но деньги на них уже потрачены — режут косты с персонала. А дальше, через 3-5 лет, я надеюсь, локальное железо сможет крутить полноценные модели, которые счас только в облаке доступны. И что огромные инвестиции в датацентры сейчас, через 5 лет отправятся на свалку отравлять грунтовые воды.
Здравствуйте, student__, Вы писали:
__>Здравствуйте, mgu, Вы писали:
mgu>>Пока во всей этой вакханалии я не понимаю, на какие шиши безработные "кожаные мешки" будут покупать произведённую роботами продукцию.
__>Поскольку средний класс исчезнет, а кругом будут холопы разного уровня приближённости к элите, но все малограмотные, высшие касты просто не смогут банально обслуживать и развивать свою ИИ-машинерию, и всё вернётся обратно, опять начнут ценить человеческий разум, хреновый, но адекватный среде.
Здравствуйте, mgu, Вы писали:
mgu>Средний класс исчезнет? Как и куда?
Скажем так, сократится. Ремесленники (программисты) будут ИТ инфраструктуру в замке феодала, которая будет связана не с холопами внизу под холмом, а с соседними замками других феодалов.
Здравствуйте, mgu, Вы писали:
mgu>А идея покупать товары на пособия с налогов от продажи этих самых товаров напоминает ковбойский анекдот: "Не кажется ли тебе, Джон, что мы бесплатно поели говна"?
не с налогов от продажи, а с налогов на экономическую ренту сверхприбыльных предприятий
Здравствуйте, mgu, Вы писали:
mgu>Средний класс исчезнет? Как и куда?
Единицы прощемятся в высшую касту (касту феодалов), все сотальные отправятся в низшую касту (касту холопов). Это процесс уже идет. Прикольно, что ты его не замечаешь.
Здравствуйте, xma, Вы писали:
mgu>>А идея покупать товары на пособия с налогов от продажи этих самых товаров напоминает ковбойский анекдот: "Не кажется ли тебе, Джон, что мы бесплатно поели говна"? xma>не с налогов от продажи, а с налогов на экономическую ренту сверхприбыльных предприятий
Здравствуйте, Vzhyk2, Вы писали:
mgu>>Средний класс исчезнет? Как и куда? V>Единицы прощемятся в высшую касту (касту феодалов), все сотальные отправятся в низшую касту (касту холопов). Это процесс уже идет. Прикольно, что ты его не замечаешь.
А что прикольного? Круг моих знакомых ограничен, а по встречным "холопам" не определить процент "из бывших".
Здравствуйте, mgu, Вы писали:
mgu>А откуда будут браться эти сверхприбыли?
при стандартном налогообложении ? ну представь, работников у тебя мало — вложений тоже не то чтобы много, но зато ты например окучиваешь весь российский (а то и не только) рынок доставки (например роботами-андроидами), а также рынок такси (в перспективе практически полностью ставшими беспилотными) ..
или там например рубишь бенефиты с автоматизации конвейера (там где раньше человек был) — например упаковка готовой продукции в ящики и их подготовка к дальнейшей логистике, разделка мяса/курицы/рыбы и их порцирование для дальнейшей автоматической вакуумной упаковки, или даже пошив одежды, сборка бытовой техники, комплектовщик в каком нить озоне/wb, автоматический склад с заменой всех грузчиков, сборка тепличных продуктов, роботы-комбайны и всякая прочая такая хрень ..
если роботы будут и дальше дешеветь и улучшаться, там реально применение миллиардам роботов в мире найдётся (тупо пенсы се на дачу брать будут чтобы он им урожай "окучивал", это кстате не так уж и не реалистично), ну или там дачный кооператив будет роботов приобретать и сдавать в аренду — технически и по бабкам это уже близко к точке безубыточности (особенно если только по железу считать, а софт опять же можно на всю страну тиражнуть а то и мир)
Здравствуйте, mgu, Вы писали:
mgu>А что прикольного? Круг моих знакомых ограничен, а по встречным "холопам" не определить процент "из бывших". https://www.youtube.com/watch?v=chHB1EgMoiE
(тупо пенсы се на дачу брать будут чтобы он им урожай "окучивал", это кстате не так уж и не реалистично), ну или там дачный кооператив будет роботов приобретать и сдавать в аренду — технически и по бабкам это уже близко к точке безубыточности (особенно если только по железу считать, а софт опять же можно на всю страну тиражнуть а то и мир)
