Здравствуйте, Евгений Музыченко, Вы писали:
ЕМ>Здравствуйте, temnik, Вы писали:
T>>Агенты лучше и качественней, благодаря тому, что "видят" весь проект.
ЕМ>Только поэтому? Если, как я уже упоминал, загрузить архив с полным текстом в чат — он обработает его так же, как и агент, читающий тот же набор файлов с локальной ФС? Или таки чатовые движки действительно придушены, чтоб переходили на агентов?
Есть такое понятие — контекст (это что LLM может держать в "кратковременной памяти"). У этого контекста есть ограничения, у Клода например ~800K текста (200K токенов), у Max 1М токенов).
Все что не вошло в контекст для LLM не существует. Проект обычно намного больше чем 1М текста.
Поэтому агент вычитывает нужные фрагменты из проекта и добавляет в контекст только их.
Здравствуйте, Евгений Музыченко, Вы писали:
bnk>>агент вычитывает нужные фрагменты из проекта и добавляет в контекст только их.
ЕМ>Почему того же не может сделать чат-бот, в который загрузили полный исходник проекта? Он же не в клиентскую JS-часть его грузит, а на сервер.
Почему же не может, может, называется GitHub Copilot Agent, работает прямо на GitHub с твоим кодом.
Здравствуйте, Евгений Музыченко, Вы писали:
ЕМ>Здравствуйте, bnk, Вы писали:
bnk>>может, называется GitHub Copilot Agent
ЕМ>То есть, чат-боты не могут? Если не могут, то по каким причинам?
Из-за ограничения размера контекста. Весь код проекта в контекст не войдет,
поэтому и нужен "агент" который будет искать и добавлять нужные куски кода.
Онлайн-чаты ограничены контекстом, как правило это немного. Для бесплатного GPT например это 16К, что вообще ни о чем.
У него память хуже чем у золотой рыбки, какой от него может быть прок в программировании, где нужно держать в голове множество деталей?
Здравствуйте, bnk, Вы писали:
bnk>Весь код проекта в контекст не войдет, поэтому и нужен "агент" который будет искать и добавлять нужные куски кода.
Опять не понимаю. Вот чат-бот загрузил себе на сервер полный исходник проекта. Он не входит в контекст. Что мешает движку ИИ, работающему на сервере, выбрать из полного набора нужные фрагменты?
bnk>Онлайн-чаты ограничены контекстом, как правило это немного. Для бесплатного GPT например это 16К, что вообще ни о чем.
А платные? Из каких соображений их так ограничивают? Какая разница, кто выступает в роли агента — "нативный" код, работающий под ОС клиента, или JS-код, работающие на странице чат-бота в браузере?
Здравствуйте, Евгений Музыченко, Вы писали:
bnk>>Весь код проекта в контекст не войдет, поэтому и нужен "агент" который будет искать и добавлять нужные куски кода.
ЕМ>Опять не понимаю. Вот чат-бот загрузил себе на сервер полный исходник проекта. Он не входит в контекст. Что мешает движку ИИ, работающему на сервере, выбрать из полного набора нужные фрагменты?
Ничего не мешает. Вот это и будет "серверный агент" по типу GitHub Copilot Agent.
bnk>>Онлайн-чаты ограничены контекстом, как правило это немного. Для бесплатного GPT например это 16К, что вообще ни о чем.
ЕМ>А платные? Из каких соображений их так ограничивают? Какая разница, кто выступает в роли агента — "нативный" код, работающий под ОС клиента, или JS-код, работающие на странице чат-бота в браузере?
ЕМ>Или это какие-то идеологические соображения?
Здравствуйте, Евгений Музыченко, Вы писали:
ЕМ>Опять не понимаю. Вот чат-бот загрузил себе на сервер полный исходник проекта. Он не входит в контекст. Что мешает движку ИИ, работающему на сервере, выбрать из полного набора нужные фрагменты?
Он не грузит себе на сервер ничего, он работает только с текстом в браузере. И выгрузить он ничего не может (хотя может утверждать, что может), Может только написать текстом в браузере.
А агент работает именно с файлами на вашем компьютере. Агент это локальное приложение, которое умеет читать файлы, компоновать нужные куски и отправлять их в запросах серверной модели, получать ответ и распихивать его по нужным файлам. Модель может быть та же, что и в чате, но общаетесь вы с ней не напрямую, как в чате, а через агента, который как переводчик, сопровождает ваши запросы нужным контекстом. То же можно делать и в чате, но если загрузить весь код (для этого тоже есть программы, которые читают структуру проекта и код и сохраняют это всё в один текстовый файл), то на запрос модель должна этот код изучить полностью, это засоряет контекст и модель начинает тупить. Или вы можете дать одну функцию и работать над ней, но если она ссылается на другой код, то модель может не понять как работает функция. Вы можете предварительно описать, что происходит, куда она ссылается, что получает в ответ (это и есть контекст) — тогда модель поймет. Агенты просто облегчают эту работу, сразу давая модели в запрос всё, что нужно. Ну и избавляют от копипасты.
Здравствуйте, temnik, Вы писали:
T>Он не грузит себе на сервер ничего, он работает только с текстом в браузере.
Э-э-э... Вы хотели сказать, что, когда я добавляю в сеанс файл с изображением, звуком, архив с исходниками и т.п., то все это обрабатывает сугубо JS-код в браузере, а сам ИИ-движок на сервере ничего этого не видит?
T>И выгрузить он ничего не может (хотя может утверждать, что может), Может только написать текстом в браузере.
Мне выгружает. Я про ChatGPT, с другими это пока не пробовал.
T>Агент это локальное приложение
Я знаю, что это такое.
T>общаетесь вы с ней не напрямую, как в чате, а через агента, который как переводчик
На сервере модель тоже не напрямую подключена к HTTP. Там тоже "агент", организующий чат, обрабатывающий элементы управления, перенаправляющий текст туда-сюда.
T>если загрузить весь код (для этого тоже есть программы, которые читают структуру проекта и код и сохраняют это всё в один текстовый файл), то на запрос модель должна этот код изучить полностью, это засоряет контекст и модель начинает тупить.
Ну, это ж просто реализация такая. Технически ничто не заставляет пихать весь ввод в контекст модели. Можно к HTTP-серверу прикрутить примерно тот же код, что разбирает файлы на локальном компьютере. Платные сервисы вполне могли бы это делать. Если не делают, то это лишь идеология такая, а не техническое ограничение.
Здравствуйте, Евгений Музыченко, Вы писали:
ЕМ>У нас в мире, однако, эпоха турбулентности. Поэтому ориентация на одну только сиюминутную успешность представляется мне слишком оптимистичной, нужно думать и об устойчивости. А я не зря подчеркнул в заголовке, что вопрос касается только работы в одиночку. Компания из двух-трех человек, как известно, гораздо менее устойчива, чем одиночка, ибо потеря одного сотрудника приводит к потере 30-50% активов компании, в то время как одиночке, чтоб разом потерять 30-50% работоспособности, нужно пережить серьезный катаклизм. Заметное повышение устойчивости начинается где-то от 7-10 человек в компании, и только если ни один из них не играет ключевой роли.
Здравствуйте, Евгений Музыченко, Вы писали:
ЕМ>Ну вот порча памяти воспроизводится в ходе обработки множества асинхронных событий (движений мыши, нажатий клавиш, прихода сетевых пакетов). Как именно он "оттрассирует цепь причин"? Будет гонять отладчик по шагам через каждый поток? Кстати, есть ли такие отладчики, чтоб независимо трассировать несколько потоков?
Добавит логирование, воспроизведёт. У нас он так ловил сложную багу, связанную с обработкой множества асинхронных событий.
ЕМ>Вот и хочу как-нибудь составить "рейтинг заслуг" по собранной статистике.
Да, задача на утро.
Уйдемте отсюда, Румата! У вас слишком богатые погреба.
Здравствуйте, Евгений Музыченко, Вы писали:
ЕМ>Здравствуйте, Черный 😈 Властелин, Вы писали: ЧВ>>тут важно понимать что это именно агент(ы) ЕМ>Вы с самого начала пользовались именно аге1нтами? Или сперва удалось получить ощутимый эффект от чат-ботов, и только после этого перешли на агенты?
Пока были только чаты пользовался чатами (реверсил чужой продукт, они мне сильно помогли).
Счас у меня топовый план в Claude и проблема стоит скорее в том, чего бы еще загрузить в этот агент, он все решает слишком быстро, я даже не могу недельную квоту полностью использовать.
То что раньше занимало дни и недели, занимает от силы пару часов. Даже выложил тот движок в open source, поделится с сообществом — кому интересно что там ИИ написало за два дня — смотрите.
Уже есть поддержка Delphi, завтра сделаю commit для Delphi FMX и все возможные платформы Lazarus & Delphi будут покрыты — кто использует паскаль, гляньте, может вам пригодится.
Здравствуйте, Черный 😈 Властелин, Вы писали:
ЧВ>То что раньше занимало дни и недели, занимает от силы пару часов.
А насколько оно способно делать код, не использующий сторонних библиотек? Если ему поручить "сделать кроссплатформенный UI, как с Qt, но на чистом API каждой из платформ", то чего можно ожидать в итоге?
И как, кстати, с оптимизацией кода? Размеры бинарников/дистрибутивов остаются примерно такими же, как и при ручной разработке, уменьшаются, растут?
По поводу конкурентов есть еще и другая перспектива. Если сейчас попросить ИИ "изучи вот этот продукт и сделай мне такой же", то он вряд ли прям бегом это сделает. Потребуется реверс-инжиниринг и кода, и взаимодействия с системой/сервером (если он есть), множество проб и ошибок.
Но ситуация может измениться, если тот продукт тоже был сделан ИИ, особенно — тем же самым. Коли уж ИИ — это Ваш работник, он точно также учится при работе на Вас, и будет запоминать любые нестандартные, по его мнению, комбинации вида "задача была такой — в итоге сделали вот так" — не только в Ваших локальных БД, но и у себя. И когда конкурент скажет ему "сделай мне такой же" — он, скорее всего, сделает уже практически сам, как сейчас делает какую-нибудь типовую задачу, вроде сортировки или парсинга регулярного выражения.
Не думали над этим? Это ведь классическая ситуация, когда мастер берет ученика, обучает его тонкостям ремесла, а потом ученик уходит и открывает свое дело.
Вот чат-бот загрузил себе на сервер полный исходник проекта. Он не входит в контекст. Что мешает движку ИИ, работающему на сервере, выбрать из полного набора нужные фрагменты?
