Почему не в форум об ИИ — там в основном специальные вопросы, а это обсуждение общего плана.
Интеллект это или не интеллект — вопрос скорее философский. В общем, можно сказать, что это нечто, отчасти похожее на человеческий интеллект, но и существенно от него отличающееся. Тут можно многое сказать, но не буду.
Если считать его все же интеллектом, то вполне логично сравнить его с естественным интеллектом (ЕИ). И вот тут обнаруживаются существенные различия организационного характера.
Носители ЕИ, как правило, являются специалистами в одной, реже нескольких областях. Их знания в других областях поверхностны, и, как правило, не годятся для того, чтобы сделать серьезные экспертные заключения. За примерами ходить далеко не надо. Тут все более или менее являются специалистами в ИТ и могут дать компетентное заключение по какому-то вопросу, но послушаешь, что они высказывают в непрофильных форумах, например, по экономике — порой волосы становятся дыбом и уши вянут. И уж никакой серьезный экономист в здравом уме и твердой памяти не станет руководствоваться их высказываниями по экономике.
Более того. ЕИ (если конечно, речь не идет о личностях вроде Ноздрева) по большинству вопросов вне своей сферы компетенции даст ответ — не знаю. Ну действительно, что Вы можете ответить на узкоспециальный вопрос, скажем, по гетерогенному катализу ? Только одно — не знаю. Я как химик по образованию когда-то что-то знал, но давно забыл, так что и мой ответ, скорее всего, будет таким же.
Второй отличительный признак ЕИ — он децентрализован. Отдельные люди и являются его носителями, и их интеллект каким-то не вполне понятным образом и решает возникающие проблемы, дает ответ. С довольно высокой скоростью. Каналы же связи между носителями ЕИ имеют довольно низкую пропускную способность, как минимум не сравнимую с пропускной способностью внутренних интерфейсов ЕИ. Если необходимо получить ответ на вопрос, затрагивающий несколько сфер деятельности, то для ЕИ это приведет к созданию некоторой системы взаимодействующих ЕИ, являющихся специалистами в разных областях. Проще говоря, соберут совещание, на которое пригласят специалистов разного профиля, и они совместными усилиями будут пытаться решить эту проблему. При этом каждый участник , несомненно, будет хорошо понимать , что он сам говорит на эту тему и никаких недопониманий себя с самим собой не будет, а вот недопонимания и разногласия при взаимодействии участников будут почти обязательно, и их "утрясание" может занять большое время. За примерами опять же далеко ходить не надо — достаточно почитать дискуссии здесь на какую-то тему.
С ИИ все обстоит иначе. Он универсален и готов ответить на любой вопрос. А поскольку нельзя объять необъятное, то он начинает фантазировать, скрещивая данные из самых разных источников, и как результат, часто попадая впросак. Универсальный же ЕИ существует только в произведениях фантастов (вроде Лемовского Соляриса), реально его нет.
Может быть, в этом и (отчасти) кроются некоторые проблемы , связанные с ИИ ? Может быть, будь он организован иначе, эти проблемы бы ушли ?
Представьте себе, что ИИ организован по-другому. Вместо универсального ChatGPT или DeepSeek имеется большое количество узкоспециализированных ИИ, но таких, которые очень хорошо ориентируются в своей области, так что на вопрос, относящийся к ней они дают всегда или почти всегда правильный ответ, а если вопрос выходит за пределы их компетенции — пытаются определить, к компетенции какого другого ИИ он относится и передаю вопрос ему. Иными словами, ведут себя как люди в этом плане. "Я в этой области плохо разбираюсь, но знаю Ивана Петрова, который вроде в этом разбирается, спрошу его". Возможно, что Иван Петров тоже окажется не специалистом и передаст вопрос Петру Сидорову, а возможно, что в итоге будет собрано совещание с участием всех троих, и совместными усилиями они найдут ответ. Вот и для ИИ могло бы быть аналогично.
Ну и конечно, ИИ в данной области совсем не обязан быть в единственном экземпляре. Вполне можно допустить наличие нескольких экземпляров его, отличающихся заложенными для ответа данными или алгоритмами. Тогда окончательный ответ может быть дан путем "обсуждения" и последующего согласования ответов, данных отдельными экземплярами, либо же окончательный ответ будет сформулирован в виде "к сожалению, дать надежный ответ на этот вопрос не оказалось возможным, имеются разные точки зрения на то, что считать правильным". Возможно, что возникнет некоторая иерархическая система, в которой более авторитетные ИИ будет запрашивать мнение менее авторитетных и на основе их формировать окончательный ответ. В общем, как у ЕИ.
Это существенно изменит и саму модель ИИ как явления. Вместо одного универсального ИИ в огромном датацентре можно будет иметь сотни и тысячи (а может, сотни тысяч) специализированных ИИ, взаимодействующих между собой и расположенных на относительно некрупных серверах относительно небольших организаций.
Мне кажется, что ИИ сейчас проходит период развития, который можно назвать "очень большие и не слишком умные". Как динозавры. Или, если угодно, как ЭВМ до эпохи микропроцессоров и персональных компьютеров.
Здравствуйте, Pavel Dvorkin, Вы писали:
PD>Представьте себе, что ИИ организован по-другому. Вместо универсального ChatGPT или DeepSeek имеется большое количество узкоспециализированных ИИ, но таких, которые очень хорошо ориентируются в своей области...
Возникает вопрос — как очертить границу знаний узкоспециализированной модели ИИ?
Задачу формулирует человек с использование синонимов, жаргонов, терминов из другой предметной области которых не будет в обучающем наборе данных узкоспециализированной модели. Если обучать условную модель "программист" только на специализированных книгах или исходных текстах, то эта модель просто не поймет что вы от нее хотите. То есть нужно добавлять некий "слой" общих знаний или использовать универсальную модель которая будет взаимодействовать со специализированными и отправлять им запрос в формальном и "доступном" для них виде. Например, пользователь делает запрос по написанию программы, требующей знания физики. Универсальной общая модель формализует запрос на понятном для "физической" модели языке, получает от неё формулы и... в каком виде передать эти формулы модели "программист", если эта модель кроме программирования ничего не знает?
Еще больше проблем возникнет при использовании предложенной вами модели взаимодействия по той же причине.
На самом деле, такой проблемы как перемешивание данных из разных областей со снижением качества результата почти нет. Проблема в том, что LLM должны выдать результат в любом случае, выбирая из наиболее статистически вероятных последующих в выдаче токенов(слов) даже в том случае, если хороших статистически вариантов ответа нет.
Здравствуйте, Pavel Dvorkin, Вы писали:
PD>Что думаете ?
Думаем что искуственный может прожить значительно дольше чем естественный, да и размножается проще и пока не бунтует. Сплошные плюсы. Но как только его применят против людей будет жопа.
Здравствуйте, TheBeginner, Вы писали:
PD>>Представьте себе, что ИИ организован по-другому. Вместо универсального ChatGPT или DeepSeek имеется большое количество узкоспециализированных ИИ, но таких, которые очень хорошо ориентируются в своей области...
TB>Возникает вопрос — как очертить границу знаний узкоспециализированной модели ИИ? TB>Задачу формулирует человек с использование синонимов, жаргонов, терминов из другой предметной области которых не будет в обучающем наборе данных узкоспециализированной модели. Если обучать условную модель "программист" только на специализированных книгах или исходных текстах, то эта модель просто не поймет что вы от нее хотите. То есть нужно добавлять некий "слой" общих знаний или использовать универсальную модель которая будет взаимодействовать со специализированными и отправлять им запрос в формальном и "доступном" для них виде. Например, пользователь делает запрос по написанию программы, требующей знания физики. Универсальной общая модель формализует запрос на понятном для "физической" модели языке, получает от неё формулы и... в каком виде передать эти формулы модели "программист", если эта модель кроме программирования ничего не знает?
Я об этом писал.
PD> которые очень хорошо ориентируются в своей области, так что на вопрос, относящийся к ней они дают всегда или почти всегда правильный ответ, а если вопрос выходит за пределы их компетенции — пытаются определить, к компетенции какого другого ИИ он относится и передаю вопрос ему. Иными словами, ведут себя как люди в этом плане. "Я в этой области плохо разбираюсь, но знаю Ивана Петрова, который вроде в этом разбирается, спрошу его". Возможно, что Иван Петров тоже окажется не специалистом и передаст вопрос Петру Сидорову, а возможно, что в итоге будет собрано совещание с участием всех троих, и совместными усилиями они найдут ответ. Вот и для ИИ могло бы быть аналогично.
Если тебе завтра придется писать программу для теорфизиков, то ты не сядешь за изучение курса Ландау-Лифшица. Вместо этого ты попросишь теорфизика дать нужные формулы или алгоритмы. Да даже в бизнес-задачах то же. Мне довелось в незапамятные времена писать программу расчет зарплаты в одном предприятии. Так мне дали бухгалтера, с которым мы просидели пару дней, и она мне дала все правила для начислений и удержаний. Сам бы я и за месяц не справился, особенно с учетом того, что Интернета тогда не было.
PD>Если тебе завтра придется писать программу для теорфизиков, то ты не сядешь за изучение курса Ландау-Лифшица. Вместо этого ты попросишь теорфизика дать нужные формулы или алгоритмы. Да даже в бизнес-задачах то же. Мне довелось в незапамятные времена писать программу расчет зарплаты в одном предприятии. Так мне дали бухгалтера, с которым мы просидели пару дней, и она мне дала все правила для начислений и удержаний. Сам бы я и за месяц не справился, особенно с учетом того, что Интернета тогда не было.
Вам конечно известно выражение не говорят на одном языке применительно к работе над проектом где участвуют специалисты в разных предметных областях и какие проблемы при этом возникают.
Узкоспециализированная модель ИИ может выглядеть как "json на входе с данными эхолокации а на выходе разведанные запасы нефти". Это конечно крайний случай и описанный вами подход предполагает, что модели ИИ являются универсальными (чтобы коммуницировать между собой) но специализирующимися на одной предметной области.
Представим такой пример запроса:
Найди ошибку:
N ← 20
mask ← (N⍴1)
mask[1] ← 0
i ← 2
:While i ≤ N
:If mask[i] = 1
mask[i×2↓⍳⌊N÷i] ← 0
:EndIf
i ← i + 1
:EndWhile
primes ← (mask)/⍳N
primes
Пользователь не уточнил о чем идет речь. Что это? Математика, программирование? Если программирование, то какой это язык. То есть наша модель ИИ должна обладать полнотой знаний, чтобы просто определить какой модели передать запрос, даже если речь идет об иерархической модели вида общая модель > программист > программист APL
Здравствуйте, TheBeginner, Вы писали:
TB>Представим такой пример запроса: TB>Найди ошибку:
<skipped>
Ну а если такой пример запроса адресован не ИИ, а просто мне или иному ЕИ ? Дали вот такое на чем-то вроде ЕГЭ , и попробуй ответь.
Мой ответ будет прост — без дополнительных данных я ответ дать не могу. И ИИ должен дать такой же ответ, а не фантазировать. Будут даны дополнительные данные — будет с кем связаться (другим ИИ или ЕИ) для уточнения.
Еще раз поясню суть того, о чем я говорю. ИИ должен действовать так же, как ЕИ. А для ЕИ такой подход работает. Получив ответ, о чем идет речь, я смогу связаться с кем-то (ЕИ2) и спросить его ну хотя бы о том, какие алгоритмы используются в этой области. Возможно, что ЕИ2 разбирается в этом плохо, но выведет меня на ЕИ3, который разбирается лучше. И т.д. В конце концов ответ будет, возможно, дан. А может, и нет...
TB>Пользователь не уточнил о чем идет речь. Что это? Математика, программирование? Если программирование, то какой это язык.
Ну вот первый вопрос, который я задам — это математика или программирование ? Второй (если ответ на первый — программирование) — на каком языке. Ты выбрал пример текста, где можно заподозрить и то и другое (алгоритмическое описание в математике или же код на APL. Тут схожее. Если бы текст был кодом на Java , C++ или C#, я бы опознал его сам сразу и эти 2 вопроса задавать не стал. А может, и задал бы все же, потому что Java и C# по короткому фрагменту не всегда можно отличить. Далее последуют иные вопросы — например, для чего этот код. И т.д.
А что мне еще делать ? Искать ошибку, не понимая, о чем идет речь ? Если это APL, то ошибку надо искать по правилам APL. Если это чисто математическая нотация, то по правилам ее, которые могут от правил APL отличаться.
Кстати, вот контрпример. Дан некий текст на естественном языке, найти в нем грамматические или стилистические ошибки.
Если текст на кириллице и я его опознаю как русский — отвечу сам в меру своего знания правил русского языка . Если он на кириллице, но явно не русский — попробую опознать язык и свяжусь с тем, кто его хорошо знает, пусть он ответит. Если текст на латинице и я его опознаю как английский — попробую ответить сам, но все же скорее всего обращусь к кому-то из нативов или хотя бы к преподавателю английского, поскольку тут я совсем не уверен, что дам корректный ответ. Если на латинице и явно не английский — попробую определить, какой это язык (такие алгоритмы есть, по наличию диакритических знаков, специфическим парам и т.д.), после чего обращусь к нативу. Если не кириллица и не латиница — ну тогда надо каким-то способом опознать язык (и возможно, я это сделаю неверно, хотя Google Translate мне в помощь), после чего опять же обратиться к нативу. Разница лишь в том, что если я его опознаю неверно, то натив мне даст ответ — "это не суахили", после чего придется найти следующий язык- кандидат и обратиться к его нативу и т.д.
PD>Представьте себе, что ИИ организован по-другому. Вместо универсального ChatGPT или DeepSeek имеется большое количество узкоспециализированных ИИ, но таких, которые очень хорошо ориентируются в своей области, так что на вопрос, относящийся к ней они дают всегда или почти всегда правильный ответ, а если вопрос выходит за пределы их компетенции — пытаются определить, к компетенции какого другого ИИ он относится и передаю вопрос ему.
Даже не знаю чему больше удивляться, Крош, твоей изобретательности или твоей неинформированности (с) Ежик из м/ф Смешарики
Насколько можно собрать информацию из утечек или публикаций, все современные модели так или иначе или именно такие, или используют ещё более лучшие варианты этой идеи. Gemini 3 — MoE. DeepSeek-V3, a strong Mixture-of-Experts (MoE) language model — прямо у них на гитхабе. GPT-5 tech reports — тоже MoE. И даже маленькая GPT-OSS — тоже MoE.
MoE — Mixture of Experts, ровненько то что ты описываешь — несколько "экспертов" внутри одной модели. Детали разнятся: от 8 экспертов в Mistral, которая в декабре 2023-го года вышла в опен-сорс; до неизвестно скольки экспертов у закрытых моделей. Сам термин "mixture of experts" (мне вряд ли поверят, ведь тогда наверное не было даже GPT-1) родом вообще из года 2017-го. Вышли на идею подсмотрев внутрь нейросетей, у которых в процессе обучения нейроны сами группировались (логически, физически понятное дело нет), по областям знаний. И активация одних означала мышление в одной области, а других в другой. Просто с явным делением на MoE и всякими трюками, вроде заморозки посторонних областей (чтобы сохранить уже изученное), обучение идёт быстрее и надёжнее.
Здравствуйте, hi_octane, Вы писали:
_>Даже не знаю чему больше удивляться, Крош, твоей изобретательности или твоей неинформированности (с) Ежик из м/ф Смешарики
_>MoE — Mixture of Experts, ровненько то что ты описываешь — несколько "экспертов" внутри одной модели.
Я понимаю, что внутри так и сделано — несколько экспертов. Но я акцентировал внимание на другом
PD>Это существенно изменит и саму модель ИИ как явления. Вместо одного универсального ИИ в огромном датацентре можно будет иметь сотни и тысячи (а может, сотни тысяч) специализированных ИИ, взаимодействующих между собой и расположенных на относительно некрупных серверах относительно небольших организаций.
Вот этого пока, насколько я знаю, нет.
В целом ситуация сильно напоминает ту, что была до эры персональных компьютеров. Большие и дорогие ЭВМ, десятки их или максимум сотни на крупный город, связи между ними или совсем отсутствуют или в зачаточном состоянии. Это до. А теперь сравни с тем, что сейчас.
И кстати, если уж продолжать аналогию. Выход из строя ЭВМ тогда — ЧП. Заменить ее нечем. И сейчас, если вдруг сдохнет ChatGPT — тоже заменить нечем (конечно, есть другие ИИ, но именно этот не заменишь). А если бы все было децентрализовано, то выход из строя одного узкоспециализированного ИИ — проблема не большая, чем выход из строя одного сайта в Интернете.
PD>>Это существенно изменит и саму модель ИИ как явления. Вместо одного универсального ИИ в огромном датацентре можно будет иметь сотни и тысячи (а может, сотни тысяч) специализированных ИИ, взаимодействующих между собой и расположенных на относительно некрупных серверах относительно небольших организаций.
Тут вопрос эффективности/пользы буквально такой же как и с людьми. Что лучше — один Эйнштейн/Ньютон/Галилей или тысяч умеющих сносно читать и писать? Маленькие модели могут тупо не понять задачу целиком, сколько ты их не собери. Гонять огромную модель ради вопроса "что мне одеть по погоде?" — а люди реально так начали использовать ИИ, тоже безумие.
PD>Вот этого пока, насколько я знаю, нет.
Внутри OpenAI и других контор, в своих датацентрах и для своих исследований, они гоняют сотни над одной задачей. Технически можно и самому такое запустить — API есть, только успевай посылать запросы. Но по коммерческим тарифам это запускать денег не хватит.
Обычные люди тоже работают в этом направлении постоянно — агенты, протоколы для агентов, фреймворки типа LangChain/LangGraph/n8n, алгоритмы автоматического выбора лучшего из N параллельных решений, и так далее. Уже можно насобирать некий граф-конвейер, который будет вполне нормально что-то делать, и даже на разных компах — не проблема. Разве что в типичном графе не сотни или тысячи. Видел десятки. Но, думаю, десятки, в основном потому, что большинство моделей (ещё?) достаточно универсальны, чтобы сотни подключать не имело большого смысла.
PD>И кстати, если уж продолжать аналогию. Выход из строя ЭВМ тогда — ЧП. Заменить ее нечем. И сейчас, если вдруг сдохнет ChatGPT — тоже заменить нечем (конечно, есть другие ИИ, но именно этот не заменишь). А если бы все было децентрализовано, то выход из строя одного узкоспециализированного ИИ — проблема не большая, чем выход из строя одного сайта в Интернете.
Увы. Неделю назад вылет одного CloudFlare положил пол-интернета. А ведь они вроде как даже не сайт и не ИИ.
Сейчас основная проблема — недоступное даже мелким компаниям, уж не говорю про домашних потребителей, железо. Оно внезапно и абсолютно не поспевает за потребностями. Буквально до сегодняшнего дня не было сценария, при котором обычному домашнему пользователю кровь из носу нужно 512 Гб памяти, и процессор способный буквально по всей этой памяти пробежаться за секунду, пусть делая и простые операции сложить-умножить. Модели есть, исходники на github/hugging face, но потребительского железа нет. Недавно читал историю успеха, как чувак собрал у себя из б/у комплектующих для датацентра комп, на котором может запускать (не учить, только запускать) полный DeepSeek. Думал о! темка! попробую повторить — фигвам, я перепаивать охлаждение и патчить линух для загрузки каких-то особенных дров, не готов, лол
Подтянутся производители железа, и всё придёт. Всё идёт к тому что на каждом телефоне будет крутиться мелкая модель, и отвечать на запросы на которые сейчас отвечает ChatGPT. А сложные запросы будет сама же определять и отправлять в большую GPT. Собственно внутри OpenAI подобный роутер уже работает. А будет многостадийный и на всех устройствах.
Здравствуйте, hi_octane, Вы писали:
_>Тут вопрос эффективности/пользы буквально такой же как и с людьми. Что лучше — один Эйнштейн/Ньютон/Галилей или тысяч умеющих сносно читать и писать?
Не очень корректное сравнение. Эйнштейн — гений, но только в физике. Более того, в теоретической физике. Не знаю, как у него обстояло дело с экспериментальной физикой, но вот Паули был крупным теорфизиком, а в экспериментах у него все валилось из рук, так что в итоге, наряду с принципом Паули был сформулирован шутливый "эффект Паули"
И уж никто обоих не стал бы привлекать в качестве экспертов по биологии или машиностроению.
А тут и сравнения нет. Нет такого универсального разума. Разве что в научно-фантастических романах (Солярис). Ну и господь бог еще
>Маленькие модели могут тупо не понять задачу целиком, сколько ты их не собери. Гонять огромную модель ради вопроса "что мне одеть по погоде?" — а люди реально так начали использовать ИИ, тоже безумие.
Люди тоже. Нельзя объять необъятное, и один человек, будь он хоть гений в своей области, может не понять или не принять. Тут опять Эйнштейн появляется, который, как известно, не принял квантовую механику ("бог не играет в кости"). Не понял — вряд ли, а вот не принял — факт. Ну а кто-то и не поймет. Не беда. Найдутся иные, которые поймут.
PD>>И кстати, если уж продолжать аналогию. Выход из строя ЭВМ тогда — ЧП. Заменить ее нечем. И сейчас, если вдруг сдохнет ChatGPT — тоже заменить нечем (конечно, есть другие ИИ, но именно этот не заменишь). А если бы все было децентрализовано, то выход из строя одного узкоспециализированного ИИ — проблема не большая, чем выход из строя одного сайта в Интернете. _>Увы. Неделю назад вылет одного CloudFlare положил пол-интернета. А ведь они вроде как даже не сайт и не ИИ.
Это лишь говорит о том, что не все в Интернете верно сделано. Если помнишь, для исходной ArpaNet один из основных принципов был — сеть должна продолжить функционирование даже если значительная часть ее вышла из строя. Это, в общем, так и осталось. И то, что вылет CloudFlare привел к таким результатам, говорит лишь о том, что должно было бы быть N таких "CloudFlare", так что выход из строя одного или даже нескольких не привел бы к таким последствиям.
_>Сейчас основная проблема — недоступное даже мелким компаниям, уж не говорю про домашних потребителей, железо. Оно внезапно и абсолютно не поспевает за потребностями. Буквально до сегодняшнего дня не было сценария, при котором обычному домашнему пользователю кровь из носу нужно 512 Гб памяти, и процессор способный буквально по всей этой памяти пробежаться за секунду, пусть делая и простые операции сложить-умножить. Модели есть, исходники на github/hugging face, но потребительского железа нет. Недавно читал историю успеха, как чувак собрал у себя из б/у комплектующих для датацентра комп, на котором может запускать (не учить, только запускать) полный DeepSeek. Думал о! темка! попробую повторить — фигвам, я перепаивать охлаждение и патчить линух для загрузки каких-то особенных дров, не готов, лол
А черт его знает. Я совершенно убежден в том, что большинство задач, которые решаются на рабочих станциях пользователей, вполне решались бы, если бы рост производительности закончился на 4 Гб и 1 ГГц. Просто в условиях меньших ресурсов писали бы более эффективно. Вот, например, у меня банковский клиент на телефоне сейчас занимает 345 Мбайт. А между тем все мои данные в этом банке, да не только на клиенте, но и на сервер, скорее всего, имеют объем не более 100 Кбайт, а то и меньше. Больше просто нет. И вполне можно было такой клиент (ну пусть менее красиво, но почти с тем же функционалом) написать для MS-DOS. Сам писал когда-то программу для расчета зарплаты предприятия на несколько сот человек, на СМ-1420 с памятью 256 Кбайт. И даже мысли не возникало, что памяти мало.
Конечно, сейчас вернуться к эффективному использованию ресурсов в стиле MS-DOS , а то и машин с памятью 64 Кбайт уже невозможно. Но более эффективно писать код все же можно. И если понадобится — напишут. Хотя..., может и не смогут понять, что более эффективно можно — привыкли уже к расточительству.
_>Подтянутся производители железа, и всё придёт.
А вот тут большие сомнения. Настольные компьютеры вышли на плато лет 10+ назад, с тех пор прогресс незначителен. А сейчас, похоже, на плато выходят и мобильные девайсы. Пока еще не вышли, но, видимо, скоро выйдут. Ну и за нанометры бороться можно, а вот на ангстремы не перейти — физика не позволит, это уже размер атома. Так что я не думаю, что тут будет большой прогресс.
>Всё идёт к тому что на каждом телефоне будет крутиться мелкая модель, и отвечать на запросы на которые сейчас отвечает ChatGPT. А сложные запросы будет сама же определять и отправлять в большую GPT. Собственно внутри OpenAI подобный роутер уже работает. А будет многостадийный и на всех устройствах.
Ну в общем, это вполне согласно с тем, о чем я написал. Действительно, наличие множества мелких ИИ отнюдь не исключает наличия и крупного, к которому они обращаются, если сами не могут.
Здравствуйте, Pavel Dvorkin, Вы писали:
PD>Почему не в форум об ИИ — там в основном специальные вопросы, а это обсуждение общего плана.
PD>С ИИ все обстоит иначе. Он универсален и готов ответить на любой вопрос. А поскольку нельзя объять необъятное, то он начинает фантазировать, скрещивая данные из самых разных источников, и как результат, часто попадая впросак. Универсальный же ЕИ существует только в произведениях фантастов (вроде Лемовского Соляриса), реально его нет.
PD>Может быть, в этом и (отчасти) кроются некоторые проблемы , связанные с ИИ ? Может быть, будь он организован иначе, эти проблемы бы ушли ?
PD>Что думаете ?
Думаю что проблема ИИ надумана. И ответственность за это прямо лежит на писателях-фантастах. (1) Благодаря живописанию ИИ в произведениях люди заранее считают ИИ всезнающим и непогрешимым. а "не большие оплошности" не замечают или списывают "с кем не бывает" и т.п.
(2) Человеческими чертами ИИ наделяют потому, что способ общения с ИИ не отличим от способа общения с реальными людьми (чат, беседы голосом). и опять-же — это было предсказано писателями-фантастами, что ещё больше усиливает (1) веру в ИИ, которая в свою очередь придает больше (2) человеческих черт.
То есть "ваши ожидания — это ваши проблемы".
Всё остальное — технологический вопрос. Сейчас ИИ сравним со смышленым 3-5 летним ребенком, лет через несколько, рывком, поднимется до уровня подростка. со всеми сюрпризами пубертата.
Здравствуйте, Stanislaw K, Вы писали:
SK>Всё остальное — технологический вопрос. Сейчас ИИ сравним со смышленым 3-5 летним ребенком, лет через несколько, рывком, поднимется до уровня подростка. со всеми сюрпризами пубертата.
Хм. 3-5 летний ребенок может писать хоть какой-то, но все же код ? И знает что-то, скажем, про теорию относительности или экономические модели и законы ?
На мой взгляд, сравнение ИИ с ЕИ любого возраста некорректно. Это существенно разные явления.
Здравствуйте, Pavel Dvorkin, Вы писали:
SK>>Всё остальное — технологический вопрос. Сейчас ИИ сравним со смышленым 3-5 летним ребенком, лет через несколько, рывком, поднимется до уровня подростка. со всеми сюрпризами пубертата.
PD>Хм. 3-5 летний ребенок может писать хоть какой-то, но все же код ?
Ну а почему нет? Тысяча обезьян с печатными машинками написали же войну и мир линукс.
PD>И знает что-то, скажем, про теорию относительности или экономические модели и законы ?
У ИИ тоже нет знания.
PD>На мой взгляд, сравнение ИИ с ЕИ любого возраста некорректно. Это существенно разные явления.
Но ведь ты сам первым проводишь такое сравнение ("знает ОТО или экономические модели"). Противоречишь сам себе.
Конечно не корректно, у ИИ нет основной человеческой черты ЕИ — синтезирования нового. и. по собственной инициативы.
Здравствуйте, Pavel Dvorkin, Вы писали:
PD>>Это существенно изменит и саму модель ИИ как явления. Вместо одного универсального ИИ в огромном датацентре можно будет иметь сотни и тысячи (а может, сотни тысяч) специализированных ИИ, взаимодействующих между собой и расположенных на относительно некрупных серверах относительно небольших организаций. PD>Вот этого пока, насколько я знаю, нет.
В целом, такое или есть, или к этому движется мир. ИИ-агенты — это как раз движение в эту сторону. Многие говорят, что AGI или даже ASI будет как раз не одной супер-моделью, а набором агентов, способных решить практически любую проблему.
Есть ещё мнение, что ЕИ — это не AGI, а что-то более специализированное.
Здравствуйте, Stanislaw K, Вы писали:
PD>>На мой взгляд, сравнение ИИ с ЕИ любого возраста некорректно. Это существенно разные явления.
SK>Но ведь ты сам первым проводишь такое сравнение ("знает ОТО или экономические модели"). Противоречишь сам себе.
Я неточно, видимо, выразился. Не имеет смысла сравнивать ИИ с ЕИ в его возрастном развитии, то есть говорить, что вот этот ИИ на уровне пятилетнего ребенка, а вот этот уже на уровне десятилетнего.
SK>Конечно не корректно, у ИИ нет основной человеческой черты ЕИ — синтезирования нового. и. по собственной инициативы.
Не только это. У них разный, видимо, подход. ЕИ не перерабатывает терабайты или петабайты для нахождения решения пусть и известной задачи. Он как-то иначе действует. А как — непонятно.
Я этот пример уже как-то приводил, приведу еще раз.
Чтобы ЕИ научился отличать кошку от собаки, достаточно ему показать с десяток особей того и другого вида, хоть живых, хоть на картинке. После этого он (пятилетний ЕИ) практически никогда не будет ошибаться. Мяу-мяу или гав-гав.
Чтобы ЕИ запомнил, что такое дикобраз, достаточно ему показать одно фото дикобраза. После этого он практически безошибочно будет его определять.
PD>Люди тоже. Нельзя объять необъятное, и один человек, будь он хоть гений в своей области, может не понять или не принять. Тут опять Эйнштейн появляется, который, как известно, не принял квантовую механику ("бог не играет в кости"). Не понял — вряд ли, а вот не принял — факт. Ну а кто-то и не поймет. Не беда. Найдутся иные, которые поймут.
Мы не можем объять необъятное по нескольким причинам, которые все связаны с нашей кожаностью и временем:
1) Ограниченность часов в сутках — если человек А изучает только физику, а человек B и физику и, допустим, геологию; предполагая, что их умственные способности абсолютно равны, человек A в итоге будет лучшим в физике. Просто потому что больше данных по физике "получил на вход"
2) Ограниченность "окна эффективного обучения" — условно до 14 лет обучение ещё не эффективно (нет нужной концентрации на выбранном предмете), после 30 — эффективность обучения уже падает, относительно "пика формы". Получается, в топе людей, в любой науке, неизбежно оказываются только те, кто весь "пик формы" занимались одним делом
3) Ограниченность времени жизни. Причём не факт что бесконечная жизнь поможет изучить всё, ведь все науки двигают множество отдельных людей, и даже читать чужие работы в одной области может требовать больше времени, чем есть в сутках.
У ИИ нет ни одного из этих ограничений. Нет проблем со временем жизни. Нет гормональных или каких-то других ограничений на нейропластичность, нет ограничений даже на потребление информации в сутки — больше мощностей = больше токенов 'съел'. По ощущениям среднего человека, ИИ уже объял необъятное, ведь в большинстве тем, для большинства людей, ответы ИИ уже лучше, чем они ответили бы сами. Именно поэтому у ИИ и спрашивают.
Поэтому, рассчитывать что ИИ будет подвержен нашим ограничениям на компетентность и необъятность не могу. Возможно, у ИИ будут какие-то свои ограничения, но пока единственное которое нам известно — сложность научить отвечать "не знаю".
PD>Пока еще не вышли, но, видимо, скоро выйдут. Ну и за нанометры бороться можно, а вот на ангстремы не перейти — физика не позволит, это уже размер атома. Так что я не думаю, что тут будет большой прогресс.
Нанометры сейчас один сплошной маркетинг. До 32 года у TSMC есть вполне чёткий план на уменьшение тем же темпом что и раньше. Плюс ещё рост кристаллов. Плюс вынос самых важных простых математических операций прямо в чипы памяти. Плюс новые архитектуры для TPU. За это раньше просто не платили вообще. Сейчас деньги летят за каждый процент ускорения.
Здравствуйте, Pavel Dvorkin, Вы писали:
PD>>>На мой взгляд, сравнение ИИ с ЕИ любого возраста некорректно. Это существенно разные явления.
SK>>Но ведь ты сам первым проводишь такое сравнение ("знает ОТО или экономические модели"). Противоречишь сам себе.
PD>Я неточно, видимо, выразился. Не имеет смысла сравнивать ИИ с ЕИ в его возрастном развитии, то есть говорить, что вот этот ИИ на уровне пятилетнего ребенка, а вот этот уже на уровне десятилетнего.
Конечно, линейно их сравнить невозможно. Но есть общие черты, характерные для пятилетних детей и текущих ИИ.
SK>>Конечно не корректно, у ИИ нет основной человеческой черты ЕИ — синтезирования нового. и. по собственной инициативы.
PD>Не только это. У них разный, видимо, подход. ЕИ не перерабатывает терабайты или петабайты для нахождения решения пусть и известной задачи. Он как-то иначе действует. А как — непонятно.
PD>Я этот пример уже как-то приводил, приведу еще раз.
PD>Чтобы ЕИ научился отличать кошку от собаки, достаточно ему показать с десяток особей того и другого вида, хоть живых, хоть на картинке. После этого он (пятилетний ЕИ) практически никогда не будет ошибаться. Мяу-мяу или гав-гав.
PD>Чтобы ЕИ запомнил, что такое дикобраз, достаточно ему показать одно фото дикобраза. После этого он практически безошибочно будет его определять.
Это смелое обобщение. многие ЕИ на это не способны, или способны ограниченно. Ты просто за средний ЕИ берешь пример из своего окружения, с достаточно высоким интеллектом, забывая что в среднем по популяции интеллект особей значительно ниже среднего.
PD>Чтобы ЕИ запомнил, что такое дикобраз, достаточно ему показать одно фото дикобраза. После этого он практически безошибочно будет его определять.
Так новым графическим моделькам, которые запускаются на потребительской видюхе, достаточно одной фото человека, чтобы они нарисовали другое фото этого же человека в совершенной другой одежде и обстановке (PullId, InstantId, и даже Qwen Edit). Люди такое могут только после долгих лет обучения в художке.
Современные модели zero shot voice cloning могут послушать одну фразу, 5-30 секунд, голоса человека и синтезировать неотличимую речь. На сотне языков. Сколько человек на планете так смогут?
Вчера вышло обновление модельки ИИ, которая с одного фото делает полноценную 3D-модель для 3d-печати/игры. Это как если бы ребёнок увидел одно фото дикобраза, и запилил его скульптуру во всех деталях. Сколько человек на планете смогут также?
Это всё домашние модели, работающие на потребительских видеокартах. Железо для игр сделанное. Когда выходили видеокарты 4090 никто и не думал о таких применениях. Оказалось что это всё можно, просто не было понимания архитектуры таких штук и математики для этого. Не более.
Здравствуйте, hi_octane, Вы писали:
_>Так новым графическим моделькам, которые запускаются на потребительской видюхе, достаточно одной фото человека, чтобы они нарисовали другое фото этого же человека в совершенной другой одежде и обстановке (PullId, InstantId, и даже Qwen Edit). Люди такое могут только после долгих лет обучения в художке.
Ну в разработке такой программы я сам принимал участие еще в конце 90-х. Посмотреть, как на этом человеке будет выглядеть рубашка из данной ткани. Там чистая машинная графика и никакого ИИ не нужно было, и даже GPU мы не использовали. Вот насчет обстановки — не знаю, не делал, да и обстановка — понятие растяжимое.
_>Современные модели zero shot voice cloning могут послушать одну фразу, 5-30 секунд, голоса человека и синтезировать неотличимую речь. На сотне языков. Сколько человек на планете так смогут?
_>Вчера вышло обновление модельки ИИ, которая с одного фото делает полноценную 3D-модель для 3d-печати/игры. Это как если бы ребёнок увидел одно фото дикобраза, и запилил его скульптуру во всех деталях. Сколько человек на планете смогут также?
_>Это всё домашние модели, работающие на потребительских видеокартах. Железо для игр сделанное. Когда выходили видеокарты 4090 никто и не думал о таких применениях. Оказалось что это всё можно, просто не было понимания архитектуры таких штук и математики для этого. Не более.
И все же это немного другое. Генерация на базе имеющихся данных, а не обобщение.
Я и не спорю, что человек многое не может сделать, что может машина. Тут спорить глупо.
Но все же хотелось бы посмотреть на программу, которой дается
20-30 фотографий домашних кошек
20-30 фотографий собак разных пород. От пуделя до бульдога.
Никакую иную информацию она использовать не имеет права.
После чего она по любой фотографии с почти 100% надежностью говорить, кто на ней изображен — кошка или собака. Причем на фото это животное может быть в профиль, в фас и даже со спины.
Любой ребенок 5 лет со средним интеллектом это сделает.
Есть такие ?
Ну и из личного опыта. Попался мне лет 5 назад сайт, где обещали примерно такое — определить, что за животное на фото. Конечно, не ИИ там был, а просто какой-то алгоритм. Скормил я ему фото моего тогдашнего кота, а он был совершенно белый и длинношерстный. Ну и оказался он на 40% кроликом, и только на 20% котом. Судя по всему, исследовали структуру шерсти, а они и впрямь похожи. Но никакой ребенок не будет под микроскопом или даже без него пристально эту структуру рассматривать. Просто взглянет и скажет — кис-кис.
PD>20-30 фотографий домашних кошек PD>20-30 фотографий собак разных пород. От пуделя до бульдога.
PD>Никакую иную информацию она использовать не имеет права.
Ну во-первых детям очень рано показывают настоящих животных в движении. Это буквально сотни-тысячи кадров стерео-видео в минуту. Обучать детей только на статических фотографиях никто не пробовал. Возможно, в обучении на 2D-статике, мы уже хуже ИИ.
PD>Есть такие ?
А ты читал мои примеры? Ведь каждый что я приводил — однозначно говорит о том что фундаментально ограничение "нужны миллионы фоток/видео/звуков" уже давно пройдено. И для фото, и для звуков, и для видео. Дай современной ИИ-хе типа qwen3 vl на вход две картинки — на одной выдуманное животное, а на другой фото на котором оно или есть или нет (в другом ракурсе), и попроси найти это животное. С огромной вероятностью она сделает это правильно. Более того, тот же qwen edit 2509 или Wan 2.2 i2v, возьмёт картинку с твоим выдуманным животным (которое она никогда не видела), и сделает следующие кадры с сохранением деталей. Т.е. буквально с одного предъявления поймёт ключевые фичи твоего выдуманного существа, с глубиной, достаточной для воспроизведения.
То что у нас есть отдельные модели для звука, фото, видео, текста — это лишь нехватка мощностей. Именно поэтому все ключевые AI-конторы рассуждают про World Model, и наперегонки строят дата-центры. Их world model это не про наш мир. Это про любой мир, включая выдуманные, игровые, книжные, и т.д.
Ты сейчас рассуждаешь на уровне "ваш паровой двигатель фигня, потому что не обгоняет самую быструю лошадь". В то время как теоретическая возможность обогнать любую лошадь инженерам уже очевидна (всегда есть 10-15% непредвиденных проблем). Именно от уверенности в результате, такая безумная гонка бюджетов и строек дата-центров.
PD>Но никакой ребенок не будет под микроскопом или даже без него пристально эту структуру рассматривать. Просто взглянет и скажет — кис-кис.
А ещё часть детей и взрослых шарахается от всего похожего на змею под ногами и боится пауков. А ещё вспомним что у нас с рождения захардкожены алгоритмы распознавания человеческих лиц, эмоций, отслеживания направления чужого взгляда. Вполне может быть что мы и собачек с кошечками, и птичек, и вообще типовую фауну очень даже распознаём "от природы", хардкодом. А быстрое обучение сводится к тому какими звуками обозначать "ощущение кота".
, и попробуй ответь.
