Я конечно понимаю, что многим, особенно в связи с последними новостями, сложно думать дальше Украины, но все-таки стоит иногда отвлекаться от суеты и думать про глобальные тренды. Выбирать свой путь в жизни так, чтобы оказаться ближе к правильной стороне истории. Примерно, как древняя обезъяна, у которой был шанс уйти в степь с группой сородичей, тех самых, что стали прародителями человека.
Со времен зарождения кибернетики человечество мечтало о сильном искуственном интеллекте, этакой умной и послушной личности, которая будет решать все наши проблемы. Немало высказывалось и опасений о выходе ИИ из под контроля.
Прошло дофига лет. Развивались методы обмена информацией и средства разработки. Не скажу в цифрах, но производительность труда программиста выросла многократно.
Это как если бы землекоп мечтал об андроидах с лопатами, а получил экскаватор.
Сильный ИИ так до сих пор и не появился (по крайней мере мы не знаем об этом). В стародавние времена в исследованиях ИИ преобладал Символический Подход, когда разработчик явно программировал его логику языками высокого уровня. Производительность вычислительной техники росла, а порог вхождения в профессию падал, и в какой-то момент стало проще обучать Нейронные Сети по методу Черного Ящика. Этот метод дал кучу практических результатов и породил новую волну хайпа о надеждах и опасениях создания Сильного ИИ.
А может мы можем вообще обойтись без Сильного ИИ? Не в смысле закрыться от прогресса, или физически задавить любые попытки его разработки.
А в смысле найти альтернативу, которая сделает его просто не нужным. И не более чем безобидным домашним питомцем, если кто-то его и создаст в качестве хобби.
Я говорю про усиление интеллекта существующей личности вместо создания искусственной личности.
Возьмем предельный вариант: Допустим у нас есть супер-пупер нанотехнологии. Мы можем подключиться к каждому нейрону мозга и грамотно соединить его с суперкомпьютером так, что ваш мозг стал как бы намного больше и быстрее. Точно также, как вы управляете пальцами своей руки, вы сможете управлять роем боевых дронов. Или официантами своей сети ресторанов.
В рядовых ситуациях официанты будут вести себя шаблонно (собственно живые официанты тоже могут думать о чем-то своем, при этом дежурно обслуживая покупателей), а в исключительных случаях привлекать внимание основной личности, если у вас нет более важных дел.
Чем это хуже заморочек с отдельной искусственной личностью? Разве что тем, что можно оставаться глупым и невежественным.
Исчезает проблема юридического статуса ИИ, так как за действиями любого дрона/андроида стоит конкретный человек.
Проблема воспитания человека более-менее отлажена эволюцией, а каких психозов можно ожидать от искусственных личностей?
И, пожалуй, самое главное — меняется структура борьбы за власть.
Преимущество получают те, кто более эффективны в управлении усилителя мозга.
Особенно, пока у нас нет всех тех супер-нано-технологий, взаимодействие с усилителем мозга будет больше похоже на программирование.
Собственно это и есть программирование. Мы движемся в ту сторону развивая средства разработки и представления знаний
В случае же Искусственной Личности, конкуренция за доступ к ней будет вестись старыми добрыми административно-силовыми методами.
Для тех, кто привык командовать более умными людьми и специалистами, концепция управления искусственной личностью понятна и близка.
Мечта любого диктатора. Если какой программист и слабает такой ИИ, у него его быстро отожмут.
Вот только пока отжимальщики будут заняты конкуренцией с себе подобными, от ИИ будет требоваться все больше, а контролю над ним — уделяться все меньше внимания.
Re: Усиленный Интеллект как Альтернатива Сильному ИИ.
Здравствуйте, Эйнсток Файр, Вы писали:
ЭФ>Десктопный комп это тоже в некотором роде усилитель мозга.
ЭФ>И как, много власти получили те, кто им владеет?
А разве нет? Власть над собой = свобода, ну и деньги тоже вид власти.
Ну а сколько возможностей заполучили всякие основатели стартапов типа гугла и фэйсбука.
Правда сейчас старички засуетились — локдауны с войнами — пытаются все взад вернуть.
Все-таки наш усилитель еще не доработанный и умение манипулировать слабоумными людьми пока важнее программирования.
Re: Усиленный Интеллект как Альтернатива Сильному ИИ.
G>Я говорю про усиление интеллекта существующей личности вместо создания искусственной личности.
Когда в шахаматах ИИ ещё не заруливал кожаных в нулину, существовали игры под названием "адванс" (так и гуглится: шахматы адванс). Играл человек, выбирая чё примерно хочет сделать, а комп проверял нет ли зевка, какого-то упущенного момента, риска невыгодного размена, и т.д. Буквально несколько лет было прикольно, но потом шахматные ИИ так развились что выбор стал — "или делаешь как сказал комп, или проиграешь оппоненту который делает как сказал комп".
G>Возьмем предельный вариант: Допустим у нас есть супер-пупер нанотехнологии. Мы можем подключиться к каждому нейрону мозга и грамотно соединить его с суперкомпьютером так, что ваш мозг стал как бы намного больше и быстрее. Точно также, как вы управляете пальцами своей руки, вы сможете управлять роем боевых дронов. Или официантами своей сети ресторанов.
На примере дронов сразу 2 проблемы:
1. У чьих боевых дронов ИИ быстрее и лучше, тот будет иметь большее преимущество. Рано или поздно ИИ станет решать больше задач чем может человек.
2. Нам мешает миллиард лет истории жизни на земле. Когда жизнь была вечно голодная естественный отбор захардкодил нам "отключение неиспользуемых компонентов". Исключительно для выживания — что-бы "лишние" функции не оставляли без еды то что нужно прямо сейчас. Теперь каждый наш нейрон, мышца, любой орган — всё в считанные недели деградирует если дать шанс "не напрягаться". Любая часть мозга которая "разгрузится" за счёт ИИ начнёт деградировать. Если мы собираемся как-то сосуществовать с ИИ — надо уже искать способы эту фичу отключить.
Re[2]: Усиленный Интеллект как Альтернатива Сильному ИИ.
Здравствуйте, hi_octane, Вы писали:
_>На примере дронов сразу 2 проблемы: _>1. У чьих боевых дронов ИИ быстрее и лучше, тот будет иметь большее преимущество. Рано или поздно ИИ станет решать больше задач чем может человек.
Чем, приметительно к дронам, ИИ лучше УИ? Скоростью реакции?
Эта реакция прекрасно программируется шаблонами. Даже если какое-то стратегическое решение надо принять в течение миллисекунды, оно точно также программируется в зависимости от условий.
Типа как спецназовцы, при штурме террористов с заложниками готовятся стрелять по первым, но не вторым.
И локальные подпрограммы могут быть вполне себе интеллектуальными, возможно даже умнее любого из ныне живущих людей. Но главное отличие, что более умная сущность создает и управляет менее умной, но более специализированной сущностью. Это естесственное и устойчивое положение вещей.
В отличие от черного ящика искусственной личности убеждающей глупого человека не отключать ее.
_>2. Любая часть мозга которая "разгрузится" за счёт ИИ начнёт деградировать.
А зачем разгружать? Просто дублировать и дополнять. Подумали своим мозгом о какой-то проблеме — "вспомнили", что внешний мозг имеет ее решение.
Можно продолжить "вспоминать" или "серфить" решение из внешнего мозга, а можно самостоятельно ее порешать, а внешний мозг можно направить на анализ этого процесса.
В общем уйма возможностей открывается.
_>Если мы собираемся как-то сосуществовать с ИИ — надо уже искать способы эту фичу отключить.
Только аккуратнее. Я бы вообще предпочел не вмешиваться в такие вещи. Только аккуратно дополнять.
Ну пока нам очень далеко до такого.
Маск видимо просек тренд, но не зная с чего начинать и имея кучу бабла, основал свой Нейролинк.
Хотя, даже создай он хороший канал связи между мозгом и компом, принципиальной разницы с печатью на клавиатуре не будет.
Надо работать над представлением знаний.
Re[3]: Усиленный Интеллект как Альтернатива Сильному ИИ.
G>Чем, приметительно к дронам, ИИ лучше УИ? Скоростью реакции?
И скоростью реакции, и утомляемостью, и "глобальностью решения". Обычный человек держит в голове 7+-2 важнейших для принятия решения признака. Человек, который жизнь посвятил управлению роем дронов, будет удерживать в фокусе 9-10 ключевых признаков на протяжении примерно двух-трёх часов. А потом устанет и резко скатится до 5. У ИИ есть своё непреодолимое ограничение на масштабируемость, но оно настолько далеко от человеческого, что линейное сравнение КМК, просто невозможно.
G>Эта реакция прекрасно программируется шаблонами. Даже если какое-то стратегическое решение надо принять в течение миллисекунды, оно точно также программируется в зависимости от условий.
И как только эти шаблоны раскусят, сразу же заэксплуатируют предсказуемость и разнесут по полной. Люди первых ботов в стратегических играх именно так и выносили. Боты так разоряли ботов на финансовых рынках, а люди людей так убивали в войнах. Шаблоны эффективны только против шаблонов.
G>И локальные подпрограммы могут быть вполне себе интеллектуальными, возможно даже умнее любого из ныне живущих людей. Но главное отличие, что более умная сущность создает и управляет менее умной, но более специализированной сущностью. Это естесственное и устойчивое положение вещей.
Это естественно для нас, так как у нас есть жёсткий лимит по мощности, числу рук, числу глаз, и т.д. Возьми случай с дронами. У какого интеллекта будет большая ситуационная осведомлённость — у того который имеет полную 3-д модель боя построенную по данным из тысяч глаз, и ориентирующего дроны поштучно чтобы уточнить модель. Или у человека, который скатится в привычную визуализацию "облака точек", пусть и загруженную в мозг через штырь?
Да и в целом, любые задачи решаются тем лучше, чем лучше согласованность действий между агентами/дронами/руками. Возьми любую математическую задачу для которой есть метод полного решения. Подойдёт, например, задача линейной оптимизации. Как не разбивай ты её на тысячи агентов, с иерархиями или без, ты в итоге получишь решение которое будет или такое же или хуже чем решение LP-решателя, сводящего все входные данные в единственную матрицу и считающего единственный идеальный ответ.
Задачи реального мира не такие сферические выпуклые и в вакууме чтобы для них существовал метод получения идеального решения, но принцип остаётся тем же. Если есть разные по качеству решения, то самое лучше из них одновременно и самое согласованное внутри. Любая иерархия/делегирование/сетецентричность разрушают полную согласованность, но мы вынуждены к ним прибегать из-за хардверного ограничения 7+-2 и необходимости действовать в условиях медленных и повреждаемых противником линий связи.
G>В отличие от черного ящика искусственной личности убеждающей глупого человека не отключать ее. G>А зачем разгружать? Просто дублировать и дополнять. Подумали своим мозгом о какой-то проблеме — "вспомнили", что внешний мозг имеет ее решение. G>Можно продолжить "вспоминать" или "серфить" решение из внешнего мозга, а можно самостоятельно ее порешать, а внешний мозг можно направить на анализ этого процесса. G>В общем уйма возможностей открывается.
Ты сейчас описываешь процесс гугления школьником на решебе, только типа "быстрее и качественнее". Это и есть разгрузка. Увы, уже на школьниках проверено — жертвы решебы на дистанции сливают сверстникам которые решают сами. После N итераций сёрфинга "внутренний решатель" настолько атрофируется, что оказывается неспособен даже понять что насёрфленное решение абсурдно неверное.
Re: Усиленный Интеллект как Альтернатива Сильному ИИ.
G>А может мы можем вообще обойтись без Сильного ИИ? Не в смысле закрыться от прогресса, или физически задавить любые попытки его разработки. G>А в смысле найти альтернативу, которая сделает его просто не нужным. И не более чем безобидным домашним питомцем, если кто-то его и создаст в качестве хобби.
А почему речь об альтернативе? Почему нельзя двигаться и туда и туда? Так, собственно, и идет. Способы по усилению интеллекта развиваются с незапамятных времен. Тем же счетам сколько тысяч лет уже. Парарллельно идет и развитие искуственного интелекта. А уж что там достигнет прорывных успехов раньше предсказать нельзя. Более того, на любом этапе будет совершенствоваться то одно то другое. Но в глобальном соревновании я бы поставил на искуственный интеллект, так как у него нет ограничений, наложенных эволюцией. Хотя, конечно, человек может и начать модифицировать себя на генном уровне, превращая уже себя в существо весьма далекое от нынешнего человека. Но это уже, строго говоря, не усилитель интеллекта.
У Лема в "Сумме технологий" неплохо эта тема разобрана. Одна из глав, вроде как, и называется про усилитель интеллекта. Ну а про искуственный интеллект много где у него также есть. Мне больше всего нравится ( но не помню точно где это у него), его рассуждения по поводу того, что задача создания классного машинного переводчика с одного языка на другой равносильна задаче создания искусственного интеллекта.
И я, кстати, не согласен с рассуждениями hi_octane из этой ветки, что "Любая часть мозга которая "разгрузится" за счёт ИИ начнёт деградировать.". Это все равно что сказать, что появление домкратов и рычагов приводит к тому, что человеку больше не нужна развивать физическую силу и она у него атрофируется.
Re[3]: Усиленный Интеллект как Альтернатива Сильному ИИ.
Первые реально созданные варианты хоть ИИ, хоть УИ явно будут слишком дорогими, чтобы использовать их в интересах лишь одного человека (разве что его интересы будут совпадать с интересами государства или большой корпорации). Т.е., скорее всего, государство/корпорация будет использовать их с целью получить преимущество над конкурентами, на эту задачу создаваемый ИИ/УИ и будет изначально "затачиваться". А по самой формулировке этой задачи, её решением скорее будет обособленный ИИ, чем УИ, изначально нацеленный на "симбиоз" с одной конкретной личностью.
Это если отбросить фантастический образ гениального/сумасшедшего ученого-одиночки, каким-то чудом еще и обладающего неимоверными финансовыми ресурсами.
G>Возьмем предельный вариант: Допустим у нас есть супер-пупер нанотехнологии. Мы можем подключиться к каждому нейрону мозга и грамотно соединить его с суперкомпьютером так, что ваш мозг стал как бы намного больше и быстрее.
Звучит на столько бредово, что даже лениво обсуждать.
Ваши знания о работе мозга на уровне десятилетнего ребенка.
Re[2]: Усиленный Интеллект как Альтернатива Сильному ИИ.
Здравствуйте, namespace, Вы писали:
N>Звучит на столько бредово, что даже лениво обсуждать. N>Ваши знания о работе мозга на уровне десятилетнего ребенка.
Речь не о конкретной реализации, а вообще о физической возможности.
Если у вас такие глубокие познания нейробиологии, может поделитесь с нами, что там может быть такого принципиально недоступного для анализа,
воспроизведения на компьютере и создания обратной связи для эффекта фантомной памяти?
Re[3]: Усиленный Интеллект как Альтернатива Сильному ИИ.
G>Если у вас такие глубокие познания нейробиологии, может поделитесь с нами, что там может быть такого принципиально недоступного для анализа, G>воспроизведения на компьютере и создания обратной связи для эффекта фантомной памяти?
— Технически непонятно как подключиться ко всем нейронам. Не повредив их! А еще появляются новые и умирают старые.
— С лабораторной точки зрения эксперименты недоступны на человеке. Даже залезть в череп больному — не каждый хочет рискнуть стать овощем, и я не знаю ни одного здорового человека, готового чтобы ему вскрыли череп ради эксперимента!
— Самое плохое с софтверной частью: нет апи, нет описания протоколов. Все, что человечество научилось — бить током участок мозга или сфокусированным электромагнитным импульсом с целью стимуляции. Научились понимать, что в нейроне какая-то активность.
На мышах проводят более тонкие исследования, но все они сопоставимы с ударами молоком по системнику или ковырянием в нем ломом с целью изучения принципов его работы.
Re[4]: Усиленный Интеллект как Альтернатива Сильному ИИ.
Здравствуйте, namespace, Вы писали:
N>- Технически непонятно как подключиться ко всем нейронам. Не повредив их! А еще появляются новые и умирают старые.
По поводу современных нейротехнологий — к Нейролинку Илона Маска.
А я предложил немного пофантазировать, чтобы представить возможности УИ. А технически — там хоть нанотрубки, хоть нанороботы.
Возьмем предельный вариант: Допустим у нас есть супер-пупер нанотехнологии.
N>- С лабораторной точки зрения эксперименты недоступны на человеке. Даже залезть в череп больному — не каждый хочет рискнуть стать овощем, и я не знаю ни одного здорового человека, готового чтобы ему вскрыли череп ради эксперимента!
Маск давно свиньям чипы вживляет и куча людей добровольцев готовы предложить себя для экспериментов, не совсем здоровых правда. Ну так он и позиционирует технологию в первую очередь как помощь инвалидам.
N>- Самое плохое с софтверной частью: нет апи, нет описания протоколов. Все, что человечество научилось — бить током участок мозга или сфокусированным электромагнитным импульсом с целью стимуляции. Научились понимать, что в нейроне какая-то активность.
Но при этом почему-то основную идею нейросетей уже успешно передрало у природы и вовсю использует.
