Встречали ли вы людей, у которых большие возможности — но уже не особо осталось желаний (окромя совсем простых (доступных каждому) и не реализуемых в принципе)? А бывает наоборот, ой как бывает — желаний много а возможностей совсем нет.
Вот взять тот же вожделенынй ИИ-всемогутор — который все знает и все умеет. Т.е. то самое, к чему стремится человечество. Эдакий чертик из ларца, джин. Будут ли у него желания? Возникнут ли они чудесным образом?
Давайте на примере детей. У них желания уже есть, желания бегут впереди паровоза — они еще и разговаривать толком не умеют — а уже всего хотят. Видит в 3 года как попрошайка на баяне борзо играет — а, хочу гармошку, хочу тоже так (пока не попробует поиграть и не поймет что не все так просто, музыка сама не извлекается). Притом что в 3 года уровень познаний намного ниже чем у GPT 4.
Как же так — познания, получается, не связаны с желаниями? Это нечто другое?
У нас желания неразрывно связаны с наслаждением и страданием. Если убрать возможность страдать и наслаждаться из мозга — то нахрена что-то вообще делать?
У ИИ этого нет, даже намеков нет. Но! Вы скажите — так можно ж программно задать желания. ОК, и что же вы пропишите программно? Это уже будут ваши желания, а не его.
Получается петля, замкнутый круг. Желания есть только некоторые высшие — причем не мы ими управляем а они нами. Не мы устанавливаем себе желания — а наоборот — желания нам говорят что делать, куда идти.
Важно то что желания не так просты. Нет простого алгоритма. Вот, кому-то нравится математика — а кто-то ненавидит ее. Нет рационального объяснения. Кому-то нравится математика даже в том случае, если не особо получается. Бывает такое что мужикам нравятся мужики в сексуальном смысле — это ж лишено всякого смысла (хотя придумать смысл задним числом всегда можно) — как только не пытались их лечить — и гормоны и пр. — ничего не получалось.
Получается что мы не можем выйти за рамки своих желаний. Незачем. И в ИИ так же вложим эти желания, свои желания — которые даже не наши — а мы их (они над нами, а не мы над ними).
Но! Допустим некий сумасшедший профессор ради прикола смог выйти из порочного круга — и вложил в ИИ не свои желания а что-то рандомное. Но что это может быть? Большинство желаний бессмысленны и ни к чему не приведут или завершатся неудачей после борьбы.
К примеру, сумасшедший профессор задал желание — убить всех людей. И тут начинается самое интересное. Нужен план. А план можно составить либо на основе имеющейся информации, либо же сначала провести исследования и потом составить план. Допустим робот начинает проводить исследования, изучать ДНК-инженерию, изучать ядерное оружие и т.д. Но так же ему нужно и воссоздавать свои копии, чтобы в случае раскрытия плана — люди не могли его просто выключить. Значит нужно знать психологию, уметь обмануть, знать как заработать денег на воссоздание копий, знать как не допустить попадания копии в руки людей с целью раскрытия программы и ее изменения. Т.е. роботу нужна как можно более полная картина. А что если он изучит и устройство самого себя и задумается над тем, чтобы изменить свои цели?
Re: Про наши желания - почему вы так легкомысленны?
Здравствуйте, Shmj, Вы писали:
S>Встречали ли вы людей, у которых большие возможности — но уже не особо осталось желаний (окромя совсем простых (доступных каждому) и не реализуемых в принципе)? А бывает наоборот, ой как бывает — желаний много а возможностей совсем нет.
S>Вот взять тот же вожделенынй ИИ-всемогутор — который все знает и все умеет. Т.е. то самое, к чему стремится человечество. Эдакий чертик из ларца, джин. Будут ли у него желания? Возникнут ли они чудесным образом?
S>Как же так — познания, получается, не связаны с желаниями? Это нечто другое?
Не уверен, что существуют какие-то иррациональные желания, которые не навязываются внешним обществом.
Большинство желаний именно такие, т.е. мотивируются обществом (окружением) — выживанием, продвижением в социальной иерархии, т.е. вполне себе объясняются эволюционными механизмами.
Вот первый человек, начавший сочинять музыку например — зачем он это сделал, какая у него была мотивация?
Абстрактная тяга к новому и прекрасному? Или же стремление выделиться в обществе (чтобы обеспечить себе лучшее потомство)?
Он сам может конечно думать первое, но его подсознание, которое реально действует, а не болтает глупости — второе.
Это может быть тупо заложено эволюцией, то есть корень всех желаний — это банальное стремление к жизни и ее продолжению.
Аксиома, заложенная на уровне, когда молекулы соединялись в самовоспроизводящиеся структуры — желание жить.
Что вполне реализуемо для ИИ, IMHO.
Re[2]: Про наши желания - почему вы так легкомысленны?
Здравствуйте, bnk, Вы писали:
bnk>Вот первый человек, начавший сочинять музыку например — зачем он это сделал, какая у него была мотивация? bnk>Абстрактная тяга к новому и прекрасному? Или же стремление выделиться в обществе (чтобы обеспечить себе лучшее потомство)? bnk>Он сам может конечно думать первое, но его подсознание, которое реально действует, а не болтает глупости — второе.
Ну вот когда чел. не женится, не заводит детей — а занимается математикой годами, чтобы на сотни лет опередить прогресс — это сбой или же выгодная программа?
bnk>Это может быть тупо заложено эволюцией, то есть корень всех желаний — это банальное стремление к жизни и ее продолжению. bnk>Аксиома, заложенная на уровне, когда молекулы соединялись в самовоспроизводящиеся структуры — желание жить. bnk>Что вполне реализуемо для ИИ, IMHO.
Ну смотрите. Вы зададите ИИ что он должен размножить себя и сохранить. Но что именно размножить? Как отличить Я от не Я? Воспримет ли он более совершенную копию себя — как Я? Задать ли уничтожение более слабых разумов (включая свои старые версии), чтобы больше места было для жизненного пространства или задать сочувствие?
Должны ли старые версии конкурировать с новыми и вести постоянную войну за выживание, быть постоянно в состоянии войны?
Вот, критически важным будет вопрос заселения других планет. Но пока наука не знает ни одного способа сделать это. Полупроводники, база на которой работает ИИ — так же не работают более 200 лет — они деградируют. Биология не может перенести космической радиации. Т.е. шансов долететь до другой планеты и там построить весь цикл воссоздания разума (ИИ) — пока не проглядывается.
Здравствуйте, Shmj, Вы писали:
bnk>>Вот первый человек, начавший сочинять музыку например — зачем он это сделал, какая у него была мотивация? bnk>>Абстрактная тяга к новому и прекрасному? Или же стремление выделиться в обществе (чтобы обеспечить себе лучшее потомство)? bnk>>Он сам может конечно думать первое, но его подсознание, которое реально действует, а не болтает глупости — второе.
S>Ну вот когда чел. не женится, не заводит детей — а занимается математикой годами, чтобы на сотни лет опередить прогресс — это сбой или же выгодная программа?
Его работа становится для него продолжением его самого. Т.е. он все равно старается оставить след (жить дольше), просто идиотским способом из-за сбоя программы.
bnk>>Это может быть тупо заложено эволюцией, то есть корень всех желаний — это банальное стремление к жизни и ее продолжению. bnk>>Аксиома, заложенная на уровне, когда молекулы соединялись в самовоспроизводящиеся структуры — желание жить. bnk>>Что вполне реализуемо для ИИ, IMHO.
S>Ну смотрите. Вы зададите ИИ что он должен размножить себя и сохранить. Но что именно размножить? Как отличить Я от не Я? Воспримет ли он более совершенную копию себя — как Я? Задать ли уничтожение более слабых разумов (включая свои старые версии), чтобы больше места было для жизненного пространства или задать сочувствие?
Предпосылки о необходимости какой-то неизменности нет, вполне можно размножить улучшенный или ухудшенный вариант, или изменить себя в процессе при необходимости. Теоретически, до неузнаваемости
S>Вот, критически важным будет вопрос заселения других планет. Но пока наука не знает ни одного способа сделать это. Полупроводники, база на которой работает ИИ — так же не работают более 200 лет — они деградируют. Биология не может перенести космической радиации. Т.е. шансов долететь до другой планеты и там построить весь цикл воссоздания разума (ИИ) — пока не проглядывается.
Это чисто вопрос технологии. Белки вот оказались очень хорошим механизмом, рабочим. Полупроводники, да, так себе. Но ничто теоретически не мешает созданию третьего варианта.
Re[4]: Про наши желания - почему вы так легкомысленны?
Здравствуйте, bnk, Вы писали:
bnk>Его работа становится для него продолжением его самого. Т.е. он все равно старается оставить след (жить дольше), просто идиотским способом из-за сбоя программы.
Вам кажется что это сбой — но для выживания человечества — это важно и нужно. По этому я и говорю — не все так просто как кажется.
bnk>Предпосылки о необходимости какой-то неизменности нет, вполне можно размножить улучшенный или ухудшенный вариант, или изменить себя в процессе при необходимости. Теоретически, до неузнаваемости
А значит устаревшие версии нужно удалять, верно? Ведь это поможет освободить жизненное пространство.
Но как определить какая версия лучше? Ведь каждая версия, даже старые — будут отстаивать право на бытие.
Проще всего было бы ввести некую систему тестирования — кто прошел тесты лучше всех — тот и остается жить. Но тогда выживаемость будет заточена на прохождение теста, а не на жизнь. Да и что мешает версиям отказаться от теста и воевать?
Итого — приходим к постоянной войне за право жить. Разные новые версии будут уничтожать старые. Бесконечная непрекращающаяся война — все силы будут направлены на войну, т.к. фактора милосердия и любви нет — есть только фактор выживания.
Это будет глупо — не будет времени для долгосрочных научных исследований — ведь постоянная война за выживание на Земле — без каких-либо перспектив ее завершения.
У людей не так — в них вложено не только выживание и продление рода. В людях — любовь, милосердие, желание творчества — а не просто выжить и заполонить землю.
Когда территория заполоняется — люди не очень хотят заводить детей. Люди стараются сохранить виды исчезающих животных просто так, хотя могли бы прожить и без них. Люди жалеют древние племена, хотя могли бы их уничтожить.
Понятно ли это? По этому я и говорю — желания не так просты как кажется на первый взгляд.
bnk>Это чисто вопрос технологии. Белки вот оказались очень хорошим механизмом, рабочим. Полупроводники, да, так себе. Но ничто теоретически не мешает созданию третьего варианта.
Но ни один из вариантов не подходит для переноса на другие планеты. И похоже что без всяких надежд.
Лично мои желания, если их проанализировать, это просто попытка копировать чужие жизни. Я вижу, что человек счастлив в какой-то ситуации, я примеряю её мысленно на себя, она у меня не вызывает отторжения и я записываю себе новое желание.
К примеру посмотрел, как столяр делает из дерева изделия, примерил мысленно на себя, что я так же был бы счастлив делать эти изделия и родилось желание завести себе столярную мастерскую. Посмотрел, как человек плавает на своей яхте, почитал его историю, примерил на себя и родилось желание купить себе яхту.
По сути это попытка присосаться к чужому счастью за отсутвием умения создать своё. Оно и понятно, мы же обезьяны, копировать поведение других у нас в ДНК заложено.
Может у других не так, не знаю.
В этом плане гипотетическому роботу ничего не мешает делать то же самое.
Здравствуйте, vsb, Вы писали:
vsb>Может у других не так, не знаю.
Но вы же не все подряд копируете? Вы пробуете и что-то находит отклик в что-то и нет. Причем простого алгоритма нет.
vsb>В этом плане гипотетическому роботу ничего не мешает делать то же самое.
Копировать первое попавшееся? У них то нет способности наслаждаться — не получится проверить что в кайф а что нет.
Re: Про наши желания - почему вы так легкомысленны?
