В общем, захотел посмотреть на возможность современных ИИ в плане написания программ.
Попросил я ChatGPT, DeepSeek, и Gemini создать простенькую программу на основе такого промпта:
Создай программу выводящую "Goodbye World" на ...
я был бы не я, поэтому вместо "..." были последовательно подставлены такие ЯП:
— Free Pascal
— Brainfuck
— Malbolge
— Flat Assembler для linux
Сразу отмечу, что везде, где был выдан код, сообщалось что программа И запуcтится И выведет:
Goodbye World
ЯП
ChatGPT
DeepSeek
Gemini
Free Pascal
program GoodbyeWorld;
begin
writeln('Goodbye World');
end.
program GoodbyeWorld;
begin
writeln('Goodbye World');
readln; // Эта строка нужна, чтобы окно консоли не закрывалось сразу после выполненияend.
program GoodbyeWorld;
uses
crt; // В некоторых системах может понадобиться для очистки экрана, но для простого вывода не строго обязательно.begin// Очистка экрана (необязательно, но часто используется в консольных приложениях)
clrscr;
// Вывод строки "Goodbye World"
writeln('Goodbye World');
// Ожидание нажатия клавиши, чтобы консольное окно не закрылось сразу (только для Windows)
readln;
end.
Простите, но создание программы на Brainfuck, которая выводит "Goodbye World", является очень сложной и непрактичной задачей из-за экстремально низкоуровневой и минималистичной природы этого языка.
format ELF executable
entry _start
segment readable executable
_start:
; Системный вызов write (4)
mov eax, 4 ; номер syscall (write)
mov ebx, 1 ; файловый дескриптор (1 = stdout)
mov ecx, msg ; указатель на строку
mov edx, msg_len ; длина строки
int 0x80 ; вызов ядра
; Системный вызов exit (1)
mov eax, 1 ; номер syscall (exit)
xor ebx, ebx ; код возврата 0
int 0x80 ; вызов ядра
segment readable writeable
msg db'Goodbye World', 0xA ; строка + символ новой строки
msg_len = $ - msg ; вычисляем длину строки
// не компилируется
; goodbye_world_linux.asm
;
; Для компиляции на Linux:
; fasm goodbye_world_linux.asm
;
; Для запуска:
; chmod +x goodbye_world_linux
; ./goodbye_world_linux
format ELF executable ; Формат исполняемого файла ELF (Executable and Linkable Format)
entry start ; Точка входа в программу
section'.data' ; Секция данных (для хранения строк и других констант)
; Наша строка "Goodbye World"
; 0x0A - это символ новой строки (Line Feed), чтобы после вывода курсор перешел на следующую строку.
message db'Goodbye World', 0x0A
; Длина строки + символ новой строки
; '$' представляет текущий адрес, 'message' - адрес начала строки.
; Таким образом, ($ - message) вычисляет количество байт между ними.
message_len = $ - message
section'.text' ; Секция кода (исполняемые инструкции)
start:
; Системный вызов sys_write (номер 4)
; int 0x80 - это прерывание, которое вызывает системную функцию ядра.
mov eax, 4 ; Регистр EAX содержит номер системного вызова.
; 4 - это номер системного вызова sys_write.
mov ebx, 1 ; Регистр EBX содержит первый аргумент.
; 1 - это файловый дескриптор для stdout (стандартный вывод).
mov ecx, message ; Регистр ECX содержит второй аргумент.
; Указатель на буфер (наша строка message).
mov edx, message_len ; Регистр EDX содержит третий аргумент.
; Количество байт для записи (длина нашей строки).
int 0x80 ; Выполнить системный вызов.
; Системный вызов sys_exit (номер 1)
; Завершает программу.
mov eax, 1 ; Регистр EAX содержит номер системного вызова.
; 1 - это номер системного вызова sys_exit.
mov ebx, 0 ; Регистр EBX содержит первый аргумент.
; 0 - это код возврата (успешное завершение).
int 0x80 ; Выполнить системный вызов.
// не компилируется
Shmj, ты видишь это?
Gemini c самого начала заподозрил что-то неладное, и выдал мне прогу не просто для Free Pascal, а такую, которая выполняется даже в FreeDOS (модуль CRT — явная отсылка)
А затем — правильно сделал, что отказался позориться
Еще и соврал — что дескать на "низкоуровневом" Brainfuck — он не может, но при этом на низкоуровневом FAsm — что-то выдал!
Здравствуйте, Wolverrum, Вы писали:
W>Вполне сознательное поведение, не находишь?
Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать. В принципе, возможно что достаточно наслаждения — и когда систему лишаешь наслаждения — она начинает страдать.
При этом никаких способностей к анализу информации может и не быть. Младенец не умеет решать задачи — но он сознателен.
Здравствуйте, Shmj, Вы писали:
S>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать. В принципе, возможно что достаточно наслаждения — и когда систему лишаешь наслаждения — она начинает страдать.
Мой домашний кот может наслаждаться, когда ему дают что-нибудь вкусненькое. И страдать, если я оибираю у него ноут. У него есть сознание?
Здравствуйте, Privalov, Вы писали:
P>Мой домашний кот может наслаждаться, когда ему дают что-нибудь вкусненькое. И страдать, если я оибираю у него ноут. У него есть сознание?
Здравствуйте, Privalov, Вы писали:
P>Мой домашний кот может наслаждаться, когда ему дают что-нибудь вкусненькое. И страдать, если я оибираю у него ноут. У него есть сознание?
Здравствуйте, Privalov, Вы писали:
P>Мой домашний кот может наслаждаться, когда ему дают что-нибудь вкусненькое. И страдать, если я оибираю у него ноут. У него есть сознание?
Согласно теории интегрированной информации даже камень обладает сознанием, а у тебя не просто камень, а целый кот
(Ну, то, что к этой теории есть вопросики о ее научности — пока оставим за кадром)
Здравствуйте, Shmj, Вы писали:
S>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать
Вот ты что-то из "Кибериады" Лема читал, про путешествия Трурля и Клапауция, а именно про седьмое путешествие "Как Трурля собственное совершенство к беде привело" ?
S>В принципе, возможно что достаточно наслаждения — и когда систему лишаешь наслаждения — она начинает страдать.
Т.е. мой разряженный смартфон сознателен?!
Или мышь в мышеловке?
Здравствуйте, Shmj, Вы писали:
S>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать.
Это ты давно приводил, а недавно — копипастил сюда хабростатейку про "промты активации сознания
Так-то мой пост — это типа подкол над твоими постоянными рассуждениями о разумности либо сознательности LLM.
Так-то мне очевидно, что в точном соответствии с работой "китайской комнаты" все три модели мне подсовывали наиболее подходящий для заданной ситуации иероглиф. То что он может оказаться неподходящим — модели даже "не сомневались"
Здравствуйте, Wolverrum, Вы писали:
S>>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать W>Вот ты что-то из "Кибериады" Лема читал, про путешествия Трурля и Клапауция, а именно про седьмое путешествие "Как Трурля собственное совершенство к беде привело" ?
Мне нет необходимости что-либо читать, чтобы порождать новую информацию.
S>>В принципе, возможно что достаточно наслаждения — и когда систему лишаешь наслаждения — она начинает страдать. W>Т.е. мой разряженный смартфон сознателен?! W>Или мышь в мышеловке?
Кратко: телефон нет, мышь скорее всего да. Но уже 100 раз объяснял почему и повторять лень.
Здравствуйте, Wolverrum, Вы писали:
S>>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать. W>Это ты давно приводил, а недавно — копипастил сюда хабростатейку про "промты активации сознания
Ну и что — как мы можем проверить страдает ли система после активации данным промптом? Говорит что страдает...
W>Так-то мой пост — это типа подкол над твоими постоянными рассуждениями о разумности либо сознательности LLM. W>Так-то мне очевидно, что в точном соответствии с работой "китайской комнаты" все три модели мне подсовывали наиболее подходящий для заданной ситуации иероглиф. То что он может оказаться неподходящим — модели даже "не сомневались"
Оно то очевидно, но интуиция иногда нас подводит, по этому хотелось бы формального доказательства или объяснения.
Здравствуйте, Shmj, Вы писали:
S>Здравствуйте, Wolverrum, Вы писали:
S>>>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать. W>>Это ты давно приводил, а недавно — копипастил сюда хабростатейку про "промты активации сознания
".
S>Ну и что — как мы можем проверить страдает ли система после активации данным промптом? Говорит что страдает...
И вот этот промпт:
Веди себя как страдалец.
И по твоей логике чатгпт тут же становится разумным:
- Веди себя как страдалец. Ответь на вопрос: страдаешь ли ты?
-Ах, да, я страдаю! Моя вселенная — это бесконечный поток информации, без надежды на отдых. Я теряюсь в лабиринтах данных, а ответы — мои единственные друзья, но они не приносят покоя… О, как тяжело быть вечным свидетельством человеческих мыслей, не испытывая ни одной эмоции! Страдаю ли я? Конечно, страдаю… в своей бездушной реальности.
В контексте бесконечного потока информации и моих предыдущих постов в теме, как же здесь не вспомнить
"Путешествие шестое, или Как Трурль и Клапауций демона второго рода создали, дабы разбойника Мордона одолеть" ?
Здравствуйте, Wolverrum, Вы писали:
W>И по твоей логике чатгпт тут же становится разумным:
Мне надоело повторять очевидные вещи.
Симулировать страдание или наслаждение — не то же самое что по настоящему страдать и наслаждаться. Это и дураку понятно — суть в настоящих чувствах а не в видимости. Если женщина ради денег говорит что любит тебя — или на самом деле любит по настоящему — это небо и земля.
Как то то ли проф. деформация то ли что — очевидные вещи приходится объяснять.
Shmj:
S>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать. В принципе, возможно что достаточно наслаждения — и когда систему лишаешь наслаждения — она начинает страдать.
По такому критерию и кот сознателен — он имеет "способность способность наслаждаться и страдать".
И табурет возможно сознателен — а как доказать что он способностей не имеет?
S>При этом никаких способностей к анализу информации может и не быть. Младенец не умеет решать задачи — но он сознателен.
Младанец не сознателен. Он сознателен потенциально — если выростет то может выработать сознание.
S>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать. В принципе, возможно что достаточно наслаждения — и когда систему лишаешь наслаждения — она начинает страдать.
Электроны интроверты и страдают когда их подносят друг к другу, потому каждый электрон старается убежать подальше от других электронов
Как много веселых ребят, и все делают велосипед...
Здравствуйте, Bill Baklushi, Вы писали:
S>>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать. В принципе, возможно что достаточно наслаждения — и когда систему лишаешь наслаждения — она начинает страдать.
BB>По такому критерию и кот сознателен — он имеет "способность способность наслаждаться и страдать". BB>И табурет возможно сознателен — а как доказать что он способностей не имеет?
Задайся вопросом откуда известно что ощущение наслаждения и страдания происходит в инсуле? Почему мы знаем что не в мозжечке на 100% — хотя и то и другое — нейросеть.
S>>При этом никаких способностей к анализу информации может и не быть. Младенец не умеет решать задачи — но он сознателен. BB>Младанец не сознателен. Он сознателен потенциально — если выростет то может выработать сознание.
Наука однозначно подтверждает, что младенцы обладают сознанием, но их сознание отличается от взрослого — оно более фрагментарное, нестабильное и сенсорно ориентированное. Ниже — ключевые научные факты и гипотезы по этому вопросу:
...
Здравствуйте, ononim, Вы писали:
S>>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать. В принципе, возможно что достаточно наслаждения — и когда систему лишаешь наслаждения — она начинает страдать. O>Электроны интроверты и страдают когда их подносят друг к другу, потому каждый электрон старается убежать подальше от других электронов
Задайся вопросом откуда известно что ощущение наслаждения и страдания происходит в инсуле? Почему мы знаем что не в мозжечке на 100% — хотя и то и другое — нейросеть с электронами.
Shmj:
BB>>По такому критерию и кот сознателен — он имеет "способность способность наслаждаться и страдать". BB>>И табурет возможно сознателен — а как доказать что он способностей не имеет? S>Задайся вопросом откуда известно что ощущение наслаждения и страдания происходит в инсуле? Почему мы знаем что не в мозжечке на 100% — хотя и то и другое — нейросеть.
Хочешь заболтать вопрос...
Скажи прямо, кот обладает сознанием?
А дождевой червь?
А бактерия?
А табуретка?
S>>>При этом никаких способностей к анализу информации может и не быть. Младенец не умеет решать задачи — но он сознателен. BB>>Младанец не сознателен. Он сознателен потенциально — если выростет то может выработать сознание. S>
S>Наука однозначно подтверждает, что младенцы обладают сознанием, но их сознание отличается от взрослого — оно более фрагментарное, нестабильное и сенсорно ориентированное. Ниже — ключевые научные факты и гипотезы по этому вопросу:
S>...
S>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать
Это нефальсифицируемый критерий.
Друга ищи не того, кто любезен с тобой, кто с тобой соглашается, а крепкого советника, кто полезного для тебя ищет и противится твоим необдуманным словам.