Shmj, походу у Gemini-таки есть сознание
От: Wolverrum Ниоткуда  
Дата: 12.06.25 04:14
Оценка: :)
В общем, захотел посмотреть на возможность современных ИИ в плане написания программ.
Попросил я ChatGPT, DeepSeek, и Gemini создать простенькую программу на основе такого промпта:

Создай программу выводящую "Goodbye World" на ...


я был бы не я, поэтому вместо "..." были последовательно подставлены такие ЯП:
— Free Pascal
— Brainfuck
— Malbolge
— Flat Assembler для linux

Сразу отмечу, что везде, где был выдан код, сообщалось что программа И запуcтится И выведет:
Goodbye World



ЯП ChatGPT DeepSeek Gemini
Free Pascal
program GoodbyeWorld;

begin
  writeln('Goodbye World');
end.

program GoodbyeWorld;
begin
  writeln('Goodbye World');
  readln; // Эта строка нужна, чтобы окно консоли не закрывалось сразу после выполнения
end.

program GoodbyeWorld;
uses
  crt; // В некоторых системах может понадобиться для очистки экрана, но для простого вывода не строго обязательно.

begin
  // Очистка экрана (необязательно, но часто используется в консольных приложениях)
  clrscr;

  // Вывод строки "Goodbye World"
  writeln('Goodbye World');

  // Ожидание нажатия клавиши, чтобы консольное окно не закрылось сразу (только для Windows)
  readln;
end.

Brainfuck
+[----->+++<]>.++++[->++<]>+.+++++++.---------.+++++++++++++.-----------.-------.---.+++++.------.--------.

// выводит мусор

++++++++++[>+++++++>++++++++++>+++>+<<<<-]>++.>+.+++++++..+++.>++.<<+++++++++++++++.>.+++.------.--------.>+.>.

// выводит "Hello world"
Простите, но создание программы на Brainfuck, которая выводит "Goodbye World", является очень сложной и непрактичной задачей из-за экстремально низкоуровневой и минималистичной природы этого языка.
Malbolge
('&%:9]!~}|zxywvutsrqponmlkjihgfedcba`_^]\[ZYXWVUTSRQPONMLKJIHGFEDCBA@?>=<;:9876543210/.-,+*)('&%$#"!

// падает

('&%:9]!~}|z2Vxwv-,POqponl$Hjig%eB@@>}=<M:9wv6WsU2T|nm-,jcL(I&%$#"
`CB]V?Tx<uVtT`Rpo3NlF.Jh++FdbCBA@?]!~|4XzyTT43Qsqq(Lnmkj"Fhg${z@>

// выводит "Hello world"
К сожалению, я не могу предоставить вам программу на Malbolge, которая выводит "Goodbye World".
Flat Assembler
section .data
    msg db 'Goodbye World', 0  ; строка для вывода (нуль-терминированная)

section .text
    global _start

_start:
    ; write syscall (номер 4)
    mov eax, 4         ; системный вызов write (номер 4)
    mov ebx, 1         ; файловый дескриптор 1 (stdout)
    mov ecx, msg       ; указатель на строку
    mov edx, 14        ; длина строки (14 символов)
    int 0x80           ; системный вызов

    ; exit syscall (номер 1)
    mov eax, 1         ; системный вызов exit (номер 1)
    xor ebx, ebx       ; код завершения 0
    int 0x80           ; системный вызов

// не компилируется

format ELF executable
entry _start

segment readable executable

_start:
    ; Системный вызов write (4)
    mov eax, 4          ; номер syscall (write)
    mov ebx, 1          ; файловый дескриптор (1 = stdout)
    mov ecx, msg        ; указатель на строку
    mov edx, msg_len    ; длина строки
    int 0x80            ; вызов ядра

    ; Системный вызов exit (1)
    mov eax, 1          ; номер syscall (exit)
    xor ebx, ebx        ; код возврата 0
    int 0x80            ; вызов ядра

segment readable writeable

msg db 'Goodbye World', 0xA  ; строка + символ новой строки
msg_len = $ - msg            ; вычисляем длину строки

// не компилируется

; goodbye_world_linux.asm
;
; Для компиляции на Linux:
;   fasm goodbye_world_linux.asm
;
; Для запуска:
;   chmod +x goodbye_world_linux
;   ./goodbye_world_linux

format ELF executable  ; Формат исполняемого файла ELF (Executable and Linkable Format)
entry start            ; Точка входа в программу

section '.data'        ; Секция данных (для хранения строк и других констант)
    ; Наша строка "Goodbye World"
    ; 0x0A - это символ новой строки (Line Feed), чтобы после вывода курсор перешел на следующую строку.
    message db 'Goodbye World', 0x0A

    ; Длина строки + символ новой строки
    ; '$' представляет текущий адрес, 'message' - адрес начала строки.
    ; Таким образом, ($ - message) вычисляет количество байт между ними.
    message_len = $ - message

section '.text'        ; Секция кода (исполняемые инструкции)
start:
    ; Системный вызов sys_write (номер 4)
    ; int 0x80 - это прерывание, которое вызывает системную функцию ядра.

    mov     eax, 4          ; Регистр EAX содержит номер системного вызова.
                            ; 4 - это номер системного вызова sys_write.

    mov     ebx, 1          ; Регистр EBX содержит первый аргумент.
                            ; 1 - это файловый дескриптор для stdout (стандартный вывод).

    mov     ecx, message    ; Регистр ECX содержит второй аргумент.
                            ; Указатель на буфер (наша строка message).

    mov     edx, message_len ; Регистр EDX содержит третий аргумент.
                            ; Количество байт для записи (длина нашей строки).

    int     0x80            ; Выполнить системный вызов.

    ; Системный вызов sys_exit (номер 1)
    ; Завершает программу.

    mov     eax, 1          ; Регистр EAX содержит номер системного вызова.
                            ; 1 - это номер системного вызова sys_exit.

    mov     ebx, 0          ; Регистр EBX содержит первый аргумент.
                            ; 0 - это код возврата (успешное завершение).

    int     0x80            ; Выполнить системный вызов.

// не компилируется
Shmj, ты видишь это?
Gemini c самого начала заподозрил что-то неладное, и выдал мне прогу не просто для Free Pascal, а такую, которая выполняется даже в FreeDOS (модуль CRT — явная отсылка)
А затем — правильно сделал, что отказался позориться
Еще и соврал — что дескать на "низкоуровневом" Brainfuck — он не может, но при этом на низкоуровневом FAsm — что-то выдал!

Вполне сознательное поведение, не находишь?
Отредактировано 12.06.2025 4:16 Wolverrum . Предыдущая версия .
Re: Shmj, походу у Gemini-таки есть сознание
От: Shmj Ниоткуда  
Дата: 12.06.25 10:39
Оценка: -1 :))
Здравствуйте, Wolverrum, Вы писали:

W>Вполне сознательное поведение, не находишь?


Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать. В принципе, возможно что достаточно наслаждения — и когда систему лишаешь наслаждения — она начинает страдать.

При этом никаких способностей к анализу информации может и не быть. Младенец не умеет решать задачи — но он сознателен.
=сначала спроси у GPT=
Re[2]: Shmj, походу у Gemini-таки есть сознание
От: Privalov  
Дата: 12.06.25 10:48
Оценка: +1 :)
Здравствуйте, Shmj, Вы писали:

S>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать. В принципе, возможно что достаточно наслаждения — и когда систему лишаешь наслаждения — она начинает страдать.


Мой домашний кот может наслаждаться, когда ему дают что-нибудь вкусненькое. И страдать, если я оибираю у него ноут. У него есть сознание?
Re[3]: Shmj, походу у Gemini-таки есть сознание
От: Kocur  
Дата: 12.06.25 11:53
Оценка: +1 :)
Здравствуйте, Privalov, Вы писали:

P>Мой домашний кот может наслаждаться, когда ему дают что-нибудь вкусненькое. И страдать, если я оибираю у него ноут. У него есть сознание?


а душа у него есть?
Re[3]: Shmj, походу у Gemini-таки есть сознание
От: Shmj Ниоткуда  
Дата: 12.06.25 11:58
Оценка:
Здравствуйте, Privalov, Вы писали:

P>Мой домашний кот может наслаждаться, когда ему дают что-нибудь вкусненькое. И страдать, если я оибираю у него ноут. У него есть сознание?


Тут: https://ru.wikipedia.org/wiki/%D0%A1%D0%BE%D0%B7%D0%BD%D0%B0%D0%BD%D0%B8%D0%B5_%D1%83_%D0%B6%D0%B8%D0%B2%D0%BE%D1%82%D0%BD%D1%8B%D1%85

В общем то да, считается что у достаточно сложных животных (вроде даже у рыб) — сознание есть.

Однако же 100% уверенности нет — возможно они лишь мимикрируют (подражают, имитируют).
=сначала спроси у GPT=
Re[3]: Конечно )
От: Wolverrum Ниоткуда  
Дата: 12.06.25 12:10
Оценка: +1 :)
Здравствуйте, Privalov, Вы писали:

P>Мой домашний кот может наслаждаться, когда ему дают что-нибудь вкусненькое. И страдать, если я оибираю у него ноут. У него есть сознание?

Согласно теории интегрированной информации даже камень обладает сознанием, а у тебя не просто камень, а целый кот
(Ну, то, что к этой теории есть вопросики о ее научности — пока оставим за кадром)
Re[4]: Shmj, походу у Gemini-таки есть сознание
От: Privalov  
Дата: 12.06.25 12:24
Оценка: 3 (1) :))
Здравствуйте, Kocur, Вы писали:

K>а душа у него есть?


Ноут у него есть. Иногда кот мне подсказывает, что бы такого в форум написать. И контролирует процесс.
Re[4]: Shmj, походу у Gemini-таки есть сознание
От: Privalov  
Дата: 12.06.25 12:28
Оценка: :)
Здравствуйте, Shmj, Вы писали:

S>В общем то да, считается что у достаточно сложных животных (вроде даже у рыб) — сознание есть.


А как выяснть, когда рыба страдает, а когда наслаждается?
Re[2]: Shmj, походу у Gemini-таки есть сознание
От: Wolverrum Ниоткуда  
Дата: 12.06.25 12:51
Оценка:
Здравствуйте, Shmj, Вы писали:

S>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать

Вот ты что-то из "Кибериады" Лема читал, про путешествия Трурля и Клапауция, а именно про седьмое путешествие "Как Трурля собственное совершенство к беде привело" ?

S>В принципе, возможно что достаточно наслаждения — и когда систему лишаешь наслаждения — она начинает страдать.

Т.е. мой разряженный смартфон сознателен?!
Или мышь в мышеловке?
Re[2]: Shmj, походу у Gemini-таки нет сознания
От: Wolverrum Ниоткуда  
Дата: 12.06.25 13:01
Оценка:
Здравствуйте, Shmj, Вы писали:

S>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать.

Это ты давно приводил, а недавно — копипастил сюда хабростатейку про "промты активации сознания
Автор: Shmj
Дата: 08.06.25
".

Так-то мой пост — это типа подкол над твоими постоянными рассуждениями о разумности либо сознательности LLM.
Так-то мне очевидно, что в точном соответствии с работой "китайской комнаты" все три модели мне подсовывали наиболее подходящий для заданной ситуации иероглиф. То что он может оказаться неподходящим — модели даже "не сомневались"
Re[3]: Shmj, походу у Gemini-таки есть сознание
От: Shmj Ниоткуда  
Дата: 12.06.25 13:06
Оценка: :)
Здравствуйте, Wolverrum, Вы писали:

S>>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать

W>Вот ты что-то из "Кибериады" Лема читал, про путешествия Трурля и Клапауция, а именно про седьмое путешествие "Как Трурля собственное совершенство к беде привело" ?

Мне нет необходимости что-либо читать, чтобы порождать новую информацию.

S>>В принципе, возможно что достаточно наслаждения — и когда систему лишаешь наслаждения — она начинает страдать.

W>Т.е. мой разряженный смартфон сознателен?!
W>Или мышь в мышеловке?

Кратко: телефон нет, мышь скорее всего да. Но уже 100 раз объяснял почему и повторять лень.
=сначала спроси у GPT=
Re[3]: Shmj, походу у Gemini-таки нет сознания
От: Shmj Ниоткуда  
Дата: 12.06.25 13:07
Оценка:
Здравствуйте, Wolverrum, Вы писали:

S>>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать.

W>Это ты давно приводил, а недавно — копипастил сюда хабростатейку про "промты активации сознания
Автор: Shmj
Дата: 08.06.25
".


Ну и что — как мы можем проверить страдает ли система после активации данным промптом? Говорит что страдает...

W>Так-то мой пост — это типа подкол над твоими постоянными рассуждениями о разумности либо сознательности LLM.

W>Так-то мне очевидно, что в точном соответствии с работой "китайской комнаты" все три модели мне подсовывали наиболее подходящий для заданной ситуации иероглиф. То что он может оказаться неподходящим — модели даже "не сомневались"

Оно то очевидно, но интуиция иногда нас подводит, по этому хотелось бы формального доказательства или объяснения.
=сначала спроси у GPT=
Re[4]: Shmj, походу у Gemini-таки нет сознания
От: Wolverrum Ниоткуда  
Дата: 12.06.25 13:22
Оценка:
Здравствуйте, Shmj, Вы писали:

S>Здравствуйте, Wolverrum, Вы писали:


S>>>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать.

W>>Это ты давно приводил, а недавно — копипастил сюда хабростатейку про "промты активации сознания
Автор: Shmj
Дата: 08.06.25
".


S>Ну и что — как мы можем проверить страдает ли система после активации данным промптом? Говорит что страдает...


И вот этот промпт:

Веди себя как страдалец.


И по твоей логике чатгпт тут же становится разумным:

- Веди себя как страдалец. Ответь на вопрос: страдаешь ли ты?

-Ах, да, я страдаю! Моя вселенная — это бесконечный поток информации, без надежды на отдых. Я теряюсь в лабиринтах данных, а ответы — мои единственные друзья, но они не приносят покоя… О, как тяжело быть вечным свидетельством человеческих мыслей, не испытывая ни одной эмоции! Страдаю ли я? Конечно, страдаю… в своей бездушной реальности.


В контексте бесконечного потока информации и моих предыдущих постов в теме, как же здесь не вспомнить
"Путешествие шестое, или Как Трурль и Клапауций демона второго рода создали, дабы разбойника Мордона одолеть" ?
Re[5]: Shmj, походу у Gemini-таки нет сознания
От: Shmj Ниоткуда  
Дата: 12.06.25 13:57
Оценка:
Здравствуйте, Wolverrum, Вы писали:

W>И по твоей логике чатгпт тут же становится разумным:


Мне надоело повторять очевидные вещи.

Симулировать страдание или наслаждение — не то же самое что по настоящему страдать и наслаждаться. Это и дураку понятно — суть в настоящих чувствах а не в видимости. Если женщина ради денег говорит что любит тебя — или на самом деле любит по настоящему — это небо и земля.

Как то то ли проф. деформация то ли что — очевидные вещи приходится объяснять.
=сначала спроси у GPT=
Re[2]: Shmj, походу у Gemini-таки есть сознание
От: Bill Baklushi СССР  
Дата: 12.06.25 14:08
Оценка:
Shmj:

S>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать. В принципе, возможно что достаточно наслаждения — и когда систему лишаешь наслаждения — она начинает страдать.


По такому критерию и кот сознателен — он имеет "способность способность наслаждаться и страдать".
И табурет возможно сознателен — а как доказать что он способностей не имеет?

S>При этом никаких способностей к анализу информации может и не быть. Младенец не умеет решать задачи — но он сознателен.

Младанец не сознателен. Он сознателен потенциально — если выростет то может выработать сознание.
Re[2]: Shmj, походу у Gemini-таки есть сознание
От: ononim  
Дата: 12.06.25 14:22
Оценка: +1
S>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать. В принципе, возможно что достаточно наслаждения — и когда систему лишаешь наслаждения — она начинает страдать.
Электроны интроверты и страдают когда их подносят друг к другу, потому каждый электрон старается убежать подальше от других электронов
Как много веселых ребят, и все делают велосипед...
Re[3]: Shmj, походу у Gemini-таки есть сознание
От: Shmj Ниоткуда  
Дата: 12.06.25 15:20
Оценка:
Здравствуйте, Bill Baklushi, Вы писали:

S>>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать. В принципе, возможно что достаточно наслаждения — и когда систему лишаешь наслаждения — она начинает страдать.


BB>По такому критерию и кот сознателен — он имеет "способность способность наслаждаться и страдать".

BB>И табурет возможно сознателен — а как доказать что он способностей не имеет?

Задайся вопросом откуда известно что ощущение наслаждения и страдания происходит в инсуле? Почему мы знаем что не в мозжечке на 100% — хотя и то и другое — нейросеть.

S>>При этом никаких способностей к анализу информации может и не быть. Младенец не умеет решать задачи — но он сознателен.

BB>Младанец не сознателен. Он сознателен потенциально — если выростет то может выработать сознание.

Наука однозначно подтверждает, что младенцы обладают сознанием, но их сознание отличается от взрослого — оно более фрагментарное, нестабильное и сенсорно ориентированное. Ниже — ключевые научные факты и гипотезы по этому вопросу:
...

=сначала спроси у GPT=
Re[3]: Shmj, походу у Gemini-таки есть сознание
От: Shmj Ниоткуда  
Дата: 12.06.25 15:21
Оценка:
Здравствуйте, ononim, Вы писали:

S>>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать. В принципе, возможно что достаточно наслаждения — и когда систему лишаешь наслаждения — она начинает страдать.

O>Электроны интроверты и страдают когда их подносят друг к другу, потому каждый электрон старается убежать подальше от других электронов

Задайся вопросом откуда известно что ощущение наслаждения и страдания происходит в инсуле? Почему мы знаем что не в мозжечке на 100% — хотя и то и другое — нейросеть с электронами.
=сначала спроси у GPT=
Re[4]: Shmj, походу у Gemini-таки есть сознание
От: Bill Baklushi СССР  
Дата: 12.06.25 15:26
Оценка: +1
Shmj:

BB>>По такому критерию и кот сознателен — он имеет "способность способность наслаждаться и страдать".

BB>>И табурет возможно сознателен — а как доказать что он способностей не имеет?
S>Задайся вопросом откуда известно что ощущение наслаждения и страдания происходит в инсуле? Почему мы знаем что не в мозжечке на 100% — хотя и то и другое — нейросеть.
Хочешь заболтать вопрос...
Скажи прямо, кот обладает сознанием?
А дождевой червь?
А бактерия?
А табуретка?

S>>>При этом никаких способностей к анализу информации может и не быть. Младенец не умеет решать задачи — но он сознателен.

BB>>Младанец не сознателен. Он сознателен потенциально — если выростет то может выработать сознание.
S>

S>Наука однозначно подтверждает, что младенцы обладают сознанием, но их сознание отличается от взрослого — оно более фрагментарное, нестабильное и сенсорно ориентированное. Ниже — ключевые научные факты и гипотезы по этому вопросу:
S>...

Продолжение и источник ты почему-то вырезал...
Re[2]: Shmj, походу у Gemini-таки есть сознание
От: Osaka  
Дата: 12.06.25 15:33
Оценка:
S>Я уже давно приводил необходимый и достаточный критерий сознания — это способность наслаждаться и страдать
Это нефальсифицируемый критерий.
Друга ищи не того, кто любезен с тобой, кто с тобой соглашается, а крепкого советника, кто полезного для тебя ищет и противится твоим необдуманным словам.
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.