Здравствуйте, Sinclair, Вы писали:

PD>>Как мы любим обещать, что в будущем все сможет. А пока что (из этих слов явно следует) не может. И пока мне неясно, что вызовет качественный скачок от нынешнего "не может" к будущему "сможет". Тут должно нечто радикальное произойти, а пока неясно, что именно.
S>Пока в основном неясно, что вы называете "творить новое". И как отличить прямо новое-новое от "компиляции уже существующего".
S>Очень может быть, что у меня, у вас, и у Влада эти критерии существенно отличаются. Именно поэтому получаются разные ответы на один и тот же вопрос.
S>Как по мне, так эти инструменты уже сейчас делают то, что вполне отвечает критериям новизны, принятым, к примеру, в научной среде.

Хороший вопрос. Коль скоро речь пошла о критериях новизны в научной среде, обсудим.

Вот когда-то я делал диссертацию в лаборатории термохимии. Я занимался расчетами, и не о них речь. А в основном лаборатория делала экспериментальную работу. Измеряли теплоты (энтальпии) сгорания органических веществ, определяли по ним энтальпии образования их, вот это и было основным профилем работы.
После получения данных по нескольким близким по структуре веществам публиковалась статья (или тезисы на конференции). Статью журнал бы не принял, не будет в ней научной новизны. Она и была — впервые получены значения энтальпий образования таких-то веществ.
После нескольких лет работы делалась кандидатская. В ней приводились все данные, полученные за эти годы, описывалась методика, прибор и т.д. В диссертации пункт "научная новизна" обязателен. Вот и писали — впервые определены значения энтальпий образования такого-то круга веществ, потом делались выводы. Все честною Никакой ВАК не придерется, потому что придираться не к чему.

Могла бы такая работа быть сделана без участия человека ? В принципе — вполне. Если все это автоматизировать, а потом результаты отдать ИИ, да еще скормить ему все, что есть в мире по термохимии — он вполне мог бы и отчет составить, и выводы сделать, а то и диссертацию написать.

А есть основы этой термохимии. Основа основ, конечно, закон сохранения энергии, ну не о нем речь. А конкретно для термохимии — закон Гесса. Вот это и было когда-то новое. Разумеется, сформулировать закон Гесса ИИ мог бы, но только если бы он до него "додумался". Чтобы додуматься, нужен был Гесс. Чтобы додуматься до закона сохранения массы, нужен был Лавуазье. Для первого закона Ньютона — Ньютон.

Любопытный , кстати, тут момент. И закон сохранения массы и первый закон Ньютона на первый взгляд противоречат здравому смыслу (== предыдущему накопленному опыту). Ну не движется же тело бесконечно, если его толкнуть. Останавливается. И какое уж там сохранение массы — сжег я вязанку дров массой в 10 килограмм, и осталось полкилограмма пепла. Нужны были Ньютон или Лавуазье, чтобы догадаться.

Ну а в информатике — чтобы додуматься до быстрой сортировки, нужен был Хоар. А сама задача сортировки понятна ребенку и решение он найдет. И ИИ отсортировать сможет

А если Вы меня попросите сформулировать точно, где граница между этими видами научной деятельности — я откажусь. Не удастся тут формально определить точную границу. Какое определение ни дай — всегда найдется к чему придраться. И тем не менее первое от второго на примерах отличить не сложно. Алгоритм Хоара — это новое в свое время, тут, я думаю, Вы спорить не будете. Идея статического анализа — тоже новое когда-то было, наверное. А провести статический анализ для данного кода — это на новое в этом смысле не тянет.


S>И ещё такая гипотеза или, скорее, метафора, мне приходит на ум: эти инструменты, не заменяют человека, а усиливают его способности.
S>Если человек — идиот, то LLM многократно усилит его способность делать глупости.
S>Если человек умён, то ИИ многократно усилит его способность получать интеллектуальные результаты.

Вполне согласен. Но это к многим инструментам относится.
На заре моей программистской карьеры интерактивных отладчиков не было. Какая уж там интерактивность при работе с перфокартами! Печатай промежуточные значения, а потом за столом анализируй, что получилось. И умели. Виртуозно некоторые умели.
Потом появились отладчики. В умелых руках они могли ускорять разработку в десятки раз. В неумелых — было бесконтрольное блуждание по коду, без какого-то плана исследования, а отладчик не распечатка, посмотреть, что делалось на предыдущих брекпойнтах зачастую невозможно, так что начинай все сначала.

S>Поэтому в сети так много разных мнений об одних и тех же агентах: одни говорят "этот инструмент заменяет мне половину лаборатории" и "90% моих научных результатов за последний год получены при помощи ИИ", а другие говорят "он способен только решать очевидные задачки, и то плохо". Люди смотрятся в этих агентов, как в зеркала

Да ради бога. Не надо думать, что я его противник. Вовсе нет. Хороший новый инструмент, вполне годится для решения многих задач. Со своими преимуществами и недостатками.

Меня лишь смущает тот ажиотаж, который вокруг него поднялся. Найдена новая золотая пуля. Завтра она заменит всех и будет везде. Вот тут у меня определенный скептицизм.

А кстати, можно Вам вопрос задать ? Какие неустранимые в принципе недостатки у него есть ? Что он в принципе не сможет сделать из того, что может сделать ЕИ (разумеется, о физических действиях речь не идет) ?