TL;DR : банхаммер побеждает AI

https://simonwillison.net/2025/May/6/daniel-stenberg/
https://sethmlarson.dev/slop-security-reports

Основатель и главный разработчик проекта curl Дэниэл Стенберг (Daniel Stenberg) обратил внимание на проблему массовой отправки сообщений об уязвимостях, созданных LLM через платформу HackerOne. Подобные сообщения перегружают разработчиков, так как для их проверки необходимо время, которое несравнимо с тем временем, которое нужно для создания подобных отчётов при помощи LLM.

В качестве примера такого сообщения он опубликовал один из таких отчётов — #3125832. Первоначальный патч в нём не подходит ни к одной версии утилиты, для которой он сделан. На уточняющие вопросы от разработчиков его автор отвечал на не заданные вопросы (например, что такое циклическая зависимость), приводил примеры несуществующих функций в утилите и давал инструкции, как использовать git для применения патча.

В ответ на увеличение количества таких сообщений Дэниэл Стенберг предупредил, что теперь авторам необходимо будет отвечать на вопрос «использовался ли AI при его создании» и быть готовыми к дополнительным вопросам, чтобы доказать, что автор действительно проверил результат. Так же любой автор, заподозренный в отправке сообщений, которые можно классифицировать как «AI slop» (низкокачественный контент, сгенерированный LLM) будет немедленно забанен.

Дэниэл Стенберг отмечает, что на данный момент у них нет ни одного примера полезного сообщения об уязвимости, созданного при помощи AI.

LOR

Здравствуйте, Wolverrum, Вы писали:

W>

W>Дэниэл Стенберг отмечает, что на данный момент у них нет ни одного примера полезного сообщения об уязвимости, созданного при помощи AI.

Это можно назвать — ускользающий элемент: https://rsdn.org/forum/education/8932509.flat

Автор: Shmj
Дата: 11.05.25

Вроде бы нельзя тыкнуть пальцем чего именно LLM не может, нельзя сделать генератор задач, которые человек решает а LLM не может. Но все-таки это есть. Есть нечто ценное, некое ценное умение человека, которое LLM повторить не может. Но мы пока не знаем что это и не умеем его ценить.

Здравствуйте, Shmj, Вы писали:

S>Вроде бы нельзя тыкнуть пальцем чего именно LLM не может, нельзя сделать генератор задач, которые человек решает а LLM не может. Но все-таки это есть. Есть нечто ценное, некое ценное умение человека, которое LLM повторить не может. Но мы пока не знаем что это и не умеем его ценить.
Называется ответственность физического или юридического лица.

S>Вроде бы нельзя тыкнуть пальцем чего именно LLM не может

С обезьянами, кстати, также — нельзя доказать что посадив обезьяну за печатную машинку, она в конце концов не напишет «Войну и Мир».

Здравствуйте, Wolverrum, Вы писали:

W>TL;DR : банхаммер побеждает AI

Есть масса обратных примеров. Дядя Сэм, говорит, что большАя часть значимого кода написана ChatGPT (видимо макбучная десктоп версия, либо что-то специально для внутреннего пользования). Весь Anthropic плотно сидит Claude Code. Майкрасофт текущее количество АИ кода оценивает в 20-30% нового кода (у них основная проблема C++, которым никто из передовых моделей сильно не обучен и зверинец зависимостей). Цукерберг вообще говорит, что уже фсё.
Гугл что-то темнит. Походу они уже всех обогнали и строят скайнет, раз модели просто так выкидывают практически без презентаций.
Лишь Илонушка Маск говорит — продайте мне, продайте! Хотя грок уже тоже не так и плох.

Сейчас просто переходный период и поиск правильных подходов, а когда правильные подходы найдутся для масс, о программировании большинству можно будет забыть.

Здравствуйте, Muxa, Вы писали:

S>>Вроде бы нельзя тыкнуть пальцем чего именно LLM не может

M>С обезьянами, кстати, также — нельзя доказать что посадив обезьяну за печатную машинку, она в конце концов не напишет «Войну и Мир».

Так и человек не напишет. Чё уж там. Хотя бы потому что конец концов слишком короток.
У LLM кстати больше шансов — пишет чуть быстрее, а ещё вероятно, что гораздо больше раз прочитало "Войну и Мир" чем любой человек.