_>>>а ты сам-то знаешь, что _хотя бы_ тебе нужно для счастья?
_>>На словах — бессмертие и поумнеть раз в 10-100 (сколько там в черепушку реально впихнуть не увеличивая её до размеров больших чем арбуз) — при таких исходных дальше мы и сами сможем. На деле, думаю, прагматичный ИИ решит что для щастя людям вполне достаточно электрода в центр удовольствия, всё остальное неэффективное использование ресурсов планеты
_>откуда ты знаешь, что потом тебе не захочется помереть?
Захочется — помру, в чём проблема-то?

_>>>не говоря о том, что а) завтра ты хочешь другого б) у других людей и запросы другие в) никто не знает на самом деле, что им нужно для счастья, а не просто для удовольствия. вернее, они тут на форуме не сидят, и их мало.
_>>Поэтому мы и хотим ИИ умнее нас
_>значит, не удивляйся, если он тебя сразу же чик-чик -- для твоего же счастья. а вдруг? он ведь лучше знает.
Не получится, так как оценочная функция моего счастья после чик-чик сразу в 0. А вот чик-чик тебя для моего счастья — легко