Sirion Рассмотрим такую вот гипотетическую ситуацию: для того, чтобы ИИ делал то, что нам нужно, а не то, что ему захочется (а ему вполне может оказаться более «интересно» решать судоку, чем заниматься нашим проектом, у которого вот-вот дедлайн), мы добавляем в него специальный входной сигнал — такой, что основной целью ИИ, основной составляющей его целевой функции будет минимизация этого сигнала. Соответственно, при приближении дедлайна мы жмём на педаль, на проводок подаётся напряжение, и ИИ начинает активно думать о том, как это напряжение убрать. Причём тем активнее, чем сильнее мы жмём. А поскольку давление ноги на педаль связано с незавершённым проектом, ИИ не остаётся ничего иного, кроме как этот проект завершить. Ну, или хакнуть пролетающего мимо военного дрона, чтобы он вышиб мозги оператору педали. Кто его знает, этот сильный ИИ.
Однако я отвлёкся. Скажите, этот гипотетический сигнал вам случайно ничего не напоминает? Можно ли в данном случае сказать, что ИИ испытывает боль? Комментарии
Рейтинг: 77
В 1972 году отец купил "копейку". Отъездив шесть лет, продал одному мужику. ЧЕРЕЗ 20 ЛЕТ получаю ключи от машины у этого мужика со словами: "Держи зятек.еще погоняешь!" Комментарии
Рейтинг: 77
Пенсионеры очень заботятся о своем здоровье. Сегодня на моих глазах бабка перековыляла весьма оживленную улицу на красный, потом подходит к торгующей фермерше и, затариваясь молоком и творогом, проникновенно рассказывает, что всегда все покупает у нее, у нее ведь все натуральное-полезное, не то что эта отрава в магазинах, от которой сдохнешь раньше времени... Комментарии
Рейтинг: 77
#калл оф нэйча
xxx: Природа в виде двух гопников в подворотне велела мне ходить со сломанным носом и без передних зубов. А, ну и без денег ещё. Комментарии
Рейтинг: 77
Обьявление: Продам 3 металлических стула с мягкими сиденьями в районе Текстильщики недорого. Первый комментарий: Где остальные девять? Комментарии
)