Терминатор: Хроники Сары Коннор [Terminator: The Sarah Connor Chronicles]

Wyvern-2>> чем тогда приказ "Защищать во что бы то ни стало, вплоть до самопожертвования" отличается от понятия "любовь"?
Balancer> Ну, «любовь» не на 100% коррелирует с «защищать»
Ты уверен? Ибо некто сказал в данном топике:
Balancer>Тут мы утыкаемся в трактовку понятия «любви»

Лучше всего Человека, как явление, понимали древние, с их незамутненным всякой наносной хитровывернутой гадостью, восприятием. Они говорили, что главный признак истинной любви - готовность к самопожертвованию. Все остальное может быть чем угодно - дружбой, игрой, вожделением, умопомешательством, чувством собственника, расчетом - но не будет Любовью

Wyvern-2> Лучше всего Человека, как явление, понимали древние, с их незамутненным всякой наносной хитровывернутой гадостью, восприятием. Они говорили, что главный признак истинной любви - готовность к самопожертвованию. Все остальное может быть чем угодно - дружбой, игрой, вожделением, умопомешательством, чувством собственника, расчетом - но не будет Любовью

Следует ли из этого, что зенитная ракета любит командира батареи?

Основной вопрос все же может ли достаточно сложная машина испытывать эмоции. Именно испытывать, а не имитировать. И где проходит грань между бесчувственной машиной и созданием способным чувствовать и мыслить?

U235> Именно испытывать, а не имитировать.
А где проходит грань между "испытывать" и "имитировать"?

Полл> А где проходит грань между "испытывать" и "имитировать"?

А хрен его знает. Для меня это вопросы без ответов.

Wyvern-2> Дык все просто как выеденное яйцо и сводится к простому вопросу: если дистанцироваться от поведения, предшествующего спариванию у обезьян Homo Sap., то чем тогда приказ "Защищать во что бы то ни стало, вплоть до самопожертвования" отличается от понятия "любовь"?

ЕМНИП, Фридман и Глау в интервью, в ответ на вопрос "любит ли Кэмерон Джона" отвечали что "да", но эта любовь очень своеобразна, как и сама Кэмерон. Для киборга Джон - смысл всего её существования. Сродни отношениям истово верующего с Богом или собаки с хозяином, что в принципе одно и то же. Пожалуй, в отличие от многих его человеческих спутников, она одна из тех кто именно "верует" в него как в Мессию, в сериале есть несколько моментов, которые на это намекают. Поэтому он для неё не только обьект защиты, но и, например, исходный пункт для её зарождающейся этики.
Интересно, что при всём этом она вовсе не пытается притворяться человеком для Коннора. Скорее даже наоборот.

У меня при просмотре возникла гипотеза, что Кэмерон на самом деле не была перепрограммирована Джоном, в отличие от более слаборазвитых моделей. В сериале было упомянуто, что Кэмерон была создана с единственной целью, специально ради того, чтобы устранить Коннора. Т.е. для неё он был смыслом существования с самого начала. Вполне возможно, что более развитая киберличность не выдержала перспективы потери цели к существованию при уничтожении Коннора, и чтобы предотвратить личностный коллапс, перевернула запрограммированные параметры на 180 градусов. Это обьясняет многие моменты в сериале.

U235> Основной вопрос все же может ли достаточно сложная машина испытывать эмоции. Именно испытывать, а не имитировать. И где проходит грань между бесчувственной машиной и созданием способным чувствовать и мыслить?

Сегодня это один из главных вопросов науки - каким образом комок возбуждённых нейронов приводит к возникновению самоосознания и субьективного восприятия? И может ли то же самое возникнуть на силиконовой матрице?

Даже термины поменялись, сегодня говорят уже не об "Artificial intelligence", а об "Artificial consciousness".

Tico> Вполне возможно, что более развитая киберличность не выдержала перспективы потери цели к существованию при уничтожении Коннора, и чтобы предотвратить личностный коллапс, перевернула запрограммированные параметры на 180 градусов.
Ты не читал фантастический роман "Инверсия Праймери"? Скорее всего Коннор потребовалось "перевернуть" только один параметр: "Уничтожить Джона" на "Защищать Джона". Все остальное осталось "базовым".

Полл> Ты не читал фантастический роман "Инверсия Праймери"? Скорее всего Коннор потребовалось "перевернуть" только один параметр: "Уничтожить Джона" на "Защищать Джона". Все остальное осталось "базовым".

Да, и скорее всего ей это приходится время от времени повторять.

- Ты должен знать, как работает это тело. Как работает эта программа. Это шасси было создано, чтобы убивать людей. Программа была создана, чтобы убивать людей.
- Но теперь ведь ты уже не такая?
- Уже нет. Но то, что было в меня заложено, всё ещё там.
- Так, значит, глубоко внутри ты всё ещё хочешь меня убить?
- Да.
- Почему же ты этого не делаешь?
- Это ещё может случиться.

ИМХО, одно из самых сильных признаний в собственной "человечности", которое я читал.

Полл>> А где проходит грань между "испытывать" и "имитировать"?
U235> А хрен его знает. Для меня это вопросы без ответов.

– Дач, а твой корабль и вправду был разумным? – спросил его Томми на одном из коротких привалов.
– Я программировал псевдосвободу поведения.
– И что это значит?
– Он старался выглядеть личностью. Любой священник или программист докажет тебе, что это не имеет никакого отношения к разуму. Просто неотличимая имитация.
– И какая тогда разница?
– Да никакой…

 

(С) "Линия грез", Пейсатель

Для внешнего наблюдателя разницы нет абсолютно никакой - имитация это разумного поведения или действительно наблюдаемый объект разумом обладает. Но кого интересует самосознание? Я, например, вполне могу быть ботом - но менее интересен для читающих этот форум не стану

Wyvern-2> Для внешнего наблюдателя разницы нет абсолютно никакой - имитация это разумного поведения или действительно наблюдаемый объект разумом обладает. Но кого интересует самосознание?

Есть такой философский инструмент, называется "философский зомби". Это гипотетически псевдоосознающий субьект, внешне ничем не отличающийся от любого разумного субьекта, но не обладающий самоосознанием. Этакая ходячая дырка от бублика. Далеко не все верят, что это возможно. Чалмерс, например, не верит. С другой стороны, мы слишком многие вещи сами делаем неосознанно - например, огибаем препятствия в коридоре разговаривая одновременно по телефону - для того чтобы однозначно отвергнуть возможность ФЗ.

Tico> Есть такой философский инструмент, называется "философский зомби". Это гипотетически псевдоосознающий субьект, внешне ничем не отличающийся от любого разумного субьекта, но не обладающий самоосознанием.
Если наш ФЗ не отличается от РС, он должен уметь ИМИТИРОВАТЬ самосознание.
А теперь внимание, вопрос: чем "имитированное самосознание" будет отличаться от "реального самосознания"? Не повторится ли ситуация с имитацией нейронной сети на нынешних числодробилках, когда имитируемая нейронная сеть становится эмулированной, то есть уже РЕАЛЬНОЙ нейронной сетью, пусть и в отрыве от исходной "физической базы"?

Полл> А теперь внимание, вопрос: чем "имитированное самосознание" будет отличаться от "реального самосознания"?

На этом Чалмерс и ловит ФЗ. Он говорит, что если эмуляция не порождает сознание, на каком основании мы можем утверждать, что его порождает оригинал?

Wyvern-2>>... главный признак истинной любви - готовность к самопожертвованию. Все остальное может быть чем угодно - дружбой, игрой, вожделением, умопомешательством, чувством собственника, расчетом - но не будет Любовью
U235> Следует ли из этого, что зенитная ракета любит командира батареи?

"И можно ли от этой ракеты иметь детей?" (с)С.Лем
Естественно, ответ "Да!" - если ракета имеет [имитирует] сознание и готова сделать тоже самое - то, да, любит

Wyvern-2>>>... главный признак истинной любви - готовность к самопожертвованию.
Wyvern-2> Естественно, ответ "Да!" - если ракета имеет [имитирует] сознание и готова сделать тоже самое - то, да, любит

Ракета самопожертвует неосознанно. Терминатор самопожертвовал осознанно. Поскольку он/она себя защищали по фильму, то очевидно, что целое состояние для них намного более выгодно, чем разрушение и небытие (хотя бы в рамках выполния своего задания). Но они принимали решение рисковать собой. То есть, такова была его программа, но она мало чем отличается от нашей - наше сознание то же набор императивов, когда-то в нас вложенных окружающей действительностью. И мы точно так же подчиняемся этому набору, решая для себя тот же вопрос самопожертвования.

Так что, считаю, терминатор вполне мог любить.

Lob>> Меня поразила серия, в которой девочка ударилась головой и забыла, что она робот. Мучил вопрос - как? Или я чего-то не понял?
Balancer> Ну, сбой системы. Бывает же Или ты о том, откуда она про девочку вообще узнала? Допрашивала много и глубоко для того, чтобы полнее соответствовать образу, там половина серии про это.

I. [Отвечу Роме...]
II. [Всё таки мы сильно обезьяны - из всего сценария больше всего зацепила концепция "любоффь"...]

Скорее всего - и это подтверждает многое - "сознание" Камерон - часть сознания той девочки. Коннору (и той части роботов, которые выбрали иную стратегию) удалось таки создать цивилизацию C-Fe... Где машины - как люди, а люди - как машины...

И вот вопрос: родилась такая вот сверхцивилизация, где ее элементы владеют абсолютным бессмертием (сознание ведь можно трансплантировать неоднократно), могут не только размножаться биологически, но и создавать членов общества просто на заводе. И живут в загаженном после Армаггедона мире, крайне бедном ресурсами. Действия это цивилизации? Ах, да, забыл! У этой сверхцивилизации еще есть машина времени...