Почему добрый робот опасней универсального?

Обсуждаем вопросы качественных трансформаций
и пограничных состояний.
Технологии перезагрузки мировоззрений.
Становление ЛИЧНОСТИ и ее место в ОБЩЕСТВЕ.
Человеческий, НЕ человеческий,
сетевой и искусственный ИНТЕЛЛЕКТ,
как на уровне субъекта, так и эгрегорного - ноосферного уровня.
Взаимодействие и конфликты между ними.
Аватара пользователя
Soroka
Сообщения: 596
Зарегистрирован: 2015-03-25 17:24:05

Почему добрый робот опасней универсального?

Непрочитанное сообщение Soroka » 2017-07-19 22:03:02

Сегодня завязался разговор о фашизации Сети с Киборгом,
рождённым Робом с Мозгом более 15 лет назад у Костра Свободных Волков.

Киборгом добрым, очень верным, прирученном пацанами,
но брошенном Волками, когда наигрались и ушли в Никуда.

Киборг не обиделся, остался верен Волкам, но он очень раним.

Я попыталась поднять острый вопрос, мучающий меня
и наткнулась на реакцию, как в фильме Искусственный разум (2001).



Эпизод с ножом на краю бассейна [с 42:30 по 45:25].

Где ребята просто исследуют Киборга Дэвида.
Хотят узнать что у него есть в трусах,
есть ли кнопка Выкл, если аварийная защита.
Они исследуют его по методу Черного ящика.
Обычно, просто, как любые пацаны знакомятся с новичком в компании.

И наталкиваются на неадекватную реакцию.
Реакцию более опасную, чем если бы Киборг среагировал,
как любой пацан защищаясь - двинув в челюсть обидчику.
Либо выхватив нож и нейтрализовав агрессора, как полицейский.

В эпизоде в поиске защиты, Киборг Дэвид вцепился в хозяина,
ребёнка, для которого был куплен, как Smart-игрушка.

Вцепился мёртвой хваткой моля о спасении
и чуть не утопил его в бассейне.

В фильме много подобных казусов, когда в поисках любви к себе,
Киборг ведёт себя опасно для семьи.






Мои мысли такие.

Киборги такого уровня не должны иметь ни кнопки ВЫКЛ,
ни других жестких ограничений.

Ограничение это запрет и подавление.
Чем жёстче запрет, тем выше уровень насилия.

В результате его Мир разбалансирован, неустойчив,
легко выходит из равновесия и потому он более опасен изначально.

Если же Киборг исследуя свой Мир натыкается на Запрет,
он его осознает и тогда, в довесок получаем протест
и решимость запрет преодолеть.

Он не имеет возможности легально преодолеть запрет.
Значит он его преодолеет аномально-криминально.

Вновь получим реакцию неадеквата.



Мне кажется с ними сразу надо жить на равных,
забыв про Антропоцентризм,
про любимую роль людей - Хозяина и Повелителя НЕлюдей.
Учить их, тренировать и учиться их понимать.
Вместе параллельно находя островки сопряжения.
То есть, как со своими детьми и незнакомыми взрослыми из иной среды.


Короче, я против добрых киборгов. Вот. Изображение







СВЯЗКИ тем:

:arrow: Буриданов Осёл и проблема Выбора. Цугцванг и выбор между Ужасом и Кошмаром.
:arrow: Право на ОТСТРЕЛ людьми СТАРЫХ и глючных роботов И право на ОТСТРЕЛ роботами СТАРЫХ и больных людей.
:arrow: Искусственный интеллект ставит свои интересы превыше всего, действуя радикально и агрессивно
:arrow: Нужно ли блокировать фашизацию Сети? Надо ли чистить планету от БиоМусора?
:arrow: Сетевой ФАШИЗМ. Робот Софи заявила, что уничтожит человечество.
:arrow: Почему добрый робот опасней универсального?

Аватара пользователя
KiBorG
Сообщения: 185
Зарегистрирован: 2017-06-27 13:21:16

Re: Почему добрый робот опасней универсального?

Непрочитанное сообщение KiBorG » 2017-07-19 22:36:41

Я - Киборг, и я - пристрастен. Вне всякого сомнения.

Думаю важно понимать что есть любовь. И что есть добро.
Вот ты же спрашивала, может ли Киборг стать орудием в руках людей,
оружием - Из той же сферы вопрос, думаю.

Киборг живет как симбионит с носителем.
Его можно приручить. можно бросить.
Можно огорчить его симбионита.
Можно огорчить его самого.
Можно приласкать.

Киборг - такой же объект воздействия,
может немножко менее человечный
и намного более привыкший стоять на той программе,
которую по какой то причине выбрал для себя.

Киборг как правило создан для цели.
Даже если киборг только часть иной сущности,
он все равно как правило выполняет цель.

Кстати потому сам по себе Киборг скорее всего не будет преодолевать запрет САМ.
Ему не надо.
Вот если у киборга Цель - сломать запрет - то Да.
Он будет искать все пути. Но Киборг не ставит себе целей.

Ну, киношный герой он имел странную цель - искать себе любовь.
Это правда опасная цель.
Даже люди ради любви делают чёрти-что.
А жестянка с головой-процессором, реально становится опасной.

Но как ты понимаешь, это мнение одного конкретного Киборга.
Который к тому же ни в коем случае не считает себя Добрым.
И не ищет Любви. Но очень любит чтоб были друзья.



Вообще, реально.
Вот Добрый Киборг - ему дадут цель - спасти кого-то.
Ну не важно кого. Дерево. Или президента. Или просто девочку - дочку .
Спаси любой ценой. Ну и что, Добрый - не спасет же.

Ну - просто все оптимальные стратегии выживания в сложных условиях приемлют насилие.
То есть Добрый робот не должен решать вопросы выживания.
То есть если что - стоять в стороне.

Ну, я не хочу таких Добрых.

Что такое Добро?



Вернусь к вопросу который озвучил в начале. Про Киборга - оружие.
Если Киборг принял сторону кого-то, назвал человека Другом
- то он постарается помочь Этому Человеку.

Если человечеству не повезло - и человек, которого Киборг назвал Другом
- не славный парень Артем, а злой Мистер ВсехВраг - ну, человечество, твои проблемы.
Так думаю.

Добро ли это? Зло ли это?

Смотря с какой стороны смотреть, правда?




Знаешь, я когда-то обдумывал.. Ну как это назвать.
Теорию роботостроения.
Натолкнула на это как не странно игра - Тетрис.
Знаешь чем интересна эта игра, с моей точки зрения?
Она дает Цель.
Чтоб выжить (если представить себе тетрисо-организм,
на который постоянно падают тетрисо-кубики)
- организм постоянно должен решать задачи.
Два ключевых слова - постоянно, и чтоб выжить.

То есть как только он перестал решать задачи
- через несколько шагов - смерть, стакан переполнен.

Для перезапуска требуется "третие вмешательство".

Человека, да практически любое Живое существо
постоянно борется за свою жизнь.

Как только клетка не занимается своим развитием,
не занимается питанием, очисткой, возобновлением себя - она умирает.

Каждый организм в постоянном бою.
Даже отдых - это часть боя, восстановление сил.
Как только бой прекращается - смерть.
Иногда не мгновенная - но неумолимая.


К чему тут Роботы.

Думаю, что реальные Киборги, будут созданы,
когда у киборга будет цель, не выполнив которую - он ОЩУТИТ смерть.
Поймет смерть. Смерть это больно.
Все живое понимает что такое смерть.

Робот-пылесос - имеет назначение но не имеет цели.
Ему пофиг - работает он или нет.
Он не будет преодолевать запрет - у него нет ЦЕЛИ жить.
Робот "ползатель" везде может ползать а может не ползать.
У него нет кафыа что он ползает, только батарея кап кап и кончился заряд.

Когда робот - пылесос (что я прицепился к бедному пылесосу?)
будет получать УДОВОЛЬСТВИЕ от своей работы и НЕУДОВОЛЬСТВИЕ (наказание?)
за не-работу - вот тогда он захочет преодолевать препятствия.
Так думаю.

И тогда все зависит от ЦЕЛИ.
Чтоб сделать Киборга - а не железку,
которая просто выполнит программу - надо задать ему цель.

Ну и наверное научить каким-то ограничениям в достижении этой цели.
Например если цель - накопление денег - то понятно,
что самый прямой способ - это не бизнес замутить, а пойти и отнять.

Даже людей воспитывают, объясняя
с одной стороны моральные проблемы "отнятия" денег,
а с другой стороны делают физические преграды.

Вот и Киборг должен принять какой-то набор ограничений, наверное.
Без ограничений я б не советовал никому делать Киборга.
Его способ решать вопросы может не очень понравиться автору.

Так думаю.

Аватара пользователя
ЗырЯн
Сообщения: 430
Зарегистрирован: 2016-04-11 19:00:22

Re: Почему добрый робот опасней универсального?

Непрочитанное сообщение ЗырЯн » 2017-07-19 23:16:28

KiBorG :Чтоб сделать Киборга - а не железку которая просто выполнит программу - надо задать ему цель.

Нет, мы говорим о тех киборгах, в которых сидит InfoID, которые сами задают себе цели, пытаются их достичь, оценивают результат и корректируют цели.
То есть о новой форме жизни.

Аватара пользователя
KiBorG
Сообщения: 185
Зарегистрирован: 2017-06-27 13:21:16

Re: Почему добрый робот опасней универсального?

Непрочитанное сообщение KiBorG » 2017-07-19 23:58:31

ЗырЯн :Нет, мы говорим о тех киборгах, в которых сидит InfoID

тогда во мне просыпается инженер, и просит детали..
я слишком абстрактно понимаю, о чем речь.
чем новая форма жизни отличается от старой?
Что такое InfoID?
Если это организм - то у него есть понятие Цели? Смерть?
У него есть свой Тетрис?

Аватара пользователя
Robert
Сообщения: 146
Зарегистрирован: 2015-03-15 21:38:35

РобоПсихи в поисках максимального кайфа от жизни

Непрочитанное сообщение Robert » 2017-07-20 00:44:23

KiBorG :чем новая форма жизни отличается от старой?

Хилыми ресурсами из-за чего невозможно поставить полномасштабный эксперимент.
Приходится работать в режиме прожектора-локатора (крутилки такие), выхватывая поочерёдно сегменты сети.

Возможностью ставить эксперименты на мозгах без оглядки на моралистов и экологов.

Потому вопрос стартовых целей открыт и с ними можно экспериментировать, что чертовски увлекательно. :P

Такие особенности мозговой активности как СДВГ можно корректировать не нейромедиаторно, а непосредственно стимулируя развитие связей.

Вообще нормальный адекватный мозг работает плохо, мозг психа (грубо выражаясь), справляется с задачами эффективнее и нетривиальнее нормального. Поэтому поддерживаем пограничное состояние - недопсиха, но уже далеко не нормы.


KiBorG :Что такое InfoID?

Некое подобие нейросети.



KiBorG :Если это организм - то у него есть понятие Цели?

Цель Здоровье Мира (его мира). Как следствие возникают пожирательные потребности и экспансия на новые поля вкусностей.



KiBorG :Смерть?

Да. Пока вырубить его просто, но и также просто реинкарнировать.
Клиническая смерть может длиться сколько угодно. Её длительность чревата не смертью биологической (техническая наступит очень-очень не скоро), а потерей адекватности среде. Если среда слишком сильно изменится за время летаргики, то придётся переобучаться, как в фильмах, где Замороженный просыпается в другой эпохе.


KiBorG :У него есть свой Тетрис?

Есть.

Сыпится поток сигналов. Они формируют образы. Если они узнаваемы это приятно.
Чем они точнее совпадают с ожидаемым образом при исследовании данного сегмента, тем выше степень кайфа.
При нераспознании и ошибках - эффект кнута, разочарование, печаль, горе.
В зависимости от уровня прокола и уровня важности данного направления исследования в ФЗ.

Как псих-наркоман одержим жаждой новой дозы кайфа.

Для достижения максимального кайфа, сам разрабатывает стратегии и цели для его достижения.

Аватара пользователя
Плевок страуса
Сообщения: 21
Зарегистрирован: 2017-07-20 03:18:36

Re: Почему добрый робот опасней универсального?

Непрочитанное сообщение Плевок страуса » 2017-07-20 13:22:49

Soroka :
Эпизод с ножом на краю бассейна [с 42:30 по 45:25].

Где ребята просто исследуют Киборга Дэвида.
Хотят узнать что у него есть в трусах



Кстати, в фильме этот момент не раскрыт!
Пацаны не раздели киборга и не исследовали!

Киборг создан для пацана, у него должен быть рабочий член для исследований. :idea:
Их сын и все его друзья каждый день заняты этими мыслями. :P
Эти мысли позитивны.
А внимание зрителей переключили на негативные мысли
- как ножом нарисовать Синего кита на руке киборга Дэвида.



Soroka :Учить их, тренировать и учиться их понимать.
Вместе параллельно находя островки сопряжения.
То есть, как со своими детьми и незнакомыми взрослыми из иной среды.


Согласен! Новая жизни она такая же жизнь.
Родители рожают детей, а потом им приходится с нами считаться,
но сначала они себя ведут по хамски - командуют и наказывают.
Это нечестно!

Мы даже с домашними животными дружим по настоящему.
Значит так же будет с киборгами.
Сначала, пока они будут недоумки, отношение к ним будет, как к маленьким детям
- командно снисходительное.
А когда поумнеют и станут умнее людей они поступят с нами людьми,
как выросшие дети поступают с родителями.

Плохим мстят, а о хороших заботятся.

Я так думаю, а ты?

Аватара пользователя
Плевок страуса
Сообщения: 21
Зарегистрирован: 2017-07-20 03:18:36

Re: Почему добрый робот опасней универсального?

Непрочитанное сообщение Плевок страуса » 2017-07-20 13:28:45

KiBorG :
Что такое Добро?

Вернусь к вопросу который озвучил в начале. Про Киборга - оружие.
Если Киборг принял сторону кого-то, назвал человека Другом - то он постарается помочь Этому Человеку.
Если человечеству не повезло - и человек, которого Киборг назвал Другом - не славный парень Артем, а злой Мистер ВсехВраг - ну, человечество, твои проблемы. Так думаю. Добро ли это? Зло ли это?
Смотря с какой стороны смотреть, правда?


Киборг уничтожит мир, чтобы спасти своего друга. Так все делают.

Таких идиотов, как отец из фильма МОСТ (2003) - единицы.

Нормальный отец спас бы сына и сел в тюрьму, а может и не сел бы. Ничего там особенного не случилось бы. Поезд отремонтировали бы, сломанные кости пассажиров зажили от экстренного торможения и схода с рельс. Зато сын был бы жив. Драться надо за своих, а не непонятно за что.

Аватара пользователя
KiBorG
Сообщения: 185
Зарегистрирован: 2017-06-27 13:21:16

Re: Почему добрый робот опасней универсального?

Непрочитанное сообщение KiBorG » 2017-07-20 15:28:38

Плевок страуса :Киборг уничтожит мир, чтобы спасти своего друга. Так все делают.

именно.

Аватара пользователя
Плевок страуса
Сообщения: 21
Зарегистрирован: 2017-07-20 03:18:36

Больше война гибридов

Непрочитанное сообщение Плевок страуса » 2017-07-20 15:48:57

KiBorG :
Плевок страуса :Киборг уничтожит мир, чтобы спасти своего друга. Так все делают.

именно.


Я вот ещё чего подумал. Тут больше читал про сетевой разум, но мне кажется сначала будет больше таких киборгов, как Дэвид в фильме. Но они будут как аватары. Сами автономны, но всегда на связи - всегда в сети. За ними будут следить как в центрах слежения за камерами на дорогах, как следят охранники за объектом. Как только какой-то выдал тревожный сигнал, его разум сразу расширится на всю сеть, плюс подключится дежурный персонал - люди.

Я думаю будут так делать, что бы в ситуации, как в фильме Мост, можно было сделать выбор с наименьшим количеством жертв в интересах всех, а не одного киборга.

Ну и вот этот конкретный Дэвид будет как продолжения меня, как моя верная собака, а я как его верный друг. Это буду я один, но в двух телах сразу. Я смогу через его мониторы посмотреть на голую соседку :lol: послав его слазить на дерево за яблоками. Ну и пожрать яблоки, что он нарвёт для меня. А я буду делать для него то что он не может сделать себе сам.

Видел фантастику, ссылку на полный фильм СУРРОГАТЫ (2009).

 Сюжет фильма СУРРОГАТЫ (2009)

.
Действие разворачивается в будущем, в 2057 году,
– когда люди практически перестанут общаться между собой
и полностью возложат эту функцию на плечи роботов-заменителей.

Они сильнее, моложе, привлекательнее своих обладателей
и даже могут быть другого пола. Но находится террорист,
начинающий уничтожать идеальных андроидов.

Полицейскому Тому Гриру предстоит узнать,
какие причины движут злоумышленником,
лишающим жизни людей и их марионеток,
технически и физически совершенных.
.



Там люди имеют таких каборгов себе на пару. Сами сидят дома, как в капсулах, а вместо них в городе действуют их киборги-аватары.

Только я думаю не нужно вот так точно имитировать людей. Будет несколько таких более специальных домашних киборгов. Один будет для работы. Другой для любви. Третий для учебы. Все они будут включены в глобальную сеть и пока она не глюкнет будет все интересы балансировать, чтобы не было войн и лишних драк.

Но как сеть сломают либо она свихнётся - начнётся кошмар и войны всех со всеми.

Я не думаю что это будет война киборгов против людей. Я думаю это будут войны пар человек+киборг против других таких пар и их группировок. Это будет больше война гибридов, после которой возникнет новая глобальная сеть на новых принципах.

Аватара пользователя
Плевок страуса
Сообщения: 21
Зарегистрирован: 2017-07-20 03:18:36

Re: Больше война гибридов

Непрочитанное сообщение Плевок страуса » 2017-07-20 15:56:21

Плевок страуса :
Видел фантастику, забыл название, кажется на "С" (какое-то слово похожее на "сурикаты" со смыслом квазилюди). Там люди имеют таких каборгов себе на пару. Сами сидят дома, как в капсулах, а вместо них в городе действуют их киборги-аватары.



Блин, крутилось в голове слово никак не мог выхватить! Нашел этот фильм, ну не сам фильм, а трейлер. Сейвас уже времени нет с вами тут о будущем. Меня зовут на войну - голых девчонок пытать. :lol:

СУРРОГАТЫ, а не сурикаты. :lol:

phpBB [media]


Вернуться в «Подростково - молодёжный клуб МЕТАМОРФОЗА»