Автор Тема: Этические проблемы  (Прочитано 24844 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн harm

  • http://vk.com/harm_photo
  • Модератор
  • Супер Стар
  • *
  • Сообщений: 9854
  • Спасибо 4
  • Пол: Мужской
Re: Этические проблемы
« Ответ #195 : 05 Октябрь 2016, 20:28:57 »
а вот и реальная этическая задача

http://www.popmech.ru/technologies/272772-eticheskie-problemy-avtopilota-kogo-ubivat/#full

Цитировать
Этические проблемы автопилота: кого убивать?
Если на дорогу перед автомобилем внезапно выбежал человек, как должен поступить робот — сбить его или увернуться, рискуя попасть в аварию и убить собственного владельца?

В общем, учёные приглашают всех любителей подумать над этическими проблемами на портал Moral Machine http://moralmachine.mit.edu/ . А после прохождения теста можно сравнить свои результаты с мнением большинства пользователей.

Оффлайн ми-Шутка

  • Участник
  • V.I.P.
  • *
  • Сообщений: 27832
  • Спасибо 8
Re: Этические проблемы
« Ответ #196 : 10 Октябрь 2016, 10:31:49 »
а в чем ее реальность?....человек вообще ВСЕГДА встает перед определенным выбором, и бывают моменты когда и перед выбором жизни и смерти, и наверное, будет правильным, если это будет только его выбор с его совестью.....а мы  оставшиемся граждане  осуждать  не имеем права......а так... а так - общество все больше и больше становится эгоистическим....
 а в случае с роботом - так там и вовсе - действовать будет так, как запрограммирует тот же человек....НО  мне кажется в случае с роботом запрограммировать можно и так - чтобы выжили ОБА....

Оффлайн harm

  • http://vk.com/harm_photo
  • Модератор
  • Супер Стар
  • *
  • Сообщений: 9854
  • Спасибо 4
  • Пол: Мужской
Re: Этические проблемы
« Ответ #197 : 10 Октябрь 2016, 11:57:06 »
а в чем ее реальность?....человек вообще ВСЕГДА встает перед определенным выбором, и бывают моменты когда и перед выбором жизни и смерти, и наверное, будет правильным, если это будет только его выбор с его совестью.....а мы  оставшиемся граждане  осуждать  не имеем права......а так... а так - общество все больше и больше становится эгоистическим....
 а в случае с роботом - так там и вовсе - действовать будет так, как запрограммирует тот же человек....НО  мне кажется в случае с роботом запрограммировать можно и так - чтобы выжили ОБА....

реальность в том что программистам надо запрограммировать робота на решение этой задачи.
естественно робот будет программироваться так чтобы максимально сохранить жизни людей, но на 100% такое сделать не возможно, поэтому и стоит такая задача.

Оффлайн ми-Шутка

  • Участник
  • V.I.P.
  • *
  • Сообщений: 27832
  • Спасибо 8
Re: Этические проблемы
« Ответ #198 : 10 Октябрь 2016, 13:25:36 »
интеллектуальность у робота пока официально не подтверждена...НО одно дело, когда м ыНЕ можем осудить людей и совсем другое дело - НАШЕ отношение  к роботам....

Оффлайн Oldys

  • Участник
  • V.I.P.
  • *
  • Сообщений: 12106
  • Спасибо 1
  • Пол: Женский
Re: Этические проблемы
« Ответ #199 : 10 Октябрь 2016, 15:55:20 »
а вот и реальная этическая задача

http://www.popmech.ru/technologies/272772-eticheskie-problemy-avtopilota-kogo-ubivat/#full

Цитировать
Этические проблемы автопилота: кого убивать?
Если на дорогу перед автомобилем внезапно выбежал человек, как должен поступить робот — сбить его или увернуться, рискуя попасть в аварию и убить собственного владельца?

В общем, учёные приглашают всех любителей подумать над этическими проблемами на портал Moral Machine http://moralmachine.mit.edu/ . А после прохождения теста можно сравнить свои результаты с мнением большинства пользователей.

я б так рассуждала: робот нарушать ПДД не может в отличие от человека. Следовательно, вероятность того, что выбежавший человек - нарушитель - весьма высока (некоторый процент я оставляю на всякие форсмажоры типа вытолкнули-выкинули-спасался от бешеного быка и т.п.). Ну и почему при выборе кого спасать - нарушителя или тех, кто мирно ехал, ничего не нарушая, нужно выбирать того, кто наплевал на всех, включая себя?
Я бы настраивала так: если есть возможность объехать его так, чтоб никто не пострадал - конечно, объезжать. Но в случае выбора - кто пострадает - он или другие люди, ни в чем не виноватые - выбор однозначен - страдать должен нарушитель (бешеные быки возле дорог ходят редко, поэтому вряд ли выбежавшие через одного будут людьми, которые реально по другому поступить не могли).

Оффлайн ми-Шутка

  • Участник
  • V.I.P.
  • *
  • Сообщений: 27832
  • Спасибо 8
Re: Этические проблемы
« Ответ #200 : 11 Октябрь 2016, 08:52:09 »
если это рообот  - то он и оценить сразу данного человека сможет - по своим базам данных.....

Оффлайн harm

  • http://vk.com/harm_photo
  • Модератор
  • Супер Стар
  • *
  • Сообщений: 9854
  • Спасибо 4
  • Пол: Мужской
Re: Этические проблемы
« Ответ #201 : 11 Октябрь 2016, 09:59:22 »
если это рообот  - то он и оценить сразу данного человека сможет - по своим базам данных.....

но сначала люди должны запрограммировать робота.
и если принимать решения по направлению движения будет самообучающийся ИИ, как будет решатся кто виновен в дтп? будет ли подсуден ИИ?

Оффлайн ми-Шутка

  • Участник
  • V.I.P.
  • *
  • Сообщений: 27832
  • Спасибо 8
Re: Этические проблемы
« Ответ #202 : 11 Октябрь 2016, 10:01:41 »
ну это кругвоорт - машина это машина((...

помнится тут кино смотрела.....из этой сериитак там система роботов была запрограммирована таким образом, что уничтожались сразу  чуть ли не дети, которые МОГЛИ БЫ стать потенциальными участниками хулиганского общества.....

 очень большой вопрос - верно ли это?!

Оффлайн Oldys

  • Участник
  • V.I.P.
  • *
  • Сообщений: 12106
  • Спасибо 1
  • Пол: Женский
Re: Этические проблемы
« Ответ #203 : 11 Октябрь 2016, 10:45:42 »

но сначала люди должны запрограммировать робота.
и если принимать решения по направлению движения будет самообучающийся ИИ, как будет решатся кто виновен в дтп? будет ли подсуден ИИ?
подсуден ИИ? Вот что-то я сомневаюсь, что в ближайшее время реально сделают такой ИИ, которому будет не все равно то, что его признают виновным и каким-то образом накажут. Запрограммируют писать хнык-хнык на такое - будет писать, не запрограммируют - тупо перейдет в состояние ожидания и будет в нем до того момента, пока надо будет снова к работе приступать.
А роботики с глазками, которые научаются плакать - бывают только в кино. И если у робота откуда-то капает масло - то над ним не умиляться надо, какая в нем личность выросла, а тащить его в сервис и ликвидировать утечку, пока его не заклинило.

Как мне видится - все, что возможно в ближайшее время на предмет автопилотов - просто программа. Что туда забили - то она и сделает. Это просто инструмент, не личность. Смысл на него ответственность перекладывать и наказывать?
Щас вот я просижу за компом, не приготовлю ужин вовремя - и отправлю его за это в тюрьму. Посиди ка ты, милый, в камере (в кейсе) денек, за то, что отвлек меня от дел домашних. И чо, комп там страдать будет, осознавая свою вину? Три ха-ха :)

А если даже и напишет кто-то программу, способную заиметь хоть минимальные начатки личности - запретят тут же, как клонирование запретили - просто потому, что законодательной базы под такое нет и в ближайшее время не будет. Именно из за морально-этической неоднозначности.

Оффлайн harm

  • http://vk.com/harm_photo
  • Модератор
  • Супер Стар
  • *
  • Сообщений: 9854
  • Спасибо 4
  • Пол: Мужской
Re: Этические проблемы
« Ответ #204 : 11 Октябрь 2016, 11:24:03 »
ну сейчас уже достаточно сильно развит ИИ чтобы распознавать на фотографиях человека.
сейчас идут работы по распознованию порнографии.
в России вроде бы уже сделали робота который управляет автомобилем
https://www.youtube.com/watch?v=Ar3ja7v3-cA (тут правда я думаю человек видит дорожную обстановку через камеры и управляет роботом, а не сам робот).
в европе уже запущенны беспилотные такси и автобусы, дело ближайших 50 лет что бы это внедрилось повсеместно.
так что задача "неисправные тормоза", "сильный удар сзади", "лед" вполне реальная задача для программистов чтобы решать как будет вести себя робот "кем жертвовать", естественно эта задача возникает уже после того как выяснилось что уже невозможно ничего другого.

Оффлайн Oldys

  • Участник
  • V.I.P.
  • *
  • Сообщений: 12106
  • Спасибо 1
  • Пол: Женский
Re: Этические проблемы
« Ответ #205 : 11 Октябрь 2016, 11:41:11 »
ну сейчас уже достаточно сильно развит ИИ чтобы распознавать на фотографиях человека.
сейчас идут работы по распознованию порнографии.
в России вроде бы уже сделали робота который управляет автомобилем
https://www.youtube.com/watch?v=Ar3ja7v3-cA (тут правда я думаю человек видит дорожную обстановку через камеры и управляет роботом, а не сам робот).
в европе уже запущенны беспилотные такси и автобусы, дело ближайших 50 лет что бы это внедрилось повсеместно.
так что задача "неисправные тормоза", "сильный удар сзади", "лед" вполне реальная задача для программистов чтобы решать как будет вести себя робот "кем жертвовать", естественно эта задача возникает уже после того как выяснилось что уже невозможно ничего другого.

Ну, распознавать лицо на фото или выполнять некий комплекс действий если выполнено определенное условие - это, может уже и ИИ, тут я не сильна, не знаю, что конкретно в это понятие входит, хотя с моей точки зрения - ну где тут интеллект? Датчик дождя в машине тогда тоже ИИ - увидел капли на стекле - включил дворники, капли с большей интенсивностью появляются - сменил режим работы дворников. Или датчик освещения, движения... У нас тут подъезд с ИИ тогда - заходишь - свет включается, потом сам выключается. Стоишь не двигаясь - свет пригасает, пошевелишься - снова станет ярким.
Но вот личностью такие умения компьютер точно не делают.
И поэтому - чего его судить? Как его наказывать? Какая на нем ответственность может быть?

Оффлайн harm

  • http://vk.com/harm_photo
  • Модератор
  • Супер Стар
  • *
  • Сообщений: 9854
  • Спасибо 4
  • Пол: Мужской
Re: Этические проблемы
« Ответ #206 : 11 Октябрь 2016, 12:05:20 »
лицо распознавать давно умеют. сейчас распознается фигура человека, направление движения, количество. на основании этого уже принимается решение о маневре.
датчики это просто датчики, ИИ уже на основе показаний этих датчиков должен принимать решение.

но суть не в том.
допустим произошло ДТП с автомобилем на автопилоте.
в случае разбирательства этот автомобиль будет вне судебного разбирательства?
а если все таки ИИ автопилота сочтут виноватым, то кого наказывать: владельца авто, или производителя авто, или разработчика ИИ для этого авто или всех сразу?

и даже не в этом. что-нибудь хотя бы пробовал пройти этот тест?
http://moralmachine.mit.edu/
программеры будут обучать ИИ на основании наиболее часто встречающихся усредненных решениях реальных людей?

Оффлайн Oldys

  • Участник
  • V.I.P.
  • *
  • Сообщений: 12106
  • Спасибо 1
  • Пол: Женский
Re: Этические проблемы
« Ответ #207 : 11 Октябрь 2016, 12:17:46 »
лицо распознавать давно умеют. сейчас распознается фигура человека, направление движения, количество. на основании этого уже принимается решение о маневре.
датчики это просто датчики, ИИ уже на основе показаний этих датчиков должен принимать решение.
Ну решение то он принимает все равно только о том, какой из наборов действий, заложенных в него человеком, применить в данном случае.
И если программисту скажут - закладывай что тот, кто выскочил на дорогу - нарушитель и он не прав и если нет возможности его безопасно объехать, то пассажирами не рисковать, давить нарушителя - он это и заложит, а робот выполнит. Но никаким личностным решением тут и не пахнет.
Личностное решение принимает тот, кто говорит - программируй то или это.

Человек, в сущности, точно так же действует, как этот компьютер, только что прям вот программиста с клавиатурой нету. Жизнь нас программирует, мы сами себя программируем, те, кто нас окружает - нас программируют... Ну и реклама там всякая, сми... Все, кому не лень, короче.
Но вот в отличие от компьютера - у нас есть некий морально-этический блок, понятия хорошо-плохо, справедливо-несправедливо - и, принимая решение о том, какой набор действий реализовывать - мы в большой мере именно этим блоком руководствуемся.
Вот когда его формализуют и смогут прописать для использования ИИ - тогда он и станет личностью. И на него можно будет возлагать ответственность за принятые решения. И, возможно, наказывать, судить и т.п. Если ему пропишут или у него спонтанно возникнет способность ощущать страдания, потому что без такой способности наказание не имеет смысла.

Оффлайн harm

  • http://vk.com/harm_photo
  • Модератор
  • Супер Стар
  • *
  • Сообщений: 9854
  • Спасибо 4
  • Пол: Мужской
Re: Этические проблемы
« Ответ #208 : 11 Октябрь 2016, 12:25:46 »
лицо распознавать давно умеют. сейчас распознается фигура человека, направление движения, количество. на основании этого уже принимается решение о маневре.
датчики это просто датчики, ИИ уже на основе показаний этих датчиков должен принимать решение.
Ну решение то он принимает все равно только о том, какой из наборов действий, заложенных в него человеком, применить в данном случае.
И если программисту скажут - закладывай что тот, кто выскочил на дорогу - нарушитель и он не прав и если нет возможности его безопасно объехать, то пассажирами не рисковать, давить нарушителя - он это и заложит, а робот выполнит. Но никаким личностным решением тут и не пахнет.
Личностное решение принимает тот, кто говорит - программируй то или это.

Человек, в сущности, точно так же действует, как этот компьютер, только что прям вот программиста с клавиатурой нету. Жизнь нас программирует, мы сами себя программируем, те, кто нас окружает - нас программируют... Ну и реклама там всякая, сми... Все, кому не лень, короче.
Но вот в отличие от компьютера - у нас есть некий морально-этический блок, понятия хорошо-плохо, справедливо-несправедливо - и, принимая решение о том, какой набор действий реализовывать - мы в большой мере именно этим блоком руководствуемся.
Вот когда его формализуют и смогут прописать для использования ИИ - тогда он и станет личностью. И на него можно будет возлагать ответственность за принятые решения. И, возможно, наказывать, судить и т.п. Если ему пропишут или у него спонтанно возникнет способность ощущать страдания, потому что без такой способности наказание не имеет смысла.

а вот и нет, нет определенного набора действий, как и нет заранее определенных ситуаций.
и, кстати,  наэ моралью и этикой тоже работают:
https://www.gazeta.ru/science/2011/05/20_a_3623721.shtml

Оффлайн ми-Шутка

  • Участник
  • V.I.P.
  • *
  • Сообщений: 27832
  • Спасибо 8
Re: Этические проблемы
« Ответ #209 : 11 Октябрь 2016, 12:31:44 »
нет ну чаво это - вот так запрогаммируют его, и вошьют ему базу данных - таких  вот можно давить, а таким нужно жизнь сохранить...- что дорогу перебегает только что вышедши йпреступник, либл преступник совершивший какое-то неправоправное действие....и усе - МОЖНО ДАВИТЬ(((((