О мире

vladmtf пишет:

Люди везде одни и те же, соответственно и проблемы.

люди разные и проблемы разные. Культурные отличия бывают глобальными. Например, во время обучения беспилотного транспорта с ии приходится учитывать культурный код каждой страны. В частности, если перед системой беспилотного ТС встает вопрос что делать в ситуации, когда авария неизбежна, и в одном случае погибнет ребенок, а в другом пожилой человек, то для разных стран выбор кого давить, а кого спасать будет разным.
Вот настолько человеческие сообщества разные и живут по разным моральным кодам.

Неиссякаемый в отношении возможностей России радует, конечно, но он не имеет ничего общего с реальностью, к сожалению.

Хвоствил
Опять вильнули)

Хвоствил пишет:

Например, во время обучения беспилотного транспорта с ии приходится учитывать культурный код каждой страны. В частности, если перед системой беспилотного ТС встает вопрос что делать в ситуации, когда авария неизбежна, и в одном случае погибнет ребенок, а в другом пожилой человек, то для разных стран выбор кого давить, а кого спасать будет разным.

Постановка вопроса вообще некорректная. «Правильный ответ — сделать так, чтобы корабль не тонул» (устранить причину, а не следствие). Есть очень много подобных броских примеров, вопросов, казалось бы, не имеющих решения, но правильное решение есть и оно всегда одно и то же: просто избежать аварии, тогда никто не погибнет.

MoonCat пишет:

Опять вильнули)

Проблема, видимо, в том, что у вас там какой-то заготовленный ответ на ваш «вопрос», который даже вопросом сложно назвать. И вы ожидаете, что собеседник должен как-то вырулить в сторону этого ответа. Хотя вам никто не должен отвечать так, как вы это себе придумали. Но ещё раз - задайте вопрос нормально. Что спросить-то хотели вообще? Откуда это ваше определение взялось, к примеру? Из переписки Каутского с Троцким? Вы процитировали определение Римской Империи и прикрутили его к ЕС, а потом спрашиваете «а как тебе такое, Илон Маск?» Да никак, в этом меньше смысла, чем прикрутить унитаз к роялю, последнее хоть за артобъект сойдет.

bregalad пишет:

Постановка вопроса вообще некорректная. «Правильный ответ — сделать так, чтобы корабль не тонул» (устранить причину, а не следствие). Есть очень много подобных броских примеров, вопросов, не имеющих решения, но правильное решение есть: просто избежать аварии, тогда никто не погибнет.

Наверное это моя ошибка: изначально надо было сказать, что конечно же сначала рассматриваются все возможные способы избежать аварии, и только при полной ее неизбежности приходится решать моральную дилемму. Но мне казалось, что подобные пояснения излишни, это само собой разумеется, тем более там и написано «если авария неизбежна». Наверное в какой-то параллельной реальности можно полностью избежать всех аварий, а у нас тут на Земле такое, к сожалению, невозможно. Поэтому приходится учитывать все варианты.

Хвоствил пишет:

изначально надо было сказать, что конечно же сначала рассматриваются все возможные способы избежать аварии, и только при полной ее неизбежности приходится решать моральную дилемму

Просто всё это в чистом виде схоластика, логические упражнения, не имеющие никакого отношения к действительности. В правилах дорожного движения сказано, например: чтобы избежать аварии, надо просто тормозить (и на многих примерах показано, что разные движения рулем, контр-аварийное пилотирование и т.п. чаще всего приводит лишь к более тяжелым последствиям).

Как это можно представить, подобную альтернативу? Искусственный интеллект должен из двух людей (на выбор, кого задавить) определить, кто моложе и, в соответствии с культурными установками страны, выбрать одного из двух смертников. Вы всерьез считаете, что разработчики беспилотных автомобилей решают подобные задачи?

Хвоствил пишет:

Например, во время обучения беспилотного транспорта с ии приходится учитывать культурный код каждой страны. В частности, если перед системой беспилотного ТС встает вопрос что делать в ситуации, когда авария неизбежна, и в одном случае погибнет ребенок, а в другом пожилой человек

Абсолютный миф и фантазии, популярные спекуляции на разных медиа каналов. Нигде такого обучения не проходит, вот вообще. Пока на эту тему только философы философствуют.

Здесь вообще особой проблемы нет. Есть ПДД, если следовать им, то никаких ДТП не будет, кроме как при неисправностях автомобиля и других таких форсмажорах. Понятно, что не всегда хочется соблюдать и это может быть просто глупо. Люди часто отвлекаются и забываются. Предполагается, что беспилотная система правила не нарушает и не отвлекается. Тогда сложная ситуация возможна только из-за халатности другого участника. И тогда действовать система должна по правилам ПДД.

Условно, если А резко выбежал на дорогу, а Б остался на тротуаре, и только два варианта остаётся, или задавить А на дороге, или Б на тротуаре, то единственно корректный вариант это "А на дороге". Даже если тротуар будет пустым, техническим можно туда будет выехать, никто не осудит водителя, если он всё-таки задавит А, потому что по правилам (должен попытаться остановиться, а не делать такие манёвры).

bregalad пишет:

Как это можно представить, подобную альтернативу? Искусственный интеллект должен из двух людей (на выбор, кого задавить) определить, кто моложе и, в соответствии с культурными установками страны, выбрать одного из двух смертников. Вы всерьез считаете, что разработчики беспилотных автомобилей решают подобные задачи?

Давайте так, скажем, что официально подобные разработки не внедряются, но это как запрет на клонирование человека, вы же не думаете, что никто не проводит эксперименты? По поводу морального выбора для ИИ в беспилотном транспорте было проведено большое исследование в МIT, причем уже лет 10 назад. Почитайте про Moral Machine. Вот оно и показало, что для разных стран и культур приоритеты разные. На тот момент одной из проблем реализации была невозможность ИИ быстр распознать кто перед ним на дороге, но с тех пор прошло 10 лет и исследования и разработки продолжаются.
Главный смысл моего поста был в том, что люди всё-таки разные и ценности у них разные, что достаточно очевидно на конкретном примере.

Хвоствил пишет:

Поэтому приходится учитывать все варианты

Ну и отдельно, учесть, то есть заложить в программу поведения, такие варианты невозможно в принципе, при текущих технологиях даже близко этого нет. Я вообще не представляю, как в реальности может выглядеть такая ситуация. Сомневаюсь, что оно встречается мало-мальски часто. Можно что-то придумать, но в каждом случае будет что-то принципиально разное просто технически.

На практике перед автопилотами куда банальнее задачи, что делать, если на дороге мусор какой-то, а объехать сложно, перекрытые участки дороги, люди, что показывают жестом, что дальше ехать нельзя, ситуации, когда скажем из грузовика спереди свалился диван на дорогу, объехать можно только по встречке через сплошную, короче тысячи примеров, которые людям надо как-то решать, решения принимают спонтанно, а ИИ в автопилоте решают не умеют.

анон-4571 пишет:

Есть ПДД, если следовать им, то никаких ДТП не будет, кроме как при неисправностях автомобиля и других таких форсмажорах.

то есть всё-таки будут. И тогда машине придется выбирать. Насколько знаю, исследования и разработки вовсю продолжаются.

анон-4571 пишет:

короче тысячи примеров, которые людям надо как-то решать, решения принимают спонтанно, а ИИ в автопилоте решают не умеют.

так я и пишу о том, что их этому учат/пытаются учить/ разрабатывают такой софт.
Насчет форс-мажорных ситуаций и как часто они случаются - ну понятно, что не часто, на то они и форс-мажоры.

Хвоствил
Истории про выбор между взрослым и ребёнком это бред полный, я представляю откуда это идёт, слышал весь этот философский трёп, но это не имеет никакого отношения к реальности.

Реальные истории возможны другие, и вот они даже встречаются, и там надо какую-то логику программировать. Например, междугородная трасса, по одной полосе в каждую сторону, плюс широкая обочина, стандартная средняя трасса. На встречу вылетает фура, по все видимости потерявшая управление, может колесо лопнуло, водитель уснул и т.п. Это случается. Встречная полоса тоже занята транспортом. Тормозить бесполезно, фура всё равно раскатает машину, и это будет смертельное ДТП.

Единственный вариант уйти от столкновения, это резко выехать на обочину. И вот здесь варианты, а что если на обочине кто-то есть и т.п. Ну скажем там бабушка, дедушка, и их двое внуков. Врезаться в них, убив скорее всего, или погибнуть самому (и другим пассажирам машины), не смотря на то, что вины нет? А как бы поступили Вы, напишите об этом в комментариях! Тут в реальности очень-очень много вариантов, чаще речь идёт про вероятности.

В человеческой реальности такие ситуации далеко не со всеми бывают вообще за весь период жизни, и происходят неожиданно, времени продумывать что-то нет, чисто рефлексы

анон-4571 тем не менее, если вынести за скобки обсуждение технических деталей исследований, то ответы огромного количества респондентов показали принципиально разное отношение к ценности человеческой жизни в зависимости от пола и возраста в разных странах и сообществах, втч религиозных. О чем и вы писали - люди разные, проблемы разные. Проблемы Канады не = проблемы Северной Кореи.

Хвоствил пишет:

так я и пишу о том, что их этому учат/пытаются учить/ разрабатывают такой софт

Не учат их этому, там как до Луны, чтобы эту сложную философскую логику реализовывать. Им бы куда более примитивные проблемы решить для начала, чтобы они с типовыми дорожными ситуациями справлялись. Когда они уже не совсем стандартные, но ещё при этом вполне себе штатные.

Даже мой пример с дорогой и фурой, вот там варианты, когда пустая обочина, или нет обочины вообще, только с дороги съехать, или пустая машина, или столб. В реальности лучшая стратегия это максимально сбросить скорость, на самом деле для этого время есть, автопилот может заранее предсказать опасную ситуацию и сбросить хоть немного скорость заранее, и после этого уже съезжать с полосы. То есть тут чисто технически есть варианты решения, без необходимости загонять эту философию в автопилот

Хвоствил пишет:

разное отношение к ценности человеческой жизни в зависимости от пола и возраста в разных странах и сообществах, втч религиозных

Просто это никак не связано с ИИ, беспилотным транспортом и т.п. В добавок ситуации разные. Скажем когда болезни одно, норма жизни, что пожилые умирают от болезней чаще (ну и совсем маленькие дети), когда речь идёт о насильственной смерти, несчастном случае, это уже совсем другое. То есть в одном и том же обществе в разных случаях будет разное отношение. Для пожилого норма умирать от болезней, в отличие от молодых, но не норма от несчастных случаев, это чаще с молодыми происходит.

В ковидной истории я вообще другое вижу, это своя независимая тема.

анон-4571 хорошо, не буду с вами спорить, давайте просто подождём пару лет.

vladmtf пишет:

Люди везде одни и те же, соответственно и проблемы.

Люди не везде одни и те же. Есть культуры, в которых нормально насиловать и избивать женщин и детей, а есть такие где нет. И проблемы они поэтому создают себе разные.

vladmtf пишет:

Мне нравятся слова Лахновского из "Вечного Зова" : человек хочет жить подольше и жрать послаще. Любая политика построена именно на этом.

Жизнь одного человека — это недостаток почки для другого. Поэтому в канадской политике сегодня меньше ориентируются на жизнь и еду, и больше на эвтаназию всех вплоть до страдающих насморком и головной болью. Кстати, это тоже китайская модель.

Хвоствил пишет:

на самом деле такой подход может вполне себе работать многие десятилетия. В Британии бесплатная медицина - национальный культ. Она прекрасно работала с 1948го года

Я слышал, мягко говоря, другие отзывы об NHS, причем речь даже не о последнем десятилетии. Но допустим. Можно, в принципе, создать изолированную подсистему, работающаю по принципу отнять и поделить, но для этого нужно чтобы родительская система была функциональной, могла брать на себя вес этой конструкции, а главное чтобы это позволяла культура, в которой было бы определенное отношение к кумовству, взяточничеству, коррупции, где все были бы ориентированы на лучший результат не потому что так сказали, а потому что другого невозможно помыслить. И даже при всем этом такую систему будет очень тяжело поддерживать: человеческая природа следовать стимулам, а стимулы в такой подсистеме не здоровые. А когда все системы больны одной и той же болезнью, а культура разрушается маладаптивной идеологией, результат ожидаемый.

Murchik так а какая система может служить позитивным примером, по-вашему? Мы сейчас о медицинской. В какой стране и в какой период было на ваш взгляд хорошо, или есть сейчас?

Murchik Под проблемои я имел в виду падение уровня жизни. Некорректно говорить о везде, но во многих странах работа перестала обеспечивать уровень жизни. Теряется смысл работать, что в свою очередь создает еще большие проблемы.

Murchik пишет:

Люди не везде одни и те же. Есть культуры, в которых нормально насиловать и избивать женщин и детей, а есть такие где нет.

Сегодня женщин и детеи убивают во многих странах мира. Нормально это или нет?
Если вернуться назад, то в Холокосте принимали участие миллионы европеицев, хотя вспоминать об этом неприлично.
В то же Канаде во время Второи мировои интернировали японцев. Просто за национальность. Я работаю с одним парнем, его бабушка с дедушкои попали под раздачу. Их имущество было разграблено соседями, дом был конфискован и продан правительством. Где-то в конце семидесятых они получили компенсацию, а многие не получили, документы о принадлежности домов были утеряны. И т.д.
Так что у меня лично особых иллюзии нет. У культуры может быть много нюансов.

Murchik пишет:

Жизнь одного человека — это недостаток почки для другого. Поэтому в канадской политике сегодня меньше ориентируются на жизнь и еду, и больше на эвтаназию всех вплоть до страдающих насморком и головной болью. Кстати, это тоже китайская модель.

Я не очень сильно интересуюсь канадскои политикои, но если погуглить, то программа эфтаназии ответственна за 5 процентов от всех смертеи. В большинстве случаев это раковые больные, а вовсе и не насморк. Для тех, у кого насморк или головная боль, эта программа не нужна, вполне доступен передоз, можно комфортно уити, в пределах сотни долларов.
А вот с почками деиствительно проблема. В Канаде есть очередь таких больных, обоити ее нельзя. Даже если наидется донор, готовыи ее отдать именно тебе, операцию делать не будут. Скажут отдать ее первому по списку. Я слышал, что люди в таких случаях вынуждены ехать в Мексику и делать там.

Murchik пишет:

Есть культуры, в которых нормально насиловать и избивать женщин и детей, а есть такие где нет.

А в каких, например? Не знаю ни одной культуры, где было бы нормальным "насиловать женщин". Даже там, где отношение к женщинам как к собственности, это "покушение на чужую собственность", мужа или родителей.

Что такое "избивать детей"? В Европе это было в норме ещё во второй половине 20-го века, всякие телесные наказания в школах, например, чего даже в СССР в это время не было. Это сейчас маятник там улетел в обратную сторону, скорее всего как реакция на прошлое.

С записью ко врачам большие проблемы много где в Европе. Где исторически капитализм, медицина платная, на страховках, конечно. Вот в той же Германии. В США тоже не так просто, помимо того, что там очень дорого, у многих страховок нет, и там часты истории, что кто-то с инфарктом попадает в больницу, "спасти не удалось", но так как пытались, то родственники получают счёт на несколько сотен тысяч долларов.

Поэтому я и говорю, что реально корни проблем другие.

Что там у нас капиталистическое, что противовес Китаю, без левацких идей? Индия наверное. Что там с медициной?