Comments 62
Вам обязательно нужен крайний? Без «козла отпущения» жить не можете?
Когда у меня случается что-то плохое, я исправляю это плохое, и пытаюсь сделать так, чтобы это не повторилось, а не ищу кому по голове дать.
И насчет того, что производитель ПО не при делах a priori — вы не правы. Производитель ПО для управления производственной линией еще как несет ответственность за сбои в работе линии.
Когда у меня случается что-то плохое, я исправляю это плохое, и пытаюсь сделать так, чтобы это не повторилось, а не ищу кому по голове дать.
И насчет того, что производитель ПО не при делах a priori — вы не правы. Производитель ПО для управления производственной линией еще как несет ответственность за сбои в работе линии.
Я три года отработал в одной конторе, которая занималась проектированием определенного рода объектов, которые можно назвать «стратегическими». И сколько же за это время было принято проектировочных решений, основанных не на расчетах, а на «богатом опыте» и «шестом чувстве». Но на самом деле эти решения были приняты без расчетов не из-за несогласия с методиками расчета, а только лишь потому, что лень считать было. Лучше еще раз пасьянс разложить.
Автоматические системы не идеальны сразу после запуска. Их нужно отлаживать. Долго и нудно. Но их можно отладить и они станут идеальными.
А людей отладить нельзя. Они всегда будут совершать ошибки.
Автоматические системы не идеальны сразу после запуска. Их нужно отлаживать. Долго и нудно. Но их можно отладить и они станут идеальными.
А людей отладить нельзя. Они всегда будут совершать ошибки.
Ни одна система не может быть идеальной — ни сразу после запуска, ни когда бы то ни было вообще. Вопрос в другом — если разработчик станет вдруг осознавать, что он несёт реальную ответственность за плоды своего труда, то это осознание станет для него хорошим стимулом повышения качества разработки на порядки. Пока такого стимула нет, и я очень хорошо вижу это, когда по долгу службы изучаю разные программные продукты. Собственно, об этом я и говорю — подход к разработке системы, которая принимает решения и осуществляет действия, должен быть кардинально отличным от подхода к системе, которая только советует и ничего не делает.
На Хабре был ряд сатей о том, как пишут софт для систем высокой ответственности, к примеру эта.
Что заставляет вас думать, что софт, допустим, для беспилотного автомобиля будет писаться как-то иначе?
Что заставляет вас думать, что софт, допустим, для беспилотного автомобиля будет писаться как-то иначе?
Что заставляет? Опыт, увы. Я многажды видел, как решения по архитектуре систем и методам их создания и тестирования принимает не инженер, не кодер, а маркетолог. И никто пока меня не убедил — хотя бы в очередном бодром рапорте об успехах беспилотника — что я ошибаюсь. Точнее, даже не попытался убедить.
Про датчики протечек не в курсе?
>>Кого судить, когда ваш новейший беспилотный автомобиль въедет в автобусную остановку с людьми?
Сдается мне, каждый такой случай будет очень тщательно разбираться и через несколько инцедентов — будет практически полностью исчерпан (путем доработки ПО). В отличие от кучи водил без крыши, которых авария на даже на крайней от дома улице ничему не учит.
Сдается мне, каждый такой случай будет очень тщательно разбираться и через несколько инцедентов — будет практически полностью исчерпан (путем доработки ПО). В отличие от кучи водил без крыши, которых авария на даже на крайней от дома улице ничему не учит.
Я очень аккуратный водитель, не нарушаю правил и менты меня совсем не трогают. Вообще. Им хватает тех безбашенных. Но я не хотел бы стать причиной — пусть и формальной — ДТП потому только, что ПО моей машины вдруг чего-то не того посчитало. Не желаю брать вину индусского разработчика на себя.
UFO just landed and posted this here
Да хотя бы тот факт, что скорость принятия решения программой в десятки раз больше, чем человеком, уже превозносит ПО над человеком. Какой бы вы не были аккуратный водитель, бывают случаи, когда вы просто не успеете среагировать, и тут уже вину не спишешь ни на какую программу.
Говорят, что ПДД пишуться кровью, но миллионы людей день изо дня нарушают их, преднамеренно или нет. Система управления автомобилем тоже, возможно, будет написана кровью, но правила, заложенные в ней, будут соблюдаться всегда, независимо от желаний и обстойтельств.
Говорят, что ПДД пишуться кровью, но миллионы людей день изо дня нарушают их, преднамеренно или нет. Система управления автомобилем тоже, возможно, будет написана кровью, но правила, заложенные в ней, будут соблюдаться всегда, независимо от желаний и обстойтельств.
А я не хотел бы попасть в ДТП причиной которого стал пьяный водитель другой машины — что происходит из года в год, и где гибнут миллионы людей. В отличии от ошибок в ПО.
Владельцы тойот, у которых электронная педаль газа приводила к неконтролируемому разгону, владельцы калин у которых электроусилитель выкручивал и заклинивал руль, а так-же все те люди, которые уже погибли или пострадали из-за подобных причин думаю будут с Вами не согласны…
P.S. Пьяные водители конечно зло, с которым обязательно нужно бороться, но Вы посмотрите ради интереса полную статистику ДТП. Вы очень сильно удивитесь, когда узнаете, как на самом деле распределяются виновники ДТП…
Так как сайт ГИБДД у меня не грузится, то я приведу ссылку на Автокадабру ( autokadabra.ru/shouts/39479 ), где детально, с цифрами правда показаны только 3 причины, но уж больно они неожиданные в количественном плане и полностью противоречат создаваемому сейчас информационному фону.
P.S. Пьяные водители конечно зло, с которым обязательно нужно бороться, но Вы посмотрите ради интереса полную статистику ДТП. Вы очень сильно удивитесь, когда узнаете, как на самом деле распределяются виновники ДТП…
Так как сайт ГИБДД у меня не грузится, то я приведу ссылку на Автокадабру ( autokadabra.ru/shouts/39479 ), где детально, с цифрами правда показаны только 3 причины, но уж больно они неожиданные в количественном плане и полностью противоречат создаваемому сейчас информационному фону.
«Я очень аккуратный водитель» — ну а я вот очень не аккуратный водитель, достаточно часто нарушаю правила, но при этом осознаю их и иду на риск осознанно… и менты меня совсем не волнуют т.к. цена вопроса общения с ними от $5 до $50 ну, а в особо запушенных случаях помогает «звонок другу». :)
И я тоже не хотел бы стать причиной ДТП. Хотя вот именно это меня совсем не волнует. Волнует же меня то, что даже совершенно не нарушая правила я уже побывал в трех авариях не по моей вине. Если сам что-то нарушил, то это не страшно — сам виноват, — этого как бы ожидаешь. Но вот когда твою стоящую на обочине машину сминает грузовик, ты выживажешь только потому что с водительского места полез поднять с заднего наискосок коврика какую-то фигню, а все из-за того что молодой идиот только вот пришедший из армии на ровном месте разогнался и не справился с управлением — вот это очень обидно и даже страшно. И это развивает нездоровый пофигизм так-так как бы ты не старался аккуратно и правильно ездить всегда находится тот кто так не делает.
И я обоими руками за то чтобы все машины ездили с как можно меньшим участием человека в управлении ими.
И я даже не столько хочу чтобы такое управление стояло на моей машине сколько чтобы такое стояло на машинах среди которых я езжу.
И я тоже не хотел бы стать причиной ДТП. Хотя вот именно это меня совсем не волнует. Волнует же меня то, что даже совершенно не нарушая правила я уже побывал в трех авариях не по моей вине. Если сам что-то нарушил, то это не страшно — сам виноват, — этого как бы ожидаешь. Но вот когда твою стоящую на обочине машину сминает грузовик, ты выживажешь только потому что с водительского места полез поднять с заднего наискосок коврика какую-то фигню, а все из-за того что молодой идиот только вот пришедший из армии на ровном месте разогнался и не справился с управлением — вот это очень обидно и даже страшно. И это развивает нездоровый пофигизм так-так как бы ты не старался аккуратно и правильно ездить всегда находится тот кто так не делает.
И я обоими руками за то чтобы все машины ездили с как можно меньшим участием человека в управлении ими.
И я даже не столько хочу чтобы такое управление стояло на моей машине сколько чтобы такое стояло на машинах среди которых я езжу.
Вам не остановить прогресс… та-да-да-дам… (должно было звучать эпично) =)
Ну, в целом он прав. Если упавшим сервером после установки на него какого-нибудь софта для управления трафиком еще можно пренебречь, вспомнив, что в соглашении присутствует та самая строка про ограничение ответственности, то с количественным и качественным ростом риска, необходимо требовать тех же гарантий, сертификации и уровней безопасности, какие применяются к техническим средствам.
К слову, вполне вероятно, что такие стандарты качества для программных продуктов уже существуют. За пищу для гугления автору спасибо,)
К слову, вполне вероятно, что такие стандарты качества для программных продуктов уже существуют. За пищу для гугления автору спасибо,)
Вы вообще не вкурсе как работают беспилотники. Ими управляет оператор и решение «пострелять по бегающим на школьном стадионе детям» принимает он.
И вопрос об ответственности разработчика и владельца беспилотного автомобиля уже и так стоит во весь рост, без его решения массового внедрения не начнется.
И вопрос об ответственности разработчика и владельца беспилотного автомобиля уже и так стоит во весь рост, без его решения массового внедрения не начнется.
1. Есть системы, производители которых несут ответственность
2. Не знаю, что написано в лицензионных соглашениях софта беспилотных летательных аппаратов. Интуиция подсказывает, что ответственность там распределена между пользователем и производителем, в каких-то долях. Производитель гарантирует, что устройство адекватно будет обрабатывать команды, а пользователь несет всю остальную ответственность, за то, что устройство будет делать.
Ок, допустим, вы не хотите повысить требования ко всякой автоматике.
Задам, возможно, неожиданных вопрос — вы к медикам последние лет 10-ть обращались?
Вас направляли в лаборатории для сдачи крови/итд, что бы получить результаты исследований для уточнения диагноза?
Спрашиваю не просто из любопытства, пытаюсь навести на мысль, что уже десятки лет, есть сотни (миллионы?) строк кода, работающего внутри медицинского оборудования. Я видел загрузочные экраны HP-UX, Solaris, Windows всех мастей, MS DOS Embedded, и еще кучу всяких менее известных платформ, видел странные и вполне нормальные по виду и юзабилити интерфейсы пользователя, и протоколы обмена данными.
За этим всем стоят люди, которые их придумали, написали, протестировали, сертифицировали и готовый продукт продали другим людям, понимая что от качества работы их устройства, зависят жизни тысяч (если не миллионов) людей.
Это я даже не касаюсь оборудования, которое прямо в операционных стоит, такое видел только краем глаза — не наша область.
К чему эт я? Нет никаких практических проблем «поднять планку требований к софту». Кроме медицины есть еще области, где к автоматизации применяются очень жесткие требования, и где производитель несет некий уровень ответственности.
То, что производители в менее критичных случаях (например автоматического выключателя лампочки) старается увильнуть — так это их право. Кому охота забесплтано (в общем случае) разгребать чужие косяки. У пользователя всегда есть выбор — купить то, что as is, за недорого, или купить то, за что люди готовы отвечать, но в свою очередь хотят уже совсем другие деньги.
Вы поднимаете интересную тему, да. Но я бы сказал, что бетонной стеной должен стоять здравый смысл. И если, например мы отвечаем, что наша система складывает цифры без ошибок, то как на нас можно повесить ситуацию, когда директор будет банкротить своё предприятие, глядя в правильно сложенные цифры? Лично я, как человек, который отвечает за результат своего труда, категорически против такого подхода :)
Что делать?
1. создавать стандарты (очень желательно открытые)
2. к стандартам прикладывать методики тестирования на соответствие стандарту
2. создавать независимые тестовые лаборатории
3. вводить обязательную сертификацию
Но спешу вас огорчить, за все это будет платить потребитель.
Примерно так, как он сейчас платит за ту-же медицину, например.
2. Не знаю, что написано в лицензионных соглашениях софта беспилотных летательных аппаратов. Интуиция подсказывает, что ответственность там распределена между пользователем и производителем, в каких-то долях. Производитель гарантирует, что устройство адекватно будет обрабатывать команды, а пользователь несет всю остальную ответственность, за то, что устройство будет делать.
Ок, допустим, вы не хотите повысить требования ко всякой автоматике.
Задам, возможно, неожиданных вопрос — вы к медикам последние лет 10-ть обращались?
Вас направляли в лаборатории для сдачи крови/итд, что бы получить результаты исследований для уточнения диагноза?
Спрашиваю не просто из любопытства, пытаюсь навести на мысль, что уже десятки лет, есть сотни (миллионы?) строк кода, работающего внутри медицинского оборудования. Я видел загрузочные экраны HP-UX, Solaris, Windows всех мастей, MS DOS Embedded, и еще кучу всяких менее известных платформ, видел странные и вполне нормальные по виду и юзабилити интерфейсы пользователя, и протоколы обмена данными.
За этим всем стоят люди, которые их придумали, написали, протестировали, сертифицировали и готовый продукт продали другим людям, понимая что от качества работы их устройства, зависят жизни тысяч (если не миллионов) людей.
Это я даже не касаюсь оборудования, которое прямо в операционных стоит, такое видел только краем глаза — не наша область.
К чему эт я? Нет никаких практических проблем «поднять планку требований к софту». Кроме медицины есть еще области, где к автоматизации применяются очень жесткие требования, и где производитель несет некий уровень ответственности.
То, что производители в менее критичных случаях (например автоматического выключателя лампочки) старается увильнуть — так это их право. Кому охота забесплтано (в общем случае) разгребать чужие косяки. У пользователя всегда есть выбор — купить то, что as is, за недорого, или купить то, за что люди готовы отвечать, но в свою очередь хотят уже совсем другие деньги.
Вы поднимаете интересную тему, да. Но я бы сказал, что бетонной стеной должен стоять здравый смысл. И если, например мы отвечаем, что наша система складывает цифры без ошибок, то как на нас можно повесить ситуацию, когда директор будет банкротить своё предприятие, глядя в правильно сложенные цифры? Лично я, как человек, который отвечает за результат своего труда, категорически против такого подхода :)
Что делать?
1. создавать стандарты (очень желательно открытые)
2. к стандартам прикладывать методики тестирования на соответствие стандарту
2. создавать независимые тестовые лаборатории
3. вводить обязательную сертификацию
Но спешу вас огорчить, за все это будет платить потребитель.
Примерно так, как он сейчас платит за ту-же медицину, например.
Именно здравый смысл! Коему противоречит отсутствие ответственности производителя за производимое.
так здравый смысл в первую очередь должен быть у покупателя. Если производитель ни за что не отвечает, если дистрибьютор не оказывает поддержки пользователям, они ничего не могут продать.
И это диктует отрасль.
Поднимайте такой подход в других отраслях, никто ведь не мешает.
Да, насколько я понимаю, в автомобиле строении примерно так же. Посмотрите сколько лет прошло пока автоматическая парковки добралась до массовых моделей. А сколько лет пройдет пока она будет в стандартном комплекте, как абс.
И это диктует отрасль.
Поднимайте такой подход в других отраслях, никто ведь не мешает.
Да, насколько я понимаю, в автомобиле строении примерно так же. Посмотрите сколько лет прошло пока автоматическая парковки добралась до массовых моделей. А сколько лет пройдет пока она будет в стандартном комплекте, как абс.
Мне кажется в данном случае просто всегда должна существовать страховка. Не будет беспилотный автомобиль, давить людей, он просто остановится, в случае неполадки, это очевидно же. Не сработает датчик выключения, и вода просто уйдет через перелив, что разумеется будет предусмотрено в ходе проектирования. При проектировании таких систем инженер всегда должен задаваться вопросом «а что если»? Другой вопрос, об ответственности, но как тут заметили выше, достаточно просто стандартов и сертификации.
Вот вы говорите — инженер всегда должен что-то там учесть. Я о том же — инженер должен. Но где гарантия, что он не положил болт на свой долг? Тем более, что в случае чего он не гарантирует, не несёт ответственности, претензий не принимает.
в случае если от его действий зависят жизни людей, он несет ответственность и претензии принимает как уже писали выше человек работающий как раз с оборудованием от которого зависят жизни людей
С оборудованием — беспилотным автомобилем — работаю я (я на нём еду). А вот решения принимаю не я — решения принимает программа, сделанная разработчиком. А за последствия её глюков, ежели таковые приключатся, отвечать буду я. Вам ничего не кажется нелогичным?
Если программа будет принимать решения на основе алгоритма который был сертифицирован, мне не кажется ничего не логичным, если автомобиль сам въехал в толпу людей, то отвечать вы за него не будете, вы будете отвечать только ща свои действия/бездействие
Да, если будет так, как вы говорите, то все мои опасения снимаются — собственно, в том они и состояли. Но я откровенно не верю, что всё будет именно так. По крайней мере, в нашей стране…
На автомобиле с автоматической трансмиссией ездить пробовали или только механику признаёте? Там ведь тоже решение о включении той или иной передачи принимает некое ПО и ничего, все пользуются :)
Признаю только автоматику. И подозреваю, что там не ПО, а чисто механическая автоматика с электроникой — релюшки какие-нибудь. А на них лицензий безответственных нет, как раз.
Какая бы ни была коробка, педаль газа в современных автомобилях давно электронная. Своей ногой вы только крутите переменный резистор, а решение о том, сколько топлива впрыскивать в двигатель, принимает компьютер. Причем не «релюшки какие-нибудь», а полноценное ПО.
не суть важно в каком виде реализована программа, механически или микропроцессор. Есть набор входных данных, есть алгоритм получения выходных значений, есть исполнительный механизм. Это все тестируется и по частям, и как изделие в целом.
Да, в общем случае и производителей изделий материального мира эти процессы разработки лучше поставлены, но никто не мешает аналогичные подходы применять и разработке софта, и така тенденция давно уже
Да, в общем случае и производителей изделий материального мира эти процессы разработки лучше поставлены, но никто не мешает аналогичные подходы применять и разработке софта, и така тенденция давно уже
Принципиальная разница в том, что от педальки газа, механической или электронной, никто не требует, чтобы она отправляла сообщения в твиттер или сообщала приятным женским голосом, что пора делать очередное техобслуживание.
В случае с большими програмными системами мало того, что основное ТЗ постоянно меняется (потому что заказчик не в состояниисразу описать весь функционал полностью во всех деталях), так ещё и ситуации бывают: а что это такой мощный проессор простаивает, давай-ка сюда голосовой модуль прикрутим, пусть 10% CPU жрёт. Потом этот модуль начинает жить своей жизню, обрастает фичами, жрёт уже не 10, а 50% и тянет 100500 зависимостей (гипотетический пример: считывает уровень топлива, чтобы сообщать его голосом, незапланированно отвлекая от своих дел процессор в топливном насосе)
В случае с большими програмными системами мало того, что основное ТЗ постоянно меняется (потому что заказчик не в состояниисразу описать весь функционал полностью во всех деталях), так ещё и ситуации бывают: а что это такой мощный проессор простаивает, давай-ка сюда голосовой модуль прикрутим, пусть 10% CPU жрёт. Потом этот модуль начинает жить своей жизню, обрастает фичами, жрёт уже не 10, а 50% и тянет 100500 зависимостей (гипотетический пример: считывает уровень топлива, чтобы сообщать его голосом, незапланированно отвлекая от своих дел процессор в топливном насосе)
Друзья, я не понимаю, кто вас заставляет покупать вот это, в котором вы не уверены, и производители которого ни за что не отвечают?
лирическое отступление: Вот я сейчас в командировке, подключаем очередную лабораторию к нашей системе. Областная больница, идет во всю ремонт, поэтому инженерная служба временно находится в помещении, где стоит уже списанный Siemens Angiostar. Надеюсь, ни у кого не составит труда найти что это, посмотреть как это выглядит.
Аппарату больше 15-ти лет, и как мне рассказали, в момент приобретения он стоил как весь бюджет области за год.
Не знаю сколько жизней спас и сколько специалистов сосудистой хирургии за эти 15 лет больница смогла вырастить, но на короткий вопрос «оно того стоило?» был не менее короткий ответ «да, конечно стоило»
На минуточку: помимо стола над которым полукольцо с излучателем и приемником может становиться во всякие интересные положения, в составе ангиографа четыре шкафа с вычислительным железом.
Просто задумайтесь, какие шансы, что какая-то там процедура из каких сотен тысяч строк кода начнет жить своей жизнью, и как всё это у Сименса тестируется, что бы обеспечить столь низкие вероятности сбоя.
И как принимаются решения, прикручивать голосовой модуль, или нет, и если таки прикручивать, опять-же, через какую технологию разработки и приемки это всё проходит.
В заключение, могу только повториться — нет никаких супер-технологий или супер-методологий по достижению требуемого уровня надежности и так далее. Всё это известно человечеству уже десятки лет, и всё это успешно применяется в некоторых областях.
Если в вашем автомобиле, педаль газа умеет писать в твиттер «вау, я еду в режиме педаль-в-пол» (утрирую), то у меня вопрос в первую очередь к вам — зачем вы купили это?!
Это же палка о двух концах.
Если производитель ни за что не отвечает (а должен бы был), его продукцию покупать не будут. Но если покупают достаточно, что бы он продолжал существовать — может быть и не нужно ничего улучшать, производитель нашел свой сегмент рынка, пусть себе сами живут там?
лирическое отступление: Вот я сейчас в командировке, подключаем очередную лабораторию к нашей системе. Областная больница, идет во всю ремонт, поэтому инженерная служба временно находится в помещении, где стоит уже списанный Siemens Angiostar. Надеюсь, ни у кого не составит труда найти что это, посмотреть как это выглядит.
Аппарату больше 15-ти лет, и как мне рассказали, в момент приобретения он стоил как весь бюджет области за год.
Не знаю сколько жизней спас и сколько специалистов сосудистой хирургии за эти 15 лет больница смогла вырастить, но на короткий вопрос «оно того стоило?» был не менее короткий ответ «да, конечно стоило»
На минуточку: помимо стола над которым полукольцо с излучателем и приемником может становиться во всякие интересные положения, в составе ангиографа четыре шкафа с вычислительным железом.
Просто задумайтесь, какие шансы, что какая-то там процедура из каких сотен тысяч строк кода начнет жить своей жизнью, и как всё это у Сименса тестируется, что бы обеспечить столь низкие вероятности сбоя.
И как принимаются решения, прикручивать голосовой модуль, или нет, и если таки прикручивать, опять-же, через какую технологию разработки и приемки это всё проходит.
В заключение, могу только повториться — нет никаких супер-технологий или супер-методологий по достижению требуемого уровня надежности и так далее. Всё это известно человечеству уже десятки лет, и всё это успешно применяется в некоторых областях.
Если в вашем автомобиле, педаль газа умеет писать в твиттер «вау, я еду в режиме педаль-в-пол» (утрирую), то у меня вопрос в первую очередь к вам — зачем вы купили это?!
Это же палка о двух концах.
Если производитель ни за что не отвечает (а должен бы был), его продукцию покупать не будут. Но если покупают достаточно, что бы он продолжал существовать — может быть и не нужно ничего улучшать, производитель нашел свой сегмент рынка, пусть себе сами живут там?
Как может компьютер сложить неправильно два числа? Вас когда-нибудь подводил калькулятор?
Вас когда-нибудь подводил калькулятор?
Меня нет, других да.
Есть баги в процессорах. Есть баги в компиляторах. Бывает нестабильность процессора (обычно для этого требуется его разогнать, недодав напряжения, но изредка и бывает в номинальном режиме). RAM может подглюкивать.
На самом деле, ошибки вычислений на домашних машинах — вовсе не редкость. Просто они обычно остаются незамеченными, или списываются на «глючную винду».
Имхо, страхи, высосаны из пальца. Не люблю людей, которые готовы принять результат какого либо открытия, при этом пытающихся захамить само открытие.
Вы сейчас сидите перед ПК(ноутбуком, планшетом и пр), не боитесь что криворукий программист или инженер плохо написал прошивку, управляющую питанием, и сейчас монитор взорвется и осколки выколят вам глаза? Если вы против программной автоматизации — не пользуйтесь ей. Если вы против плохой программной реализации продукта — покупайте хорошие программы или пишите сами.
Это касается не только электроники. Мы все хотим, что бы продукты стоили дешего, но были натуральные, без консервантов, без гинетический модификаций, выращены без использования химических удобрений. Выбирайте, либо дорого, либо с консерванами, либо растите сами.
Мы уже давным давно пустили в свою жизнь автоматизацию, механическую, химическую, электронную. Светофоры работают на электронике, и если не учитывать дураков, то мы не боимся что в нас кто то приедет сбоку из за сбоя в светафоре.
Автор, вы боитесь разогревать еду в микроволновке? Вы боитесь что произойдет сбой в котельной, лопнут трубы в доме и вас ошпарит кипятком? Все это возможно, если компьютер сложит 1+1 неправильно, будет брак в производстве, и что нибудь обязательно сломается. Если вы против глобализации — езжайте со своими страхами в лес и живите натуральным хозяйством.
Вы сейчас сидите перед ПК(ноутбуком, планшетом и пр), не боитесь что криворукий программист или инженер плохо написал прошивку, управляющую питанием, и сейчас монитор взорвется и осколки выколят вам глаза? Если вы против программной автоматизации — не пользуйтесь ей. Если вы против плохой программной реализации продукта — покупайте хорошие программы или пишите сами.
Это касается не только электроники. Мы все хотим, что бы продукты стоили дешего, но были натуральные, без консервантов, без гинетический модификаций, выращены без использования химических удобрений. Выбирайте, либо дорого, либо с консерванами, либо растите сами.
Мы уже давным давно пустили в свою жизнь автоматизацию, механическую, химическую, электронную. Светофоры работают на электронике, и если не учитывать дураков, то мы не боимся что в нас кто то приедет сбоку из за сбоя в светафоре.
Автор, вы боитесь разогревать еду в микроволновке? Вы боитесь что произойдет сбой в котельной, лопнут трубы в доме и вас ошпарит кипятком? Все это возможно, если компьютер сложит 1+1 неправильно, будет брак в производстве, и что нибудь обязательно сломается. Если вы против глобализации — езжайте со своими страхами в лес и живите натуральным хозяйством.
<< Беспилотный истребитель может неправильно сложить два числа, но он не предложить пилоту сменить курс и пострелять по бегающим на школьном стадионе детям – он сам это сделает, потому что нет пилота. Беспилотный автомобиль может неправильно сложить два числа, но он не предложит водителю погонять по полной людей площади – он сам будет играть в эти салочки, ведь водителя-то нет.
За ними всегда следят люди. Почему бы не создать «службу домов», где оператор будет следить за показаниями целых районов?
За ними всегда следят люди. Почему бы не создать «службу домов», где оператор будет следить за показаниями целых районов?
UFO just landed and posted this here
Автор путает области применения ПО, видимо из-за недостаточного опыта и знаний. В мире давно уже существуют стандарты и системы, которые по этим стандартам выпускаются именно для таких применений, где ошибка системы может привести к летальному исходу, или жертвам. В системах для таких применений нет лицензионного соглашения с пресловутой кнопочкой «I agree»… Там совершенно другие подходы к проектированию, разработке, и главное — тестированию! Там разработчик полностью несет ответственность за любую ошибку системы. И не дай бог, в разработку такой системы попадет вот такой вот программист с бытовым подходом к разработке, вот когда надо начинать паниковать и бояться! И главное — вот над чем надо задуматься. А не о том, о чем написано выше…
По своему опыту разработки систем АСУ ТП могу сказать, что проприетарные пакеты SCADA-систем, в которых создаются автоматизированные комплексы управления «умный дом», все поголовно идут с пользовательским лицензионным соглашением, где прописано, что «Данный продукт поставляется на условиях как есть. И пользователь принимает на себя всю ответственность за его использование и результаты его работы». Однако, когда я создаю в этом инструменте конечную систему управления умным домом под ключ, я, как разработчик уже несу за этот комплекс полную ответственность, а не за скада-систему (в которой я его создаю). И важно заметить, что это уже не просто софт — это ПТК: программно-технический комплекс, который состоит из выбранного мной под конкретные задачи железа, которое я выбрал на основании требований, которые предъявляются согласно решаемым мной задачам, а также — прикладного проекта, составляющего программную часть системы. И в конечном итоге на полигоне я буду проверять работу системы в целом как единого ПТК. И проверять буду по методикам, разработанным на основании тех требований, которые я буду предъявлять к системе, потому что в конечном итоге я буду нести ответственность за качество ее работы. В случае, если я буду ее продавать на условии «как есть» — ее попросту у меня никто не купит! Я бы лично никогда не купил конечную систему под ключ, где продавец бы мне пытался втюхать кнопку «Я согласен с тем, что я дурак»…
По своему опыту разработки систем АСУ ТП могу сказать, что проприетарные пакеты SCADA-систем, в которых создаются автоматизированные комплексы управления «умный дом», все поголовно идут с пользовательским лицензионным соглашением, где прописано, что «Данный продукт поставляется на условиях как есть. И пользователь принимает на себя всю ответственность за его использование и результаты его работы». Однако, когда я создаю в этом инструменте конечную систему управления умным домом под ключ, я, как разработчик уже несу за этот комплекс полную ответственность, а не за скада-систему (в которой я его создаю). И важно заметить, что это уже не просто софт — это ПТК: программно-технический комплекс, который состоит из выбранного мной под конкретные задачи железа, которое я выбрал на основании требований, которые предъявляются согласно решаемым мной задачам, а также — прикладного проекта, составляющего программную часть системы. И в конечном итоге на полигоне я буду проверять работу системы в целом как единого ПТК. И проверять буду по методикам, разработанным на основании тех требований, которые я буду предъявлять к системе, потому что в конечном итоге я буду нести ответственность за качество ее работы. В случае, если я буду ее продавать на условии «как есть» — ее попросту у меня никто не купит! Я бы лично никогда не купил конечную систему под ключ, где продавец бы мне пытался втюхать кнопку «Я согласен с тем, что я дурак»…
Кстати, вспомнил. Кто-нибудь слышал о системе ЕГАИС? Единая компьютерная система учёта алкоголя, через которую требовалось проводить каждую каплю зелёного змия, дабы избежать продажи населению палёной водки и всяческих суррогатов. Систему разработали и ввели в действие, приняли закон и… Система встала колом из-за своей кривизны и отказалась работать. Меры были приняты только тогда, когда кризис на рынке лекарственных препаратов (которые спиртовые по большей части) достиг такого масштаба, что под угрозу встала жизнь пациентов в больницах — не могли обеспечить ни наркоз ни что там ещё положено. Собственно, когда размах бедствия перестал поддаваться описанию цензурными словами, законодатели систему выключили и отправили на доработку. Миллионные убытки компаний, с алкогольным рынком связанных, и поставленные под угрозу жизни пациентов в больнице. Вопрос — где гарантия, что системы управления всеми этими беспилотниками не будут сделаны и приняты столь же разгильдяйски? Кстати, не припомню с ходу, чтобы разработчики ЕГАИС компенсовали пострадавшим причинённые их детищем убытки…
1. Статистика. В момент, когда окажется, что беспилотный автомобиль в среднем реже попадает в аварии, чем водитель (а это так окажется очень быстро, люди часто ошибаются), будет все равно, что редкие аварии с машиной случаются из-за сбоя ПО, а частые с человеком — из-за настоящей, теплой-ламповой человеческой ошибки. Вы так говорите, как будто кого-то интересует сравнение с идеалом. Сравнивать имеет смысл с имеющимся решением.
2. Страховка. Как только окажется, что марка N ошибается чаще марки M, страховые, будьте уверены, почувствуют это в своих выплатах, а владельцы — во взносах. И сразу машин марки N станут покупать меньше.
2. Страховка. Как только окажется, что марка N ошибается чаще марки M, страховые, будьте уверены, почувствуют это в своих выплатах, а владельцы — во взносах. И сразу машин марки N станут покупать меньше.
Есть много статистики по поводу снижения преступности при разрешении скрытого ношения короткоствола. Нам это не помогает принять такой закон. С чего вдруг с автопилотами поможет?
Также есть много обратной статистики. Причем иногда это разные куски одних и тех же графиков.
Но я вообще не понимаю, о чем вы. Какое принятие законов, где? У нас-то? У нас, сожалению, средневековье, нам пока нужно не о беспилотных автомобилях думать, а о том, как бы людей не пытать в отделениях милиции.
Но я вообще не понимаю, о чем вы. Какое принятие законов, где? У нас-то? У нас, сожалению, средневековье, нам пока нужно не о беспилотных автомобилях думать, а о том, как бы людей не пытать в отделениях милиции.
Такое мнение — это глупая паранойя, вызванная непониманием как именно и на сколько интегрированны системы управления в то что вас окружает.
Например — беспилотный летательный аппарат.Это большая такая игрушка с камерой, пилота в кабине у него нету за отсутствием оной, поэтому пилот сидит на земле. Да, там есть система автопилота, и вот о ней сейчас и поговорим.
Автопилот есть в самолётах. Во ВСЕХ современных самолётах. В принципе — именно он выполняет большинство полётов, а не те два парня в кабине. Более того — автопилоты даже посадить самолёт могут. Но никто же не думает, что автопилот может резко кинуть самолёт в штопор. К слову, если он это сделает, два товарища в кабине смогут только сообщить точное место крушения. Но никто почему то не боится автопилота, ведь там есть люди.
Идём дальше. Самолёт штука большая и сложная, и ВНЕЗАПНО — штурвал приделан к компу. Т.е. тот самый безотказный человек который всё решит и ошибки не допустит на самом деле отдаёт комманды компьютеру, что тому нужно сделать. Если компьютер откажется — добро пожаловать в крутое пике, только серий будет катастрофически мало.
Это что касается самолётов, поездов, кораблей и прочей здоровенной техники. В автомобиле электроники сейчас не так много, и если она сломается то у вас или радио не будет играть, ну или машина не ехать. И ведёт машину именно человек. И тут мы встаём перед диллемой — а способен ли человек вообще водить машину и нести ответственность за это. Если посмотреть на новости — в принципе не особо у него это хорошо получается. Там сбили, здесь задели, другой вообще в бега подался. При этом зачастую ЧП разбирается по свидетельским показаниям (если подумать — самому ненадёжному источнику знаний) и каким-нибудь следам, если они есть. Напомню что в тех же самолётах/кораблях/поездах вся телеметрия пишется на чёрные ящики.
Касательно ответственности.
Водитель ведра на колёсах несёт ответсвенность за ведро на колёсах. По хорошему — если у вас на ходу отвалилось колесо — виноваты именно вы. Не производитель плохих винтов с малым сроком службы, и не сотрудник СТО, плохо эти винты затянувшем. Ваша машина и ваша ответственность. На текущий момент — наврядли на вас наложат вину за то, что железо в винтах было плохим. А значит если и софт в машине сбойнёт — водитель виноватым не будет. И доказать это сможет тот самый чёрный ящик, который не стоит просто потому что с машины писать нечего, т.к. датчиков нету. Будет система управления — будут датчики, будут датчики — будет чёрный ящик, будет чёрный ящик — не будет вопросов про вину водителя (а так же «я не проезжал на красный свет»).
Касательно возможностей.
Вот вы пишете что водитель. Вы курсы экстремального вождения проходили? А ваши знакомые? А ведь это не обучение тому как на машине выделаваться, это обучение тому что делать в экстремальной ситуации. Вы осторожно водите? А окружающие? Компьютер справится с вождением гораздо лучше человека, потому что он не нервничает, не спит, не пьян, знает что делать при заносе в гололёд и самое главное — знает физику. И физику компьютер рассчитывать умеет гораздо лучше людей. И это — очень важно. А ещё компьютер не будет нарушать ПДД, и не говорю, что повсеместная компьютеризация машин избавит от ДТП, но она точно сократит эту величину на порядки, что никакие штрафы не сделают.
Мифы про то, что машина решит давить людей итд- не более чем мифы, в конечном счёте именно этого в первую очередь опасаются все конструкторы таких систем, и это проработанный вопрос. Более того — компьютер заметит и среагирует на ребёнка выбежавшего из за машины гораздо быстрее любого водителя, плюс он сможет выполнить те манёвры, которые неподготовленному человеку не доступны.
И да, будем смотреть реалистично — автономные автомобили будут, и они таки задавят некоторое количество людей. И ничего страшного, ведь люди, сидящие за рулём этих авто, задавили бы гораздо больше.
Например — беспилотный летательный аппарат.Это большая такая игрушка с камерой, пилота в кабине у него нету за отсутствием оной, поэтому пилот сидит на земле. Да, там есть система автопилота, и вот о ней сейчас и поговорим.
Автопилот есть в самолётах. Во ВСЕХ современных самолётах. В принципе — именно он выполняет большинство полётов, а не те два парня в кабине. Более того — автопилоты даже посадить самолёт могут. Но никто же не думает, что автопилот может резко кинуть самолёт в штопор. К слову, если он это сделает, два товарища в кабине смогут только сообщить точное место крушения. Но никто почему то не боится автопилота, ведь там есть люди.
Идём дальше. Самолёт штука большая и сложная, и ВНЕЗАПНО — штурвал приделан к компу. Т.е. тот самый безотказный человек который всё решит и ошибки не допустит на самом деле отдаёт комманды компьютеру, что тому нужно сделать. Если компьютер откажется — добро пожаловать в крутое пике, только серий будет катастрофически мало.
Это что касается самолётов, поездов, кораблей и прочей здоровенной техники. В автомобиле электроники сейчас не так много, и если она сломается то у вас или радио не будет играть, ну или машина не ехать. И ведёт машину именно человек. И тут мы встаём перед диллемой — а способен ли человек вообще водить машину и нести ответственность за это. Если посмотреть на новости — в принципе не особо у него это хорошо получается. Там сбили, здесь задели, другой вообще в бега подался. При этом зачастую ЧП разбирается по свидетельским показаниям (если подумать — самому ненадёжному источнику знаний) и каким-нибудь следам, если они есть. Напомню что в тех же самолётах/кораблях/поездах вся телеметрия пишется на чёрные ящики.
Касательно ответственности.
Водитель ведра на колёсах несёт ответсвенность за ведро на колёсах. По хорошему — если у вас на ходу отвалилось колесо — виноваты именно вы. Не производитель плохих винтов с малым сроком службы, и не сотрудник СТО, плохо эти винты затянувшем. Ваша машина и ваша ответственность. На текущий момент — наврядли на вас наложат вину за то, что железо в винтах было плохим. А значит если и софт в машине сбойнёт — водитель виноватым не будет. И доказать это сможет тот самый чёрный ящик, который не стоит просто потому что с машины писать нечего, т.к. датчиков нету. Будет система управления — будут датчики, будут датчики — будет чёрный ящик, будет чёрный ящик — не будет вопросов про вину водителя (а так же «я не проезжал на красный свет»).
Касательно возможностей.
Вот вы пишете что водитель. Вы курсы экстремального вождения проходили? А ваши знакомые? А ведь это не обучение тому как на машине выделаваться, это обучение тому что делать в экстремальной ситуации. Вы осторожно водите? А окружающие? Компьютер справится с вождением гораздо лучше человека, потому что он не нервничает, не спит, не пьян, знает что делать при заносе в гололёд и самое главное — знает физику. И физику компьютер рассчитывать умеет гораздо лучше людей. И это — очень важно. А ещё компьютер не будет нарушать ПДД, и не говорю, что повсеместная компьютеризация машин избавит от ДТП, но она точно сократит эту величину на порядки, что никакие штрафы не сделают.
Мифы про то, что машина решит давить людей итд- не более чем мифы, в конечном счёте именно этого в первую очередь опасаются все конструкторы таких систем, и это проработанный вопрос. Более того — компьютер заметит и среагирует на ребёнка выбежавшего из за машины гораздо быстрее любого водителя, плюс он сможет выполнить те манёвры, которые неподготовленному человеку не доступны.
И да, будем смотреть реалистично — автономные автомобили будут, и они таки задавят некоторое количество людей. И ничего страшного, ведь люди, сидящие за рулём этих авто, задавили бы гораздо больше.
Вы меня практически убедили, но… Вы — не создатель беспилотных авто. А вот создатели беспилотных авто мне подобной аргументации не привели — они вообще на эту тему не говорят. Умные вещи (без иронии и сарказма) говорите вы, но машины-то эти создаёте не вы. Так что — я сменю своё мнение, как только услышу что-то подобное из уст разработчика беспилотных авто.
А вы разговаривали с разработчиками автопилотов? А на самолете летали?
Я не знаю в какой области вы работаете, но могу предположить, что вся эта паранойя просто из за того, что вы никогда не сталкивались с разработкой систем высокой надежности, где подход к контролю качества и тестированию кардинально отличается от такового в разработке обычных прикладных систем.
У нас на данный момент судебная практика такова, что при любом ДТП с участием пешехода, суд обычно становится на сторону последнего. Допустим автопилот сбивает человека на трассе вне пешеходного перехода — выскочил прямо перед машиной, а сцепления с дорогой не хватило (а таких случаев будет очень много). Вижу три варианта развития событий:
1. Приговор выносят водителю. Сесть невиновному обидно, а не держав даже руль — вдвойне.
2. Виновным признают производителя. Кто захочет вообще продавать такую технику при таких раскладах?
3. Самый фантастический. Кто-то придет и исправит нам наши суды.
В итоге даже когда на западе это как-то решат, нас это вряд ли коснётся.
1. Приговор выносят водителю. Сесть невиновному обидно, а не держав даже руль — вдвойне.
2. Виновным признают производителя. Кто захочет вообще продавать такую технику при таких раскладах?
3. Самый фантастический. Кто-то придет и исправит нам наши суды.
В итоге даже когда на западе это как-то решат, нас это вряд ли коснётся.
Всем спасибо за мнения — учту на будущее. Ещё не много, и я даже комментарии не смогу писать, так что дискуссии, видимо, придётся прекратить. Вы уж не обижайтесь…
Я, знаете, поставил минус, и не за мнение, а за эээ уровень проникновения в проблему. Ну то есть видно, что вы думали над этим немного, и сами не попробовали подумать над ответами на вопросы, которые задаете.
Я думал над этой прроблемой, но не по технической стороне. Технически и технологически реализовать можно всё и ещё немного — это и ёжику понятно. А вот человеческий фактор, рвение маркетологов, долбоклюйство чиновников, чьи-то непомерные амбиции — эти факторы в расчёт не принимаются почему-то. А меж тем при современном уровне развития технологии именно эти факторы становятся решающими на пути внедрения любой новой технологии. Технари-то тебе чего хочешь склепают, но вот дадут ли им качественно поработать менеджеры, маркетологи, инвесторы и прочие директора с акционерами и бизнес-консультантами?
Вообще говоря никакие кнопочки «I Agree» или там нотариально заверенные подписки не могут переложить административную или уголовную ответственность с одного человека на другого. Суд будет разбираться и искать виновного в том, что случилось, водителю или владельцу при этом особо переживать не о чем, по-моему. С гражданской сложнее — перед потерпевшими прежде всего несёт ответственность владелец транспортного средства — средства повышенной опасности, но её-то как раз могут покрывать страховые компании. Это страхование уже обязательно.
«Если-б я был султан», то любые настройки автомобиля, которые могут негативно сказаться на безопасности окружающих при его перемещениях в пространстве, должны были бы быть прочитаны с экрана владельцем автомобиля вслух и под запись. Распознавание голоса уже вполне рабочее стало, так что «В лесу родилась ёлочка» не прокатит.
Например, «Да, я желаю уменьшить рабочую дистанцию до других транспортных средств с 50 до 20 метров при скорости движения 100 километров в час. Да, я понимаю, что это может повлечь негативные последствия в случае возникновения чрезвычайной ситуации на дороге, а так же что это подтверждение записано на камеру и будет доказательством в суде того что я — идиот.»
Сообщение записывается и отправляется на хранение на сервераГИБДД производителя авто. Если что-либо случается с автомобилем, то всегда можно вытащить доказательство идиотизма пользователя.
Хотя, как по мне, пользователю нельзя в принципе доверять даже минимальный контроль. Поставить перед ним йпад, чтобы указал точки А и Б, а затем — принудительный переход в Angry Birds и пусть гоняет птиц до самого финиша.
Например, «Да, я желаю уменьшить рабочую дистанцию до других транспортных средств с 50 до 20 метров при скорости движения 100 километров в час. Да, я понимаю, что это может повлечь негативные последствия в случае возникновения чрезвычайной ситуации на дороге, а так же что это подтверждение записано на камеру и будет доказательством в суде того что я — идиот.»
Сообщение записывается и отправляется на хранение на сервера
Хотя, как по мне, пользователю нельзя в принципе доверять даже минимальный контроль. Поставить перед ним йпад, чтобы указал точки А и Б, а затем — принудительный переход в Angry Birds и пусть гоняет птиц до самого финиша.
Настройки от пользователя это жопа.
Может быть будут настройки из области «объезжать по раздолбанной дороге быстро» vs «ехать только по хорошим дорогам если есть выбор», ну или там варианты «скорость vs экономичность» но точно не вопросы безопасности.
Тут другая проблема.
Часть информации будет получаться по сети. Не в первых версиях но будет.
Вот тут я не очень уверен что в какой-то момент мы не поймаем неудачные решения которые позволят и вирусам появиться, и много еще каким проблемам безопасности. Тут даже не в скайнет дело, хотя и такой сценарий не исключен…
Просто условно надежная архитектура рано или поздно оказывается уязвимой.
Может быть будут настройки из области «объезжать по раздолбанной дороге быстро» vs «ехать только по хорошим дорогам если есть выбор», ну или там варианты «скорость vs экономичность» но точно не вопросы безопасности.
Тут другая проблема.
Часть информации будет получаться по сети. Не в первых версиях но будет.
Вот тут я не очень уверен что в какой-то момент мы не поймаем неудачные решения которые позволят и вирусам появиться, и много еще каким проблемам безопасности. Тут даже не в скайнет дело, хотя и такой сценарий не исключен…
Просто условно надежная архитектура рано или поздно оказывается уязвимой.
Кстати, а как решена проблема ответственности с круиз-контролями? Ведь в них частично водитель отдаёт право принимать решения автоматике, прежде всего по такому важному для безопасности параметру как скорость движения.
Автор, а вы знаете, кем на самом деле управляются реакторы ядерных электростанций? Да да, скайнет уже близко.
Я понимаю вашу тревогу. Могу вам посоветовать лишь одно — не пользуйтесь тем, чего боитесь.
А если вы будете сбиты автомобилем (не дай бог, конечно), вам будет не легче от того, что он (автомобиль) был пилотируем пьяным представителем золотого поколения, а неAndroid программой.
Я понимаю вашу тревогу. Могу вам посоветовать лишь одно — не пользуйтесь тем, чего боитесь.
А если вы будете сбиты автомобилем (не дай бог, конечно), вам будет не легче от того, что он (автомобиль) был пилотируем пьяным представителем золотого поколения, а не
Sign up to leave a comment.
О беспилотных автомобилях или почему я не хочу жить в «умном доме»