Comments 38
Ага, мы просто разработаем ИИ. А уже он будет разрабатывать вам что угодно. Так что все претензии к нему.
UFO just landed and posted this here
Пусть тогда разрабатывают автономные системы для уничтожения автономных систем для уничтожения людей. А то разработает кто-нибудь (не будем показывать пальцем на Китай) такие системы, а защищаться-то и нечем. Правда матрицы распознавания целей/предикторы поведения целей будет не так уж и сложно поменять.
А им и не нужно его создавать. Достаточно создать опенсурсный ИИ, а остальное военные уже сами сделают
Мы «договорились» не писать порносайты, только вот написали движок для CMS, CDN, Efficient video codecs, Video over network, HTML5. Но вот порносайты не пишем и другим не советуем.
Skynet Оно было создано 3 года назад:
https://twitter.com/sarahoconnor_/status/616282747200479232
В этот день стало понятно что терминаторы будут говорить по китайски. А на американских будет предустановлен интернет-эксплорер.
Толку от того что подписали ??, в любой армии приказы будут выполнять. Отдатут приказ написать ИИ, и офицер его обязан выполнить сначала, а потом может как то возмущаться, иначе его накажут. Там всё по уставу — свой закон.
У нас капитализм. Гос. заказ отдадут частному подрядчику, который и будет писать. А его сотрудников подсадят на допуск «СС» или «ОВ» и будут молчать в тряпочку (под страхом закона).
Другой вопрос, что это договоренность, а не закон. Максимум что ждет за его несоблюдение — слив кармы на хабре. А вот профит от военного бюджета может поколебать моральные принципы любого гуманиста.
И да, человек пошел в армию сознательно (сейчас только овощ не сможет от нее откосить, а уж офицер и вовсе — сознательное действие). Армия существует, чтобы убивать людей. Вы всерьез считаете, что человек который сознательно шел в такую организацию будет бояться доверить право убивать компьютеру? Это прям какое-то двоемыслие в стиле Солженицына (тоже был офицером, но сделал самострел с помощью письма).
Другой вопрос, что это договоренность, а не закон. Максимум что ждет за его несоблюдение — слив кармы на хабре. А вот профит от военного бюджета может поколебать моральные принципы любого гуманиста.
И да, человек пошел в армию сознательно (сейчас только овощ не сможет от нее откосить, а уж офицер и вовсе — сознательное действие). Армия существует, чтобы убивать людей. Вы всерьез считаете, что человек который сознательно шел в такую организацию будет бояться доверить право убивать компьютеру? Это прям какое-то двоемыслие в стиле Солженицына (тоже был офицером, но сделал самострел с помощью письма).
в любой армии приказы будут выполнять. Отдатут приказ написать ИИ, и офицер его обязан выполнитьИменно! Надо понимать, что в армии иногда отдаются приказы, которые должны быть выполнены любой ценой (ну, просто специфика такая). И исполнитель при этом автоматом освобождается от всех и всяческих ограничений. И дело даже не в том, что его «накажут», а просто не окажется других методов достичь цели.
Свой вклад даёт и присущая военным тотальная секретность — всегда есть вероятность, что противник уже имеет "это", и мы не должны отставать. А гонка вооружений — всегда рекурсия, подгоняющая сама себя.
Известные во всем мире разработчики ИИ договорились не создавать умное оружиеКак быть с теми, кто не особо себя афиширует?
Чуть не в тему, но все же
Я в этике не сильно разбираюсь, а вот кривые скрипты писал не раз. Поэтому считаю, что ИИ в оружии сильно увеличивает опасность уничтожения всех людей.
Есть мнение что естественный И, куда опасней. А главное — проверенный временем.
Естественный имеет этические и прочие внутренние ограничения. Остаться единственным живым человеком на планете не хочет никто. А компьютеру достаточно отдать команду типа «rm -rf /» с нужными привилегиями и все.
Никаких ограничений не имеет. QA десятки тысяч лет и миллиарды тестировщиков.
>Остаться единственным живым человеком на планете не хочет никто.
не факт. Было бы удобно, — сигарет, консервов и рыбы с яблоками хватит надолго. Да! и виски, он же не стареет в бутылках.
>А компьютеру достаточно отдать команду типа «rm -rf /» с нужными привилегиями и все.
практика на работе этого не подтверждает — хоть какие команды отдавай. Хочешь сделать хорошо — делаешь сам. С ИИ это наверняка будет вдвойне.
>Остаться единственным живым человеком на планете не хочет никто.
не факт. Было бы удобно, — сигарет, консервов и рыбы с яблоками хватит надолго. Да! и виски, он же не стареет в бутылках.
>А компьютеру достаточно отдать команду типа «rm -rf /» с нужными привилегиями и все.
практика на работе этого не подтверждает — хоть какие команды отдавай. Хочешь сделать хорошо — делаешь сам. С ИИ это наверняка будет вдвойне.
Никаких ограничений не имеет
Не масштабируется, и этого ограничения достаточно.
Хочешь сделать хорошо — делаешь сам.
Вот именно. А так как масштабироваться на выполнение сотен миллионов параллельных задач человеческий мозг не способен, то приходится нанимать субподрядчиков.
>Остаться единственным живым человеком на планете не хочет никто.
не факт. Было бы удобно,
Это пока он (некто) не остался действительно в одиночестве на более-менее длительный срок, хотя я не отрицаю всякие психические отклонения.
яхтсмены-путешественники и тетка Лыкова с вами не согласны.
И чем постарше (исключая немощь) — тем проще без людей, если быт не уж очень тяжел.
В море несколько месяцев один — без проблем.
Хотя от полугода до года без общения — психика плывет конечно, если вдруг общаться с окружающими — выглядит немного неадекватом и на словеснй понос пробивает или наоборот, асоциальность.
Но потом привыкаешь и утрамбовывается, время тут вполне лечит и адаптирует. Люди становятся не нужны и сам успокаиваешься.
А если физическим трудом и активностью занят постоянно и смена впечатлений (лес, природа то се, делать что то надо, сеять там или налаживать) — то меньше проблем.
И чем постарше (исключая немощь) — тем проще без людей, если быт не уж очень тяжел.
В море несколько месяцев один — без проблем.
Хотя от полугода до года без общения — психика плывет конечно, если вдруг общаться с окружающими — выглядит немного неадекватом и на словеснй понос пробивает или наоборот, асоциальность.
Но потом привыкаешь и утрамбовывается, время тут вполне лечит и адаптирует. Люди становятся не нужны и сам успокаиваешься.
А если физическим трудом и активностью занят постоянно и смена впечатлений (лес, природа то се, делать что то надо, сеять там или налаживать) — то меньше проблем.
Согласно wiki, та же Лыкова всё-таки общается с людьми — к ней приходят послушницы, путешественники, она общается с людьми по переписке. Яхтсмены также имеют средства связи с миром. Но главное, я считаю, что они знают, что могут общаться с остальными при первом желании/возможности,
а последний оставшийся (как у elve) — нет.
а последний оставшийся (как у elve) — нет.
Это когда ее журналисты раскопали зачем то. Не бегал бы туда никто — не общалась бы.
Но еше более простой пример — японский мужик что жил голый 30 чтоль лет на острове — его недавно выдернули. Он возражал. Точно так же был австралиец на острове десятки лет. Примеров подобного сколько угодно.
Всякое общение в таком стиле жизни лишь мешает, просто деваться от него сложно, опять же бытовые предметы нужны. Сам все не сделаешь, или там жрака какая.
> Яхтсмены также имеют средства связи с миром.
те средства связи не для общения.
> что могут общаться с остальными при первом желании/возможности,
Так желание пропадает. Более того — оно начинает пугать.
Но еше более простой пример — японский мужик что жил голый 30 чтоль лет на острове — его недавно выдернули. Он возражал. Точно так же был австралиец на острове десятки лет. Примеров подобного сколько угодно.
Всякое общение в таком стиле жизни лишь мешает, просто деваться от него сложно, опять же бытовые предметы нужны. Сам все не сделаешь, или там жрака какая.
> Яхтсмены также имеют средства связи с миром.
те средства связи не для общения.
> что могут общаться с остальными при первом желании/возможности,
Так желание пропадает. Более того — оно начинает пугать.
Это как OPEC — собираются, договариваются ограничить добычу, принимают квоты… Потом разъезжаются по домам и всеми силами потихоньку эти квоты саботируют.
Военным глубоко начхать, о чем там договорились «верха» IT. Время диктует необходимость, — если сегодня этого не сделаешь ты, то завтра этим «сделают» тебя. По этому бюджеты выделяют средства, вояки набирают штат сотрудников, для которых всякие морально-этические переживания не более чем пустой звук и вуаля, — не смотря на «забастовку» Маска с Googlом военные получают свои «ИИ убивашки»…
А никакого ИИ и не надо: «Убивать всех людей» и всё.
А разве не военка один из основных потребителей технологий? Если есть тренд на умное оружие — будет и соответствующее финансирование. Если кто то достаточно финансово обеспечен и может себе позволить работать за идею и подписывать такие грамоты, то в целом это ничего не значит.
А из тех, кто собственно разрабатывает оружие, кто-либо подписал эту декларацию? =)
Ой прям таки все и договорились.
Оружие разрабатывается… без применения ИИ. Кинжал к примеру, тот который переделанный искандер… прилепили под самолёт и пошло поехало… и сброс то — ручной! (это чтобы не хакнул кто чужой )
UFO just landed and posted this here
Кстати, если в декларации написано что-то типа «обязуемся с этого момента не разрабатывать ИИ в военных целях» — то очень выгодно такой документ подписать тому, кто уже разработал и заставить подписать его остальым;)
Лучше бы договорились об одинаковых закладках-командах для ИИ и режимах запуска их. Типа выключить, остановить, перезагрузить....
Звучит как завязка Бутлерианского джихада. И всегда найдётся свой Тлейлаксу, где будут без лишнего шума умные машины штамповать.
Кто вспомнит название и автора рассказа?
А как же тогда-
Готовься, Россия, они прилетят. Они будут хорошие, новые и умные. ©
Вопрос времени.
Известные договорились, но неизвестные все равно будут делать то, что делали. Не смешивайте видимость и известность со способностями.
Не верю им.
Sign up to leave a comment.
Известные во всем мире разработчики ИИ договорились не создавать умное оружие