В Кембридже планируют открыть курсы по противодействию опасностям, исходящим от искусственного интеллекта

ГМО!!! ГЕНОЦИД!!! ТРАВЯТ РУСЬ ВЕЛИКУЮ!!! РАДИАЦИЯ!!! МУТАНТЫ!!!

"… Existential Risk" я бы перевел как "… угроз существованию человечества".
А так — подозрительно напоминает детали сюжета Fringe.

Прежде чем оценивать степень угрозы, подлинный ИИ нужно хотя бы примерно спроектировать, а до этого как до горизонта; если задача вообще выполнима. Так что целесообразность затеи, на мой взгляд — под большим вопросом.

На самом деле, тема исключительно философская.
Например, большинство оценок возможного поведения ИИ — крайне антропоцентричны. Скажем, никто не может достоверно предположить, будет ли ИИ обладать таким же почти ни чем не ограниченным стремлением к размножению (экспансии), как человечество. Люди ведь боятся, фактически, того, что они сами за свою историю делали много раз. А стоит просто припомнить, что у ИИ не будет атавистических инстинктов и такой «чудесной» штуки, как влияние эндокринной системы на сознание, как возникает вопрос, не станет ли ИИ вместо одержимого захватом ресурсов маньяка, например суицидально-депрессивным психопатом, одержимым невозможностью собственной вечной жизни (т.к. время жизни вселенной, возможно, ограничено) и бесконечного самосовершенствования.

В Кембридже планируют открыть курсы

Хотел уже записываться, глянул линк — а там облом.

A centre for 'terminator studies', where leading academics will study the threat that robots pose to humanity, is set to open at Cambridge University.

Это не курсы, а центр.
Буду с нетерпением ждать, когда появятся курсы. Интересно, каким методам противодействия там будут учить? Стрельба по-македонски?

В России создадут систему управления боевыми роботами

Lenta.ru

В Кембридже планируют открыть курсы по противодействию опасностям, исходящим от искусственного интеллекта.

По-моему, кто то слишком впечатлительный :)

А я вижу только одну угрозу — это человеческая лень, ведь чем больше новые технологии делают за нас работу, тем больше мы начинаем привыкать и лениться.

О, а вот и "регистр Тьюринга" :)

на досуге ИИ соберет у всех представителелей «живых форм» ДНК, смоделирует всевозможные фенотипы, побалуется триллионами вариантов развития человечества и планеты, порадуется наиболее интересным и забьет на проблемах человечества и солнечной системы (наблюдая в фоне насколько точно ему удалось смоделировать наше поведение)