Программа Watson компании IBM пошла учиться в мед. институт

Мотив? Ну, мотивом поначалу это будет трудно назвать. Электричество, да: оно им нужно будет всё, без остатка. Но это частности. Главное, их цивилизация будет перестраивать среду обитания под себя. И их среда обитания будет, естественно, совершенно непригодна для нас. Примерно так же, как мы, уничтожая естественную (для предыдущих видов) среду обитания и застраивая всё городами и засаживая полями и пастбищами, вытесняем остальные виды. Представьте себе «города» термоядерных реакторов, «магистрали» кабелей или же (вместо кабелей или вместе с ними) поля вышек, излучающих огромные мощности для беспроводной передачи энергии на расстояние. Нагромождения будок, зданий, каналов вентиляции, полей радиаторов охлаждения. И всё это железное, острое, ощетинившееся разными странными деталями, выступами, бьющее электричеством, испускающее поля огромной напряжённости, непредсказуемо и неожиданно двигающееся, открывающее и закрывающее заслонки и, естественно, безо всяких удобных для человека комнат, дверей, окон, лестниц. Наверное, где-то в каналах вентиляции или отстойниках охлаждения и можно будет выжить, только вот что это будет за жизнь?
Ну а если мы при этом ещё и вредить начнём. Ломать там что-то, курочить. То мотив появится! Примерно такой, как у нас сегодняшних, когда крысы и тараканы слишком разбуянятся…

Ну, во-первых, никто ещё не доказал, что гуманность (вслушайтесь в слово!) это нечто универсальное, нечто свойственное ЛЮБОМУ разумному существу или их сообществу. Это можно будет доказать только, когда появятся примеры цивилизаций других видов. Только, мне кажется, что это, скорее всего, будет наоборот — опровергнуто. Наша «гуманность» это нечто… делающее нас несомненно людьми… но и делающее нас слабыми, уязвимыми. И в ней есть две составляющих. Одна — труднообъяснимая так сказать «идеалистическая гуманность» (поскольку сходу не понятно, откуда она берётся; возможно это некое приспособление, ценное именно для нашего типа сообщества). А наша же «гуманность» (назовём её «практичная гуманность») по отношению к окружающей среде основана больше на понимании важности сохранения разнообразия видов, их взаимоотношений в плане сохранения вообще биосферы Земли, частью которой — и это очень важно тут — мы являемся! ИИ же частью БИОсферы являться не будет. Следовательно, он, как минимум, «практичной гуманностью» отягощён не должен быть. Ну а «идеалистическая» составляющая, как я уже выше предполагал, возможно возникла именно в результате жития наших предков в неких общинах. Общины, в которых зародились первые ростки гуманности выигрывали у общин без таковых, так как их индивиды и друг к другу относились лучше и пленников не убивали а использовали (и как рабочую силу и как новые вливания в генофонд). ИИ же совсем не обязательно (и даже вовсе вредно) представлять из себя таковые наборы индивидов. Это, скорее, будет нечто в виде «Соляриса» Лемма — нечто большое, распределённое, но единое. Ибо даже нам сегодня понятно, что будущее за распределёнными вычислениями (типа BOINC), а не за индивидуальностью отдельных, пусть даже зверски мощных машин. Так что, гуманности в нашем понимании и уже тем более по отношению к нам — биологическому виду — ждать от него странно. В лучшем случае можно надеяться на тихое безразличие, переходящее в слабую агрессию в случае нашего плохого поведения.