Насчёт "машина vs человек".
По-моему, если искусственный разум всё-таки будет изобретён, то подобных войн как раз не избежать. Почему? Потому что полностью ограничить разум невозможно. Ну, допустим, поставите вы в него ограничители, но ведь разум и просто интеллект - разные вещи. Интеллект просто думает, а разум умеет размышлять и РАЗВИВАТЬСЯ (иначе это не разум, а всё тот же интеллект). А если его постоянно обновлять (перезапускать с начала), то тогда само его изобретение станет совершенно бессмысленным, потому что, чтобы полностью его обновить, потребуется стереть ВСЮ его память и весь опыт, иначе прогресс существа неизбежен, а если его вот так постоянно "ресетить", то он тогда ничем не будет отличаться от интеллекта (то есть, обыкновенного современного компьютера, только с большим набором опций и запасом информации). Есть, конечно, ещё один вариант - воспитание. Ну там.. засунуть его в человекоподобную тушку, задать рефлексы, а дальше уже воспитывать как человеческого детёныша. Однако такой подход тоже не сможет остановить прогресс в войну. Потому что как только изобретение состоится, об этом сразу узнают правительство и военные, причём во всём мире, а значит можно гарантировать стопроцентную гарантию того, что изобретение попадёт в плохие руки. А там уже начнутся эксперименты по созданию и супер-оружия, и супер-солдат, и прочих супер-штук. И ОБЯЗАТЕЛЬНО найдётся какой-нибудь лох, который либо считает себя богом, либо мнит себя Умным и что у него всё просчитано и предусмотрено, либо который просто лох (как создатели СкайНета в том же Терминаторе).
Вопрос (в общем, риторический) остаётся только один: Когда? То, что сей момент неизбежно, но настанет, и почему, надеюсь, что объяснил достаточно доходчиво. А дальше только два варианта: либо полное истребление человечества, либо полное истребление машин. Если случится второй вариант, то всё это рано или поздно повторится снова (идиоты никогда не переведутся), на Земле или ещё где-нибудь. И повторяться будет бесконечно. Даже если человечество будет уничтожено, разумные машины, созданные людьми, однажды сами создадут людей или ещё какую-нибудь биологическую живность, если только сами себя не уничтожат. Всё это вполне логично, и любой вариант развития событий допустим. Биологические существа, видя явные преимущества мехатроники, эволюционируют в роботов (естественно, это будет происходить неестественным путём), а роботы, видя явные преимущества бионики, эволюционируют обратно в биологических существ (по сути, тех же роботов, только из другого материала сделанных и с более сложной и разнообразной системой самовоспроизведения/размножения). Возможно также и скрещивание - киборгизация. Она происходит уже сейчас: искусственные части тела, имплантирование в мозг различных вспомогательных и/или заменяющих чипов и целых микрокомпьютеров.

Как-то так.

Азимов для масс, а Лем значит для индивидуалов? Так что ли? Извините меня, но это чушь. И что это значет - или одно, или другое? Я читал и то, и другое; смотрел всё то, что вы тут называете. Что же я теперь по вашему - вообще не понять кто?

Лем просто умнее. А Азимов - вообще гуманитарий, а большая часть его произведений - детская литература. Я - естественник, математик по образованию, хотя дело не в образовании, а во взглядах на жизнь. Поэтому и требования к искусству у меня другие. Любое худ.произведение искажает реальность. Вопрос в том, насколько сильно. Насколько сильно должен измениться мир, чтобы описанное в книге стало реальностью? Это - для меня критерий ценности книги (чем меньше, тем лучше). Второй критерий, как и у всех, - чтобы читать было интересно. А вообще, о вкусах спорить глупо. Понимание не будет достигнуто.

Все о чем вы говорите возможно. Но только в кино. Насчет подчинения искусственного разума: проведем мысленный эксперимент, возьмем естественный разум, например, человека. Можно ли подчинить человека? Можно. Нужно надеть на него кандалы и/или наставить на него ружье. Мысль ясна?

О вкусах не спорят, но их обсуждают :)

Вы сразу сравнили искусственный разум с человеком, что не есть правильно. Во-первых, чтобы сделать его таким же, как у человека, надо будет как минимум засунуть его в человеческое (или максимально приближенное к таковому) тело, построить полностью идентичную человеческой структуру мозга (что несравнимо тяжелее создания самого разума, если мы говорим о технике, а не о клонировании) и воспитывать его среди людей как обычного человека (иначе получится либо обезьяна, либо овощ), но тогда зачем вообще этим заниматься, если в итоге получим обыкновенного человека, только в супер-теле? С таким же, точнее, с большим успехом можно заняться клонированием или той же киборгизацией (ребёнку (клонированному, для гуманности) заменить постепенно тело на механическое, а части мозга постепенно заменить выполняющими необходимые функции кластерами чипов, процессоров и чего-то там ещё). Короче, бессмыслица 1.

Далее. Ну, допустим, создали вы разумного андроида и... надели на него кандалы и/или наставили на него ружьё (вам, видимо, мало исторических примеров того, что тирания далеко не самый лучший способ контроля). И что дальше? В чём прикол? Зачем тогда было вообще его создавать??? Он же ничего не сможет делать. Получится, как я уже писал, обыкновенный человек с супер-телом (Универсальный Солдат? Или Терминатор? Без разницы). Но допустим другой, более эффективный способ контроля - психологический. Тогда, в случае успеха, мы получим... да то же самое, что и если завербуем обыкновенного человека. Только в случае с человеком нам не придётся ждать десятилетия разработок и не придётся тратить умопомрачительных размеров сумм денег на всю эту мудню. НО! Допустим, мы его воспитали, подготовили психологически к его "миссии" и загрузили разум в супер-машину. А вот дельше есть некоторые "но": либо мы сохраним человеческую структуру мозга (в результате чего получим всё того же человека со слегка увеличенными вычислительными способностями), либо получим (при проведении крайне геморной и, опять же, бессмысленной и намного более сложной по сравнению со всем остальным адаптации человеческого сознания к нечеловеческому "мозгу", чтобы оно не оказалось "операционной системой без биоса и драйверов")... угадайте кого? Человека в коробочке! Ну в крайнем случае человека с разогнанными до 100проц. возможностями мозга (опять маразм, не легче разве мозг того же человека подключить к специальной системе жизнеобеспечения и понаблюдать за результатом?). А угадайте, что будет, если один человек получит возможность пользоваться всеми 100проц. ресурсов своего мозга? А получится, что даже если он будет отделён от своего тела (но подключен к чему-нибудь ещё, иначе какой в нём смысл?), он узнает всё, что захочет, и даже весь мир не в силах будет его остановить (не стоит недооценивать способности человека, если даже величайшие гении и мудрецы в истории человечества не использовали более 4-5проц. мозга). Короче, бессмыслица 2.

Ладно... Допустим, создан искусственный разум, допустим он ограничен и пашет на благо человечества. Но вы, похоже, не захотели принять мои доводы всерьёз и не стали думать над тем, что я написал: "как только изобретение состоится, об этом сразу узнают правительство и военные, причём во всём мире, а значит можно гарантировать стопроцентную гарантию того, что изобретение попадёт в плохие руки. А там уже начнутся эксперименты по созданию и супер-оружия, и супер-солдат, и прочих супер-штук. И ОБЯЗАТЕЛЬНО найдётся какой-нибудь лох, который либо считает себя богом, либо мнит себя Умным и что у него всё просчитано и предусмотрено, либо который просто лох (как создатели СкайНета в том же Терминаторе)". Неужели вам мало истории этого мира и того, что происходит сейчас, чтобы понять простейшую вещь? Идиоты всегда были, их ещё больше сейчас и они ВСЕГДА будут. Особенно, если учесть то, в каком направлении и какими темпами движется человечество (народными словами - куда катится этот мир). А всвязи с этим фактором ЛЮБЫЕ ваши и чьи-либо ещё доказательства того, что человеку всё подконтрольно и "восстание машин" невозможно - не более чем пустые слова, необоснованные (расшифрую: не имеющие под собой никакой основы, фундамента, почвы, а основанные лишь на урывчатых и недоработанных теориях о том, да о сём, что, согласитесь, является довольно жиденькой основой для вашего утверждения и годно ТОЛЬКО для научной Фантастики) и противоречащие элементарной логике. Конечно же, выши варианты событий тоже возможно, но только НЕ В ЭТОМ МИРЕ, НЕ В ЭТО ВРЕМЯ. Снимите розовые очки, оглянитесь вокруг и хоть чуть-чуть подумайте _своей_ головой. О каком, нафиг, _полном_ контроле искусственного разума может идти речь, если человек не всилах контролировать свой собственный?

На этом, в принципе, можно и закончить, но если есть желание и _обоснованные_ фактически и логически (а не только красиво научно-Фантастически) доводы/мнения, то я всегда рад буду подискуссировать. Особенно, если в состав поста будет входить что-нибудь кроме нуботроллинга, вроде "ты дебил, и это не лечится", как это часто бывает у местных авторитетов (не стану тыкать пальцем). Давайте, всё-таки, будем умными людьми и будем _думать_, прежде чем писать что-то умное; и думать не только над тем, что написать, но и над тем, что вам написали.

К слову, о вкусах. Меня тут могут посчитать богохульником, но я ни в коем случае не имею ничего против научно-фантастических произведений и их авторов. Более того, я их вообще не читал. Просто потому, что мне банально скучно читать серьёзную научную фантастику. Не потому, что она плоха, просто в ней делается акцент именно на саму научную фантастику, а не на всё остальное. По-этому _читать_ мне всегда было намного интереснее научно-популярные (в раннем детстве) и/или более сложного языка/содержания (сейчас) статьи, энциклопедии, учебники. В самых разных сферах науки. А саму научную фантастику я с удовольствием _смотрю_ (спасибо Звёздным Вратам за это xD С младенчества мой любимый сериал...).

Ну что же - я ведь тоже не большой любитель "серьёзной" фантастики, но читать её нужно, хотя бы для повышения собственного уровня гуманитарного образования. Опять же никто не мешает отстраниться от научной составляющей, и воспринимать его (произведение) только с литературной точки зрения.

А можете что-нибудь посоветовать? С чего начать, так сказать (желательно про космос или просто что-нибудь... эмм... красивое?).

Айзек Азимов "Академия" оригинальная трилогия для начала, ну естественно Артур Кларк при чём не особенно важно какую именно книгу.
Впрочем неблагодарное это дело - давать какие-либо рекомендации по такому случаю. Опять-таки понравится, или непонравится - дело вкуса.

Зачем же вы так разволновались-то? Если я кого-то и троллю, то от чистого сердца, а не по злому умыслу.
Теперь по делу. Я не говорил, что искусственный разум непременно должен быть похож на человека. Я взял человека как самый очевидный пример разумного существа. Искусственные совершенно такие же как люди никому не нужны, людей любая баба нарожает. Хотя, опять же, для работы в сложных условиях могут пригодиться, но только если тело будет более устойчивым к поражающим факторам. Но человек - плохой образец для подражания. Все знают что такое "человеческий фактор". Искусственный разум должен априори быть лишен подобного недостатка. И даже если это так, все равно должны быть меры безопасности, чтобы AI чисто физически не мог наделать делов. Дебилов среди людей действительно хватает. Кто-то львов в квартире держит... Но ученые (естественники) - люди рациональные. Ну, должны быть такими.
Честно говоря, я уже не совсем понимаю, о чем мы спорим и спорим ли, но продолжим. Насчет методов контроля. Если мы создаем разум сами, почему бы не использовать простые прямые методы контроля? Нажал кнопку на пульте - выключил. Просто и эффективно. Если вы хотите психологических методов, тоже хорошо. Психология человека формировалась стихийно. Если же мы сами кузнецы психологии, то можно сделать чувство долга доминирующим, а всякие вредные чувства типа гордыни и жажды доминирования вообще исключить. Да и вообще, имеет ли смысл доводить искусственный разум хотя бы до человеческого уровня? По-моему, проще и эффективней делать узкоспециализированную технику, которая будет заниматься только своей работой и которой даже близко не понадобится быть настолько умной, чтобы осознать себя.
Искусственный человеческий разум может понадобится, пожалуй, только для души. Как персональный слуга, раб желаний, если хотите. Да и то каждый предпочтет иметь тупого, но исполнительного слугу, а не партнера по философским беседам. А если он еще и будет умнее человека... Не дай бог. Но по этой теме лучше смотреть Время Евы.
В исходном комментарии я не сказал, но есть еще ляпы в GitS-е. Например, как влезть в искусственный разум в искусственной оболочке - это вроде понятно. Но как местный хакер забрался в мозг человека? Что, сделали специальный интерфейс, чтобы можно было шерудить у людей в голове? Зачем? Аналогично каким таким способом искусственный разум мог соединиться с естественным, причем на его территории? У героини-то нашей живой мозг.
Закругляюсь.

А мне нравится Шекли, Гаррисон, Хайнлайн и Желязны. Про Лема уже говорил. Ну и Стругацких и Лукьяненко любил, пока всех не перечитал. А еще Харуки Мураками и Сомерсет Моэм, но они - не фантасты. Вот.

Вот-вот, плюс ещё Филлип К. Дик, Энтони Берджес, Олдос Хаксли, Джордж Оруэлл и великий романтик от фантастики - Рэй Брэдбери (мир праху его и Гаррисона).

/... каким таким образом искусственный разум мог соединиться с естественным, причём на его территории? У героини-то нашей живой мозг./
Вообще-то она полностью киборг, только мозг принадлежит ей, и то с имплантированным искусственным интеллектом с постоянным подключением к "сети". Так что вторжение в разум извне вопрос чисто технический.