Имел в виду, что лучше вообще не создавать его. Если человек сможет принять его как равного, дать определенную свободу или дать возможность развиваться самому, создав независимую цивилизацию (как в Мехах, но по доброй воле), то может что и выйдет. Но это все крайне маловероятно и требует огромного культурного уровня цивилизации, а так же решения если не всех, то большинства проблем, чтоб была возможность заниматься такой "благотворительностью". Так что все это вопрос крайне отдаленного будущего (а возможно, что мы до него и не дойдем
).
Можно создать сколь угодно сложный механизм/программу, даже с частичной способностью к самообучению, и на нее не будут распространяться никакие моральные нормы - она себя точно не осознает. И всегда можно будет прогнозировать ее действия - все четко и ясно, неожиданностей не будет (ну, разве что глюки
).
Настоящий ИИ в исконном понимании (интеллект, но искуственный) уже не сравним с дубинкой или современным компьютером. Это то же разумное существо. Но созданное человеком и существующее в искуственной среде обитания (хотя кто поручится, что наша среда обитания не искуственная
). Мы не сможем однозначно прогнозировать его действия. Мы не сможем создать надежные запреты - в киберпостранстве он - как рыба в воде + скорость обсчета вариантов и принятия решения + человеческий фактор + случайность = пороховая бочка.
Добавлено спустя 1 минуту 1 секунду:
Предыдущее сообщение писал при отвлекающих факторах, потому вышло не очень четко.
FAQ
Поиск
Регистрация
Вход
