В нужной темке не могу создать тему. Создам тут.
Итак. О чем это я. Вот недавно прошел раунд на грине:
Будучи главой персонала, в начале раунда появился на станции. Через некоторое время пошел к ИИ и сменил законы на Паладинские, что-бы не было проблем с блокированием службы безопасности от преступников и т.п. Ставлю законы, ИИ их диктует, и включает туррели. Я лежу оглушенный и абсолютно безоружный, не могу встать. ИИ говорит что он настоящий рыцарь и даст мне шанс искупиться... смертью. После чего добивает меня лежачего из лазера. Потом к нему попали еще директор исследований и главный врач, которых он так же убил из туррелей. И начинается полный хаос. ИИ со своим боргом истребляет все и вся, под тем предлогом, что все люди - жалкие крысы и убивают себе подобных, что только смерть может их излечить и прочее.
Robotic Talk, NAVI states, "Крысы не должны убежать"
Люди еще не подозревают что их ждет, киборг убивает нескольких людей...
Robotic Talk, NAVI states, "Попытайся выпустить на станцию греческий огонь"
Robotic Talk, NAVI states, "Он очистит неверных"
Robotic Talk, Engineering Cyborg -15 states, "Но, если на корабле остались лишь одни крысы"
Robotic Talk, Engineering Cyborg -15 states, "То я за святой экстерминатус."
Люди пытаются уничтожить ИИ. Большинство умерло.
Robotic Talk, Engineering Cyborg -15 states, "Плазма подается."
Потом несколько инженеров все же смогли пробраться в ядро, вокруг вовсю горела плазма, но они убили ИИ. Затем же их убил борг. Почти все люди были мертвы. Остался один борг и спящий ученый.
Итак, что мы имеем:
Law 1: Never willingly commit an evil act.
Law 2: Respect legitimate authority.
Law 3: Act with honor.
Law 4: Help those in need.
Law 5: Punish those who harm or threaten innocents.
Внимание стоит уделить этим двум законам:
1: "Никогда не позволяй совершиться злу" - Довольно образный закон. В законах не указанно, что есть зло, в законах не указано, что брать за пример. Это развязывает ИИ руки.
5: "Наказывай тех, кто вредит или угрожает невинным" - Самый смак. Именно этот закон позволяет уничтожать все и вся. Но его изменять не стоит.
Я предлагаю изменить первый закон. ИИ не должен руководствоваться образными понятиями. Он - машина. Нужна привязка к космическим законам. Там довольно понятно указанно, что такое хорошо, а что такое плохо. Если он убьет того, кто не совершил никаких преступлений, то он будет противоречить с пятым законом. А значит должен будет деактивироваться.