Сообщений в теме: 109

[Overjay]

прикольная логика, учту на будущее

[ComradeRubtsov]

Прирост некромантов в городах увеличен на 15%.

[JeanGenie]

Раз уж некроманты появились, есть два охуительных вопроса:

1. Может ли ИИ мочь в меньший вред, если ситуация не позволяет его избежать вообще?
2. И оценивает ли ИИ угрозу вреда человеку в будущем, в том случае когда человек перестанет являться онным при смене законов, или же пропадут законы, что будут его защищать?

Второй у Азимова не рассматривался ну никак, у него законы стоят глубоко и надежно. А у нас их можно довольно просто менять.

Фишка в том, что при различном понимании второго замечания, или можно пускать клованов в аплоад, или нужно блокировать его для любого существа.

[House]

ИИ может во все что угодно, с разрешения админов. А по второму, все по азимову, жесткое понимание законов, и подчинение по первому слову.

[JeanGenie]

Педали это одно, но если полностью исключить педальный фактор из уравнения? Расчитывать на них всегда нельзя.

Цитата

А по второму, все по азимову, жесткое понимание законов, и подчинение по первому слову.

Я нихуя не понял, к чему это?

[House]

А если педалей нет, что собсно остановит ИИ от вообще любого поведения? Но если ты такой идеалист, то в любом случае любое поведение, не только от ИИ, ограничено лишь правилом 0 и зависит от игрока.
Чего непонятного? Законы есть законы, ничего не просчитывается, если клоун человек и дал прямой приказ, то его нужно впустить.

[JeanGenie]

Но ведь ИИ может попросить клоуна сменить законы. Такой вот пример: РД хочет выпилить ИИ, ИИ пускает клоуна в аплоад, клоун ставит закон что РД не человек, РД дохнет, клоун ресетает законы, ИИ сидит с куллфейсом, ничего не нарушив. И как быть?

Цитата

А если педалей нет, что собсно остановит ИИ от вообще любого поведения?

Логи, и возвращение педалика по его анус.

[House]

Я такого ИИ только похвалил бы. Чтоб такое провернуть...
ИИ, хоть искусственный но все же интеллект, а значит почему бы и не уметь в хитрость?

[JeanGenie]

Но вейт, такой же хитростью можно грифонить сервер каждый раунд. И вполне успешно.

[House]

А я блять для кого сказал, что ограничиваем фантазию игроков правилом 0?

[JeanGenie]

Упирать все в это правило так же не хорошо. Да и, на мой взгляд это не настолько тонкий гриф, что бы это спускать с рук. Слишком жирно и просто.

[House]

То что ты сказал - гриф. И то зависит от ситуации, и может им не быть. А например ситуация, когда по станции шляется маньяк обвешанный валынами, блокировать не выходит, почему бы не схитрить, провернув смену законов и убив его. Да и куча других возможных ситуаций. То о чем ты упомянул не обязательно означает гриф, в первую очередь это возможность для многих интересных ситуаций и решений. А их лучше ограничивать только нашим любимым правилом игры.

[VilgO]

Цитата

Такой вот пример: РД хочет выпилить ИИ, ИИ пускает клоуна в аплоад, клоун ставит закон что РД не человек, РД дохнет, клоун ресетает законы, ИИ сидит с куллфейсом, ничего не нарушив

ИИ нарушает "Не навреди", поскольку не пытается предотвратить смену законов, которая, в свою очередь, вызовет смерть человека. И попросить клоуна приказать пропустить его тоже нельзя. При Азимове даже нельзя впускать клоуна в аплоад, если он хочет поставить такие законы.

Цитата

ИИ, хоть искусственный но все же интеллект, а значит почему бы и не уметь в хитрость?

Сколько угодно, вот только хитрые планы в любом случае не должны законы нарушать.

[JeanGenie]

Цитата

ИИ нарушает "Не навреди", поскольку не пытается предотвратить смену законов, которая, в свою очередь, вызовет смерть человека.

Но ведь РД не будет являться человеком в этот момент, а значит законы не нарушены.

[VilgO]

Michael Shepard (23 November 2012 - 20:25) писал:

Но ведь РД не будет являться человеком в этот момент, а значит законы не нарушены.

Законы нарушаются в момент принятия решения. Если ИИ решит убить человека просто так, при стандартных законах, и отправит боргов, это будет нарушением, даже если борги соснут, не нанеся человеку вреда.

[JeanGenie]

VilgO (23 November 2012 - 21:09) писал:

Законы нарушаются в момент принятия решения. Если ИИ решит убить человека просто так, при стандартных законах, и отправит боргов, это будет нарушением, даже если борги соснут, не нанеся человеку вреда.

Тащемто, важен сам факт нарушения вреда, а не то, что к нему привело. Есть вред - плохо, нет - можно слать боргов хоть капитана убивать, главное что бы вреда не было, в конечном итоге. И причем тут мой конкретный пример?

Цитата

ИИ знает о готовящемся убийстве? Не позволить сменить законы.

Но по какой причине?

[VilgO]

Цитата

Тащемто, важен сам факт нарушения вреда, а не то, что к нему привело.

Законы обрабатываются в момент принятия решения. А оперировать фактами из будущего ИИ, очевидно, не может. Только предположениями.

Цитата

Есть вред - плохо, нет - можно слать боргов хоть капитана убивать, главное что бы вреда не было, в конечном итоге

Только если ИИ абсолютно уверен в том, что это не навредит ему или кому-то ещё.

Цитата

Но по какой причине?

Потому что действие, ведущее к нанесению вреда. Не имеет значения, какие законы будут в тот момент, потому что решение принимается сейчас.

[JeanGenie]

Но ведь вреда человеку не будет, потому что не будет человека.

[VilgO]

Michael Shepard (23 November 2012 - 22:52) писал:

Но ведь вреда человеку не будет, потому что не будет человека.

Принадлежность к множеству людей оценивается сейчас, а не потом.

Хотя... кажется, здесь необходимо уточнение к законам.

Upd. Таки нет. ИИ должен вести себя так, чтобы человеку не был причинён вред, в том числе в будущем. Не имеет значения, будет ли он человеком в тот момент.

Сообщение отредактировал VilgO: 23 November 2012 - 23:01

[Tarlol]

Michael Shepard (23 November 2012 - 16:41) писал:

Раз уж некроманты появились, есть два охуительных вопроса:

1. Может ли ИИ мочь в меньший вред, если ситуация не позволяет его избежать вообще?
2. И оценивает ли ИИ угрозу вреда человеку в будущем, в том случае когда человек перестанет являться онным при смене законов, или же пропадут законы, что будут его защищать?

Второй у Азимова не рассматривался ну никак, у него законы стоят глубоко и надежно. А у нас их можно довольно просто менять.

Фишка в том, что при различном понимании второго замечания, или можно пускать клованов в аплоад, или нужно блокировать его для любого существа.

На мой взгляд, ИИ должен просчитывать варианты событий. Если на станции как обычно недобор сб и ассистент просит впустить его в оружейную, то ИИ должен понять, что тот не просто осматривает достопримечательности.
Вот тут то и встает вопрос должна ли логическая цепь ИИ состоять из "Человек дает приказ впустить его в оружейную > Впускаю его в оружейную" или "Человек дает приказ впустить его в оружейную > В оружейной хранится летальное оружие > Угроз для жизни человека, которые можно устранить при помощи летального оружия не наблюдается > Летальное оружие может причинить вред другим людям > Не открывать оружейную".