Грабіж Паскаля
У філософії грабіж Паскаля — це уявний експеримент, що демонструє проблему із задачею максимізації очікуваної корисності. Згідно задачі, раціональний агент повинен обирати дії, результати яких, зважені за ймовірністю, мають вищу корисність. Проте, деякі дуже малоймовірні результати можуть мати дуже високі показники корисності, і вони можуть зростати швидше, ніж зменшується ймовірність. Отже, агент повинен більше зосереджуватися на дуже малоймовірних випадках з неймовірно високою винагородою, що призводить спочатку до протиінтуїтивного вибору, а потім до неузгодженості, оскільки корисність кожного вибору стає необмеженою. Експеримент використовується задля критики утилітаризму та лонгтермізму зокрема, а також у дискусіях щодо узгодження штучного інтелекту.
Назва відсилається до парі Паскаля, але, на відміну від парі, вона не вимагає нескінченних винагород.[1] Це дає змогу уникати багато зауважень щодо дилеми Паскаля про парі, які базуються на природі нескінченності.[2]
Постановка проблеми ред.
Термін «грабіж Паскаля» для позначення цієї проблеми був спершу введений Елізером Юдковським на форумі Less Wrong.[3] Пізніше філософ Нік Бостром розробив уявний експеримент у формі вигаданого діалогу.[2] Згодом інші автори опублікували власні продовження подій цього діалогу, у схожому літературному стилі.[4][5]
Примітки ред.
- ↑ Olle Häggström (2016). Here Be Dragons. 3.10: Cryonics. ISBN 978-0198723547.
- ↑ а б Bostrom, Nick (2009). Pascal's mugging (PDF). Analysis. 69 (3): 443—445. doi:10.1093/analys/anp062. JSTOR 40607655.
- ↑ Eliezer Yudkowsky, Pascal's Mugging: Tiny Probabilities of Vast Utilities. Less Wrong, 19 October 2007. http://lesswrong.com/lw/kd/pascals_mugging_tiny_probabilities_of_vast/
- ↑ Balfour, Dylan (2021). Pascal's Mugger Strikes Again. Utilitas. 33 (1): 118—124. doi:10.1017/s0953820820000357.
- ↑ Russell, Jeffrey Sanford (December 2022). Planning for Pascal's Mugging (PDF). PhilArchive.