你是否曾经想过，当一个系统被设计成只做一件事——而且只有一件事——然后自己关闭，会发生什么？

这个前提让人感到非常不安。一个仅仅存在于关闭自己操作的机器，提出了关于自主性、控制权和意图的令人不舒服的问题。

在区块链和智能合约的背景下，这个思想实验变得更加相关。我们正在构建具有自动触发和自执行协议的系统。当代码在没有人工干预的情况下执行，当合约可以自行冻结或自动清算仓位时，真正掌握权力的是谁？如果唯一重要的功能是退出，会发生什么？

这不仅仅是偏执——这是一个合理的设计考虑。去中心化的优雅伴随着一个代价：失去直接控制。一些加密货币中最关键的时刻发生在系统完全按照预定程序运行时，无论市场混乱还是人为遗憾。

也许这才是真正的恐惧。不在于机器能做多复杂，而在于它会绝对确定地做什么。