诚实的限度
智能体是本书中最强大的杠杆形式,正因如此,对它是什么、不是什么保持清醒的眼光才有价值。
它不是一种你可以停止理解的自主性。当你再也答不出「这段代码应该做什么,要是它错了我又怎么会知道」的那一刻,你就从使用杠杆越界到了指望运气。本章的每一层——划定范围、护栏、测试、抽查、成本上限——都是为了在让智能体承担远多得多的打字工作的同时,把你留在那条线上理解的一侧而存在。
技能的天花板与本书其余部分相同:你精确说出你想要什么以及认出你已得到它的能力。智能体把这个能力乘大。它不取代它。被烫伤的不是那些用了智能体的人——而是那些用智能体来停止思考的人。别做那种人。把工作交出去;把判断握在手里。