가드레일이 비명을 지를 때: 고치기 전에 분류하라

가드레일은 당신이 잘 반응할 때에만 유용하고, 실패 양상은 예측 가능하다: 빌드가 빨개지고, 당신은 약간 당황하고, 에러를 "고쳐라"와 함께 AI에게 붙여넣는다. 때로는 그게 통한다. 종종 그것은 실제로 무엇이 잘못됐는지 다루지 않으면서 빨간 글씨만 사라지게 하는 수정을 만들어낸다 — AI가 테스트를 약화시키거나, 타입을 넓히거나, 실패하는 호출을 문제를 삼켜버리는 try/catch로 감싼다.

AI가 무엇이든 "고치게" 두기 전에, 10초를 분류에 써라. 가드레일 실패에는 사실상 세 종류뿐이다:

• 당신이 방금 들여온 진짜 버그. 점검이 제 일을 하고 있다. 점검이 아니라 코드를 고쳐라.
• 이제 낡아버린 테스트. 당신이 의도적으로 동작을 바꿨고, 옛 단언이 더는 맞지 않는다. 새로운 올바른 동작을 단언하도록 테스트를 갱신하라 — 반사적으로가 아니라 의도적으로.
• 불안정하거나 잘못된 점검. 정말로 드물다. 여기서는 자신을 의심하라; 이것은 사람들이 진짜 버그를 떠넘기는 통인데, 그게 그냥 넘어가게 해주는 유일한 통이기 때문이다.

AI를 정직하게 유지하는 지시는, 무엇이든 바꾸기 전에 진단부터 하게 만드는 것이다:

"never discounts below zero" 테스트가 실패하고 있다.
먼저, 왜 실패하는지 말하라 — 지금 코드가 무엇을 하는지 대
테스트가 무엇을 기대하는지. 그런 다음 어느 쪽이 옳은지 말하라:
코드인가 테스트인가. 내가 확인하기 전까지는 아무것도 바꾸지 말라.

그 한 번의 멈춤이, 당신을 보호하는 가드레일과 당신이 AI에게 조용히 무력화하도록 훈련시킨 가드레일의 차이다. 빨간 점검은 정보다; 당신이 할 수 있는 최악은 그것이 무엇을 말하고 있었는지 읽지 않고 초록으로 만들려고 대가를 치르는 것이다.