자동화 안일, 보안 편

가장 위험한 순간은 첫째 날이 아니다 — 아흔째 날이다. 첫째 날에는 신중하다; 모든 diff를 읽고, 공격자 프롬프트를 돌리고, 업로드 핸들러를 점검한다. 그러다 백 개의 변경이 출시되고 나쁜 일이 아무것도 일어나지 않으면, 점검이 의례처럼 느껴지기 시작한다. 작은 변경에 "이번 한 번만" 리뷰 게이트를 건너뛴다. 그 작은 변경이 인가 점검 없는 엔드포인트를 추가한다. 한동안은 아무 일도 일어나지 않는데, 아무 일도 일어나지 않는 것이야말로 보안 구멍이 안에서 보이는 모습 그 자체이기 때문이다.

이것이 보안을 겨눈 자동화 안일이고, 다른 어디보다 여기서 더 나쁜데, 보안 실패는 조용하고 지연되기 때문이다. 망가진 기능은 몇 분 안에 당신을 벌한다. 망가진 권한 점검은 침해가 일어나기 직전까지 겉보기 성공으로 당신을 보상한다. 재앙의 부재는 안전의 증거가 아니다 — 그저 아직 발견되지 않았을 뿐인 취약한 앱의 정상 상태다.

방어책은 게이트를 충분히 값싸게 만들어 건너뛰지 않게 하고, 충분히 자동으로 만들어 건너뛸 수 없게 하는 것이다. secret scan과 audit을 CI에 넣어 당신의 기억 없이도 돌게 하고, auth, 데이터, 업로드를 건드리는 무엇에든 공격자 프롬프트를 가까이 두라. 한 줄을 지켜라: 사용자 데이터나 권한을 다루는 변경은 누군가가 — 당신이, AI의 정직한 도움을 받아 — 그것을 적극적으로 깨뜨려보기 전까지는 출시되지 않는다. 바이브 코딩에서의 속도는 좋은 게이트에서 나오지, 조용함이 모든 게 괜찮다는 뜻이라고 믿는 데서 나오지 않는다.