글공개
부리기
AI에 일을 시키는 쪽 이야기. 루프, 가드, 그리고 자동화하지 않기로 한 것들.
에이전트를 무인으로 굴리면 사고는 대개 요란하지 않다. 예외로 오지 않고 빈 성공으로 온다.
그래서 이 분류의 관심은 똑똑하게 만드는 쪽이 아니라 실패를 실패처럼 보이게 만드는 쪽이다. 그리고 그 반대편 — 안전하려고 매번 멈춰 세우면 사람의 하루를 쓰고 아무것도 안 산다.
쓴 글
| 글 | 무엇이 문제인가 |
|---|---|
| 에이전트는 실패할 때 조용하다 | 종료 코드 0으로 끝난 실패를 무엇이 잡아내나 |
| 무인 회귀는 성능이 아니라 복구 구조가 만든다 | 사람이 안 볼 때 루프가 어떻게 살아남나 |
아직 안 쓴 것
- 승인 게이트가 실제로 몇 번 발동했나 — 안 세고 있다
- 좌표로 대충 눌러 통과한 것과 정확히 눌러 통과한 것을 리포트에서 어떻게 가를 것인가
- 재시도 상한을 몇으로 잡을 것인가, 그리고 상한에 닿았을 때 무엇을 남길 것인가
- 한 저장소에서 배운 가드를 옆 저장소로 옮기는 일을 왜 매번 잊는가
이 분류의 규칙
자동화의 경계는 능력이 아니라 되돌릴 수 있느냐로 긋는다. 할 수 있는지를 기준으로 삼으면 경계가 계속 밀리고, 밀린 자리는 사고가 나기 전까지 아무도 안 본다.
그리고 애매하거나 실패하면 안 하는 쪽이 기본값이다. 목록에 없는 새 상황이 생겼을 때 어디로 갈지를 이 한 줄이 정한다.