프레임 예산

이 도구의 비용 구조는 단순하다. 대본은 10분짜리라도 몇천 토큰이면 끝난다. 프레임이 전부다 — 512px 폭으로 80장이면 5~8만 토큰이고, 해상도를 1024로 올리면 장당 비용이 대략 네 배가 된다.

그래서 상한을 걸었다. 총 100장, 초당 2장. 그 안에서 길이에 따라 예산을 배분한다.

여기서 문제가 보인다. 예산은 30장에서 100장으로 세 배 남짓 느는데, 길이는 60배가 는다. 그래서 30분짜리를 통째로 넘기면 18초에 한 장을 보는 셈이 된다. 그 사이에 일어난 건 전부 대본으로만 아는 것이다.

대본이 있어도 프레임이 필요하다

“대본만 있으면 되지 않나”는 처음에 나도 했던 생각이다. 대본은 싸고 프레임은 비싸니까.

안 된다. 말로 안 하고 지나가는 게 너무 많다. 화면 배치, 어떤 버튼이 어디 있는지, 그래프가 어느 방향으로 꺾이는지, 데모에서 실제로 뭐가 움직이는지 — 발표자는 “여기 보시면”이라고만 하고 넘어간다. 대본에는 “여기”라고만 남는다.

그리고 만들려고 보는 사람이 필요한 건 대개 그 “여기” 쪽이다. 그래서 비싼 걸 알면서도 프레임을 산다.

그래서 긴 영상은 잘라서 본다

긴 영상을 성기게 훑는 것보다 필요한 구간을 촘촘히 보는 게 거의 항상 낫다. 구간을 지정하면 그 안에서 예산을 다 쓴다 — 2:15부터 2:45까지 초당 3장이면 90장이 그 30초에 들어간다.

같은 90장인데 커버리지가 60배 차이 난다. 30분 전체에 뿌리면 20초에 한 장이고, 30초 구간에 몰면 초당 3장이다.

그래서 긴 영상을 받으면 먼저 어디를 볼지 묻는다. 구간을 안 정하고 태우는 토큰이 제일 아깝다. 그리고 10분이 넘어가면 경고를 찍는데, 그 경고를 그냥 넘기지 말고 답변에 같이 적게 해 뒀다 — 성기게 봤다는 사실 자체가 결과의 일부이기 때문이다.

같은 영상을 두 번 안 본다

같은 세션에서 후속 질문이 오면 다시 돌리지 않는다. 프레임과 대본이 이미 맥락에 있는데 또 뽑는 건 같은 비용을 두 번 내는 것이다.

이게 규칙으로 적혀 있어야 하는 이유가 있다. 도구를 부르는 쪽 입장에서는 “새 질문 = 새 실행”이 자연스럽게 느껴져서, 안 적어 두면 두 번째 질문에서 8만 토큰이 또 나간다.

해상도는 올리지 않는다

기본이 512px 폭이다. 1024로 올리면 장당 토큰이 대략 네 배가 되므로, 80장이 20~30만 토큰이 된다.

올릴 만한 경우는 하나뿐이다 — 화면의 작은 글자를 읽어야 할 때. 그때도 전체가 아니라 그 구간만 올린다. 전 구간 고해상도는 예산 설계 전체를 무의미하게 만든다.