평균 처리 시간이 길어지면 같은 요청률에서도 동시 작업이 늘어납니다. Little의 법칙을 용량 판단에 어떻게 쓰나요?

잠깐, 답변을 보기 전에
먼저 내 말로 설명해 볼까요?

답변과 점검 포인트 펼치기답변 접기

구두 답변

정의를 외우기보다, 원리와 조건을 연결해 설명해 보세요.

안정된 관측 조건에서 평균 시스템 내 작업 수는 평균 도착률과 평균 체류 시간의 곱으로 관계를 설명할 수 있습니다. 요청이 오래 머물수록 같은 처리율에서도 필요한 동시 자원이 늘어납니다.

동작 원리와 전제

초당 100건이 평균 0.2초 머물면 평균 약 20건이 시스템에 있을 수 있습니다. 이 수치는 평균 관계이며 p99·burst·유한 큐의 절대 상한을 직접 주지 않습니다. 측정하는 시스템 경계와 대기·실행 시간을 일치시켜야 합니다.

선택과 실패 처리

DB 지연이 두 배가 되면 연결과 대기 작업이 늘 수 있어 worker를 더 만드는 것보다 동시성 제한과 원본 병목 개선이 필요할 수 있습니다. 불안정하게 backlog가 계속 증가하는 상태를 정상 평균으로 단순 계산하지 않습니다.

구체적인 사례와 검증

시스템 경계를 DB 연결 보유 구간으로 잡으면 평균 연결 수는 그 구간의 처리율과 평균 보유 시간의 관계로 볼 수 있습니다. 전체 HTTP 지연을 곱하면 연결을 얻기 전 대기까지 포함해 다른 수치를 만들 수 있습니다. 어떤 경계를 측정하는지 일치시켜야 합니다. 평균 20개가 필요하다고 계산했다고 풀을 20으로 두면 모든 burst와 p99가 만족된다는 뜻은 아닙니다. 도착 변동·서비스 시간 분포·오류·큐 제한을 부하 시험으로 확인합니다. 지속 backlog 증가 중에는 안정 상태 가정이 맞지 않을 수 있어 먼저 수락률과 처리 능력의 균형을 봅니다.

도착·완료율·평균 체류·큐 수를 같은 창에서 비교하고 loss·timeout을 포함한 분모를 명시합니다. 평균으로 초기 용량을 추정하되 꼬리 지연·메모리 피크·실패 회복은 부하 시험으로 확인하겠습니다.

득점 포인트

이해가 드러나는 지점을 확인해 보세요.

핵심 구분: 안정된 관측 조건에서 평균 시스템 내 작업 수는 평균 도착률과 평균 체류 시간의 곱으로 관계를 설명할 수 있습니다.
선택 조건: DB 지연이 두 배가 되면 연결과 대기 작업이 늘 수 있어 worker를 더 만드는 것보다 동시성 제한과 원본 병목 개선이 필요할 수 있습니다.
검증 기준: 도착·완료율·평균 체류·큐 수를 같은 창에서 비교하고 loss·timeout을 포함한 분모를 명시합니다.

감점 포인트

놓치기 쉬운 조건과 오해를 짚어 보세요.

평균 동시성 계산값이 필요한 풀 크기와 p99의 절대 상한이라고 한다.

더 파고들 거리

하나 더 질문하며 이해의 범위를 넓혀 보세요.

처리량이 늘어도 느린 요청이 더 길어지면 어떤 분포와 용량 기준으로 판단하나요?
쿼리는 짧은데 연결 보유가 길다면 어떤 대기를 transaction 밖으로 옮겨야 하나요?
수락한 요청이 계속 쌓이면 실행 수와 대기 수를 어떤 별도 상한으로 제한하나요?

득점·감점 포인트는 학습용 자기 점검 기준이며, 특정 회사의 실제 채점표가 아닙니다.