예약은 만석,
손님은 없음

01

사용률은 시간의 비율입니다.

사용률은 얼마나 많은 연산 자원을 쓰고 있는지가 아니라, 최근 짧은 구간 동안 무언가 실행 중이었던 시간의 비율입니다. 그래서 아주 작은 계산 하나만 계속 돌아도 100% 로 보일 수 있고, 반대로 메모리를 가득 채운 채 아무 요청도 처리하지 않으면 0% 가 됩니다. 이 정의를 알기 전에는 두 숫자가 어긋나는 것이 고장처럼 보입니다.

02

메모리는 세 부분으로 나뉩니다.

화면의 막대는 모델 가중치, 지금 요청이 실제로 쓰는 부분, 그리고 미리 잡아 둔 여유 자리로 나뉩니다. 이 셋을 합친 값이 점유율로 표시되기 때문에, 요청이 하나도 없어도 앞의 둘 때문에 점유율이 높게 나옵니다. 막대를 색으로 나눠 두지 않았다면 무엇 때문에 가득 찬 것인지 알 수 없었을 것입니다.

03

가중치는 파라미터 수 곱하기 자료형 크기입니다.

모델을 올리는 순간 차지하는 메모리는 파라미터 개수에 자료형 하나당 바이트 수를 곱한 값입니다. 계산이 단순해서 화면에서도 그대로 곱합니다. 이 값은 요청이 있든 없든 변하지 않으므로, 모델을 올려 둔 것만으로 메모리의 상당 부분이 이미 사라진다는 점이 첫 화면에서 확인됩니다.

04

요청이 쓰는 메모리는 따로 계산합니다.

요청을 처리하는 동안 필요한 추가 메모리는 층 수와 처리할 길이, 동시에 처리하는 개수 등을 곱해 구합니다. 화면은 이 계산을 실제로 수행해서, 요청이 커지면 필요한 자리가 얼마나 늘어나는지를 값으로 보여줍니다. 이 부분이 남은 자리를 넘어서면 메모리 부족이 발생합니다.

05

미리 잡아 두는 이유가 있습니다.

요청이 들어올 때마다 메모리를 새로 확보하면 그 자체로 시간이 걸리고 조각이 나서 나중에 큰 덩어리를 못 잡게 됩니다. 그래서 실행 환경은 시작할 때 큰 덩어리를 미리 잡아 두고 그 안에서 나눠 씁니다. 예약을 끄고 켤 수 있게 만든 것은 이 선택이 점유율 표시에 어떤 영향을 주는지 직접 확인하라는 뜻입니다.

06

초과분을 감추지 않습니다.

필요한 메모리가 남은 자리를 넘어서면 화면은 값을 최대치로 잘라 보여주지 않고 초과한 양을 그대로 노출합니다. 막대를 꽉 찬 상태로만 표시하면 얼마나 부족한지 알 수 없기 때문입니다. 실제 환경에서도 얼마나 모자라는지가 설정을 얼마나 줄여야 하는지를 정해 줍니다.

07

수치는 흔한 값으로 골랐습니다.

화면의 용량과 모델 크기는 특정 장비나 특정 모델을 측정한 값이 아니라 자주 보이는 조합으로 정한 예시입니다. 계산식은 실제로 쓰이는 것과 같지만 넣은 숫자는 예시이므로, 화면의 결과를 특정 장비의 예상 동작으로 읽으면 안 됩니다.

08

모델을 내려야 메모리가 돌아옵니다.

요청이 끝나는 것과 모델이 내려가는 것은 다릅니다. 요청이 없어도 가중치는 그대로 올라가 있어서, 다른 작업을 위해 자리를 비우려면 모델 자체를 내려야 합니다. 장비를 공유해 쓸 때 아무도 요청을 보내지 않는데 메모리가 비지 않는 상황이 이렇게 생기고, 화면에서 내리기와 올리기를 직접 눌러 확인할 수 있습니다.

09

화면은 결정론으로 시작합니다.

첫 상태를 무작위로 두면 서버에서 만든 화면과 브라우저가 처음 그리는 화면이 어긋납니다. 그래서 시작 상태를 모델이 올라가 있고 예약이 켜진 조합으로 고정해 두었습니다. 제목이 말하는 현상을 첫 화면에서 바로 보여준다는 목적과도 맞아떨어지는 선택이었습니다.

10

단위는 십진 기가바이트를 씁니다.

1 기가바이트를 10 의 9 제곱 바이트로 계산합니다. 2 의 30 제곱으로 세는 방식과는 약 7% 차이가 나기 때문에, 어느 쪽으로 셌는지에 따라 같은 메모리가 다른 숫자로 보입니다. 도구마다 표기가 달라 값이 어긋나 보이는 일이 흔해서, 화면이 어느 기준을 쓰는지 밝혀 두었습니다.