JVM 메모리 구조와 가비지 컬렉션

JVM 메모리 구조는 어떻게 생겼고, 가비지 컬렉션은 왜 필요하며 어떻게 동작하는지 핵심 개념을 알아봅니다.

왜 JVM 메모리 구조를 알아야 할까요?

자바(Java) 개발을 하다 보면 가끔씩 OutOfMemoryError 같은 예상치 못한 에러를 마주칠 때가 있어요. 이런 에러는 대부분 JVM(Java Virtual Machine) 메모리 관리와 관련이 깊거든요. JVM 메모리 구조와 가비지 컬렉션(Garbage Collection, GC)에 대한 이해는 성능 문제 해결은 물론이고, 더 나아가 안정적인 애플리케이션을 만드는 데 필수적입니다.

① OutOfMemoryError, 너 대체 왜...

OutOfMemoryError는 JVM이 더 이상 객체를 할당할 수 없을 때 발생하는데요. 이 에러가 발생하는 원인은 크게 두 가지로 볼 수 있습니다.

1. 메모리 누수: 더 이상 사용하지 않는 객체가 메모리에서 해제되지 않고 계속 쌓이는 경우
2. 과도한 메모리 사용: 애플리케이션이 필요 이상으로 많은 메모리를 사용하는 경우

이런 문제를 해결하려면 JVM 메모리 구조를 이해하고, GC가 어떻게 동작하는지 알아야 근본적인 원인을 파악하고 해결할 수 있습니다. 마치 의사가 환자의 병을 진단하기 위해 인체 구조와 작동 원리를 알아야 하는 것과 같죠.

---

JVM 메모리 구조, 어떻게 생겼을까?

JVM은 운영체제로부터 할당받은 메모리 공간을 여러 영역으로 나누어 사용하는데요. 각 영역은 서로 다른 역할을 수행하며, 효율적인 메모리 관리를 돕습니다. 크게 다음과 같은 영역으로 나눌 수 있어요.

영역	설명	관련 에러
힙(Heap)	객체 인스턴스가 생성되는 공간. GC의 주요 대상.	OutOfMemoryError: Java heap space
메서드 영역(Method Area)	클래스, 인터페이스, 메서드 등의 바이트 코드 저장.	OutOfMemoryError: Metaspace
스택(Stack)	스레드마다 하나씩 존재하며, 지역 변수, 메서드 호출 정보 등을 저장.	StackOverflowError
네이티브 메서드 스택(Native Method Stack)	JNI(Java Native Interface)를 통해 호출되는 C/C++ 코드의 스택.
PC 레지스터(PC Register)	현재 실행 중인 JVM 명령어의 주소를 저장.

① 힙(Heap) 영역

힙 영역은 new 연산자로 생성된 객체와 배열이 저장되는 곳입니다. 모든 스레드가 공유하는 공간이며, GC가 주로 관리하는 영역이기도 해요. 힙 영역은 Young Generation과 Old Generation으로 나뉘는데, Young Generation은 다시 Eden, Survivor1, Survivor2 영역으로 세분화됩니다. 이렇게 세분화된 이유는 객체의 생존 기간에 따라 효율적인 GC를 수행하기 위해서입니다.

② 메서드 영역(Method Area)

메서드 영역은 클래스 정보, 상수 풀(constant pool), static 변수 등이 저장되는 곳입니다. 힙 영역과 마찬가지로 모든 스레드가 공유하는 공간이에요. JDK 8부터는 PermGen 영역이 사라지고 Metaspace 영역이 도입되었는데, Metaspace는 힙 영역이 아닌 네이티브 메모리를 사용하기 때문에 더 이상 OutOfMemoryError: PermGen space 에러가 발생하지 않게 되었죠.

③ 스택(Stack) 영역

스택 영역은 각 스레드마다 하나씩 할당되는 공간입니다. 메서드를 호출할 때마다 스택 프레임(stack frame)이 생성되어 지역 변수, 매개변수, 리턴 주소 등이 저장됩니다. 스택 영역은 스레드가 종료되면 자동으로 해제되기 때문에 GC의 대상이 되지 않아요. 만약 스택 오버플로우(StackOverflowError)가 발생하면, 재귀 호출이 너무 깊어지거나 스택 크기가 부족한 경우일 가능성이 높습니다.

---

가비지 컬렉션(GC), 너는 누구냐?

GC는 더 이상 사용하지 않는 메모리를 자동으로 회수하는 기능입니다. 자바는 C/C++과 달리 개발자가 직접 메모리를 해제할 필요가 없는데요. GC 덕분에 메모리 누수 걱정 없이 개발에 집중할 수 있게 되었죠. 하지만 GC가 만능은 아니에요. GC가 언제, 어떻게 동작하는지 모르면 오히려 성능 문제를 야기할 수도 있습니다.

① GC는 왜 필요할까?

GC가 없다면 개발자가 직접 메모리를 관리해야 하는데요. 이는 매우 번거롭고 오류가 발생하기 쉬운 작업입니다. 게다가 메모리 누수가 발생하면 애플리케이션이 점점 느려지다가 결국 멈춰버릴 수도 있죠. GC는 이런 문제를 해결해 주고, 개발자가 비즈니스 로직에 집중할 수 있도록 도와줍니다.

② GC는 어떻게 동작할까?

GC는 크게 두 가지 단계를 거쳐 동작합니다.

1. Mark: GC는 먼저 더 이상 사용하지 않는 객체를 찾아냅니다. 이를 "Mark" 단계라고 합니다. Root 객체(예: 스택에 있는 지역 변수)부터 시작해서 참조를 따라가면서 사용 중인 객체를 표시합니다.
2. Sweep: Mark 단계에서 사용하지 않는다고 판단된 객체들을 메모리에서 제거합니다. 이를 "Sweep" 단계라고 합니다. Sweep 방식에 따라 메모리 단편화가 발생할 수도 있는데, 이를 해결하기 위해 Compaction 단계를 추가하기도 합니다.

③ 다양한 GC 알고리즘

자바에는 다양한 GC 알고리즘이 존재하는데요. 각 알고리즘은 서로 다른 특징과 장단점을 가지고 있습니다.

• Serial GC: 싱글 스레드로 GC를 수행하는 가장 기본적인 알고리즘입니다.
• Parallel GC: 멀티 스레드로 GC를 수행하여 Serial GC보다 빠릅니다.
• CMS GC: Concurrent Mark Sweep GC의 약자로, 애플리케이션 실행 중에도 GC를 수행하여 Stop-the-World 시간을 최소화합니다.
• G1 GC: Garbage First GC의 약자로, 힙 영역을 여러 개의 Region으로 나누어 GC를 수행합니다.

어떤 GC 알고리즘을 선택할지는 애플리케이션의 특성과 요구사항에 따라 달라집니다. 예를 들어, 낮은 Stop-the-World 시간이 중요하다면 CMS GC나 G1 GC를 선택하는 것이 좋겠죠.

---

마무리

JVM 메모리 구조와 가비지 컬렉션은 자바 개발자라면 반드시 알아야 할 핵심 개념입니다. 이들을 제대로 이해하면 OutOfMemoryError 같은 문제를 해결하고, 더 나아가 성능 최적화까지 할 수 있게 됩니다. 앞으로 자바 개발을 하면서 겪게 될 어려움들을 슬기롭게 헤쳐나갈 수 있도록 꾸준히 학습하고 경험을 쌓아나가시길 바랍니다.

출처: JDK8 적용 후, 심각한 성능저하가 발생한다면? - 브런치 출처: 네이버의 자바(JAVA) 개발 노하우 공개한다 - 디지털투데이