2-1. Mark 단계 분석 | UE5 GC Deep Dive

SECTION 01

Root Set 구성

GC 참조 그래프의 시작점인 Root Set의 구성 요소

Root Set이란?

Root Set은 GC에 의해 절대 수집되지 않는 최상위 객체 집합입니다. Mark 단계에서 GC는 Root Set에서 시작하여 참조를 따라가며 도달 가능한(Reachable) 객체를 마킹합니다.

                    Root Set 구성 요소
                    // Root Set에 포함되는 객체들

1. AddToRoot() 호출된 객체
   └── EInternalObjectFlags::RootSet 플래그 설정

2. Class Default Objects (CDO)
   └── RF_ClassDefaultObject 플래그

3. 로드된 패키지의 Standalone 객체
   └── RF_Standalone 플래그

4. FGCObject 파생 인스턴스
   └── AddReferencedObjects()를 통한 참조 등록

5. 글로벌 UObject 참조
   └── GEngine, GWorld 등 엔진 싱글턴

6. UObject::AddReferencedObjects 오버라이드
   └── 커스텀 참조 등록
                

                    C++
                    // AddToRoot / RemoveFromRoot 사용
UMyObject* ImportantObj = NewObject<UMyObject>();
ImportantObj->AddToRoot();     // Root Set에 추가, GC 보호

// 더 이상 필요 없을 때
ImportantObj->RemoveFromRoot(); // Root Set에서 제거, GC 대상

// Root Set 여부 확인
bool bIsRoot = ImportantObj->IsRooted();
                

AddToRoot() 남용 주의

AddToRoot()는 해당 객체를 영구적으로 GC에서 보호합니다. RemoveFromRoot()를 호출하지 않으면 메모리 누수가 발생합니다. 대부분의 경우 UPROPERTY 참조만으로 충분하며, AddToRoot는 글로벌 매니저 같은 특수한 경우에만 사용해야 합니다.

SECTION 02

Reachability 분석

객체의 도달 가능성을 판정하는 알고리즘

Mark-and-Sweep 알고리즘

UE5의 GC는 Mark-and-Sweep 알고리즘을 사용합니다. Mark 단계에서는 Root Set에서 시작하여 참조 그래프를 BFS(너비 우선 탐색)로 순회하며 도달 가능한 객체를 마킹합니다.

                    알고리즘 (의사 코드)
                    PerformReachabilityAnalysis()
{
    // 1단계: 모든 객체를 Unreachable로 초기화
    for (each FUObjectItem in GUObjectArray)
    {
        if (!IsInDisregardForGCPool(Item))
            Item.SetFlags(EInternalObjectFlags::Unreachable);
    }

    // 2단계: Root Set 객체들을 작업 큐에 추가
    TArray<UObject*> ObjectsToProcess;
    for (each RootObject)
    {
        RootObject.ClearFlags(Unreachable);  // Reachable!
        ObjectsToProcess.Add(RootObject);
    }

    // 3단계: BFS로 참조 그래프 순회
    while (ObjectsToProcess.Num() > 0)
    {
        UObject* Current = ObjectsToProcess.Pop();

        // 토큰 스트림을 사용하여 참조 수집
        for (each UObject* Ref in Current.References)
        {
            if (Ref.HasFlag(Unreachable))
            {
                Ref.ClearFlags(Unreachable);  // Reachable!
                ObjectsToProcess.Add(Ref);
            }
        }
    }

    // 결과: Unreachable 플래그가 남은 객체 = 가비지
}
                

UE5의 Reachability 개선

UE5에서는 TObjectPtr를 통한 참조 변경이 실시간으로 추적됩니다. Incremental GC 모드에서 GC 사이클 중간에 새로운 참조가 생기면, TObjectPtr의 쓰기 배리어가 해당 객체를 즉시 Reachable로 마킹하여 잘못된 수집을 방지합니다.

SECTION 03

TFastReferenceCollector

고성능 참조 수집기의 내부 동작

TFastReferenceCollector의 역할

TFastReferenceCollector는 UE5 GC의 핵심 참조 수집기입니다. 컴파일 타임에 생성된 참조 토큰 스트림을 사용하여 객체 내부의 UObject 참조를 극도로 빠르게 수집합니다.

                    엔진 소스 (간략화)
                    template<typename ReferenceProcessorType>
class TFastReferenceCollector
{
    // 참조 토큰 스트림 기반 빠른 순회
    void ProcessObjectArray(
        FGCArrayStruct& ArrayStruct,
        TArray<UObject*>& ObjectsToSerialize)
    {
        for (UObject* Obj : ObjectsToSerialize)
        {
            // 토큰 스트림에서 참조 오프셋을 직접 읽음
            FGCReferenceTokenStream& TokenStream =
                Obj->GetClass()->GetReferenceTokenStream();

            for (auto& Token : TokenStream)
            {
                switch (Token.Type)
                {
                case GCRT_Object:
                    HandleTokenStreamObjectReference(
                        *(UObject**)((uint8*)Obj + Token.Offset));
                    break;

                case GCRT_ArrayObject:
                    HandleArrayReference(
                        *(TArray<UObject*>*)((uint8*)Obj + Token.Offset));
                    break;

                case GCRT_AddReferencedObjects:
                    Obj->GetClass()->CallAddReferencedObjects(Obj, Collector);
                    break;
                }
            }
        }
    }
};
                

토큰 스트림 vs Serialize 방식 비교

항목	토큰 스트림 (현재)	Serialize (레거시)
속도	매우 빠름	느림 (가상 함수 호출)
메모리	토큰 스트림 저장	추가 메모리 없음
동작 방식	오프셋 기반 직접 접근	Serialize() 가상 함수 호출
병렬화	용이	어려움

SECTION 04

Mark 단계의 전체 흐름

CollectGarbage() 호출부터 Mark 완료까지의 전체 파이프라인

GC 트리거에서 Mark 완료까지

                    전체 흐름
                    CollectGarbage(GARBAGE_COLLECTION_KEEPFLAGS)
│
├── AcquireGCLock()
│   └── 다른 스레드의 UObject 생성/파괴 차단
│
├── PerformReachabilityAnalysis()
│   ├── Phase 1: 초기화
│   │   ├── 모든 객체 Unreachable 마킹
│   │   └── DisregardForGC 영역 건너뛰기
│   │
│   ├── Phase 2: Root Set 수집
│   │   ├── RootSet 플래그 객체 수집
│   │   ├── FGCObject 인스턴스 수집
│   │   └── AddReferencedObjects 콜백 실행
│   │
│   ├── Phase 3: 참조 그래프 순회
│   │   ├── TFastReferenceCollector 사용
│   │   ├── 토큰 스트림 기반 참조 수집
│   │   └── Reachable 객체 마킹
│   │
│   └── Phase 4: (선택) Incremental 중단점
│       └── gc.TimeLimitSeconds 초과 시 다음 프레임으로
│
└── → Sweep 단계로 진행 (다음 강의)
                

GC Lock의 중요성

Mark 단계에서는 FGCCSyncObject를 통해 GC Lock을 획득합니다. 이 Lock이 활성화된 동안에는 다른 스레드에서 UObject를 생성하거나 파괴할 수 없습니다. IsGarbageCollecting()으로 현재 GC가 진행 중인지 확인할 수 있습니다.

SUMMARY

핵심 요약

이 강의에서 배운 내용

Root Set은 AddToRoot, CDO, RF_Standalone, FGCObject 등으로 구성되며 GC의 시작점입니다
Mark 단계는 모든 객체를 Unreachable로 초기화한 후, Root Set에서 BFS로 Reachable 객체를 마킹합니다
TFastReferenceCollector는 토큰 스트림 기반으로 참조를 수집하며, 가상 함수 호출 없이 빠르게 동작합니다
UE5의 TObjectPtr는 쓰기 배리어를 통해 Incremental GC 중 새 참조를 실시간 추적합니다
GC Lock은 Mark 단계 동안 다른 스레드의 UObject 조작을 차단하여 일관성을 보장합니다

PRACTICE

도전 과제

배운 내용을 직접 실습해보세요

실습 1: Root Set 구성 요소 확인

콘솔 명령어 obj list -gc를 실행하여 현재 Root Set에 포함된 객체 목록을 확인하세요. AddToRoot()로 커스텀 UObject를 Root Set에 추가한 후 목록 변화를 관찰하고, RemoveFromRoot()로 해제 후 GC 수집 여부를 테스트하세요.

실습 2: Reachability 분석 시각화

5개의 UObject를 체인 형태로 참조시키고(A->B->C->D->E), 중간 링크(C의 참조)를 nullptr로 설정한 후 ForceGarbageCollection()을 호출하세요. 어떤 객체가 수집되는지 BeginDestroy 오버라이드 로그로 확인하세요.

심화 과제: TFastReferenceCollector 동작 프로파일링

대량의 UObject(10,000개 이상)를 다양한 참조 패턴(선형, 트리, 그래프)으로 생성하고, stat gc 명령어로 Mark 단계 소요 시간을 측정하세요. 참조 구조에 따른 Mark 시간 차이를 분석 보고서로 작성하세요.