전략 시뮬레이션 게임의 수많은 유닛이나 숲속의 무수한 나무들, 그리고 밤하늘의 별처럼 동일한 형태의 3D 모델이 화면에 수천 개 이상 동시에 표현되어야 하는 상황은 게임 개발에서 흔하게 발생합니다. 만약 이 수많은 객체들을 각각 개별적인 드로우 콜로 처리한다면 CPU는 순식간에 포화 상태에 빠지고 심각한 프레임 드랍을 마주하게 됩니다.

이러한 다중 객체 렌더링 병목을 극복하기 위해 등장한 혁신적인 최적화 기술이 바로 GPU 인스턴싱(GPU Instancing)입니다. 이 기술의 내부 동작 메커니즘과 구현 방식을 소스 코드와 함께 상세히 분석해 보겠습니다.

1. 개별 렌더링의 한계와 드로우 콜의 부하

전통적인 방식에서는 형태(Mesh)와 재질(Material)이 동일한 오브젝트라 할지라도 위치, 회전, 크기 등 고유의 변환 행렬(Transformation Matrix)이 다르면 CPU는 매번 각 오브젝트마다 별도의 드로우 콜 명령을 그래픽 카드에 전달해야 합니다.

• 개별 드로우 콜 방식: 오브젝트가 1,000개라면 CPU는 1,000번의 상태 변경(State Change)과 드로우 명령을 수행해야 하므로 CPU 병목이 발생.
• 인스턴싱 적용 방식: 동일한 메시 데이터는 단 한 번만 GPU 메모리에 올리고, 수많은 오브젝트의 위치 정보 배열만 한 번에 전달하여 단 한 번의 드로우 콜로 처리.

2. GPU 인스턴싱의 작동 원리 및 구현 구조

GPU 인스턴싱은 GPU의 병렬 처리 능력을 극대화하여 동일한 지오메트리를 서로 다른 변환 데이터와 함께 대량으로 그려내는 기술입니다. 유니티 등의 엔진에서는 재질 속성에서 인스턴싱 옵션을 활성화하고, 셰이터에서 인스턴스 데이터를 읽어오도록 설정하여 구현합니다.

HLSL 셰이더 기반의 인스턴싱 처리 코드 예시

High-level shader language

// GPU 인스턴싱을 지원하는 커스텀 HLSL 셰이더 구조 예시
Shader "Custom/GPUInstancingShader" {
    Properties {
        _MainTex("Base Texture", 2D) = "white" {}
    }
    SubShader {
        Pass {
            CGPROGRAM
            #pragma vertex vert
            #pragma fragment frag
            #pragma multi_compile_instancing // 인스턴싱 컴파일 지시어 추가
            #include "UnityCG.cginc"

            struct appdata {
                float4 vertex : POSITION;
                float2 uv : TEXCOORD0;
                UNITY_VERTEX_INPUT_INSTANCE_ID // 인스턴스 ID 매크로 정의
            };

            struct v2f {
                float4 pos : SV_POSITION;
                float2 uv : TEXCOORD0;
                UNITY_VERTEX_OUTPUT_INSTANCE_ID // 출력 간 인스턴스 ID 전달
            };

            v2f vert(appdata v) {
                v2f o;
                UNITY_SETUP_INSTANCE_ID(v);
                UNITY_TRANSFER_INSTANCE_ID(v, o);
                
                // GPU 인스턴스별 행렬을 적용하여 정점 위치 변환
                o.pos = UnityObjectToClipPos(v.vertex);
                o.uv = v.uv;
                return o;
            }

            fixed4 frag(v2f i) : SV_Target {
                UNITY_SETUP_INSTANCE_ID(i);
                return fixed4(1.0, 1.0, 1.0, 1.0);
            }
            ENDCG
        }
    }
}

• 장점: 수천 개의 동일 객체를 단 몇 번의 드로우 콜만으로 처리할 수 있어 CPU 오버헤드가 극적으로 감소함.
• 단점: 서로 다른 재질이나 완전히 다른 형태를 가진 오브젝트에는 적용할 수 없으며, 각 객체의 고유 변환 데이터를 GPU 버퍼에 업로드하는 추가적인 대역폭 소모가 발생할 수 있음.

3. 배치(Batching) 기술과의 비교

대량 오브젝트를 최적화하는 기술로는 인스턴싱 외에도 정적 배치(Static Batching)와 동적 배치(Dynamic Batching)가 존재합니다.

정적 배치는 움직이지 않는 오브젝트들을 미리 하나로 합쳐 거대한 지오메트리를 만드는 방식이지만 메모리를 많이 소모합니다. 반면, GPU 인스턴싱은 메모리 소모를 최소화하면서도 런타임에 각각의 위치가 다른 수많은 오브젝트를 효율적으로 처리할 수 있어 군중 씬이나 숲 표현에 훨씬 유리합니다.

요약 및 결론

GPU 인스턴싱은 동일한 에셋이 대량으로 반복 등장하는 현대 게임 환경에서 CPU의 드로우 콜 병목을 해결하는 필수적인 최적화 무기입니다.

셰이더 레벨에서의 인스턴싱 지원 구조를 이해하고 올바르게 적용한다면, 수많은 오브젝트가 화면을 가득 채우는 복잡한 시나리오에서도 프레임 저하를 방어하고 최상의 그래픽 성능을 안정적으로 유지할 수 있습니다.