H.264 vs H.265 vs AV1 — 하드웨어 인코딩 완벽 해설
H.264, H.265, AV1 코덱의 차이점을 이해하세요. 하드웨어 인코딩의 작동 원리와 2026년 화면 녹화에 적합한 코덱 선택 방법을 안내합니다.
영상 인코딩이란?
화면을 녹화하면 각 프레임이 원시 이미지로 캡처됩니다. 1080p 해상도에서 32비트 컬러 기준으로 한 프레임은 약 8MB입니다. 30fps로 녹화하면 초당 240MB, 1분이면 14GB에 달하는 원시 영상 데이터가 생성됩니다.
이 방대한 데이터를 그대로 저장할 수는 없습니다. 인코딩(압축이라고도 함)은 이 거대한 데이터를 관리 가능한 크기로 줄여줍니다. 코덱과 품질 설정에 따라 다르지만, 1분 분량의 1080p 녹화는 보통 50~200MB 정도로 압축됩니다.
인코딩은 영상 데이터에서 중복된 정보를 찾아 제거하는 방식으로 작동합니다. 프레임 간에 배경이 변하지 않으면 다시 저장할 필요가 없고, 인접한 두 픽셀이 같은 색이라면 한 번만 표현하면 됩니다. 코덱은 정교한 알고리즘을 사용하여 이러한 패턴을 찾아 활용합니다.
소프트웨어 인코딩 vs 하드웨어 인코딩
소프트웨어 인코딩 (CPU)
소프트웨어 인코딩은 CPU를 사용하여 영상을 압축합니다. CPU가 코덱 알고리즘을 명령어 단위로 실행하기 때문에 우수한 화질을 얻을 수 있지만, 녹화 중 상당한 CPU 자원을 소모합니다.
CPU가 영상 인코딩에 바쁘면 다른 모든 작업이 느려집니다. 게임에서 프레임 드롭이 발생하고, 애플리케이션이 버벅거리며, 시스템 전체가 둔해진 느낌을 받게 됩니다. 이런 이유로 소프트웨어 인코딩은 화면 녹화에 일반적으로 권장되지 않습니다.
하드웨어 인코딩 (GPU)
최신 GPU에는 영상 인코딩 전용으로 설계된 하드웨어 블록이 내장되어 있습니다.
- NVIDIA NVENC — GeForce GTX 600 시리즈 이상에서 사용 가능
- Intel Quick Sync (QSV) — 내장 그래픽을 탑재한 대부분의 Intel CPU에서 사용 가능
- AMD AMF/VCE — AMD GPU 및 APU에서 사용 가능
이 하드웨어 인코더는 GPU의 렌더링 코어와 독립적으로 작동합니다. CPU 성능에 거의 영향을 주지 않으면서 영상을 인코딩할 수 있으며, GPU에 대한 영향도 미미합니다. 이 덕분에 컴퓨터를 느리게 하지 않으면서 고품질 화면 녹화가 가능합니다.
하드웨어 인코딩과 소프트웨어 인코딩 사이의 화질 차이는 크게 좁혀졌습니다. NVENC(Turing/Ampere/Ada)과 같은 최신 하드웨어 인코더는 동일한 비트레이트에서 소프트웨어 x264에 매우 근접한 화질을 제공합니다. 화면 녹화 용도로는 하드웨어 인코딩이 화질과 성능을 적절히 균형 잡는 실용적인 선택입니다.
세 가지 코덱: H.264, H.265, AV1
H.264 (AVC) — 범용 표준
H.264는 2003년부터 영상 코덱의 주류로 자리잡고 있습니다. 모든 브라우저, 모든 미디어 플레이어, 모든 기기에서 지원됩니다. 최대한의 호환성이 필요하다면 H.264가 가장 안전한 선택입니다.
장점:
- 모든 환경에서 재생 가능
- 빠른 인코딩 및 디코딩 속도
- 오랜 기간 검증되고 최적화된 코덱
- 모든 하드웨어 인코더에서 지원
단점:
- 신형 코덱에 비해 파일 크기가 큼
- 압축 효율이 상대적으로 낮음
적합한 용도: 다양한 곳에 공유할 녹화, 어떤 플랫폼에든 업로드할 영상, 오래된 기기에서도 재생해야 하는 경우.
대략적인 파일 크기: 10분 1080p 30fps 화면 녹화 기준 약 150~300MB.
H.265 (HEVC) — 효율적인 후속 코덱
H.265는 H.264의 후속 코덱으로, 동일한 화질에서 30~50% 더 높은 압축률을 제공합니다. H.264로 200MB인 녹화가 H.265로는 100~140MB 정도가 됩니다.
장점:
- H.264보다 현저히 작은 파일 크기
- 낮은 비트레이트에서도 우수한 화질
- 최신 GPU의 하드웨어 인코딩 지원
- 장시간 녹화 보관 시 저장 공간 절약
단점:
- H.264만큼 범용적이지 않음 (일부 구형 기기와 브라우저에서 미지원)
- H.264보다 인코딩 속도가 약간 느림
- 특허/라이선스 관련 복잡성이 있음 (다만 최종 사용자에게는 영향 없음)
적합한 용도: 장시간 녹화의 파일 크기를 관리하고 싶을 때, 녹화본을 보관할 때.
대략적인 파일 크기: 10분 1080p 30fps 화면 녹화 기준 약 80~180MB.
AV1 — 미래의 표준
AV1은 가장 최신 코덱으로, Google, Apple, Microsoft, Netflix 등이 참여하는 Alliance for Open Media에서 개발했습니다. H.265 대비 30~50% 더 높은 압축률을 제공합니다. 즉, H.264와 동등한 화질에서 대략 절반 정도의 파일 크기를 달성합니다.
장점:
- 세 코덱 중 가장 작은 파일 크기
- 로열티 프리 (라이선스 비용 없음)
- 주요 테크 기업들의 지원
- 브라우저와 플랫폼에서의 지원이 점차 확대되는 중
단점:
- 하드웨어 인코딩은 최신 GPU에서만 가능 (NVIDIA RTX 40 시리즈, Intel Arc, AMD RX 7000 시리즈)
- H.264/H.265보다 인코딩 속도가 느림
- 재생 측의 범용 지원이 아직 완전하지 않음
적합한 용도: 최신 GPU를 보유하고 있으면서 가능한 한 작은 파일 크기를 원하고, 폭넓은 호환성이 필수적이지 않은 경우.
대략적인 파일 크기: 10분 1080p 30fps 화면 녹화 기준 약 50~120MB.
종합 비교
| 항목 | H.264 | H.265 | AV1 |
|---|---|---|---|
| 발표 연도 | 2003 | 2013 | 2018 |
| 압축 효율 | 기준 | H.264 대비 +30~50% | H.265 대비 +30~50% |
| 파일 크기 (상대) | 1x | 0.5~0.7x | 0.3~0.5x |
| 인코딩 속도 | 가장 빠름 | 중간 | 가장 느림 |
| 호환성 | 범용 | 광범위 | 확대 중 |
| NVIDIA 지원 | GTX 600 이상 | GTX 950 이상 | RTX 4000 이상 |
| Intel 지원 | 전체 QSV | Skylake 이상 | Arc GPU |
| AMD 지원 | 전체 VCE | Polaris 이상 | RX 7000 이상 |
| 로열티 상태 | 라이선스 | 라이선스 | 로열티 프리 |
품질 설정: CRF와 비트레이트
영상 인코딩 시 품질은 크게 두 가지 방식으로 제어합니다.
고정 품질 계수 (CRF, Constant Rate Factor)
CRF는 목표 화질을 유지하기 위해 필요한 비트레이트를 인코더가 자동으로 결정하게 하는 방식입니다. CRF 값이 낮을수록 화질이 높아지며, 파일 크기도 커집니다.
| CRF | 화질 | 용도 |
|---|---|---|
| 18 | 시각적 무손실 | 보관용, 원본 소스 |
| 23 | 고품질 | 일반 용도 (기본값) |
| 28 | 양호한 품질 | 파일 크기 절약, 웹 공유 |
| 35+ | 눈에 띄는 압축 | 최소 파일 크기 |
CRF는 콘텐츠의 복잡도에 따라 비트레이트를 조절하기 때문에 화면 녹화에 권장됩니다. 정적인 바탕 화면은 낮은 비트레이트(작은 파일)로, 움직임이 많은 콘텐츠는 높은 비트레이트(화질 유지)로 처리합니다.
고정 비트레이트 (CBR, Constant Bitrate)
CBR은 콘텐츠와 관계없이 고정된 비트레이트를 강제합니다. 대역폭이 제한되는 스트리밍에 주로 사용됩니다. 디스크에 녹화하는 용도로는 대부분의 경우 CRF가 더 나은 선택입니다.
어떤 코덱을 선택해야 할까?
일상적인 화면 녹화: H.264 + CRF 23을 사용하세요. 최대한의 호환성, 좋은 화질, 적당한 파일 크기를 제공합니다. 가장 무난한 기본 선택입니다.
장시간 녹화: H.265 + CRF 23을 사용하세요. 파일이 30~50% 더 작아져서, 몇 시간에 걸친 녹화에서 상당한 저장 공간을 절약할 수 있습니다.
최신 GPU를 가진 환경: GPU가 하드웨어 인코딩을 지원한다면 AV1을 사용하세요. 가장 작은 파일 크기에 우수한 화질을 제공합니다. 사전에 GPU가 AV1 하드웨어 인코딩을 지원하는지 확인하세요. 최신 하드웨어가 필요합니다.
잘 모르겠다면: H.264로 시작하세요. 필요하다면 나중에 DalConvert 같은 도구를 사용하여 더 효율적인 코덱으로 변환할 수 있습니다. 다시 녹화할 필요는 없습니다.
DalVideo의 인코딩 처리 방식
DalVideo는 세 가지 코덱 모두를 지원하며, 하드웨어 인코더를 자동으로 감지합니다. 코덱을 선택하면 DalVideo가 GPU의 해당 코덱 하드웨어 인코딩 지원 여부를 확인하고, 가능하면 자동으로 사용합니다. 하드웨어 인코딩이 불가능한 경우에는 소프트웨어 인코딩으로 자동 전환됩니다.
기본 설정(H.264, CRF 23, 하드웨어 인코딩)은 대부분의 사용자에게 적합합니다. 기술적인 세부 사항을 이해하지 않아도 설정에서 코덱과 품질을 변경할 수 있으며, DalVideo가 하드웨어에 맞는 최적의 인코더와 매개변수를 자동으로 선택합니다.
직접 체험해 보시려면 DalVideo를 무료로 다운로드하세요. 무료 버전에서 모든 코덱을 화질이나 형식 제한 없이 사용할 수 있습니다.
결론
- H.264 — 호환성을 위한 선택. 모든 곳에서 작동하는 확립된 표준
- H.265 — 효율성을 위한 선택. 동일한 화질에 훨씬 작은 파일 크기
- AV1 — 미래를 위한 선택. 최고의 압축률, 최신 하드웨어 필요
세 코덱 모두 하드웨어 인코딩을 사용하면 화면 녹화에서 우수한 화질을 제공합니다. 선택의 핵심은 파일 크기와 호환성 사이의 균형입니다. 어떤 코덱을 선택해야 할지 확신이 서지 않는다면, H.264는 언제나 틀리지 않는 선택입니다.
DalVideo
무료 체험