Hysteria 2(HY2)와 VLESS REALITY: 속도, 안정성, 제한된 네트워크에서는 무엇을 선택할까?

기술 편집팀 · 2026년 11월 2일 게시

VPN이나 프록시 프로토콜을 고를 때 최대 다운로드 속도만 봐서는 안 됩니다. 접근이 제한된 네트워크에서는 연결을 맺고 유지할 수 있어야 빠른 속도도 의미가 있습니다.

Hysteria 2(HY2)와 VLESS + REALITY는 효율적인 암호화 통신에 쓰이지만 전송 방식은 다릅니다. HY2는 QUIC 기반이며 일반적인 구성에서 UDP를 사용해 처리량과 어려운 회선 환경에서의 성능에 초점을 맞춥니다. VLESS REALITY는 보통 TCP를 사용하며, TLS와 유사한 핸드셰이크로 일반적인 암호화 연결에 가까운 모습을 지향합니다.

선택은 UDP 사용 가능 여부, 패킷 손실, 암호화 트래픽 필터링 방식에 달려 있습니다. 이 글은 일반적인 HY2 over UDP와 VLESS + REALITY + TCP를 비교하며 모든 특수 캡슐화 방식을 포함하지는 않습니다.

Hysteria 2(HY2)란?

Hysteria 2는 QUIC 기반의 오픈 소스 프록시 프로토콜입니다. HTTP/3도 QUIC를 사용합니다. 기존 TCP 프록시와 달리 HY2의 일반적인 하위 전송은 UDP입니다.

QUIC는 다음과 같은 기능을 제공합니다.

TLS 1.3을 이용한 연결 보호.
하나의 연결에서 여러 스트림 다중화.
독립적인 스트림 사이에서 TCP 방식의 선두 차단 방지.
혼잡 제어와 패킷 손실 복구.
구현과 네트워크 조건이 허용할 때 연결 마이그레이션 지원.

HY2는 인증, UDP 전달, 설정 가능한 혼잡 제어를 더합니다. 특징 중 하나인 Brutal은 기존 혼잡 피드백에만 의존하기보다 설정한 전송률에 도달하려고 합니다. 대역폭 여유가 있는 일부 손실 환경에서는 처리량이 개선될 수 있습니다. 반대로 지나치게 공격적인 설정은 혼잡을 만들고 다른 트래픽과 불공정하게 경쟁할 수 있습니다.

HY2가 빠를 수 있는 이유

TCP는 보통 손실을 혼잡 가능성의 신호로 보고 전송률을 낮춥니다. 하지만 무선 간섭 같은 전송 문제도 손실을 일으킵니다. 이런 경우 HY2의 혼잡 제어 옵션이 도움이 될 수 있습니다. 손실이 어느 정도 있어도 가용 대역폭이 충분하다면 적절히 조정한 HY2가 일반 TCP 연결보다 빠를 수 있습니다.

결과는 지연, 가용 용량, 서버 설정, 경쟁 트래픽, 손실 원인에 따라 달라집니다. HY2가 모든 환경에서 TCP보다 빠른 것은 아닙니다.

VLESS REALITY란?

VLESS는 Xray-core에서 자주 쓰이는 가벼운 프록시 프로토콜입니다. REALITY는 VLESS와 결합할 수 있는 보안 및 핸드셰이크 방식이며, XTLS Vision을 함께 사용하는 구성이 흔합니다. 각 계층의 역할은 다릅니다.

VLESS는 프록시 통신을 처리합니다.
REALITY는 인증과 TLS 유사 핸드셰이크를 제공해 연결 외형을 위장합니다.
TCP는 이 글에서 다루는 일반적인 구성의 하위 전송을 담당합니다.

REALITY는 핸드셰이크를 일반 TLS 통신과 비슷하게 만들고, 기존 프록시 서버 인증서나 도메인 프런팅 구성에 대한 의존을 줄입니다. 데이터 보호 외에도 프로토콜 식별과 능동 탐지를 어렵게 하는 것이 목적입니다. VLESS 설명과 REALITY 작동 원리에서 배경을 확인할 수 있습니다.

VLESS REALITY를 선택하는 이유

UDP가 불안정하거나 제한될 때 흔히 쓰이는 TCP 443 구성은 HTTPS에 널리 사용되는 TCP 연결성을 활용할 수 있습니다. 그렇다고 보이지 않거나 차단할 수 없다는 뜻은 아닙니다. IP 차단, 트래픽 분석, 연결 방해는 여전히 가능합니다.

가벼운 프록시 프로토콜과 제한된 네트워크를 고려한 핸드셰이크를 결합하는 데 실용적 가치가 있습니다.

주요 차이점

항목	Hysteria 2(HY2)	VLESS REALITY
일반적인 전송	UDP / QUIC	TCP
연결 보호	QUIC와 TLS 1.3	REALITY 보안 방식
중점	처리량과 혼잡 제어	신뢰성 있는 전송과 핸드셰이크 위장
패킷 손실 처리	QUIC 복구와 설정 가능한 혼잡 제어	TCP 혼잡 제어와 재전송
UDP 의존	일반 구성에서 필요	TCP 구성에서는 불필요
트래픽 외형	QUIC / HTTP/3 관련	TLS와 유사한 핸드셰이크
제한된 네트워크	UDP 접근성에 크게 의존	TCP 443을 쓸 수 있다면 후보
설정 요건	호환 HY2 클라이언트와 서버	호환 VLESS/REALITY 클라이언트와 서버

이는 구조의 차이이며 벤치마크 결과가 아닙니다. 같은 네트워크에서 비슷한 서버와 경로로 측정해야 합니다.

1. 속도: HY2가 VLESS REALITY보다 빠를까?

UDP가 가능하고 손실이 기존 TCP 성능을 제한한다면 HY2의 QUIC와 설정 가능한 혼잡 제어가 높은 처리량을 유지하는 데 도움이 될 수 있습니다. VLESS REALITY는 성숙한 TCP 구현과 넓은 네트워크 호환성을 활용합니다.

지연이 낮고 손실이 거의 없는 깨끗한 회선에서는 둘 다 잘 작동할 수 있습니다. 영상, 웹 탐색, 게임, 대용량 다운로드에서는 프로토콜보다 서버와 경로 품질이 중요할 때가 많습니다. 경로가 좋은 VLESS REALITY 서버가 경로가 나쁜 HY2 서버보다 빠를 수 있고, 반대도 가능합니다.

실제로 빠른 것은 이론적 최고 속도가 높은 쪽이 아니라 자신의 네트워크에서 더 잘 작동하는 쪽입니다.

2. 안정성: UDP가 제한되면 어떻게 될까?

일반적인 HY2는 QUIC 연결을 맺기 위해 UDP가 필요합니다. 일부 네트워크는 UDP를 차단하거나 속도를 제한하고 QUIC에 간섭합니다. 필요한 UDP 트래픽이 통과하지 못하면 이 일반 구성은 연결할 수 없습니다.

특수한 예외로 상위 프로젝트의 Mimic 캡슐화가 있습니다. UDP 패킷을 회선에서 TCP처럼 보이게 하지만 양쪽 모두 Linux, 추가 도구, 필요한 권한을 갖춰야 합니다. QUIC가 일반 TCP로 바뀌는 것은 아니며 모바일 클라이언트 지원도 가정해서는 안 됩니다. 이 비교에서는 그런 특수 구성을 제외합니다.

TCP 기반 VLESS REALITY는 이 UDP 경로에 의존하지 않습니다. TCP 443은 HTTPS에 널리 쓰이므로 UDP가 불안정할 때 더 실용적일 수 있습니다. 다만 TCP도 IP 차단이나 트래픽 식별로 실패할 수 있습니다. 먼저 현재 어떤 전송 경로가 가능한지 확인해야 합니다.

3. 검열 저항성: HY2와 REALITY

필터링 시스템은 다음 방법들을 사용할 수 있습니다.

IP 주소와 포트 차단.
DNS 간섭.
TLS 핸드셰이크 분석.
프로토콜 지문 식별.
능동 탐지.
트래픽 패턴 분석.
UDP 필터링이나 속도 제한.

HY2: QUIC 기반 통신

QUIC는 일반 HTTP/3 애플리케이션에도 쓰입니다. HY2는 HTTP/3 위장 같은 기능을 지원하지만 웹 탐색과 완전히 구분할 수 없음을 보장하지는 않습니다. 네트워크는 HY2를 식별하지 않고도 QUIC나 UDP 전체를 제한할 수 있습니다.

VLESS REALITY: TLS 핸드셰이크 위장

REALITY는 연결을 맺는 단계에 집중합니다. 인증과 핸드셰이크 설계로 일부 탐지와 프로토콜 식별을 어렵게 합니다. TCP 443이 가능하지만 프록시 트래픽을 검사하는 환경에서 도움이 될 수 있습니다.

효과는 설정, 현재 구현, 실제 필터링 방법에 달려 있습니다. 어느 프로토콜도 영구적인 검열 저항성을 보장하지 않습니다.

4. 중국, 러시아, 이란에서는 무엇이 더 잘 작동할까?

모든 통신사, 도시, 시기에 통하는 답은 없습니다. 필터링은 변하며 유선 인터넷, 이동통신, 공용 Wi-Fi, 기업망 정책도 다를 수 있습니다.

중국

복잡한 필터링 환경에서는 최대 속도보다 전송 접근성과 연결 방해에 대한 내성이 더 중요할 수 있습니다. UDP가 불안정하면 TCP 기반 VLESS REALITY가 후보입니다. UDP와 QUIC가 가능하다면 HY2도 잘 작동할 수 있습니다. 자신의 연결에서 확인해야 합니다.

러시아

제한은 통신사와 지역에 따라 다르며 TCP와 UDP 프록시 모두 영향을 받을 수 있습니다. UDP가 안정적일 때 HY2를 시험하고, TCP가 더 지속적으로 가능하다면 VLESS REALITY를 고려할 수 있습니다.

이란

강한 필터링과 심각한 연결 제한이 발생한 시기가 있었습니다. UDP 가용성과 안정성은 빠르게 변할 수 있습니다. 이때는 최고 속도보다 연결 유지가 우선입니다. QUIC 연결을 맺을 수 없다면 TCP 기반 VLESS REALITY가 다른 선택지가 될 수 있습니다.

세 나라 모두 특정 프로토콜이 언제나 된다는 가정보다 현재 측정 결과를 기준으로 선택해야 합니다.

5. HY2가 게임과 스트리밍에 더 좋을까?

UDP가 안정적이면 HY2가 대역폭을 많이 쓰는 앱에 매력적일 수 있습니다. QUIC 다중화와 혼잡 제어가 일부 작업에 도움이 되지만, UDP를 쓴다고 자동으로 게임에 가장 적합해지지는 않습니다.

게임은 지연, 지터, 손실, 경로 품질에 민감합니다. 프록시는 캡슐화와 우회 경로를 더할 수도 있습니다. 영상에는 짧은 최고 속도보다 지속 처리량과 안정성이 중요합니다. 잘 설정한 TCP 프록시도 충분히 좋은 스트리밍 성능을 낼 수 있습니다. 속도 측정만 보지 말고 실제 앱으로 비교하세요.

6. 프로토콜 홍보보다 자동 서버 선택이 중요한 이유

인터넷 조건은 균일하지 않습니다. 같은 서버도 접속 국가에 따라 다르게 작동합니다. 한 나라 안에서도 통신사, 국제 경로, 혼잡, 시간대에 따라 달라집니다.

예를 들어 다음과 같은 경우가 있습니다.

서버 A는 HY2지만 국제 경로가 혼잡합니다.
서버 B는 VLESS REALITY이며 경로가 더 짧고 덜 혼잡합니다.

B가 훨씬 좋은 경험을 줄 수 있습니다. 위치, 경로, 지연, 손실, 가용 대역폭, 장애 복구 능력도 연결 품질에 영향을 줍니다. 스마트 라우팅과 자동 서버 선택에서 관계를 알아볼 수 있습니다.

7. 무엇을 선택해야 할까?

다음 조건에서는 Hysteria 2를 시험해 볼 수 있습니다.

UDP와 QUIC 연결이 안정적입니다.
처리량 최적화를 실험하고 싶습니다.
서버 설정을 관리할 수 있습니다.
실제 작업이 HY2의 전송 특성으로 이익을 얻습니다.

다음 조건에서는 VLESS REALITY를 고려할 수 있습니다.

UDP가 제한되거나 불안정합니다.
TCP가 더 일관되게 가능합니다.
TLS 핸드셰이크 위장을 고려한 방식이 필요합니다.
제한된 네트워크에서 실제 연결 가능성을 우선합니다.

연결 성공, 지연, 처리량, 안정성을 비교하세요. 서버, 경로, 설정도 프로토콜만큼 중요합니다.

자주 묻는 질문

Hysteria 2는 VPN인가요?

정확히는 프록시 프로토콜입니다. VPN과 비슷한 앱이 트래픽 전달에 사용할 수 있지만 자체로 완전한 VPN 서비스는 아닙니다.

HY2는 TCP와 UDP 중 무엇을 쓰나요?

일반적으로 UDP 위의 QUIC를 씁니다. 특수 패킷 캡슐화가 HY2를 일반 TCP 프록시로 바꾸지는 않습니다.

HY2가 VLESS REALITY보다 빠른가요?

일부 손실 환경에서는 혼잡 제어를 잘 설정한 HY2가 TCP보다 빠를 수 있지만 보편적 우위는 없습니다.

UDP가 차단돼도 HY2를 쓸 수 있나요?

일반적인 QUIC over UDP는 차단된 UDP 경로로 연결할 수 없습니다. Mimic은 양쪽 Linux와 추가 설정이 필요하며 모든 클라이언트가 제공하는 기능은 아닙니다.

VLESS REALITY가 더 안전한가요?

둘 다 암호 기술을 쓰지만 보안 속성과 위협 모델이 다릅니다. 안전성은 구현, 설정, 인증, 구체적 위협에 달려 있어 한쪽이 항상 더 안전하다고 할 수 없습니다.

HY2를 탐지하거나 차단할 수 있나요?

네. QUIC는 필터링, 속도 제한, 차단 대상이 될 수 있습니다. 위장이 탐지 불가능을 보장하지는 않습니다.

제한된 네트워크에서는 무엇을 쓰나요?

TCP와 UDP 접근성을 확인한 뒤 연결 성공, 안정성, 지연, 처리량을 비교하세요. UDP가 불안정하면 TCP 기반 VLESS REALITY가 더 실용적일 수 있습니다.

마무리

HY2는 QUIC 전송, 처리량 최적화, 설정 가능한 혼잡 제어에 중점을 둡니다. VLESS REALITY는 가벼운 프록시와 TLS 유사 핸드셰이크를 결합하며 보통 TCP를 사용합니다. 적합한 환경에서는 둘 다 유효할 수 있습니다.

중요한 것은 실제 네트워크에서 빠르고 안정적이며 사용할 수 있는 연결입니다.