VLESS REALITY란? 핸드셰이크 인증과 XTLS Vision의 원리
기술 편집팀 · 게시일: 2026년 2월 19일 · 수정일: 2026년 11월 10일
VLESS REALITY란?
VLESS REALITY는 제한된 네트워크에서 자주 쓰이는 프록시 연결 구성입니다. 프록시 서버를 통해 인터넷에 접속하도록 도우며, 기존 VPN이 쉽게 식별되거나 간섭받는 환경에 특히 적합합니다.
두 기술로 구성됩니다.
- VLESS: 프록시 서버를 통한 웹사이트와 인터넷 서비스 접속을 담당합니다.
- REALITY: 안전한 연결을 만들고 특수한 연결 인증으로 프록시 서버가 식별될 위험을 줄입니다.
예를 들어 중국처럼 인터넷 접근이 제한된 지역에서는 일부 VPN 연결이 차단될 수 있습니다. VLESS REALITY는 다른 연결 방법을 제공합니다.
주요 가치는 암호화에만 있지 않습니다. 일반적인 핸드셰이크 특징이나 능동 탐지로 프록시 연결을 식별하기 어렵게 합니다.
REALITY가 필요한 이유
일반 VPN과 프록시 서비스는 먼저 서버와 연결을 만들어야 합니다.
네트워크 필터는 프로토콜, 서버 주소, 통신 특징을 관찰해 일부 VPN이나 프록시 트래픽을 식별하고 제한할 수 있습니다.
일부 시스템은 의심되는 서버에 직접 연결해 응답을 보고 프록시 제공 여부를 판단하기도 합니다.
REALITY는 이런 식별 방식에 대응하도록 설계되었습니다.
허가된 사용자는 프록시에 연결하고, 허가되지 않은 연결은 실제 HTTPS 사이트의 응답을 받도록 해 프록시 서비스의 특징을 직접 노출하지 않습니다.
프록시 접속을 제공하면서 낯선 연결을 처리할 때 서버의 역할이 드러날 위험을 줄입니다.
REALITY의 장점
1. 프록시 연결의 식별 특징 감소
REALITY는 일반 HTTPS 사이트와 비슷한 TLS 연결을 사용하며 핸드셰이크와 인증을 특수하게 설계했습니다.
이는 기존 프록시가 노출하기 쉬운 일부 특징을 줄여 초기 핸드셰이크만으로 식별하기 어렵게 합니다.
2. 능동 탐지로 서버가 발견될 위험 감소
일부 필터는 의심되는 서버에 연결해 프록시 프로토콜 특유의 응답을 찾습니다.
REALITY는 허가되지 않은 연결을 미리 고른 실제 사이트로 전달할 수 있습니다.
따라서 낯선 연결에는 프록시 전용 인증 오류 대신 일반 사이트의 응답이 보일 수 있습니다.
3. 프록시용 웹 인증서를 따로 발급할 필요 없음
기존 TLS 프록시는 보통 도메인과 해당 TLS 인증서가 필요합니다.
REALITY는 자체 키 인증으로 신뢰를 형성하므로 프록시 엔드포인트용 공개 CA 인증서를 별도로 발급할 필요가 없습니다.
배포와 인증서 유지 작업을 줄이고, 프록시 전용 인증서에서 생기는 일부 식별 단서도 피합니다.
4. 여러 클라이언트와 라우팅 규칙 활용
VLESS REALITY를 지원하는 클라이언트로 사용할 수 있습니다.
예를 들어 국내 사이트에는 직접 연결하고 해외 사이트에는 프록시로 접속할 수 있습니다.
트래픽 분리는 클라이언트가 제공하며, REALITY는 클라이언트와 프록시 서버 사이의 연결 보호와 인증을 담당합니다.
VLESS, REALITY, Vision의 차이
세 이름은 같은 노드에서 자주 등장하지만 역할이 다릅니다.
| 기술 | 주요 역할 |
|---|---|
| VLESS | 프록시 서버를 통한 웹사이트와 서비스 접속 |
| REALITY | 안전한 연결 수립과 프록시 식별 특징 감소 |
| XTLS Vision | 일부 암호화 트래픽 처리를 최적화하고 추가 오버헤드와 일부 특징 감소 |
서로 협력하는 세 부분으로 이해할 수 있습니다.
VLESS는 프록시 접속, REALITY는 연결 보안과 인증, Vision은 데이터 전송 최적화를 담당합니다.
REALITY를 쓰는 데 Vision이 필수는 아니지만 두 기술은 자주 함께 사용됩니다.
일반 사용자는 어떻게 사용할까?
핸드셰이크, 키, 인증서의 세부 구현을 이해할 필요는 없습니다.
사용 방법은 일반 VPN과 비슷합니다.
- VLESS REALITY를 지원하는 클라이언트를 설치합니다.
- 제공업체의 구독이나 노드 설정을 가져옵니다.
- 서버를 선택하고 연결합니다.
- 필요에 따라 전체 프록시나 스마트 라우팅을 사용합니다.
관련 기술을 지원하는 코어에는 Xray, sing-box, Mihomo가 있습니다. 각 앱은 이런 코어를 바탕으로 그래픽 인터페이스를 제공합니다.
일반 사용자에게는 매개변수를 직접 연구하는 것보다 안정성, 서버 회선 품질, 클라이언트 호환성이 더 중요합니다.
Windows, macOS, Android, iOS의 선택지는 2026년 VLESS 클라이언트 5종: Windows, Mac, iPhone, Android를 참고하세요.
간단히 정리하면 VLESS REALITY는 안전한 프록시 연결을 제공하면서 네트워크 필터가 식별하기 쉬운 일부 특징을 줄입니다.
네트워크 제한에 대응해야 하는 사용자에게 특히 적합합니다. REALITY는 주로 연결 특징과 인증을 다루며, 실제 연결 가능성은 서버 주소, 회선, 클라이언트에도 영향을 받습니다.
기술 심화: REALITY 핸드셰이크 인증과 구현 원리
TLS 핸드셰이크, 키 인증, 인증서 검증, Target 전달, XTLS Vision을 통해 작동 원리를 설명합니다.
1. ClientHello, Session ID, Short ID
REALITY는 TLS 1.3의 기본 핸드셰이크 구조를 유지하고 ClientHello와 인증서 검증에 전용 처리를 추가합니다.
Xray 클라이언트는 uTLS로 ClientHello를 만들며 Chrome 같은 브라우저 스타일의 핸드셰이크 지문을 선택할 수 있습니다.
Xray 구현에서 ClientHello의 Session ID는 암호화되고 인증된 데이터를 담습니다.
- 클라이언트 버전.
- 현재 타임스탬프.
- Short ID.
- 예약 필드.
Short ID는 서버에 설정하는 일치 조건 중 하나입니다.
서버는 ClientHello를 받으면 인증 키 재료로 Session ID를 복호화하고 검증한 뒤 버전, 시간, Short ID 등의 조건을 확인합니다.
이를 통해 허가된 REALITY 클라이언트의 연결인지 판단합니다.
2. X25519, HKDF, AES-GCM 인증 과정
REALITY는 키 합의와 대칭 암호를 결합해 핸드셰이크를 인증합니다.
클라이언트는 임시 X25519 키 재료와 미리 설정한 REALITY 서버 공개 키로 공유 비밀을 계산합니다.
그런 다음 HKDF로 인증 키를 파생하고 AES-GCM으로 Session ID 데이터를 암호화하고 인증합니다.
서버는 대응하는 개인 키를 가지고 있어 같은 공유 비밀과 인증 키를 계산할 수 있습니다.
서버가 핸드셰이크 데이터를 받으면 다음을 수행합니다.
- 클라이언트의 키 합의 재료를 추출합니다.
- X25519 공유 비밀을 계산합니다.
- HKDF로 인증 키를 파생합니다.
- AES-GCM으로 Session ID를 복호화하고 검증합니다.
- 버전, 타임스탬프, Short ID를 확인합니다.
시간 차이와 버전 범위 검사는 서버 설정에 따라 달라집니다.
REALITY 인증을 통과하면 프록시 처리로 진행하고 VLESS가 사용자 신원을 확인해 접속 요청을 처리합니다.
기술 출처: Xray-core REALITY 클라이언트, REALITY 서버 인증.
3. 임시 신뢰 인증서와 서버 신원 검증
일반 HTTPS는 보통 공개 CA 인증서 체인으로 서버 신원을 검증합니다.
REALITY는 다른 신뢰 방식을 사용합니다. 클라이언트가 미리 서버 공개 키를 보유하고 전용 인증서 검증으로 신원을 확인합니다.
정상 핸드셰이크에서 서버는 Temporary Trusted Certificate, 즉 임시 신뢰 인증서를 만들 수 있습니다.
클라이언트는 인증서의 인증 정보를 확인하고 양쪽이 파생한 키로 예상 REALITY 서버와의 관계를 검증합니다.
해당 구현에는 Ed25519 공개 키와 HMAC 검증이 사용됩니다.
성공하면 서버 신원을 확인하고 프록시 세션을 계속합니다.
인증서 결과에 따라 처리가 달라집니다.
| 인증서 결과 | 클라이언트 처리 |
|---|---|
| 유효한 REALITY 임시 신뢰 인증서 | 서버를 확인하고 프록시 연결 계속 |
| 일반 사이트 검증을 통과하는 실제 인증서 | 예상 프록시 세션 미수립, Spider 모드로 진입할 수 있음 |
| 잘못된 인증서 | 연결 거부 |
Spider 모드는 실제 사이트 연결로 HTTP 요청을 보내고 페이지에 포함된 다른 경로에 접근할 수 있습니다.
주로 인증 실패 후 실제 사이트 연결을 처리하는 방식이며 일반 VLESS 프록시 세션과 다릅니다.
기술 출처: REALITY 공식 설명, Xray-core 인증서 검증.
4. Target 전달은 능동 탐지에 어떻게 대응할까?
능동 탐지는 필터 시스템이 의심되는 서버에 연결해 응답으로 용도를 판단하는 방식입니다.
기존 프록시는 허가되지 않은 연결에 특유의 오류를 보내거나 알아보기 쉬운 방식으로 연결을 종료할 수 있습니다.
REALITY는 다른 처리 경로를 제공합니다.
서버에 실제 HTTPS 사이트를 Target으로 설정합니다.
REALITY 인증에 성공하면 연결을 받아 프록시 처리로 진행합니다.
실패하면 연결을 Target으로 전달해 실제 사이트가 TLS 핸드셰이크를 계속하고 응답하도록 할 수 있습니다.
여기에는 서로 다른 두 목적지가 있습니다.
- Target: 관리자가 미리 정하며 인증되지 않은 연결을 처리합니다.
- 사용자가 방문하는 사이트: 인증 후 VLESS 요청이 지정하는 YouTube 등의 서비스입니다.
둘은 같은 목적지가 아닙니다.
REALITY 서버는 Target 사이트의 TLS 개인 키를 보유하거나 인증서를 로컬에 설치할 필요가 없습니다.
구현에 따라 Target 연결을 미리 만든 뒤 인증 결과에 따라 데이터 경로를 정할 수도 있습니다.
이는 인증 실패 응답으로 프록시가 바로 발견될 가능성을 줄입니다.
5. XTLS Vision은 TLS-in-TLS를 어떻게 처리할까?
암호화 프록시로 HTTPS 사이트에 접속하면 보통 두 개의 암호화 연결이 존재합니다.
- 브라우저와 목적지 사이트 사이의 HTTPS 암호화.
- 클라이언트와 프록시 서버 사이의 안전한 연결.
이 구조를 TLS-in-TLS라고 합니다.
내용이 암호화되어 있어도 내부 TLS 핸드셰이크의 데이터 길이와 전송 순서가 외부 트래픽의 관측 가능한 특징에 영향을 줄 수 있습니다.
XTLS Vision은 이에 맞게 트래픽 처리를 최적화합니다.
TLS 식별
Vision은 프록시 스트림의 TLS 레코드를 검사해 ClientHello, ServerHello, 이후 앱 데이터를 식별할 수 있습니다.
Padding
연결 초기 일부 데이터에 패딩을 넣어 핸드셰이크 길이 분포를 바꾸고 고정 메시지 길이의 뚜렷한 특징을 줄일 수 있습니다.
Direct Copy
특정 조건을 만족하면 해당 Padding 단계를 끝내고 더 직접적인 데이터 복사·전달 경로를 사용할 수 있습니다.
Xray의 XtlsFilterTls는 조건에 맞는 TLS 트래픽을 식별합니다. TLS 버전, 암호 스위트, 레코드 완전성, 처리 상태 등을 충족하면 CommandPaddingDirect로 처리 경로를 전환할 수 있습니다.
이는 추가 포장과 해제, 메모리 복사 오버헤드를 일부 줄일 수 있습니다.
Vision은 브라우저와 사이트 사이의 HTTPS 암호화를 없애지 않으며 모든 데이터에서 프록시 계층 암호화를 일괄 생략하지도 않습니다.
기술 출처: Xray-core XTLS Vision 처리.
6. REALITY의 식별 한계와 기술적 절충
REALITY는 주로 핸드셰이크 인증, 인증서 처리, 인증되지 않은 연결의 응답 방식을 개선합니다.
네트워크 관찰자는 여전히 다음 정보를 얻을 수 있습니다.
- 서버 IP 주소와 포트.
- TLS 핸드셰이크의 암호화되지 않은 부분.
- 패킷 길이와 전송 시간 분포.
- 연결 지속 시간과 트래픽 방향.
따라서 식별 방식에 따라 효과가 다릅니다.
수동 트래픽 식별
REALITY 핸드셰이크는 일부 프록시 특징을 줄입니다. XTLS Vision은 해당 트래픽의 초기 길이 분포를 더 조정할 수 있습니다.
능동 탐지
인증과 Target 전달로 허가되지 않은 연결을 실제 사이트의 응답 경로로 보낼 수 있습니다.
서버 IP 차단
REALITY는 네트워크 계층에서 차단된 서버 IP의 접근성을 자동으로 복구하지 못합니다.
서버 주소에 TCP 연결이 불가능하면 먼저 네트워크 경로와 주소 접근성을 해결해야 합니다.
7. 다른 연결 기술과 비교하면?
REALITY, 일반 TLS, Hysteria 2는 기술적 역할이 다릅니다.
REALITY와 일반 TLS
둘 다 안전한 TLS 연결과 관련됩니다.
일반 TLS 프록시는 보통 공개 CA 인증서로 서버 신원을 확인합니다.
REALITY는 미리 설정한 키와 전용 인증을 사용하고 인증되지 않은 연결을 위한 Target 처리를 추가합니다.
자세한 내용은 VLESS REALITY와 TLS는 어떻게 다를까요?를 참고하세요.
REALITY와 Hysteria 2
일반적인 VLESS + REALITY + RAW 구성은 TCP 기반이며 Hysteria 2는 QUIC/UDP를 사용합니다.
암호화나 인증 외에 하위 전송 방식도 다릅니다.
UDP가 제한되면 TCP 기반 구성이 더 쉽게 연결될 수 있습니다. 일부 손실·혼잡 환경에서는 QUIC의 전송 메커니즘이 다른 특성을 보일 수 있습니다.
자세한 내용은 Hysteria 2(HY2)와 VLESS REALITY: 속도, 안정성, 제한된 네트워크에서는 무엇을 선택할까?를 참고하세요.
정리
VLESS REALITY는 프록시 요청과 연결 보안을 분리합니다.
VLESS는 사용자 신원과 접속 요청을 담당합니다. REALITY는 안전한 연결을 만들고 서버를 검증하며 허가되지 않은 연결을 처리합니다.
XTLS Vision은 적용 가능한 환경에서 TLS 트래픽 포장과 전달을 최적화합니다.
이 조합은 프록시 접속을 제공하면서 일부 프로토콜 식별과 능동 탐지에 대한 연결 특징을 개선합니다.
제한된 네트워크에서 안정적인 연결이 필요한 사용자에게 VLESS REALITY는 Xray 생태계의 대표적인 기술 구성입니다.