Back to Blog

VLESS란? 프로토콜 작동 방식, 인증과 암호화

기술 편집팀 · 게시일: 2026년 2월 19일 · 수정일: 2026년 11월 10일

VLESS란?

VLESS는 기기가 프록시 서버를 통해 웹사이트와 네트워크 서비스에 접속할 수 있게 하는 프록시 프로토콜입니다.

예를 들어 현재 네트워크에서 원하는 사이트에 직접 연결할 수 없다면, VLESS를 지원하는 클라이언트로 먼저 프록시 서버에 연결할 수 있습니다. 서버는 해당 사이트에 접속한 뒤 웹페이지, 동영상 등의 데이터를 기기로 전달합니다.

VLESS는 사용자 식별, 목적지 주소 지정, 데이터 전달 등 클라이언트와 프록시 서버 사이의 통신 방식을 정합니다.

쉽게 말해, VLESS가 프록시 서버에 “내가 누구인지, 어디에 접속하려는지”를 알리면 서버가 해당 연결을 수행합니다.

VLESS 자체는 VPN 앱이나 프록시 서버가 아닙니다. 실제로 사용하려면 VLESS를 지원하는 클라이언트와 이용 가능한 프록시 서비스가 필요합니다.

VLESS의 장점과 사용하는 이유

VLESS는 V2Ray/Xray 생태계에서 VMess 이후에 개발된 프록시 프로토콜입니다. 더 단순한 설계를 바탕으로 인증, 프록시 요청, 연결 암호화를 분리해서 처리합니다.

Shadowsocks, VMess 등의 프록시 프로토콜과 비교할 때 VLESS의 주요 특징은 가벼운 프로토콜 구조, 불필요한 이중 암호화 감소, 유연한 연결 방식입니다.

  • 가벼운 프로토콜: 간결한 요청 형식으로 사용자 정보와 목적지 주소를 전달합니다. 인증은 클라이언트와 서버의 시간 동기화에 의존하지 않습니다.
  • 이중 암호화 감소: 일반적인 구성에서는 TLS나 REALITY 같은 외부 보안 메커니즘이 통신을 보호하므로 VLESS 계층에서 다시 암호화할 필요가 없습니다.
  • 유연한 연결 방식: 여러 전송 방식과 보안 메커니즘을 조합해 네트워크 환경에 적합한 연결 구성을 선택할 수 있습니다.

이런 특징 덕분에 VLESS는 다양한 프록시 배포 환경에 활용할 수 있으며, 클라이언트와 서버의 전송 및 연결 보호 기능을 각각 개선할 수 있습니다.

다만 프로토콜 설계만으로 다른 프로토콜보다 반드시 빠르다고 볼 수는 없습니다. 실제 속도와 안정성은 주로 네트워크 경로, 서버, 전송 방식, 구체적인 설정에 따라 달라집니다.

프로토콜 설계의 차이는 다음 글에서 자세히 살펴볼 수 있습니다.

VLESS는 연결을 어떻게 보호할까?

VLESS는 주로 사용자 식별과 프록시 데이터 전달을 담당합니다. 일반적인 구성은 프로토콜 내부에서 데이터를 암호화하지 않고 TLS나 REALITY 등을 사용해 클라이언트와 프록시 서버 사이의 통신을 보호합니다.

따라서 클라이언트에서 VLESS + TLS 또는 VLESS + REALITY라는 표시를 볼 수 있습니다. 둘 다 같은 VLESS 프록시 프로토콜을 사용하지만 연결 보호 방식이 다릅니다. 일부 구성은 XTLS Vision을 함께 사용해 특정 암호화 트래픽의 처리를 최적화합니다.

최신 Xray 버전은 프로토콜 계층에 암호화를 추가할 수 있는 선택 기능인 VLESS Encryption도 제공합니다.

REALITY의 핸드셰이크 인증, 트래픽 위장, XTLS Vision 원리는 VLESS REALITY란? 핸드셰이크 인증과 XTLS Vision의 원리에서 설명합니다.


기술 심화: VLESS 프로토콜 세부 사항

앞에서는 VLESS의 기본 용도와 설계 특징을 소개했습니다. 이제 프로토콜 구조, 인증, 암호화, 전송 방식의 네 가지 측면에서 작동 방식을 자세히 살펴봅니다.

VLESS의 프로토콜 구조

VLESS는 클라이언트와 프록시 서버 사이의 통신 프로토콜입니다. 프록시 요청을 구성하는 방식과 서버가 사용자를 식별하고 목적지를 판단하며 이후 데이터를 처리하는 방식을 정의합니다.

일반적인 VLESS 연결에서는 클라이언트가 먼저 하위 연결을 만든 다음 VLESS 요청을 보냅니다. 서버는 요청을 분석하고 사용자를 인증한 뒤 목적지 서비스에 연결해 데이터를 전달합니다.

VLESS 요청에는 어떤 정보가 들어갈까?

VLESS 요청 헤더의 주요 필드는 다음과 같습니다.

필드길이역할
Version1바이트프로토콜 버전
UUID16바이트사용자 식별자
Addons Length1바이트추가 정보의 길이
Addons가변선택적 추가 정보
Command1바이트요청 유형
Port2바이트목적지 포트
Address Type1바이트목적지 주소 유형
Address가변목적지 IP 또는 도메인 이름

이 필드들이 기본 VLESS 요청의 주요 내용을 구성합니다. 클라이언트는 헤더에 완전한 HTTP 요청을 넣을 필요가 없으며, VLESS 계층에서 TLS나 REALITY 핸드셰이크를 설명할 필요도 없습니다.

VLESS 요청 헤더는 바이너리 형식으로, 프록시 연결에 필요한 정보를 간결한 필드로 표현합니다.

VLESS가 지원하는 요청 유형

VLESS는 Command 필드로 프록시 요청의 종류를 구분합니다.

명령값용도
TCP0x01연결 지향 데이터 스트림 생성
UDP0x02UDP 데이터그램 전달
Mux0x03다중화 관련 요청

TCP 요청은 HTTPS 웹사이트 접속처럼 연속적인 데이터 스트림이 필요한 경우에 사용됩니다.

UDP 요청은 DNS, 실시간 통신 등 UDP를 사용하는 앱의 데이터를 전달합니다. UDP는 TCP처럼 연속적인 바이트 스트림을 제공하지 않으므로, VLESS는 적절한 캡슐화로 데이터그램의 경계를 표현해야 합니다.

Mux는 관련 다중화 메커니즘에 사용됩니다. 실제 지원 여부는 프록시 코어와 버전에 따라 달라집니다.

즉, VLESS는 목적지 주소만 전달하는 것이 아니라 이후 트래픽을 어떻게 처리해야 하는지도 서버에 알립니다.

VLESS는 사용자를 어떻게 인증할까?

VLESS는 일반적으로 UUID를 사용자 식별자로 사용합니다.

UUID는 128비트 식별자로, 보통 다음과 같이 하이픈이 포함된 문자열로 표시됩니다.

550e8400-e29b-41d4-a716-446655440000

클라이언트는 요청을 보낼 때 VLESS 헤더에 UUID를 넣습니다. 서버는 이 값을 읽고 설정된 허가 사용자에 해당하는지 확인합니다.

인증에 성공하면 프록시 요청 처리를 계속하고, 실패하면 보통 연결을 거부하거나 종료합니다.

UUID 인증의 특징

VLESS의 기본 인증에는 세 가지 특징이 있습니다.

  • 시간 동기화 불필요: 기존 VMess의 일부 인증 설계와 달리, 클라이언트와 서버의 시계를 정확하게 맞출 필요가 없습니다.
  • 단순한 요청 형식: UUID를 직접 식별 정보로 검증하며, 별도의 타임스탬프 인증 절차가 필요하지 않습니다.
  • 사용자 식별과 연결 보호 분리: UUID는 허가된 사용자를 식별하고, 통신 내용은 해당 암호화 메커니즘이 보호합니다.

UUID는 인증 자격 정보이지, 암호화 키나 통신 내용을 암호화하는 메커니즘이 아닙니다.

적절한 연결 보호가 없는 VLESS 구성에서는 기본 요청의 사용자 정보가 네트워크에 노출될 수 있습니다. 따라서 UUID 인증을 안전한 암호화와 동일하게 볼 수 없습니다.

VLESS의 암호화 메커니즘

VLESS의 중요한 설계 특징은 기본 프록시 프로토콜과 통신 암호화를 분리한다는 점입니다.

일반적인 구성에서 VLESS는 사용자 식별, 프록시 요청, 데이터 전달을 담당하고, TLS나 REALITY는 클라이언트와 프록시 서버 사이의 연결을 보호합니다.

이 설계는 외부 암호화로 이미 보호된 연결에 프로토콜 계층 암호화를 다시 강제하지 않도록 합니다.

VLESS의 encryption=none은 무슨 뜻일까?

기존 VLESS 구성에서는 다음 설정을 자주 볼 수 있습니다.

"encryption": "none"

이는 VLESS 프로토콜 계층의 선택적 암호화를 사용하지 않는다는 뜻입니다. 전체 네트워크 연결이 암호화되지 않았다는 의미는 아닙니다.

예를 들어 VLESS + TLS 구성에서는 TLS가 클라이언트와 프록시 서버 사이의 통신에 암호화와 무결성 보호를 제공할 수 있습니다.

VLESS + REALITY 구성에서는 REALITY의 핸드셰이크, 인증, 연결 보호 메커니즘이 해당 역할을 수행합니다.

따라서 VLESS 연결이 보호되는지 판단하려면 encryption 필드만 볼 것이 아니라 전체 구성을 확인해야 합니다.

VLESS Encryption이란?

최신 Xray 버전에는 프로토콜 계층에서 추가 암호화를 사용할 수 있는 VLESS Encryption이 선택 기능으로 도입되었습니다.

따라서 “VLESS 자체는 암호화를 전혀 지원하지 않는다”는 설명은 더 이상 일반적으로 정확하지 않습니다.

VLESS Encryption을 사용하려면 클라이언트와 서버가 모두 해당 메커니즘을 지원하고 호환되는 매개변수를 사용하는지 확인해야 합니다.

VLESS Encryption, TLS, REALITY의 구체적인 역할과 조합 방식은 버전과 설정에 따라 달라집니다. 모든 VLESS 노드에서 기본으로 활성화되는 기능은 아닙니다.

VLESS와 VMess의 암호화 설계 차이

비교 항목VLESSVMess
사용자 식별UUID사용자 ID 기반 인증 메커니즘
시간 동기화기본 인증은 시간 동기화에 의존하지 않음기존 인증 메커니즘은 시간에 의존
프로토콜 계층 암호화일반적인 구성에서는 비활성화, 최신 Xray는 선택적 암호화 지원프로토콜 설계에 페이로드 암호화 포함
외부 연결 보호TLS, REALITY 등과 조합 가능TLS 같은 보안 메커니즘과 조합 가능
설계 특징사용자 식별, 프록시 요청, 연결 보호를 분리더 많은 인증·암호화 메커니즘을 프로토콜 내부에 통합

가장 큰 차이는 어느 쪽이 반드시 더 안전하거나 빠르다는 것이 아니라, 인증과 프록시 요청, 암호화를 구성하는 방식입니다.

자세한 비교는 VLESS vs VMess: 왜 더 많은 구성이 VLESS로 이동하고 있습니까?를 참고하세요.

VLESS의 전송 방식

VLESS는 프록시 요청 형식을 정의하지만, 데이터를 전송하려면 하위 네트워크 연결이 필요합니다.

따라서 VLESS 노드 구성에서는 보통 RAW, WebSocket, gRPC, XHTTP 같은 전송 방식도 지정합니다.

전송 방식은 VLESS 데이터를 운반하는 방법을 정하며, 연결 수립, 네트워크 호환성, 트래픽 처리에 영향을 줍니다.

전송 방식주요 특징
RAWTCP 같은 하위 연결에서 데이터를 직접 운반하며 구조가 비교적 단순함
WebSocketWebSocket 연결로 프록시 데이터 운반
gRPCHTTP/2 기반 gRPC 통신 사용
XHTTPXray의 HTTP 전송 메커니즘을 사용하며 여러 동작 모드 지원

전송 방식과 프록시 프로토콜은 서로 다른 개념입니다.

예를 들어 VLESS + WebSocket과 VLESS + XHTTP는 모두 VLESS를 사용하며, VLESS 데이터를 운반하는 방식만 다릅니다.

전송 방식마다 성능, 호환성, 배포 요구 사항이 다릅니다. 이름만으로 어느 것이 더 빠른지 판단할 수는 없습니다.

전송 방식과 보안 메커니즘은 어떻게 조합할까?

완전한 VLESS 노드 구성은 보통 여러 부분으로 이루어집니다.

설정 계층역할예시
프록시 프로토콜인증과 프록시 요청VLESS
전송 방식프록시 데이터 운반RAW, WebSocket, XHTTP
연결 보호암호화, 인증, 핸드셰이크TLS, REALITY
트래픽 처리특정 연결의 처리 최적화XTLS Vision

예를 들어 VLESS + RAW + REALITY는 VLESS를 프록시 프로토콜로 사용하고, RAW로 데이터를 전송하며, REALITY 관련 메커니즘으로 연결을 보호하는 구성입니다.

각 구성 요소에는 별도의 역할이 있으며, 서로 대체하는 프로토콜이 아닙니다.

전송 방식과 CDN의 호환성은 Cloudflare CDN과 함께 VLESS: 장점과 제한 사항에서 살펴볼 수 있습니다.

VLESS, REALITY, Vision의 관계

VLESS, REALITY, XTLS Vision은 같은 노드 구성에 자주 등장하지만 서로 다른 역할을 합니다.

VLESS는 프록시 요청을, REALITY는 연결 핸드셰이크·인증·보호를 담당합니다. XTLS Vision은 적용 가능한 환경에서 암호화 트래픽 처리를 최적화합니다.

REALITY는 VLESS의 기본 인증이나 프록시 요청 형식을 바꾸지 않습니다. Vision 역시 독립적인 프록시 프로토콜이 아닙니다.

따라서 VLESS는 REALITY 없이 사용할 수 있으며, REALITY를 VLESS의 새 버전으로 이해해서는 안 됩니다.

REALITY의 인증 절차, 핸드셰이크, 트래픽 위장, Vision의 구체적인 작동 방식은 VLESS REALITY란? 핸드셰이크 인증과 XTLS Vision의 원리를 참고하세요.

VLESS와 VPN의 차이

VLESS는 프록시 프로토콜입니다. VPN은 일반적으로 클라이언트로 네트워크 터널을 만들고 기기 트래픽을 받아 전달하는 기술이나 서비스를 가리킵니다.

두 개념은 서로 다른 계층에 해당합니다.

VLESS를 사용할 때 어떤 앱의 트래픽이 프록시를 거치는지는 클라이언트의 동작 모드와 라우팅 규칙에 따라 결정됩니다.

예를 들면 다음과 같습니다.

  • 시스템 프록시 모드: 시스템 프록시 설정을 지원하는 앱이 지정된 프록시 포트로 트래픽을 전송합니다.
  • TUN 모드: 클라이언트가 가상 네트워크 인터페이스로 기기 트래픽을 받아 라우팅 규칙에 따라 처리합니다.
  • 규칙 기반 라우팅: 도메인, IP 주소 등의 규칙을 바탕으로 직접 연결할지 프록시 서버를 통해 전달할지 결정합니다.

따라서 VLESS는 VPN 형태의 클라이언트 내부에서 프록시 프로토콜로 사용될 수 있지만, VLESS 자체가 가상 네트워크 인터페이스를 만들거나 시스템 경로를 관리하지는 않습니다.

자세한 설명은 V2Ray와 기존 VPN은 어떻게 다를까?를 참고하세요.

정리

VLESS는 V2Ray/Xray 생태계의 프록시 프로토콜로, 주로 사용자 식별, 프록시 요청, 데이터 전달을 담당합니다.

간결한 요청 구조, 시간 동기화에 의존하지 않는 기본 인증, 다양한 전송 방식 및 보안 메커니즘과의 유연한 조합이 특징입니다.

일반적인 VLESS 구성은 TLS나 REALITY로 연결을 보호하며, 최신 Xray는 선택 기능인 VLESS Encryption도 제공합니다.

VLESS를 이해하려면 프록시 프로토콜, 전송 방식, 연결 보호를 구분해야 합니다. VLESS는 프록시 요청 방법을 정하고, 다른 메커니즘이 연결을 운반하고 보호하는 방식을 결정합니다.

기술 참고 자료

  1. Project X / Xray-core
  2. Xray 공식 설정 문서
  3. VLESS 프로토콜 구현
  4. Xray 전송 설정 문서
  5. XTLS 공식 프로젝트