· 입문 가이드 · 약 7분

VMess와 VLESS 차이: 암호화 방식·전송 오버헤드·선택 방법

VMess와 VLESS의 차이를 빠르게 살펴보세요. 자체 암호화와 시간 검증을 제공하는 VMess, TLS 또는 REALITY를 사용하는 경량 VLESS의 특징과 구독 가져오기 시 선택 방법을 안내합니다.

핵심 내용

이미 구독 정보를 받았다면 노드를 수정하지 말고 원래 설정 그대로 가져오세요. 두 프로토콜의 노드가 모두 제공된다면, 먼저 클라이언트 코어가 해당 전송 방식과 보안 설정을 지원하는지 확인한 뒤 같은 조건에서 연결 성능을 비교하세요. 아래에서 설정을 구분하는 방법과 연결되지 않을 때 우선 확인할 항목을 설명합니다.

VMess와 VLESS의 암호화 차이

노드 세부 정보에서 혼동하기 쉬운 항목은 프로토콜, 전송 방식, 전송 보안입니다. VMess와 VLESS는 사용자 인증 정보와 대상 정보를 전달하는 프록시 프로토콜이고, WebSocket 등은 전송 방식이며, TLS 또는 REALITY는 보안 설정입니다. ‘VLESS + TLS’는 두 프로토콜 중 하나를 선택한다는 뜻이 아니라, 한 연결의 서로 다른 계층을 나타냅니다.

VLESS

추천

일반적인 설정에서는 프로토콜 암호화 필드가 none이며, 연결 보호는 TLS 또는 REALITY가 담당합니다. 서버에서 해당 설정을 제공하고 클라이언트 코어도 지원하는 경우에만 우선 사용해 보세요.

적합한 경우: 구독에 두 종류의 노드가 모두 있고 VLESS 노드의 전송 및 보안 매개변수가 빠짐없이 제공된 경우

VMess

프로토콜 자체가 인증 및 데이터 암호화 방식을 정의하며, 인증에는 시간 정보도 사용됩니다. 노드에서 TLS를 별도로 활성화할 수도 있습니다. 외부 TLS 설정은 VMess의 암호화 옵션과 다른 항목입니다.

적합한 경우: 현재 구독에 VMess만 제공되거나 기존 설정이 안정적으로 작동하는 경우

encryption=none이라고 해서 연결 전체가 암호화되지 않는 것은 아닙니다. 전송 보안이 활성화되어 있는지도 함께 확인해야 합니다. 반대로 프로토콜 필드와 전송 보안이 모두 none이라면, 흔히 쓰이는 HTTPS 포트를 사용한다는 이유만으로 TLS 보호 연결이라고 판단할 수 없습니다. 노드 이름이나 포트로 추측하지 말고 실제 설정을 확인하세요.

전송 오버헤드는 얼마나 될까?

일반적인 VLESS 기본 요청 형식을 예로 들면, 추가 정보가 없을 때 버전 필드는 1바이트, 사용자 ID는 16바이트, 추가 정보 길이 필드는 1바이트입니다. 명령이 TCP이고 대상이 IPv4 주소라면 나머지 명령, 대상 포트, 주소 유형, 주소는 각각 1·2·1·4바이트로, 요청 헤더는 총 26바이트입니다.

16바이트
VLESS 요청의 사용자 ID
26바이트
추가 정보가 없는 TCP/IPv4 요청 헤더
443
일반적인 HTTPS 포트일 뿐, 프로토콜에 고정된 포트는 아닙니다

위 바이트 수는 요청 헤더만 나타내며 응답 헤더, 실제 데이터, 외부 캡슐화는 포함하지 않습니다. 또한 네트워크 패킷마다 고정적으로 발생하는 오버헤드도 아닙니다. 대상에 도메인을 사용하면 요청 헤더에 도메인 길이와 도메인 문자열도 포함됩니다. VMess의 프로토콜 오버헤드는 구체적인 헤더 형식과 데이터 암호화 및 프레이밍 옵션에 따라 달라지므로, 임의로 고른 두 구독 노드의 속도 차이만으로 오버헤드를 추정할 수 없습니다.

같은 조건에서 비교한 뒤 변경 여부를 결정하세요

서버에서 같은 지역, 회선, 전송 방식을 사용하는 두 설정을 제공한다면 동일한 기기와 네트워크에서 같은 테스트 대상에 번갈아 접속해 첫 로딩 시간, 지속 다운로드 성능, 실패 횟수를 기록하세요. 노드 회선이 다르면 현재 네트워크에서 어느 설정이 더 잘 작동하는지만 알 수 있으며, 결과를 프로토콜 차이로 단정할 수는 없습니다.

데스크톱과 Android에서 노드 선택하기

v2rayN 또는 v2rayNG에서 같은 구독을 가져온 뒤 먼저 노드 하나를 선택해 테스트하세요. 여러 노드를 한꺼번에 변경하지 마세요. 클라이언트에 구독의 모든 항목이 표시되더라도 현재 코어가 모든 조합을 지원한다는 뜻은 아닙니다. 특히 VLESS 노드는 프로토콜 이름뿐 아니라 전송 유형, 보안 설정, 서버가 요구하는 흐름 제어도 확인해야 합니다.

같은 구독을 두 기기에서 확인하는 방법

데스크톱: v2rayN
  • ‘구독 그룹’에서 ‘구독 업데이트’를 실행하고 현재 그룹에 새 노드가 표시되는지 확인합니다.
  • 노드를 두 번 클릭해 설정을 확인하고 주소, 포트, 전송 유형, 전송 보안을 점검합니다. 구독에 REALITY 설정이 있다면 사용 중인 코어가 이를 지원하는지도 확인하세요.
  • 대상 노드를 활성 서버로 설정한 뒤, 시스템 트레이의 ‘시스템 프록시’ 메뉴에서 현재 모드를 확인하고 브라우저로 연결을 테스트합니다.
Android: v2rayNG
  • 구독을 추가한 뒤 메인 화면 오른쪽 위 메뉴에서 ‘구독 업데이트’를 실행하고 테스트할 노드를 선택합니다.
  • 노드 옆의 편집 기능으로 프로토콜과 보안 설정을 확인하세요. 보기만 했다면 저장하지 않고 종료합니다. v2rayNG는 Xray 코어를 사용하지만, 지원 기능은 클라이언트에 포함된 코어 버전에 따라 달라집니다.
  • 연결 버튼을 누릅니다. 처음 사용할 때는 시스템 안내에 따라 VPN 연결 요청을 승인한 다음, 실제로 네트워크를 사용할 앱에서 연결을 테스트하세요.

메뉴 문구는 버전에 따라 조금 다를 수 있습니다. 두 기기의 연결 결과가 다르면 먼저 같은 노드를 선택했는지 확인하고, 이어서 코어와 프록시 적용 범위를 점검하세요.

Android에서 v2flyNG를 사용한다면 v2rayNG의 Xray 지원 기능 목록을 기준으로 노드를 선택하지 마세요. v2flyNG는 v2fly 코어를 사용하므로 해당 코어와 현재 클라이언트 버전에서 지원하는 프로토콜 조합을 확인해야 합니다. 구독에 특정 설정이 Xray 기능을 필요로 한다고 명시되어 있다면, 알 수 없는 필드를 삭제하고 다시 시도하기보다 요구 사항에 맞는 클라이언트를 사용하세요.

가져온 뒤 연결되지 않을 때 확인할 사항

  1. 먼저 구독이 정상적으로 업데이트됐는지 확인하세요. 구독 주소를 가져오지 못한 경우, 구독에 선택한 그룹이 없는 경우, 특정 노드에 연결할 수 없는 경우는 서로 다른 문제입니다. 목록이 갱신되지 않았다면 구독 그룹과 업데이트 알림을 먼저 확인하세요. 목록이 정상이라면 같은 그룹에서 사용 가능 여부가 확인된 다른 노드를 골라 비교합니다.
  2. 그다음 핸드셰이크 실패와 트래픽 미전달을 구분하세요. 연결을 시작한 뒤 클라이언트 로그를 확인합니다. 인증 또는 핸드셰이크 오류라면 노드 매개변수를 우선 점검하세요. 클라이언트는 실행 중인데 테스트 앱에 트래픽이 없다면 데스크톱에서는 시스템 프록시와 앱의 시스템 프록시 사용 여부를, Android에서는 VPN 연결 여부와 앱별 프록시에 테스트 앱이 포함됐는지를 확인합니다.
  3. 마지막으로 프로토콜별 설정을 확인하세요. VMess는 기기 시간과 사용자 ID를 먼저 살펴보고, VLESS는 흐름 제어와 전송 보안이 구독 원본 설정과 일치하는지 확인하세요. WebSocket을 사용한다면 경로와 호스트 설정도 점검합니다. 로그는 오류가 발생한 단계를 찾는 데 활용할 수 있습니다. 공유하기 전에는 구독 주소, 노드 주소, 사용자 ID를 삭제하세요.

VMess가 어제까지 연결됐는데 오늘 갑자기 인증 실패가 표시돼요.

먼저 기기의 날짜 및 시간 설정을 열고 자동 시간 설정을 활성화한 뒤 동기화하세요. 그런 다음 같은 노드로 다시 연결합니다. 시간대 표시만 바꾸는 것은 시스템 시계를 맞추는 것과 다릅니다. 시간이 정확한데도 실패한다면 구독을 업데이트하고 현재 노드가 교체됐는지 확인하세요.

VMess 노드를 VLESS로 바로 바꿀 수 있나요?

클라이언트에서 프로토콜만 바꿔서는 전환할 수 없습니다. 주소, 포트, 사용자 ID가 같아 보여도 서버에 해당 VLESS 인바운드 설정이 있어야 합니다. 서버에서 별도로 제공한 VLESS 항목을 가져오고, 기존 VMess 설정은 비교용으로 남겨 두세요.

주소와 포트가 맞는데도 TLS 핸드셰이크에 실패하는 이유는 무엇인가요?

먼저 노드 세부 정보에서 서버 이름과 전송 보안 유형이 구독 원본 값과 일치하는지 확인하세요. 연결 주소와 핸드셰이크에 사용하는 서버 이름은 서로 다를 수 있습니다. 오류를 없애려고 인증서 검증을 끄지 마세요. 서버 이름과 인증서가 일치하지 않는다면 설정 제공자에게 확인을 요청하세요.

지연 시간 테스트는 성공했는데 앱이 열리지 않는 이유는 무엇인가요?

먼저 테스트한 노드가 현재 연결 노드로 선택되어 있는지 확인한 뒤 실제 앱에서 다시 테스트하세요. 한 번의 지연 시간 측정은 해당 탐색에 응답이 왔다는 뜻일 뿐, 모든 앱이 같은 프록시 경로를 사용한다는 보장은 아닙니다. 시스템 프록시 또는 앱별 프록시 설정을 확인한 다음 로그를 보고 DNS나 라우팅을 점검할지 판단하세요.

클라이언트 다운로드