Hysteria2와 OpenVPN 비교: 속도·지연·용도별 선택법

Hysteria2와 OpenVPN은 모두 암호화된 터널을 만들지만, 데이터를 운반하는 방식과 네트워크 장애에 대응하는 방법은 상당히 다릅니다. 따라서 어느 프로토콜이 항상 더 빠르다고 단정하기보다, 현재 네트워크의 특성, 사용하는 기기, 필요한 애플리케이션, 클라이언트 지원 여부를 함께 확인해야 합니다. 모바일 데이터처럼 경로가 자주 바뀌는 환경과 안정적인 사무실 네트워크에서 같은 프로토콜의 체감 결과가 달라질 수 있습니다.

이 글에서는 Hysteria2와 OpenVPN의 구조적 차이, 속도와 지연에 영향을 주는 요소, 약한 네트워크에서의 동작, 배터리와 호환성, 실제 선택 절차를 순서대로 비교합니다. 특정 수치를 보장하는 방식이 아니라, 두 프로토콜을 같은 조건에서 테스트하고 문제가 발생했을 때 원인을 좁히는 방법에 초점을 둡니다.

두 프로토콜의 기본 구조

OpenVPN은 TLS 기반의 암호화와 인증을 사용하며, UDP 또는 TCP 위에서 동작할 수 있습니다. UDP 모드에서는 전송 계층의 불필요한 재전송을 줄이면서 터널을 구성할 수 있고, TCP 모드는 UDP가 제한된 네트워크에서 연결 가능성을 높이는 대안이 될 수 있습니다. 다만 TCP 위에 다시 TCP 트래픽을 운반하면 손실이 발생했을 때 재전송이 겹치는 현상이 생겨, 특정 환경에서는 지연과 응답성이 나빠질 수 있습니다.

Hysteria2는 QUIC을 기반으로 하는 프로토콜입니다. QUIC은 UDP를 사용하면서 TLS 암호화와 연결 관리 기능을 함께 처리하며, 손실이 있는 네트워크에서도 전송 흐름을 조절합니다. Hysteria2 구성에는 서버 인증을 위한 비밀번호, TLS 서버 이름과 인증서 관련 설정, 필요할 경우 트래픽 식별을 어렵게 하기 위한 매개변수가 포함될 수 있습니다. 이 설정은 일반적인 HTTP 프록시 주소를 입력하는 것과 다르므로, 클라이언트가 Hysteria2를 정식으로 지원하는지 먼저 확인해야 합니다.

서비스에서 여러 지역과 프로토콜을 제공하더라도 실제 연결 결과는 사용자의 통신사, Wi-Fi 라우터, 서버 위치, 목적지 서비스의 경로에 따라 달라집니다. 위 정보는 선택 가능한 범위를 보여주는 기준일 뿐, 특정 프로토콜의 성능을 보장하는 실측값은 아닙니다.

속도와 지연은 무엇이 결정하는가

체감 속도는 프로토콜 이름 하나로 결정되지 않습니다. 암호화 처리, 서버와의 거리, 국제 구간의 혼잡, 패킷 손실, MTU, DNS 응답, 서버의 동시 이용량이 함께 작용합니다. 예를 들어 가까운 서버를 선택했더라도 로컬 통신사와 해당 서버 사이의 경로가 혼잡하면 웹페이지 첫 응답이 늦어질 수 있습니다. 반대로 물리적으로 더 먼 서버라도 경로가 안정적이면 특정 시간대에 더 부드럽게 동작할 수 있습니다.

Hysteria2는 QUIC과 UDP의 특성 때문에 지연 변화가 큰 모바일 네트워크나 일부 무선 환경에서 좋은 응답성을 보일 가능성이 있습니다. 연결을 유지하는 과정이 TCP 기반 터널과 다르고, 전송 흐름을 애플리케이션 데이터 전체와 같은 방식으로 재전송하지 않는다는 점이 장점으로 언급됩니다. 그러나 UDP가 제한되거나 품질이 매우 불안정한 네트워크에서는 연결 자체가 실패할 수 있습니다. ‘UDP 기반이므로 무조건 빠르다’고 판단해서는 안 됩니다.

OpenVPN UDP는 오랜 기간 검증된 방식으로 다양한 운영체제와 라우터에서 사용할 수 있습니다. 설정이 안정적이고 호환성이 넓다는 점이 강점이며, 일반적인 웹 이용이나 원격 접속에서도 예측 가능한 동작을 기대하기 쉽습니다. OpenVPN TCP는 방화벽이나 네트워크 정책 때문에 UDP 연결이 어려울 때 유용하지만, 손실이 많은 환경에서는 연결 지연이 커질 수 있습니다. 연결 성공률과 속도 사이에서 우선순위를 정해야 합니다.

약한 네트워크에서의 안정성

지하철, 엘리베이터 주변, 혼잡한 공공 Wi-Fi, 신호가 자주 바뀌는 모바일 환경에서는 대역폭보다 패킷 손실과 경로 변경이 더 큰 문제가 될 수 있습니다. 이때 중요한 것은 순간적인 최고 속도가 아니라 연결이 얼마나 자연스럽게 유지되는지, 잠시 끊긴 뒤 얼마나 빨리 복구되는지, 복구 후 DNS와 라우팅 상태가 정상으로 돌아오는지입니다.

Hysteria2는 UDP 기반이므로 네트워크가 UDP 패킷을 허용하고 QUIC 흐름을 안정적으로 전달한다면 이동 중에도 유연하게 동작할 수 있습니다. 반면 기업·학교·공공기관처럼 UDP를 제한하는 정책이 있는 곳에서는 서버가 정상이어도 접속하지 못할 수 있습니다. 이런 경우 다른 네트워크에서 같은 설정을 시험해 보면 서버 설정 문제인지 현재 네트워크의 정책 문제인지 구분하는 데 도움이 됩니다.

OpenVPN UDP는 손실과 지연 변화에 대응할 수 있지만, 네트워크가 UDP를 차단하면 연결이 시작되지 않습니다. OpenVPN TCP는 이런 상황의 우회 선택지가 될 수 있으나, 웹 트래픽처럼 내부적으로도 TCP를 많이 사용하는 작업에서는 지연이 누적될 수 있습니다. 안정성이라는 말도 ‘항상 빠르다’가 아니라 ‘현재 환경에서 연결을 유지하고 복구할 수 있다’는 의미로 해석해야 합니다.

• ✅ Wi-Fi와 모바일 데이터를 각각 사용해 같은 프로토콜의 연결 가능 여부를 확인합니다.
• ✅ 연결 후 웹페이지뿐 아니라 DNS 조회와 영상·파일처럼 성격이 다른 요청도 확인합니다.
• ✅ 한 번의 접속 결과보다 회선 전환과 재연결 후에도 설정이 유지되는지 기록합니다.
• ❌ UDP가 차단된 네트워크에서 Hysteria2 설정만 반복해서 수정하지 않습니다.
• ❌ OpenVPN TCP가 연결된다는 이유만으로 지연이 낮다고 판단하지 않습니다.

배터리와 기기별 호환성

배터리 소모는 프로토콜 명칭보다 연결 유지 방식, 화면이 꺼진 뒤의 백그라운드 정책, 신호 세기, 애플리케이션의 데이터량에 더 크게 좌우됩니다. 신호가 약한 장소에서 어떤 VPN이든 재연결을 반복하면 배터리 사용량이 늘어날 수 있습니다. 따라서 Hysteria2가 UDP 기반이라는 이유만으로 항상 배터리를 덜 사용한다고 말하기 어렵고, OpenVPN 역시 연결이 안정적으로 유지되면 예상보다 부담이 작을 수 있습니다.

Android와 iOS에서는 운영체제가 VPN 프로파일의 백그라운드 동작을 관리합니다. 화면을 끈 뒤 연결이 일시 중단되는지, 배터리 절약 모드에서 자동 재연결이 제한되는지, 다른 앱이 VPN 권한을 다시 요청하는지를 확인해야 합니다. Windows와 macOS에서는 시스템 프록시 방식과 가상 네트워크 인터페이스 방식이 다르게 작동할 수 있습니다. Linux에서는 NetworkManager, 공식 클라이언트, sing-box와 같은 호환 클라이언트가 지원하는 설정 형식을 구분해야 합니다.

OpenVPN은 공식 및 제3자 클라이언트 선택지가 비교적 많아 오래된 운영체제나 네트워크 장비에서도 접근하기 쉽습니다. Hysteria2는 최신 클라이언트에서 지원되는 경우가 많지만, 모든 공식 앱이나 라우터 펌웨어가 같은 옵션을 제공하지는 않습니다. 구독 링크를 가져오더라도 클라이언트가 프로토콜을 해석하지 못하면 노드가 표시되지 않거나 연결 버튼이 비활성화될 수 있습니다.

직접 비교하는 테스트 순서

두 프로토콜을 비교할 때는 한 번에 여러 변수를 바꾸지 않는 것이 중요합니다. 먼저 같은 지역의 Hysteria2 노드와 OpenVPN 노드를 준비하고, 가능한 한 동일한 네트워크에서 각각 시험합니다. 노드의 지역이 다르면 프로토콜 차이보다 서버와 목적지 사이의 거리 차이가 결과에 더 큰 영향을 줄 수 있습니다.

1. 클라이언트가 Hysteria2 또는 OpenVPN을 지원하는지 확인하고, 구독을 가져온 뒤 노드 이름과 프로토콜이 올바르게 표시되는지 살펴봅니다.
2. VPN을 켜기 전 일반 연결에서 웹 접속, DNS 결과, 자주 사용하는 서비스의 로그인 상태를 확인합니다.
3. Hysteria2에 연결한 뒤 페이지 로딩, 파일 전송 시작 속도, 영상 재생의 초기 응답, 잠시 네트워크를 바꾼 뒤의 재연결을 기록합니다.
4. 연결을 종료하고 같은 조건에서 OpenVPN UDP를 시험합니다. 연결이 되지 않으면 즉시 TCP로 바꾸기보다 오류 메시지와 네트워크 정책을 먼저 확인합니다.
5. 결과를 ‘접속 가능’, ‘일시 끊김 후 복구’, ‘수동 재연결 필요’, ‘특정 앱만 실패’처럼 관찰 가능한 표현으로 정리합니다.

테스트 중에는 여러 VPN 클라이언트를 동시에 실행하지 마세요. 시스템 프록시, TUN 모드, 다른 VPN의 가상 어댑터가 함께 활성화되면 라우팅 테이블과 DNS 설정이 서로 충돌할 수 있습니다. 문제가 생기면 모든 클라이언트를 종료하고, 일반 네트워크를 복원한 뒤 하나의 클라이언트만 다시 실행하는 것이 좋습니다. 필요하다면 연결 후 IP 검사에서 출구 주소와 DNS 상태를 확인할 수 있습니다.

용도별 선택 기준

이동이 잦고 모바일 데이터나 불안정한 Wi-Fi를 자주 사용하는 사람은 Hysteria2를 우선 시험할 가치가 있습니다. 단, 현재 네트워크가 UDP를 허용하고 사용 중인 앱이 해당 프로토콜을 지원해야 합니다. 웹 검색, 일반적인 애플리케이션 연결, 이동 중 회선 전환처럼 응답성과 복구가 중요한 작업에서 후보가 될 수 있습니다.

반대로 사무실 장비, 오래된 라우터, 다양한 운영체제를 함께 관리해야 하거나 설정 파일을 여러 사용자에게 배포해야 한다면 OpenVPN이 편할 수 있습니다. 지원 문서와 진단 도구가 많고, UDP와 TCP를 환경에 맞게 선택할 수 있기 때문입니다. 다만 OpenVPN TCP는 연결 가능성만 보고 선택하기보다 실제 업무 애플리케이션의 지연을 반드시 확인해야 합니다.

VncVPN은 Windows, macOS, iOS, Android, Linux를 지원하며 구독 링크를 호환 클라이언트에 가져오는 방식으로 사용할 수 있습니다. 요금제는 월 구독 기준으로 월 ¥9.9에 60GB, 월 ¥18에 250GB, 월 ¥28에 500GB가 제공됩니다. 사용량이 일정하지 않다면 ¥158에 300GB, ¥358에 1000GB, ¥658에 3000GB인 유량 패키지도 비교할 수 있으며, 유량 패키지는 소진될 때까지 사용하고 만료되지 않습니다. 모든 기기를 함께 사용하는 경우에는 동시 온라인 기기 수가 무제한이라는 점도 확인 항목이 됩니다.

• ✅ 최신 모바일 클라이언트와 UDP 환경을 사용한다면 Hysteria2부터 시험합니다.
• ✅ 호환성, 장비 관리, 표준화된 프로파일이 우선이면 OpenVPN을 먼저 검토합니다.
• ✅ 두 프로토콜이 모두 제공되면 같은 지역의 노드로 직접 비교합니다.
• ❌ ‘최고 속도’라는 문구만 보고 모든 네트워크에서 같은 결과를 기대하지 않습니다.

자주 묻는 질문

Hysteria2가 OpenVPN보다 항상 빠른가요?

항상 그렇지는 않습니다. Hysteria2는 QUIC과 UDP의 특성 덕분에 특정 환경에서 응답성이 좋을 수 있지만, UDP가 제한된 네트워크에서는 접속하지 못할 수 있습니다. OpenVPN도 서버 위치와 전송 모드가 적절하면 충분한 성능을 낼 수 있으므로 동일한 조건에서 비교해야 합니다.

OpenVPN TCP는 언제 사용하나요?

현재 네트워크에서 UDP 연결이 차단되거나 불안정할 때 대안으로 사용할 수 있습니다. 다만 TCP 기반 애플리케이션을 다시 TCP 터널 안에 운반하면서 지연이 커질 수 있으므로, 연결 성공 여부뿐 아니라 웹 응답과 실제 업무 앱의 체감도 확인해야 합니다.

모바일에서는 어떤 프로토콜이 더 적합한가요?

이동 중 네트워크 변화와 지연 변동이 크다면 Hysteria2를 먼저 시험할 수 있습니다. 그러나 배터리 소모는 신호 세기와 재연결 횟수의 영향도 크며, iOS·Android 클라이언트의 백그라운드 지원 여부가 실제 결과를 좌우합니다.

구독을 가져오면 모든 프로토콜이 자동으로 작동하나요?

아닙니다. 구독은 노드와 매개변수를 전달할 뿐이고, 사용하는 클라이언트가 해당 프로토콜과 설정 형식을 해석해야 합니다. 노드가 보이지 않거나 연결이 실패하면 클라이언트 버전, 지원 프로토콜, TLS 설정, 인증 정보를 차례로 확인하세요.