요약

코어 시작 실패는 대부분 설정 문제입니다. v2rayN 로그 창을 열어 오류를 확인한 뒤, 「JSON 문법 오류 → 포트 점유 → 인증서 설정 → 코어 파일 누락」 네 갈래로 하나씩 원인을 찾으면 됩니다. 각 갈래의 판단 방법과 수정 절차를 정리했습니다.

코어가 시작되지 않는 이유

V2Ray 코어 시작 실패는 사용 중 가장 흔히 겪는 문제 중 하나입니다. 코어는 설정 파일을 해석하고 연결을 수립하며 트래픽을 전달하는 역할을 하는데, 설정에 오류가 하나라도 있으면 코어가 시작되지 않을 수 있습니다. v2rayN은 로그 창을 통해 코어 출력을 보여주며, 이 로그가 문제를 해결하는 데 가장 중요한 자료입니다.

흔한 시작 실패 원인

설정 파일 JSON 문법 오류, 포트 점유, 인증서 설정 오류, 코어 파일 누락 등이 있습니다. 아래에서 각 원인을 어떻게 찾아 고치는지 차례로 설명합니다.

JSON
문법 오류: 쉼표·따옴표·괄호 불일치
포트
10808 / 10809 포트가 다른 프로그램에 점유됨
인증서
serverName 불일치 또는 allowInsecure 설정 오류
코어
xray.exe / v2ray.exe 파일 누락

로그 창 열기

v2rayN에서 로그 창은 메인 화면 하단에 있습니다. 로그 창이 보이지 않으면 「설정」→「매개변수 설정」에서 「로그 창 표시」를 켜면 됩니다. 로그에는 코어 출력이 실시간으로 표시되며, 시작 정보·연결 상태·오류 메시지가 포함됩니다.

오류는 어떻게 생겼나

시작 실패 시 로그에 failed to start 또는 invalid config 같은 오류가 나타납니다. 이 오류 메시지는 설정 파일 경로, 필드 이름 등 구체적인 오류 위치를 알려줍니다.

로그 창 열기

「설정」→「매개변수 설정」에서 「로그 창 표시」를 체크하면 메인 화면 하단에 코어 출력이 표시됩니다.

오류 메시지 기록

시작 실패 시 로그에서 failed to start 또는 invalid config 같은 오류 줄을 복사합니다.

오류 유형 판별

오류 키워드를 보고 JSON 문법, 포트, 인증서, 코어 파일 중 어떤 문제인지 판단합니다.

하나씩 수정

아래 네 갈래에 따라 하나씩 원인을 찾아 수정한 뒤, 코어를 재시작하여 확인합니다.

JSON 문법 오류 찾기

설정 파일은 JSON 형식이라 문법 오류가 있으면 코어가 해석할 수 없습니다. 흔한 문법 오류로는 쉼표 누락, 따옴표 불일치, 괄호 불균형이 있습니다. v2rayN에서 「설정」→「설정 폴더 열기」를 눌러 config.json을 찾은 뒤, JSON 문법 강조를 지원하는 편집기로 확인하세요.

팁: 오류 줄 번호 보기

오류 메시지에는 보통 「몇 번째 줄, 몇 번째 열」이 표시됩니다. 예를 들어 invalid config: line 12, column 5라면 오류가 12번 줄 근처에 있다는 뜻입니다. 편집기로 돌아가 그 줄의 쉼표·따옴표·괄호가 짝이 맞는지 집중적으로 확인하세요. 줄 번호만 있고 열 번호가 없다면 설정을 먼저 들여쓰기로 정리(포맷)한 뒤 보면 구조가 한눈에 들어옵니다.

{
  "inbounds": [
    {
      "port": 10808,
      "protocol": "socks"
    }
  ]
}

위 예시는 단순화된 설정으로, config.json으로 저장하면 코어가 정상적으로 시작됩니다. 설정을 수정할 때 쉼표를 하나 빠뜨리면 코어가 invalid config 오류를 냅니다.

주의: 실제 서버 정보를 제3자에 올리지 마세요

설정 파일이 길면 온라인 JSON 검사 도구에 내용을 붙여넣어 확인할 수 있습니다. 다만 실제 서버 정보가 들어 있는 설정을 그대로 제3자 도구에 올리지 않도록 주의하세요.

로그 열기 오류 키워드 확인 오류 유형 파악 설정 수정 코어 재시작 연결 확인

포트 점유 확인

포트 점유는 또 다른 흔한 원인입니다. v2rayN은 기본적으로 10808 포트를 SOCKS 인바운드로, 10809 포트를 HTTP 인바운드로 사용합니다. 이 포트를 다른 프로그램이 이미 점유하고 있으면 코어 시작이 실패합니다.

포트 점유 확인 방법

Windows에서는 netstat -ano | findstr 10808 명령으로 포트 점유 상태를 확인할 수 있습니다. 출력 결과가 비어 있지 않다면 포트가 이미 점유된 것입니다. v2rayN의 인바운드 포트를 변경해 충돌을 피하거나, 포트를 점유한 프로그램을 종료하면 됩니다.

포트 변경 후 시스템 프록시도 함께 수정

Windows에서 시스템 프록시 설정은 「설정」→「네트워크 및 인터넷」→「프록시」에 있습니다. SOCKS 포트와 HTTP 포트가 설정과 일치하는지 확인하세요.

인증서 설정 오류

TLS 또는 REALITY 전송을 사용할 때 인증서 설정 오류가 있으면 연결이 실패합니다. 흔한 오류로는 serverName이 인증서와 일치하지 않는 경우, 인증서 만료, allowInsecure 설정 오류가 있습니다.

REALITY 프로토콜의 특별한 요구 사항

REALITY 프로토콜은 인증서 요구 사항이 더 특별합니다. 실제 인증서가 필요하지 않지만, serverName이 실제로 존재하고 접근 가능한 도메인(예: 대형 웹사이트)을 가리켜야 합니다. 그렇지 않으면 핸드셰이크가 거부됩니다. REALITY 노드를 사용 중인데 인증서 오류가 발생한다면, 먼저 serverName에 실제 도메인이 입력되었는지 확인한 다음 shortIdpublicKey가 노드 정보와 일치하는지 확인하세요.

자체 서명 인증서 처리 방법

v2rayN에서 「노드 설정」→「전송 보안」을 통해 인증서 설정을 확인할 수 있습니다. 자체 서명 인증서를 사용한다면 allowInsecuretrue로 설정해야 하지만, 이렇게 하면 보안이 낮아집니다. 정상적인 사용 시에는 유효한 CA 인증서를 사용하는 것이 좋습니다.

코어 파일 누락

로그에 코어 파일을 찾을 수 없다고 표시되면 v2rayN 설정 폴더에 xray.exe 또는 v2ray.exe가 없다는 뜻입니다. v2rayN의 「설정」→「코어 설정」에서 코어 경로를 확인할 수 있습니다. 코어 파일이 없다면 클라이언트를 다시 다운로드하여 코어 파일이 온전한지 확인하세요.

코어 버전 불일치 해결 방법

또 다른 경우로, 코어 파일은 존재하지만 버전이 클라이언트와 맞지 않을 수 있습니다. 예를 들어 v2rayN이 업데이트된 후 이전 코어가 새 설정 형식과 호환되지 않을 수 있습니다. 이때는 「코어 설정」에서 「코어 업데이트」를 클릭하거나 해당 버전의 코어를 다시 다운로드하면 됩니다. 또한 백신 프로그램이 코어 파일을 오탐지하여 삭제할 수 있으므로, 코어가 반복해서 사라진다면 v2rayN 폴더를 백신 프로그램의 예외 목록에 추가하세요.

Xray 코어

추천

v2rayN은 기본적으로 Xray 코어를 사용하며, VLESS·REALITY 등 최신 프로토콜을 지원하고 성능도 더 좋습니다.

적합: 대부분의 사용자

V2Ray 코어

클래식 코어로, 오래된 프로토콜과 호환됩니다. 노드가 구형 프로토콜만 지원한다면 V2Ray 코어로 전환할 수 있습니다.

적합: 구형 프로토콜 노드

문제 해결 흐름 정리

invalid config 오류

JSON 문법 오류입니다. config.json을 열어 쉼표·따옴표·괄호를 확인하거나 검사 도구로 점검하세요.

port already in use 오류

포트가 점유된 것입니다. netstat로 점유 프로세스를 확인하고, 인바운드 포트를 변경하거나 점유 프로그램을 종료하세요.

certificate 관련 오류

인증서 설정 오류입니다. serverName이 인증서와 일치하는지, allowInsecure가 올바르게 설정되었는지 확인하세요.

코어 파일을 찾을 수 없다는 오류

코어 파일이 누락된 것입니다. 「코어 설정」에서 경로를 확인하고, 클라이언트를 다시 다운로드하여 파일이 온전한지 확인하세요.

문제 해결 핵심 요령

로그는 코어의 '자백'입니다. 시작 실패가 발생하면 서둘러 설정을 수정하지 말고, 로그의 첫 번째 오류 줄을 주의 깊게 읽으세요. 문제 필드를 직접 가리키는 경우가 많습니다. 「문법 → 포트 → 인증서 → 코어 파일」 순서로 확인하면 대부분의 문제를 몇 분 안에 찾을 수 있습니다.

설정을 수정했는데도 코어가 시작되지 않나요?

수정 사항이 저장되었는지 확인하고, v2rayN에서 「코어 재시작」을 클릭하거나 클라이언트를 다시 시작하세요. 설정 캐시가 갱신되지 않아 이전 설정이 계속 로드될 수 있습니다.

로그 창이 비어 있으면 어떻게 하나요?

「매개변수 설정」에서 「로그 창 표시」가 체크되어 있는지 확인하고, 코어가 실제로 시작되었는지 점검하세요. 코어 경로가 잘못되면 로그가 출력되지 않을 수 있습니다.