Microsoft L2TP/IPSec 가상 사설망 클라이언트 연결 문제를 해결하는 방법

  • 아티클

이 문서에서는 L2TP/IPSec VPN(가상 사설망) 연결 문제를 해결하는 방법을 설명합니다.

적용 대상: Windows 10 - 모든 버전
원본 KB 번호: 325034

요약

L2TP/IPSec VPN 연결을 만들려면 인터넷에 연결되어 있어야 합니다. 인터넷에 연결하기 전에 VPN 연결을 시도하는 경우 일반적으로 60초의 긴 지연이 발생할 수 있으며, 응답이 없거나 모뎀 또는 다른 통신 디바이스에 문제가 있다는 오류 메시지가 표시될 수 있습니다.

L2TP/IPSec 연결 문제를 해결하는 경우 L2TP/IPSec 연결이 어떻게 진행되는지 이해하는 것이 유용합니다. 연결을 시작하면 초기 L2TP 패킷이 서버에 전송되어 연결을 요청합니다. 이 패킷을 사용하면 컴퓨터의 IPSec 계층이 VPN 서버와 협상하여 IPSec 보호 세션(보안 연결)을 설정합니다. 링크 속도를 비롯한 여러 요인에 따라 IPSec 협상은 몇 초에서 약 2분 정도 걸릴 수 있습니다. IPSec SA(보안 연결)가 설정되면 L2TP 세션이 시작됩니다. 시작되면 이름 및 암호에 대한 프롬프트가 표시됩니다(Windows Millennium Edition에서 자동으로 연결하도록 연결이 설정되지 않은 경우). VPN 서버에서 사용자 이름과 암호를 수락하면 세션 설정이 완료됩니다.

L2TP/IPSec 연결의 일반적인 구성 오류는 잘못 구성되거나 누락된 인증서이거나 잘못 구성되거나 미리 공유된 키가 누락된 것입니다. IPSec 계층이 VPN 서버를 사용하여 암호화된 세션을 설정할 수 없는 경우 자동으로 실패합니다. 따라서 L2TP 계층에는 연결 요청에 대한 응답이 표시되지 않습니다. 일반적으로 60초의 긴 지연이 있을 수 있으며 서버에서 응답이 없거나 모뎀 또는 통신 디바이스에서 응답이 없었다는 오류 메시지가 표시될 수 있습니다. 이름과 암호에 대한 프롬프트를 받기 전에 이 오류 메시지가 표시되면 IPSec에서 해당 세션을 설정하지 않았습니다. 이 경우 인증서 또는 미리 공유된 키 구성을 검사하거나 네트워크 관리자에게 isakmp 로그를 보냅니다.

성공적인 IPSec 세션을 방지하는 두 번째 일반적인 문제는 NAT(네트워크 주소 변환)를 사용하는 것입니다. 많은 소규모 네트워크는 NAT 기능이 있는 라우터를 사용하여 네트워크의 모든 컴퓨터 간에 단일 인터넷 주소를 공유합니다. 원래 버전의 IPSec은 NAT의 주소 매핑을 패킷 변조로 감지하기 때문에 NAT를 통과하는 연결을 삭제합니다. 홈 네트워크는 NAT를 자주 사용합니다. 클라이언트와 VPN 게이트웨이가 모두 새로운 NAT-T(IPSec NAT-Traversal) 표준을 지원하지 않는 한 L2TP/IPSec 사용을 차단합니다. 자세한 내용은 "NAT Traversal" 섹션을 참조하세요.

이름과 암호를 입력하라는 프롬프트가 표시된 후 연결에 실패하면 IPSec 세션이 설정되었으며 이름과 암호에 문제가 있을 수 있습니다. 다른 서버 설정으로 인해 L2TP 연결이 성공하지 못할 수도 있습니다. 이 경우 PPP 로그를 관리자에게 보냅니다.

NAT Traversal

Microsoft L2TP/IPSec VPN 클라이언트에서 IPSec NAT-T를 지원하면 VPN 서버에서 IPSec NAT-T도 지원하는 경우 IPSec 세션이 NAT를 통과할 수 있습니다. IPSec NAT-T는 Windows Server 2003에서 지원됩니다. IPSec NAT-T는 Windows XP 및 Windows 2000용 L2TP/IPSec NAT-T 업데이트를 통해 Windows 2000 Server에서도 지원됩니다.

타사 VPN 서버 및 게이트웨이의 경우 관리자 또는 VPN 게이트웨이 공급업체에 문의하여 IPSec NAT-T가 지원되는지 확인합니다.

자세한 정보

또한 구성 유틸리티는 IPSec 로깅을 사용하도록 설정하는 확인란을 제공합니다. 연결할 수 없고 네트워크 관리자 또는 지원 담당자가 연결 로그를 제공하도록 요청한 경우 여기에서 IPSec 로깅을 사용하도록 설정할 수 있습니다. 이렇게 하면 C:\Program Files\Microsoft IPSec VPN 폴더에 로그(Isakmp.log)가 만들어집니다. 연결할 때 L2TP에서 PPP 처리를 위해 로깅도 사용하도록 설정합니다. 방법은 다음과 같습니다.

  1. Dialup Networking 폴더를 마우스 오른쪽 단추로 클릭한 다음 속성을 클릭합니다.
  2. 네트워킹 탭을 클릭한 다음 이 연결에 대한 로그 파일 기록 확인란을 클릭하여 선택합니다.

PPP 로그 파일은 C:\Windows\Ppplog.txt입니다. C:\Program Files\Microsoft IPSec VPN 폴더에 있습니다.

자세한 내용은 Microsoft L2TP/IPSec VPN(가상 사설망) 클라이언트의 기본 암호화 설정을 참조하세요.