FIPS 암호화를 사용하는 Windows Server에 대한 원격 지원 연결이 작동하지 않음

  • 아티클

이 문서에서는 FIPS 암호화가 있는 Windows Server 기반 서버에 대한 원격 지원 연결이 작동하지 않는 문제에 대한 해결 방법을 제공합니다.

적용 대상: Windows Server 2016, Windows Server 2012 R2
원본 KB 번호: 811770

증상

Microsoft는 Windows Server의 터미널 서비스 암호화 수준에 대한 옵션에 FIPS 준수 설정을 추가했습니다. 암호화 수준이 FIPS 준수로 설정된 Windows Server 기반 서버는 Windows 10 실행 중인 컴퓨터의 원격 지원 연결을 허용할 수 없습니다.

Windows 10 기반 클라이언트에서 터미널 서비스 서버로 연결하려고 하면 연결이 성공하지 못할 수 있으며 다음과 같은 오류 메시지가 표시될 수 있습니다.

보안 오류로 인해 클라이언트가 터미널 서버에 연결할 수 없습니다. 네트워크에 로그온되어 있는지 확인한 후 서버에 다시 연결을 시도합니다.

원인

이 문제는 Windows 10 기반 컴퓨터가 FIPS 호환 암호화를 요구하도록 구성된 Windows Server 기반 컴퓨터에 대한 원격 지원 연결을 제공할 수 없기 때문에 발생합니다.

해결 방법

이 문제를 resolve 원격 데스크톱 연결 6.0을 설치합니다. 원격 데스크톱 연결에 대한 자세한 내용은 다음 문서 번호를 클릭하여 Microsoft 기술 자료의 문서를 확인합니다.

원격 데스크톱 연결 925876(터미널 서비스 클라이언트 6.0)

해결 방법

원격 데스크톱 연결(터미널 서비스 클라이언트 6.0)은 Windows 10 실행 중인 클라이언트 컴퓨터에 설치할 수 있습니다.

Windows 10 이 문제를 해결하려면 FIPS 암호화 수준을 사용하지 않도록 설정합니다. FIPS 암호화 수준을 사용하지 않도록 설정하려면 RDP-Tcp 속성 대화 상자에서 암호화 수준 설정을 변경하거나 그룹 정책 개체를 사용하여 FIPS 데이터 암호화 시스템 전체를 사용하지 않도록 설정할 수 있습니다. FIPS 암호화 수준을 사용하지 않도록 설정하려면 다음 방법 중 하나를 사용합니다.

참고

FIPS 암호화 수준을 사용하도록 설정하는 방법에는 두 가지가 있습니다. 터미널 서비스에 대해 FIPS 암호화 수준을 사용하지 않도록 설정해야 하는 경우 원래 FIPS 암호화 수준을 사용하도록 설정하는 데 사용한 것과 동일한 방법을 사용하여 이 작업을 수행해야 합니다.

방법 1

RDP-Tcp 속성 대화 상자에서 암호화 수준 설정을 변경하여 FIPS 암호화 수준을 사용하지 않도록 설정하려면 다음 단계를 수행합니다.

  1. 시작을 클릭하고 실행을 클릭하고 열기 상자에 tscc.msc를 입력한 다음 확인을 클릭합니다.

  2. Connections 클릭한 다음 오른쪽 창에서 RDP-Tcp를 두 번 클릭합니다.

  3. 암호화 수준 상자에서 을 클릭하여 FIPS 규격 이외의 암호화 수준을 선택합니다.

    참고

    변경하려고 할 때 암호화 수준 설정을 사용하지 않도록 설정한 경우 시스템 암호화: 암호화, 해시 및 서명에 FIPS 규격 알고리즘 사용 이 사용하도록 설정되었으며 메서드 2를 사용하여 이 시스템 전체 설정을 사용하지 않도록 설정해야 합니다.

방법 2

그룹 정책 Object를 사용하여 시스템 전체에서 FIPS 데이터 암호화를 사용하지 않도록 설정하려면 다음 단계를 수행합니다.

  1. 시작을 클릭하고 실행을 클릭하고 열기 상자에 gpedit.msc를 입력한 다음 확인을 클릭합니다.

  2. 컴퓨터 구성을 확장하고, Windows 설정을 확장하고, 보안 설정을 확장하고, 로컬 정책을 확장한 다음, 보안 옵션을 클릭합니다.

  3. 오른쪽 창에서 시스템 암호화: 암호화, 해시 및 서명에 FIPS 규격 알고리즘 사용을 두 번 클릭하고 사용 안 함을 클릭한 다음 확인을 클릭합니다.

    참고

    FIPS를 사용하도록 설정하면 터미널 서버의 암호화 수준 설정을 사용할 수 없습니다.

상태

Microsoft는 "적용 대상" 섹션에 있는 Microsoft 제품에 문제가 있다는 것을 확인했습니다.

추가 정보

FIPS 준수 설정을 사용하려면 연방 정보 처리 표준 140-1에서 유효성을 검사하는 암호화 방법을 사용하여 클라이언트와 서버 간의 모든 데이터를 암호화해야 합니다. Windows 10 기반 클라이언트가 FIPS 규격 암호화가 필요한 Windows Server 기반 컴퓨터에 연결하려고 하면 다음 오류가 발생합니다.

  • 클라이언트에서 원격 지원에서 다음 오류 메시지가 표시됩니다.

    원격 지원 연결을 설정할 수 없습니다. 네트워크 문제를 검사 초대가 만료되었거나 보낸 사람이 초대를 취소했는지 확인할 수 있습니다.

  • 다음 오류는 서버의 시스템 로그에 기록됩니다.

    이벤트 ID: 50
    출처: TermDD
    다음과 같이 입력합니다. 오류
    설명: RDP 프로토콜 구성 요소 "DATA ENCRYPTION"이 프로토콜 스트림에서 오류를 감지하고 클라이언트의 연결을 끊었습니다.