Schannel.dll에서 특정 암호화 알고리즘 및 프로토콜의 사용을 제한

이 문서에서는 Schannel.dll 파일에서 특정 암호화 알고리즘 및 프로토콜의 사용을 제한하는 방법을 설명합니다. 이 정보는 Microsoft CAPI(Cryptographic API)용으로 작성된 ISV(독립 소프트웨어 공급업체) 애플리케이션에도 적용됩니다.

적용 대상: Windows Server 2003
원본 KB 번호: 245030

요약

Windows NT 4.0 서비스 팩 6에 포함된 다음 CSP(암호화 서비스 공급자)에는 FIPS-140-1 암호화 유효성 검사용 인증서가 수여되었습니다.

• Microsoft 기본 암호화 공급자(Rsabase.dll)
• Microsoft 고급 암호화 공급자(Rsaenh.dll)(내보내기 이외의 버전)

Schannel.dll 파일인 Microsoft TLS/SSL 보안 공급자는 여기에 나열된 CSP를 사용하여 Internet Explorer 및 IIS(인터넷 정보 서비스)에 대한 지원에서 SSL 또는 TLS를 통해 보안 통신을 수행합니다.

암호 그룹 1 및 2를 지원하도록 Schannel.dll 파일을 변경할 수 있습니다. 그러나 프로그램은 암호 그룹 1 및 2도 지원해야 합니다. 암호 그룹 1 및 2는 IIS 4.0 및 5.0에서 지원되지 않습니다.

이 문서에는 Windows NT 4.0 서비스 팩 6 이상 버전에 대한 TLS/SSL 보안 공급자를 구성하는 데 필요한 정보가 포함되어 있습니다. Windows 레지스트리를 사용하여 기본 암호화 공급자 또는 향상된 암호화 공급자에서 지원하는 암호화 알고리즘과 관련하여 특정 SSL 3.0 또는 TLS 1.0 암호화 도구 모음의 사용을 제어할 수 있습니다.

암호 그룹

INTERNET-DRAFT TLS용 56비트 내보내기 암호 그룹 draft-ietf-tls-56-bit-ciphersuites-00.txt를 사용하는 SSL 3.0 및 TLS 1.0(RFC2246)은 서로 다른 암호 그룹을 사용하는 옵션을 제공니다. 각 암호 그룹은 SSL/TLS 세션에서 사용되는 키 교환, 인증, 암호화 및 MAC 알고리즘을 결정합니다. RSA를 키 교환 및 인증 알고리즘으로 사용하는 경우 RSA라는 용어는 해당 암호 그룹 정의에 한 번만 나타납니다.

Windows NT 4.0 서비스 팩 6 Microsoft TLS/SSL 보안 공급자는 기본 암호화 공급자 또는 향상된 암호화 공급자를 사용할 때 다음 SSL 3.0 정의 CipherSuite를 지원합니다.

Windows NT 4.0 서비스 팩 6 Microsoft TLS/SSL 보안 공급자는 기본 암호화 공급자 또는 향상된 암호화 공급자를 사용할 때 다음 TLS 1.0 정의 CipherSuite도 지원합니다.

Schannel 관련 레지스트리 키

SCHANNEL 키

레지스트리 편집기(Regedt32.exe)를 시작하고, 다음 레지스트리 키를 찾습니다.
HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\SecurityProviders\SCHANNEL

SCHANNEL\프로토콜 하위 키

시스템에서 기본적으로 협상되지 않는 프로토콜(예: TLS 1.1 및 TLS 1.2)을 사용하도록 설정하려면 DisabledByDefault 값의 DWORD 값 데이터를 프로토콜 키 아래의 다음 레지스트리 키에서 0x0으로 변경합니다.

• SCHANNEL\Protocols\TLS 1.1\Client
• SCHANNEL\Protocols\TLS 1.1\Server
• SCHANNEL\Protocols\TLS 1.2\Client
• SCHANNEL\Protocols\TLS 1.2\Server

SCHANNEL\암호 하위 키

SCHANNEL 키 아래의 암호 레지스트리 키는 DES 및 RC4와 같은 대칭 알고리즘의 사용을 제어하는 데 사용됩니다. 다음은 암호 키 아래에 있는 유효한 레지스트리 키입니다.

다음과 같은 형식으로 SCHANNEL 암호 하위 키를 만듭니다. SCHANNEL\(VALUE)\(VALUE/VALUE)

RC4 128/128

암호 하위 키: SCHANNEL\Ciphers\RC4 128/128

이 하위 키는 128비트 RC4를 참조합니다.

이 암호 알고리즘을 허용하려면 사용 값의 DWORD 값 데이터를 0xffffffff로 변경합니다. 또는 DWORD 값 데이터를 0x0으로 변경합니다. 사용 값을 구성하지 않으면 기본값이 사용하도록 설정됩니다. 이 레지스트리 키는 SGC 인증서가 없는 내보낼 수 있는 서버에는 적용되지 않습니다.

이 알고리즘을 사용하지 않도록 설정하면 사실상 다음과 같은 값이 허용되지 않습니다.

• SSL_RSA_WITH_RC4_128_MD5
• SSL_RSA_WITH_RC4_128_SHA
• TLS_RSA_WITH_RC4_128_MD5
• TLS_RSA_WITH_RC4_128_SHA

Triple DES 168

암호 하위 키: SCHANNEL\Ciphers\Triple DES 168

이 레지스트리 키는 ANSI X9.52 및 Draft FIPS 46-3에 지정된 168비트 Triple DES를 참조합니다. 이 레지스트리 키는 내보내기 버전에 적용되지 않습니다.

이 암호 알고리즘을 허용하려면 사용 값의 DWORD 값 데이터를 0xffffffff로 변경합니다. 또는 DWORD 데이터를 0x0로 변경합니다. 사용 값을 구성하지 않으면 기본값이 사용하도록 설정됩니다.

이 알고리즘을 사용하지 않도록 설정하면 사실상 다음과 같은 값이 허용되지 않습니다.

• SSL_RSA_WITH_3DES_EDE_CBC_SHA

• SSL_DHE_DSS_WITH_3DES_EDE_CBC_SHA

• TLS_RSA_WITH_3DES_EDE_CBC_SHA

• TLS_DHE_DSS_WITH_3DES_EDE_CBC_SHA

  참고

  Windows Vista 전에 릴리스되는 Windows 버전의 경우 키는 Triple DES 168/168이어야 합니다.

RC2 128/128

암호 하위 키: SCHANNEL\Ciphers\RC2 128/128

이 레지스트리 키는 128비트 RC2를 참조합니다. 내보내기 버전에는 적용되지 않습니다.

이 암호 알고리즘을 허용하려면 사용 값의 DWORD 값 데이터를 0xffffffff로 변경합니다. 그렇지 않으면 DWORD 값 데이터를 0x0로 변경합니다. 사용 값을 구성하지 않으면 기본값이 사용하도록 설정됩니다.

RC4 64/128

암호 하위 키: SCHANNEL\Ciphers\RC4 64/128

이 레지스트리 키는 64비트 RC4를 참조합니다. 내보내기 버전에는 적용되지 않지만 Microsoft Money에서 사용됩니다.

이 암호 알고리즘을 허용하려면 사용 값의 DWORD 값 데이터를 0xffffffff로 변경합니다. 그렇지 않으면 DWORD 값 데이터를 0x0로 변경합니다. 사용 값을 구성하지 않으면 기본값이 사용하도록 설정됩니다.

RC4 56/128

암호 하위 키: SCHANNEL\Ciphers\RC4 56/128

이 레지스트리 키는 56비트 RC4를 참조합니다.

이 암호화 알고리즘을 허용하려면 사용 값의 DWORD 값 데이터를 0xffffffff로 변경합니다. 그렇지 않으면 DWORD 값 데이터를 0x0로 변경합니다. 사용 값을 구성하지 않으면 기본값이 사용하도록 설정됩니다.

이 알고리즘을 사용하지 않도록 설정하면 사실상 다음 값이 허용되지 않습니다.

• TLS_RSA_EXPORT1024_WITH_RC4_56_SHA

RC2 56/128

암호 하위 키: SCHANNEL\Ciphers\RC2 56/128

이 레지스트리 키는 56비트 RC2를 참조합니다.

이 암호 알고리즘을 허용하려면 사용 값의 DWORD 값 데이터를 0xffffffff로 변경합니다. 그렇지 않으면 DWORD 값 데이터를 0x0로 변경합니다. 사용 값을 구성하지 않으면 기본값이 사용하도록 설정됩니다.

DES 56

암호 하위 키: SCHANNEL\Ciphers\DES 56/56

이 레지스트리 키는 FIPS 46-2에 지정된 56비트 DES를 참조합니다. Rsabase.dll 파일 및 Rsaenh.dll 파일의 구현은 FIPS 140-1 암호화 모듈 유효성 검사 프로그램에서 유효성을 검사합니다.

이 암호 알고리즘을 허용하려면 사용 값의 DWORD 값 데이터를 0xffffffff로 변경합니다. 그렇지 않으면 DWORD 값 데이터를 0x0로 변경합니다. 사용 값을 구성하지 않으면 기본값이 사용하도록 설정됩니다.

이 알고리즘을 사용하지 않도록 설정하면 사실상 다음과 같은 값이 허용되지 않습니다.

• SSL_RSA_WITH_DES_CBC_SHA
• TLS_RSA_WITH_DES_CBC_SHA

RC4 40/128

암호 하위 키: SCHANNEL\Ciphers\RC4 40/128

이 레지스트리 키는 40비트 RC4를 참조합니다.

이 암호 알고리즘을 허용하려면 사용 값의 DWORD 값 데이터를 0xffffffff로 변경합니다. 그렇지 않으면 DWORD 값 데이터를 0x0로 변경합니다. 사용 값을 구성하지 않으면 기본값이 사용하도록 설정됩니다.

이 알고리즘을 사용하지 않도록 설정하면 사실상 다음과 같은 값이 허용되지 않습니다.

• SSL_RSA_EXPORT_WITH_RC4_40_MD5
• TLS_RSA_EXPORT_WITH_RC4_40_MD5

RC2 40/128

암호 하위 키: SCHANNEL\Ciphers\RC2 40/128

이 레지스트리 키는 40비트 RC2를 참조합니다.

이 암호 알고리즘을 허용하려면 사용 값의 DWORD 값 데이터를 0xffffffff로 변경합니다. 그렇지 않으면 DWORD 값 데이터를 0x0로 변경합니다. 사용 값을 구성하지 않으면 기본값이 사용하도록 설정됩니다.

이 알고리즘을 사용하지 않도록 설정하면 사실상 다음과 같은 값이 허용되지 않습니다.

• SSL_RSA_EXPORT_WITH_RC2_CBC_40_MD5
• TLS_RSA_EXPORT_WITH_RC2_CBC_40_MD5

NULL

암호 하위 키: SCHANNEL\Ciphers\NULL

이 레지스트리 키는 암호화가 없음을 의미합니다. 기본적으로 이 서비스는 해제되어 있습니다.

암호화를 해제하려면(모든 암호화 알고리즘을 허용하지 않음) 사용 값의 DWORD 값 데이터를 0xffffffff로 변경합니다. 그렇지 않으면 DWORD 값 데이터를 0x0로 변경합니다.

해시

암호 하위 키: SCHANNEL/Hashes

SCHANNEL 키 아래의 해시 레지스트리 키는 SHA-1 및 MD5와 같은 해시 알고리즘의 사용을 제어하는 데 사용됩니다. 해시 키 아래에 유효한 레지스트리 키는 다음과 같습니다.

MD5

암호 하위 키: SCHANNEL\Hashes\MD5

이 해시 알고리즘을 허용하려면 사용 값의 DWORD 값 데이터를 기본값인 0xffffffff로 변경합니다. 그렇지 않으면 DWORD 값 데이터를 0x0로 변경합니다.

이 알고리즘을 사용하지 않도록 설정하면 사실상 다음과 같은 값이 허용되지 않습니다.

• SSL_RSA_EXPORT_WITH_RC4_40_MD5
• SSL_RSA_WITH_RC4_128_MD5
• SSL_RSA_EXPORT_WITH_RC2_CBC_40_MD5
• TLS_RSA_EXPORT_WITH_RC4_40_MD5
• TLS_RSA_WITH_RC4_128_MD5
• TLS_RSA_EXPORT_WITH_RC2_CBC_40_MD5

SHA

암호 하위 키: SCHANNEL\Hashes\SHA

이 레지스트리 키는 FIPS 180-1에 지정된 SHA-1(보안 해시 알고리즘)을 참조합니다. Rsabase.dll 파일 및 Rsaenh.dll 파일의 구현은 FIPS 140-1 암호화 모듈 유효성 검사 프로그램에서 유효성을 검사합니다.

이 해시 알고리즘을 허용하려면 사용 값의 DWORD 값 데이터를 기본값인 0xffffffff로 변경합니다. 그렇지 않으면 DWORD 값 데이터를 0x0로 변경합니다.

이 알고리즘을 사용하지 않도록 설정하면 사실상 다음과 같은 값이 허용되지 않습니다.

• SSL_RSA_WITH_RC4_128_SHA
• SSL_RSA_WITH_DES_CBC_SHA
• SSL_RSA_WITH_3DES_EDE_CBC_SHA
• SSL_RSA_EXPORT1024_WITH_DES_CBC_SHA
• SSL_RSA_EXPORT1024_WITH_RC4_56_SHA
• TLS_RSA_WITH_RC4_128_SHA
• TLS_RSA_WITH_DES_CBC_SHA
• TLS_RSA_WITH_3DES_EDE_CBC_SHA
• TLS_RSA_EXPORT1024_WITH_DES_CBC_SHA
• TLS_RSA_EXPORT1024_WITH_RC4_56_SHA

KeyExchangeAlgorithms

암호 하위 키: SCHANNEL/KeyExchangeAlgorithms

SCHANNEL 키 아래의 KeyExchangeAlgorithms 레지스트리 키는 RSA와 같은 키 교환 알고리즘의 사용을 제어하는 데 사용됩니다. 다음은 KeyExchangeAlgorithms 키 아래에 있는 유효한 레지스트리 키입니다.

PKCS

암호 하위 키: SCHANNEL\KeyExchangeAlgorithms\PKCS

이 레지스트리 키는 RSA를 키 교환 및 인증 알고리즘으로 참조합니다.

RSA를 허용하려면 사용 값의 DWORD 값 데이터를 기본값인 0xffffffff로 변경합니다. 그렇지 않으면 DWORD 데이터를 0x0으로 변경합니다.

RSA를 사용하지 않도록 설정하면 사실상 Windows NT4 SP6 Microsoft TLS/SSL 보안 공급자에서 지원하는 모든 RSA 기반 SSL 및 TLS 암호 그룹을 허용하지 않습니다.

FIPS 140-1 암호 그룹

Microsoft 베이스 또는 Enhanced Cryptographic Provider에서 제공하는 FIPS 46-3 또는 FIPS 46-2 및 FIPS 180-1 알고리즘에 해당하는 SSL 3.0 또는 TLS 1.0 암호 그룹만 사용할 수 있습니다.

이 문서에서는 이를 FIPS 140-1 암호 그룹이라고 합니다. 구체적으로는 다음과 같습니다.

• SSL_RSA_WITH_DES_CBC_SHA
• SSL_RSA_WITH_3DES_EDE_CBC_SHA
• SSL_RSA_EXPORT1024_WITH_DES_CBC_SHA
• TLS_RSA_WITH_DES_CBC_SHA
• TLS_RSA_WITH_3DES_EDE_CBC_SHA
• TLS_RSA_EXPORT1024_WITH_DES_CBC_SHA

여기에서 정의되고 Windows NT 4.0 Service Pack 6 Microsoft TLS/SSL 보안 공급자에서 Base Cryptographic Provider 또는 Enhanced Cryptographic Provider와 함께 지원되는 FIPS 140-1 암호 그룹만 사용하려면 다음 레지스트리 키에서 사용 값의 DWORD 값 데이터를 0x0으로 구성합니다.

• SCHANNEL\Ciphers\RC4 128/128
• SCHANNEL\Ciphers\RC2 128/128
• SCHANNEL\Ciphers\RC4 64/128
• SCHANNEL\Ciphers\RC4 56/128
• SCHANNEL\Ciphers\RC2 56/128
• SCHANNEL\Ciphers\RC4 40/128
• SCHANNEL\Ciphers\RC2 40/128
• SCHANNEL\Ciphers\NULL
• SCHANNEL\Hashes\MD5

그리고 다음 레지스트리 키에서 사용 값의 DWORD 값 데이터를 0xffffffff로 구성합니다.

• SCHANNEL\Ciphers\DES 56/56
• SCHANNEL\Ciphers\Triple DES 168/168(내보내기 버전에는 적용되지 않음)
• SCHANNEL\Hashes\SHA
• SCHANNEL\KeyExchangeAlgorithms\PKCS

FIPS 140-1 암호 그룹을 사용하여 마스터 비밀 계산

SSL 3.0에서 FIPS 140-1 암호 그룹을 사용하는 절차는 TLS 1.0에서 FIPS 140-1 암호 그룹을 사용하는 절차와 다릅니다.

SSL 3.0에서 다음은 master_secret 계산 정의입니다.

TLS 1.0에서 다음은 master_secret 계산 정의입니다.

여기서 각 부분이 나타내는 의미는 다음과 같습니다.

TLS 1.0에서 FIPS 140-1 암호 그룹만 사용하는 옵션을 선택합니다.

이러한 차이로 인해 허용된 암호 그룹 집합이 FIPS 140-1 암호 그룹의 하위 집합으로만 제한되더라도 고객은 SSL 3.0 사용을 금지해야 할 수 있습니다. 이 경우 사용 값의 DWORD 값 데이터를 프로토콜 키 아래의 다음 레지스트리 키의 0x0으로 변경합니다.

• SCHANNEL\Protocols\SSL 3.0\Client
• SCHANNEL\Protocols\SSL 3.0\Server

레지스트리 파일의 예

구성에 대한 레지스트리 파일 콘텐츠의 두 가지 예가 문서의 이 섹션에 제공됩니다. Export.reg 및 Non-export.reg입니다.

내보낼 수 있는 Rasbase.dll 및 Schannel.dll 파일이 있는 Windows NT 4.0 Service Pack 6을 실행하는 컴퓨터에서 Export.reg를 실행하여 컴퓨터에서 TLS 1.0 FIPS 암호 그룹만 사용되는지 확인합니다.

내보낼 수 없는 Rasenh.dll 및 Schannel.dll 파일을 포함하는 Windows NT 4.0 Service Pack 6을 실행하는 컴퓨터에서 Non-export.reg를 실행하여 컴퓨터에서 TLS 1.0 FIPS 암호 그룹만 사용되는지 확인합니다.

Schannel.dll 파일에서 SCHANNEL 레지스트리 키의 변경 내용을 인식하려면 컴퓨터를 다시 시작해야 합니다.

레지스트리 설정을 기본값으로 반환하려면 SCHANNEL 레지스트리 키와 그 아래에 있는 모든 항목을 삭제합니다. 이러한 레지스트리 키가 없는 경우 컴퓨터를 다시 시작할 때 Schannel.dll이 키를 다시 빌드합니다.