실험적 에이전트 기능

이 문서의 내용

• 보안이 중요한 이유

• 에이전트 보안 및 개인 정보 보호 원칙

• 실험적 에이전트 기능 사용

• 에이전트 작업 영역의 앱 액세스

• 에이전트 작업 영역의 파일 액세스

• 알려진 문제점

보안이 중요한 이유

에이전트 AI는 오늘날 강력한 기능을 갖추고 있습니다. 예를 들어 사용자 프롬프트에 대한 응답으로 많은 복잡한 작업을 완료하여 사용자가 PC와 상호 작용하는 방식을 변환할 수 있습니다. 이러한 기능이 도입됨에 따라 AI 모델은 작동 방식 측면에서 여전히 기능적 제한에 직면하고 있으며 때로는 환각을 일으키며 예기치 않은 출력을 생성할 수 있습니다. 또한 에이전트 AI 애플리케이션은 UI 요소 또는 문서에 포함된 악성 콘텐츠가 에이전트 지침을 재정의하여 데이터 반출 또는 맬웨어 설치와 같은 의도하지 않은 작업으로 이어질 수 있는 XPIA(교차 프롬프트 주입)와 같은 새로운 보안 위험을 도입합니다. 이 정보를 읽고 컴퓨터에서 에이전트를 사용하도록 설정하면 보안에 미치는 영향을 이해하는 것이 좋습니다. 

Windows에 에이전트 기능을 빌드하기 시작하면서 고객이 명확한 지침과 이러한 목표에 기반한 적절한 가드레일을 지원하여 자신의 잠재력을 자신 있게 탐색할 수 있도록 지원하는 강력한 보안 및 개인 정보 보호 제어를 포함하기로 약속합니다.

1. 부인할 수 없음: 에이전트의 모든 작업은 사용자가 수행한 작업과 관찰 가능하고 구별할 수 있습니다.

2. 기밀성: 사용자의 보호된 데이터를 수집, 집계 또는 활용하는 에이전트는 사용하는 데이터의 보안 및 개인 정보 표준을 충족하거나 초과합니다.

3. 권한 부여 : 사용자는 사용자 데이터에 대한 모든 쿼리와 수행된 작업을 승인합니다.

에이전트 보안 및 개인 정보 보호 원칙

AI 에이전트를 보호하려면 데이터를 보호하면서 사용자 의도에 따라 작동하도록 보장하는 강력한 원칙 집합이 필요합니다.

1. 에이전트는 자율 엔터티입니다. 다른 사용자 또는 소프트웨어 구성 요소와 동일한 방식으로 공격에 취약합니다. 해당 작업을 포함할 수 있어야 합니다.

2. 에이전트는 활동을 요약한 로그를 생성할 수 있어야 합니다. Windows는 변조 방지 감사 로그를 사용하여 이러한 작업을 확인할 수 있어야 합니다.

3. 에이전트는 활동을 감독할 수 있는 수단을 제공해야 합니다. 에이전트의 많은 활동은 여러 단계를 포함하는 집계 계획입니다. 사용자는 단계를 검토하고 계획을 승인하고 계획의 실행을 모니터링할 수 있어야 합니다. 에이전트는 필요한 경우 사용자의 권한 부여 또는 결정을 명시적으로 요청할 수 있어야 합니다.

4. 에이전트는 항상 최소 권한 원칙에 따라 행동해야 하며, 관리 권한을 포함하여 시작 사용자의 권한을 초과하는 권한이나 기능을 부여해서는 안 됩니다. 권한 있는 에이전트 권한은 세분화되고 특정하며 시간이 제한되어야 합니다. 에이전트는 특정 애플리케이션과 상호 작용할 때 또는 지정된 웹 사이트에서와 같은 특정 작업을 수행하는 경우와 같이 사용자가 승인한 특정 컨텍스트에서 중요한 정보(예: 신용 카드 데이터)에만 액세스할 수 있어야 합니다.

5. 시스템의 엔터티(관리자, 로컬 시스템 등)는 대신 작동하는 소유자 이외의 에이전트에 대한 특별한 액세스 권한이 없어야 합니다.

6. Windows는 에이전트가 Microsoft 개인정보처리방침 및 책임 있는 AI Standard Microsoft의 약속을 준수할 수 있도록 설계되었습니다. Windows는 명확하게 정의된 목적으로만 데이터를 처리하는 에이전트를 지원하여 투명성과 신뢰를 보장합니다. 개인 정보 보호 및 기타 기본 권리를 보호하면서 AI를 책임감 있게 발전시키기 위한 Microsoft의 약속에 대한 자세한 내용은 Microsoft 개인 정보 보고서를 참조하세요.

에이전트 개발 및 AI 관련 보안은 광범위한 보안 커뮤니티와 협력하여 Microsoft의 적극적인 참여를 통해 빠르게 움직이는 연구 분야로 계속 발전하고 있습니다. Microsoft의 Secure Future Initiative 약정의 일환으로 사용자, 기업 및 개발자가 이러한 문제를 해결할 수 있도록 돕는 것은 사람들이 일상적인 워크플로의 일부로 에이전트와 상호 작용하기 시작할 때 최우선 과제입니다.

실험적 에이전트 기능 사용

실험적 에이전트 기능 설정은 기본적으로 꺼져 있습니다. 이 기능에는 자체적으로 AI 기능이 없으며 Copilot Actions와 같은 에이전트의 보안 기능입니다. 이 토글을 사용하도록 설정하면 디바이스에서 별도의 에이전트 계정 및 작업 영역을 만들 수 있으므로 에이전트 활동을 사용자와 별도로 유지할 수 있는 공간이 제공됩니다.  

실험적 에이전트 기능 설정은 현재 피드백을 수집하고 학습하여 환경을 구체화하기 위해 미리 보기로 제공됩니다. 미리 보기 기간 동안 일반 공급되기 전에 더 세분화된 보안 및 개인 정보 보호 제어를 계속 추가할 것입니다.  

Copilot Actions는 현재 Copilot Labs의 Windows 참가자를 위해 미리 보기로 제공되며, 자세한 내용은 Windows의 Copilot: Copilot Actions가 Windows 참가자에게 배포되기 시작 | Windows 참가자 블로그.  

이 설정은 디바이스의 관리자만 사용하도록 설정할 수 있으며, 사용하도록 설정되면 다른 관리자 및 표준 사용자를 포함하여 디바이스의 모든 사용자에 대해 사용하도록 설정됩니다.   

실험적 에이전트 기능 설정을 사용하면 다음을 수행할 수 있습니다.

• 사용자를 대신하여 작업할 때 디바이스에서 에이전트에 별도의 계정을 제공하는 에이전트 계정을 만듭니 다. Windows는 단계적 접근 방식을 사용하여 향후 릴리스에서 에이전트 계정에 대한 더 엄격한 규칙을 추가합니다.

• 에이전트가 사용자 사용자와 병렬로 작업할 수 있는 에이전트 작업 영역을 만들어 런타임 격리 및 범위 지정 권한 부여를 사용하도록 설정합니다. 이렇게 하면 에이전트가 사용자의 데스크톱 활동에 대한 가시성을 제한하고 에이전트에 액세스하는 동안 자체 데스크톱과 같은 기능을 제공합니다.

• Copilot와 같은 에이전트 앱은 에이전트 작업 영역에서 실행하는 동안 사용자 프로필 디렉터리에서 일반적으로 사용되는 이러한 6개의 폴더에 대한 액세스를 요청하고 가져올 수 있습니다. 문서, 다운로드, 데스크톱, 음악, 사진 및 비디오.

실험적 에이전트 기능을 사용하도록 설정하는 단계:

1. 관리자 계정으로 Windows에 로그인

2. Windows 디바이스의 설정 앱에서 시스템 > AI 구성 요소 > 실험적 에이전트 기능을 선택합니다.

에이전트 작업 영역의 앱 액세스

에이전트 작업 영역에서 실행하는 경우 에이전트 앱은 기본적으로 모든 사용자가 사용할 수 있는 앱에 액세스할 수 있습니다. 액세스를 제한하려면 특정 사용자 또는 특히 에이전트용 앱을 설치할 수 있습니다.

에이전트 작업 영역의 파일 액세스

에이전트 계정에서는 에이전트 작업 영역에서 작업하는 동안 사용자 프로필 디렉터리(C:\Users\<사용자 이름>\)에 대한 액세스가 제한됩니다. 에이전트가 해당 디렉터리의 파일에 액세스해야 하는 경우 Windows는 설정을 사용할 때 문서, 다운로드, 데스크톱, 비디오, 사진, 음악과 같은 알려진 폴더에 대한 읽기 및 쓰기 액세스 권한을 부여합니다. 이러한 폴더가 표준 위치에 있거나 파일 시스템의 다른 곳에서 리디렉션했을 수 있습니다.

이러한 폴더에 대한 액세스를 제한하려면 실험적 에이전트 기능 설정을 해제합니다.

1. Windows 디바이스의 설정 앱에서 시스템 > AI 구성 요소 > 실험적 에이전트 기능을 선택합니다.

2. 설정 끄기

에이전트 계정은 모든 인증된 사용자가 액세스할 수 있는 모든 폴더(예: 공용 사용자 프로필)에 액세스할 수 있습니다.

알려진 문제

빌드 26220.7262에서 다음과 같은 문제가 발생할 수 있습니다.

• Copilot가 활성 대화를 하는 동안에는 Windows가 절전 모드로 설정되지 않습니다.

  • 해결 방법: 트레이에서 코필로트 작업을 선택하고 마우스 오른쪽 단추로 클릭하고 "종료"를 선택하여 Copilot Actions 대화를 닫거나 Copilot를 닫습니다.

• "다른 사람이 여전히 이 PC를 사용하고 있습니다. 지금 종료하면 저장되지 않은 작업이 손실될 수 있습니다." 활성 Copilot Actions 대화로 인해 Windows 장치를 종료하거나 다시 시작하려고 할 때

  • 해결 방법: 트레이에서 코필로트 작업을 선택하고 마우스 오른쪽 단추로 클릭하고 "종료"를 선택하여 Copilot Actions 대화를 닫거나 Copilot를 닫습니다.

• 엔드포인트 권한 관리 있는 엔터프라이즈 사용자는 Copilot 작업 대화가 닫혀 있거나 애플리케이션이 종료될 때 정리되지 않은 에이전트 사용자 계정에 대해 생성된 Intune 관리되는 프로필을 볼 수 있습니다. 이러한 프로필은 일반적으로 달러 기호(예: _$)로 끝나며 Windows 사용자 폴더(일반적으로 c:\users)의 에이전트 사용자 계정과 함께 있습니다.

  • 해결 방법: Microsoft는 이 문제를 알고 있으며 남은 Intune 프로필을 클린 수정 작업을 진행 중입니다. ​​​​​​​

​​​​​​​