Experimentelle agentische Features

In diesem Artikel

• Warum Sicherheit wichtig ist

• Sicherheits- und Datenschutzprinzipien für Agents

• Aktivieren experimenteller agentischer Features

• App-Zugriff im Agent-Arbeitsbereich

• Dateizugriff im Agent-Arbeitsbereich

• Bekannte Probleme

Warum Sicherheit wichtig ist

Agentic KI verfügt heute über leistungsstarke Funktionen– sie kann beispielsweise viele komplexe Aufgaben als Reaktion auf Benutzereingabeaufforderungen ausführen und die Interaktion von Benutzern mit ihren PCs transformieren. Da diese Funktionen eingeführt werden, sehen sich KI-Modelle immer noch mit funktionalen Einschränkungen in Bezug auf ihr Verhalten konfrontiert und können gelegentlich halluzinieren und unerwartete Ergebnisse erzeugen. Darüber hinaus führen agentic KI-Anwendungen zu neuen Sicherheitsrisiken, z. B. cross-prompt injection (XPIA), bei denen schädliche Inhalte, die in Benutzeroberflächenelemente oder Dokumente eingebettet sind, Agentanweisungen außer Kraft setzen können, was zu unbeabsichtigten Aktionen wie Datenexfiltration oder Malwareinstallation führt. Wir empfehlen Ihnen, diese Informationen zu lesen und die Auswirkungen der Aktivierung eines Agents auf Ihrem Computer auf die Sicherheit zu verstehen. 

Während wir damit beginnen, agentische Funktionen in Windows zu integrieren, besteht unser Engagement darin, robuste Sicherheits- und Datenschutzkontrollen einzubeziehen, die es Kunden ermöglichen, ihr Potenzial mit der Unterstützung klarer Anleitungen und geeigneter Schutzmaßnahmen, die von diesen Zielen gesteuert werden, sicher zu erkunden.

1. Nicht-Abstreitung : Alle Aktionen eines Agents sind beobachtbar und von denen eines Benutzers zu unterscheiden.

2. Vertraulichkeit: Agents, die geschützte Daten von Benutzern sammeln, aggregieren oder anderweitig nutzen, erfüllen oder überschreiten die Sicherheits- und Datenschutzstandards der daten, die sie nutzen.

3. Autorisierung : Benutzer genehmigen alle Abfragen für Benutzerdaten sowie ausgeführte Aktionen.

Agentische Sicherheits- und Datenschutzprinzipien

Das Schützen von KI-Agents erfordert einen robusten Satz von Prinzipien, die sicherstellen, dass sie den Absichten des Benutzers entsprechen und gleichzeitig ihre Daten schützen.

1. Agents sind autonome Entitäten. Sie sind anfällig für Angriffe auf die gleiche Weise wie andere Benutzer- oder Softwarekomponenten. Ihre Handlungen müssen eingedämmt werden können.

2. Agents müssen in der Lage sein, Protokolle zu erstellen, die ihre Aktivitäten umrinnen. Windows sollte in der Lage sein, diese Aktionen mit einem manipulationssicheren Überwachungsprotokoll zu überprüfen.

3. Die Agenten sollten ein Mittel zur Überwachung ihrer Tätigkeiten bereitstellen. Viele Aktivitäten von Agents sind aggregierte Pläne, die mehrere Schritte enthalten. Benutzer sollten in der Lage sein, die Schritte zu überprüfen, den Plan zu genehmigen und die Ausführung des Plans zu überwachen. Agents müssen in der Lage sein, bei Bedarf die Autorisierung oder Entscheidung eines Benutzers explizit anzufordern.

4. Agents sollten immer nach den Grundsätzen der geringsten Rechte handeln und dürfen keine Berechtigungen oder Funktionen erhalten, die über die des initiierenden Benutzers hinausgehen, einschließlich Administratorrechten. Autorisierte Agent-Berechtigungen sollten präzise, spezifisch und zeitgebunden sein. Agenten dürfen nur in bestimmten, vom Benutzer autorisierten Kontexten auf vertrauliche Informationen (z. B. Guthaben Karte Daten) zugreifen können, um bestimmte Aktionen auszuführen, z. B. bei der Interaktion mit bestimmten Anwendungen oder auf bestimmten Websites.

5. Entitäten auf dem System – Administrator, lokales System usw. – sollten keinen speziellen Zugriff auf einen anderen Agent als den Besitzer haben, für den sie tätig ist.

6. Windows wurde entwickelt, um Agents dabei zu unterstützen, die in den Microsoft-Datenschutzbestimmungen und der verantwortungsvollen KI-Standard eingegangenen Verpflichtungen von Microsoft einzuhalten. Windows unterstützt Agents bei der Verarbeitung von Daten nur für klar definierte Zwecke, um Transparenz und Vertrauen zu gewährleisten. Ausführliche Informationen zu unseren Verpflichtungen zur verantwortungsvollen Weiterentwicklung von KI unter Wahrung der Privatsphäre und anderer Grundrechte finden Sie im Microsoft-Datenschutzbericht .

Agent-Entwicklung und KI-bezogene Sicherheit sind weiterhin ein schnelllebiger Forschungsbereich mit aktiver Beteiligung von Microsoft in Partnerschaft mit der breiteren Sicherheitscommunity. Im Rahmen der Microsoft Secure Future Initiative ist es unsere oberste Priorität, Benutzern, Unternehmen und Entwicklern bei der Bewältigung dieser Herausforderungen zu helfen, da Menschen beginnen, im Rahmen ihrer täglichen Workflows mit Agents zu interagieren.

Aktivieren experimenteller agentischer Features

Die Einstellung experimentelle agentische Features ist standardmäßig deaktiviert. Dieses Feature verfügt über keine EIGENEN KI-Funktionen, es ist ein Sicherheitsfeature für Agents wie Copilot Actions. Wenn Sie diese Umschaltfläche aktivieren, können Sie ein separates Agent-Konto und einen separaten Arbeitsbereich auf dem Gerät erstellen, sodass ein enthaltener Bereich bereitgestellt wird, um die Agent-Aktivität vom Benutzer getrennt zu halten.  

Die Einstellung für experimentelle agentische Features befindet sich derzeit in der Vorschau, um Feedback zu sammeln und daraus zu lernen, um die Erfahrung zu verfeinern. Während des Vorschauzeitraums werden wir weiterhin präzisere Sicherheits- und Datenschutzkontrollen hinzufügen, bevor sie allgemein verfügbar gemacht werden.  

Copilot Actions, derzeit in der Vorschau für Windows-Insider in Copilot Labs, verwendet diese Funktionalität. Weitere Informationen finden Sie unter Copilot unter Windows: Copilot Actions beginnt mit dem Rollout für Windows-Insider | Windows-Insider-Blog.  

Diese Einstellung kann nur von einem Administrator des Geräts aktiviert werden und ist nach der Aktivierung für alle Benutzer auf dem Gerät aktiviert, einschließlich anderer Administratoren und Standardbenutzer.   

Die Einstellung experimenteller Agentic-Features ermöglicht Folgendes:

• Die Erstellung von Agent-Konten , die Agents ihr eigenes separates Konto auf Ihrem Gerät bereitstellen, wenn sie in Ihrem Namen handeln. Windows verwendet einen stufenweisen Ansatz, um in zukünftigen Versionen strengere Regeln für Agent-Konten hinzuzufügen.

• Die Erstellung des Agent-Arbeitsbereichs , in dem Agents parallel mit einem menschlichen Benutzer arbeiten können, wodurch die Laufzeitisolation und die bereichsbezogene Autorisierung ermöglicht werden. Dadurch erhält der Agent Funktionen wie seinen eigenen Desktop, während die Sichtbarkeit und der Zugriff auf den Agent auf die Desktopaktivität des Benutzers eingeschränkt werden.

• Agentic-Apps wie Copilot können diese sechs häufig verwendeten Ordner in Ihrem Benutzerprofilverzeichnis anfordern und darauf zugreifen, während sie im Agent-Arbeitsbereich ausgeführt werden: Dokumente, Downloads, Desktop, Musik, Bilder und Videos.

Schritte zum Aktivieren experimenteller agentischer Features:

1. Anmelden bei Windows mit einem Administratorkonto

2. Wählen Sie in der Einstellungs-App auf Ihrem Windows-Gerät System > KI-Komponenten > Experimentelle agentische Features aus.

App-Zugriff im Agent-Arbeitsbereich

Wenn sie im Agent-Arbeitsbereich ausgeführt wird, hat die agentic-App Zugriff auf die Apps, die standardmäßig für alle Benutzer verfügbar sind. Um den Zugriff einzuschränken, können Sie Apps für bestimmte Benutzer oder speziell für Ihre Agents installieren.

Dateizugriff im Agent-Arbeitsbereich

Agentic-Konten haben eingeschränkten Zugriff auf Ihr Benutzerprofilverzeichnis (C:\Benutzer\<Benutzername>\), während sie im Agent-Arbeitsbereich arbeiten. Wenn ein Agent Zugriff auf Dateien in diesem Verzeichnis benötigt, gewährt Windows Lese- und Schreibzugriff auf die folgenden bekannten Ordner: Dokumente, Downloads, Desktop, Videos, Bilder und Musik, wenn die Einstellung aktiviert ist. Möglicherweise befinden sich diese Ordner am Standardspeicherort, oder Sie haben sie an anderer Stelle im Dateisystem umgeleitet.

Um den Zugriff auf diese Ordner einzuschränken, deaktivieren Sie die Einstellung experimentelles Agentic-Feature.

1. Wählen Sie in der Einstellungs-App auf Ihrem Windows-Gerät System > KI-Komponenten > Experimentelle agentische Features aus.

2. Deaktivieren der Einstellung

Agent-Konten haben Zugriff auf alle Ordner, auf die alle authentifizierten Benutzer Zugriff haben, z. B. öffentliche Benutzerprofile.

Bekannte Probleme:

In Build 26220.7262 können folgende Probleme auftreten:

• Windows wird nicht in den Ruhezustand versetzt, während Copilot aktive Unterhaltungen führt.

  • Problemumgehung: Schließen Sie alle Copilot Actions-Unterhaltungen, oder schließen Sie Copilot, indem Sie sie auf der Taskleiste auswählen, mit der rechten Maustaste darauf klicken und "Beenden" auswählen.

• Möglicherweise wird eine Warnung angezeigt: "Jemand anderes verwendet diesen PC noch. Wenn Sie jetzt herunterfahren, könnten sie nicht gespeicherte Arbeit verlieren." beim Versuch, Ihr Windows-Gerät aufgrund aktiver Copilot Actions-Unterhaltungen herunterzufahren oder neu zu starten.

  • Problemumgehung: Schließen Sie alle Copilot Actions-Unterhaltungen, oder schließen Sie Copilot, indem Sie sie auf der Taskleiste auswählen, mit der rechten Maustaste darauf klicken und "Beenden" auswählen.

• Unternehmensbenutzern mit Endpoint Privilege Management werden möglicherweise Intune für die Agent-Benutzerkonten erstellten verwalteten Profile angezeigt, die nicht bereinigt werden, wenn die Copilot Action-Konversation geschlossen oder die Anwendung beendet wird. Diese Profile enden in der Regel mit einem Dollarzeichen, d. h.: _$, und befinden sich neben den Agent-Benutzerkonten im Windows-Benutzerordner (in der Regel c:\users).

  • Problemumgehung: Microsoft ist sich dieses Problem bewusst und arbeitet an einer Lösung, die Intune Profilen sauber. ​​​​​​​

​​​​​​​