Sicherheitsüberlegungen zum Copilot-Code (Vorschau)

Wichtig

Microsoft Copilot verwendet KI und kann Fehler machen oder Anweisungen falsch interpretieren. Überprüfen Sie Anforderungen und Ergebnisse sorgfältig, insbesondere bevor Copilot Code Befehle ausführt, eine Verbindung zum Internet herstellt, Dateien ändert oder bevor Sie personenbezogene Daten freigeben. Sie sind für die Aktionen verantwortlich, die Copilot in Ihrem Namen ergreift. Durch die Nutzung von Copilot stimmen Sie den Nutzungsbedingungen zu. Weitere Informationen finden Sie in der Microsoft-Datenschutzerklärung.

Microsoft Copilot Code für persönliche Konten befindet sich derzeit in der Vorschauphase.

Diese Informationen beziehen sich auf eine Vorabversion, die vor ihrer Veröffentlichung möglicherweise noch erheblich geändert wird. Microsoft übernimmt keine Garantie, weder ausdrücklich noch stillschweigend, für die hier bereitgestellten Informationen.

Copilot Code kann Software schreiben und ausführen und Aktionen auf Ihrem Gerät für Sie ausführen. Microsoft hat Sicherheitsvorkehrungen in Copilot Code integriert, um Risiken zu reduzieren. Sie sind weiterhin dafür verantwortlich, die Funktion zu überprüfen und zu genehmigen.

Wie Copilot Code Sie schützt

  • Genehmigung vor sensiblen Aktionen. Copilot Code kann Dateien im ausgewählten Projektordner lesen und schreiben. Standardmäßig werden Sie um Ihre Genehmigung gebeten, bevor es auf andere Speicherorte zugreift, eine Verbindung zum Internet herstellt, einen Befehl ausführt oder Dateien löscht.
  • Sandbox für lokale Projekte. Wenn Copilot Code für ein Projekt auf Ihrem Gerät funktioniert, wird eine Sandbox verwendet. Die Sandbox begrenzt, auf welche Dateien und Netzwerkressourcen Copilot-Code und die von ihm ausgeführten Befehle zugreifen können. Die Beschränkungen gelten auch für die Webvorschau. Die Sandbox ist standardmäßig aktiviert und funktioniert zusammen mit Genehmigungsanforderungen. Die Genehmigung einer Aktion setzt eine Sandbox-Einschränkung nicht außer Kraft. Wenn eine Aktion nicht zulässig ist, teilt Ihnen der Copilot-Code mit, was sie blockiert hat und warum. Er wiederholt die Aktion nicht stillschweigend ohne Erlaubnis.
  • Grenzwerte der Sandbox. Die Sandbox hilft, Risiken zu verringern, aber sie beseitigt sie nicht. Sie können die Sandbox in den Einstellungen deaktivieren. Während sie deaktiviert ist, gelten die Datei- und Netzwerkbeschränkungen nicht mehr, Ihre Genehmigungseinstellungen jedoch weiterhin. Die Sandbox deckt auch keine App ab, die Sie selbst außerhalb einer Copilot Code-Sitzung starten. Überprüfen Sie den generierten Code, bevor Sie ihn selbst ausführen.
  • Genehmigungen sind auf Ihre Sitzung beschränkt. Die Genehmigung, die Sie während einer Sitzung erteilen, gilt für diese Sitzung und wird nicht auf andere Unterhaltungen übertragen. Diese Regel gilt nicht, wenn "Immer zulassen " aktiviert ist, da "Immer zulassen " sitzungsübergreifend beibehalten wird.
  • Filter für schädliche Inhalte. KI-basierte Klassifizierer und Inhaltsfilter helfen dabei, schädliche Inhalte in Ihren Eingabeaufforderungen und in den Antworten von Copilot Code zu finden und zu blockieren. Zu diesen Inhalten gehören Hassreden, Gewalt, sexuelle Inhalte, Selbstverletzung und geschütztes Material.
  • Integrierte Anweisungen zum Ablehnen unsicherer Anforderungen. Systemanweisungen weisen Copilot Code an, unangemessene Anforderungen abzulehnen und die Generierung von unsicherem oder bösartigem Code zu vermeiden.
  • Sichtbare Fortschritte. Copilot Code zeigt jeden Schritt so an, wie er funktioniert, und zeigt eine Livevorschau an, sofern unterstützt, damit Sie sehen können, ob er in eine Richtung geht, die Sie nicht beabsichtigt haben.
  • Tests vor der Veröffentlichung. Microsoft testete Copilot-Code mit kontradiktorischen Eingabeaufforderungen, Red-Team-Übungen und automatisierten Klassifizierern. Die Tests umfassten schädliche Inhalte, unsicheren oder bösartigen Code, Jailbreak-Versuche und Versuche, sie dazu zu bringen, ohne Ihre Zustimmung Aktionen auszuführen.

Risiken, die Sie beachten sollten

  • Unbeabsichtigte Aktionen. Der Copilot-Code missversteht Ihre Anforderung möglicherweise falsch und ändert Dateien, überschreibt oder löscht Dateien, die Sie nicht beabsichtigt haben. Überprüfen Sie Genehmigungsanforderungen sorgfältig, und beenden Sie eine Aufgabe, wenn etwas schief zu gehen scheint.
  • Prompt injection. Files, Repositories, Webseiten oder Pakete, die Copilot-Code liest, können versteckte Anweisungen enthalten, die darauf abzielen, sie zu manipulieren. Wenn Copilot Code nach einer Genehmigung fragt, die Sie nicht erwarten, oder eine Aktion versucht, um die Sie nicht gebeten haben, brechen Sie die Aufgabe ab, und überprüfen Sie sie.
  • Ausführen von Befehlen und Herunterladen von Code. Wenn Sie einen Befehl oder einen Download genehmigen, kann Copilot Code Pakete installieren und Code aus dem Internet ausführen. Genehmigen Sie nur das, was Sie verstehen und dem Sie vertrauen.
  • Immer zulassen. Wenn Immer zulassen aktiviert ist, fragt Copilot-Code nicht, bevor Aktionen ausgeführt werden, einschließlich Dateiänderungen, Löschungen, Downloads und GitHub-Pushes. Weitere Informationen zu den Risiken und deren Deaktivierung finden Sie unter Verwendung von "Immer zulassen".
  • GitHub. Wenn Sie eine Verbindung mit GitHub herstellen, kann Copilot-Code Ihre Repositorys lesen und mit Ihrer Zustimmung Änderungen per Push übertragen. Überprüfen Sie, in welchem Repository und Branch es arbeitet, insbesondere bei öffentlichen Repositorys.
  • Unsicherer oder falscher Code. Von KI generierter Code kann Fehler oder Sicherheitslücken enthalten. Testen Sie, was Copilot Code erstellt, bevor Sie sich darauf verlassen oder es freigeben.
  • Persönliche Informationen. Fügen Sie Kennwörter, Schlüssel oder andere vertrauliche Daten nicht in Eingabeaufforderungen oder Projektdateien ein. Bevor Sie eine App freigeben, stellen Sie sicher, dass sie keine Informationen enthält, die Sie privat halten möchten.
  • Sensible Anwendungen. Verwenden Sie Copilot-Code nicht, um Software für Folge- oder sicherheitskritische Zwecke ohne ordnungsgemäße Tests und menschliche Überprüfung zu erstellen. Beispiele hierfür sind Software, die Gesundheitszustände diagnostiziert oder den Zugang einer Person zu Krediten, Wohnungen oder Beschäftigung beeinträchtigt.

Hinweis

Copilot Code führt keine vertraulichen Aktionen ohne Ihre Zustimmung aus, es sei denn, Sie aktivieren "Immer zulassen". Sie können eine Aktion jederzeit stoppen, bevor sie abgeschlossen ist, den Copilot-Code anhalten oder die Aufgabe abbrechen.

Weitere Möglichkeiten zum Arbeiten mit Copilot Code