Eksperimentelle agentfunksjoner

I denne artikkelen

• Hvorfor sikkerhet er viktig

• Prinsipper for agentsikkerhet og personvern

• Aktiver eksperimentelle agentfunksjoner

• Apptilgang i agentarbeidsområde

• Filtilgang i agentarbeidsområde

• Kjente problemer

Hvorfor sikkerhet er viktig

Agentisk kunstig intelligens har kraftige funksjoner i dag– det kan for eksempel fullføre mange komplekse oppgaver som svar på brukerledetekster, og transformere hvordan brukere samhandler med PC-ene sine. Etter hvert som disse funksjonene introduseres, står AI-modeller fortsatt overfor funksjonelle begrensninger når det gjelder hvordan de oppfører seg, og av og til kan hallusinere og produsere uventede utganger. I tillegg introduserer agentiske AI-programmer nye sikkerhetsrisikoer, for eksempel tverrledende injeksjon (XPIA), der skadelig innhold som er innebygd i grensesnittelementer eller dokumenter, kan overstyre agentinstruksjoner, noe som fører til utilsiktede handlinger som datautfiltrering eller installasjon av skadelig programvare. Vi anbefaler at du leser gjennom denne informasjonen og forstår sikkerhetsimplikasjonene ved å aktivere en agent på datamaskinen. 

Når vi begynner å bygge agentiske funksjoner inn i Windows, er vår forpliktelse å inkludere robuste sikkerhets- og personvernkontroller som gjør det mulig for kundene å utforske potensialet trygt med støtte fra klare veiledninger og passende rekkverk drevet av disse målene.

1. Ikke-avvisning : Alle handlinger til en agent kan observeres og skilles fra de som er tatt av en bruker.

2. Konfidensialitet: Agenter som samler inn, aggregerer eller på annen måte bruker beskyttede data for brukere, oppfyller eller overskrider sikkerhets- og personvernstandardene for dataene de forbruker.

3. Autorisasjon : Brukere godkjenner alle spørringer for brukerdata samt handlinger som utføres.

Prinsipper for agentisk sikkerhet og personvern

Sikring av AI-agenter krever et robust sett med prinsipper som sikrer at de fungerer i henhold til brukerhensikt, samtidig som de beskytter dataene sine.

1. Agenter er autonome enheter. De er utsatt for angrep på samme måte som andre bruker- eller programvarekomponenter. Deres handlinger må være i stand til å være inneholdt.

2. Agenter må kunne produsere logger som beskriver aktivitetene deres. Windows skal kunne bekrefte disse handlingene med en manipuleringsklar overvåkingslogg.

3. Agenter bør gi et middel til å overvåke sine aktiviteter. Mange aktiviteter for agenter er aggregerte planer som inneholder flere trinn. Brukere skal kunne se gjennom trinnene og godkjenne planen og overvåke kjøringen av planen. Agenter må kunne eksplisitt be om en brukers autorisasjon eller beslutning der det er nødvendig.

4. Agenter bør alltid handle etter prinsippene med minst mulig rettighet og må ikke gis tillatelser eller funksjoner som overskrider den initierende brukeren, inkludert administrative rettigheter. Autoriserte agentrettigheter bør være detaljerte, spesifikke og tidsbundne. Agenter må bare ha tilgang til sensitiv informasjon (f.eks. kredittkortdata) i spesifikke, brukerautoriserte kontekster, for eksempel for å utføre bestemte handlinger, for eksempel når de samhandler med bestemte programmer eller på bestemte nettsteder.

5. Enheter i systemet – administrator, lokalt system osv. – skal ikke ha spesiell tilgang til en annen agent enn eieren som det fungerer på vegne av.

6. Windows er utformet for å hjelpe agenter med å overholde Microsofts forpliktelser i Microsofts personvernerklæring og ansvarlig AI-Standard. Windows støtter agenter i behandling av data bare for klart definerte formål, noe som sikrer gjennomsiktighet og klarering. Se Microsofts personvernrapport for mer informasjon om våre forpliktelser til å fremme kunstig intelligens på en ansvarlig måte, samtidig som du ivaretar personvern og andre grunnleggende rettigheter.

Agentutvikling og AI-relatert sikkerhet fortsetter å være et raskt voksende forskningsfelt med aktiv deltakelse fra Microsoft i samarbeid med det bredere sikkerhetssamfunnet. Som en del av Microsofts secure future initiative-forpliktelse , er det å hjelpe brukere, bedrifter og utviklere med å løse disse utfordringene, vår høyeste prioritet når folk begynner å samhandle med agenter som en del av deres daglige arbeidsflyter.

Aktiver eksperimentelle agentfunksjoner

Innstillingen for eksperimentelle agentfunksjoner er deaktivert som standard. Denne funksjonen har ingen AI-funksjoner på egen hånd, det er en sikkerhetsfunksjon for agenter som Copilot Actions. Aktivering av denne veksleknappen gjør det mulig å opprette en egen agentkonto og et eget arbeidsområde på enheten, noe som gir et inneholdt område for å holde agentaktivitet atskilt fra brukeren.  

Innstillingen for eksperimentelle agentfunksjoner er for øyeblikket i forhåndsversjon, med det formål å samle inn og lære fra tilbakemeldinger for å forbedre opplevelsen. I løpet av forhåndsvisningsperioden vil vi fortsette å legge til mer detaljerte sikkerhets- og personvernkontroller før de gjøres generelt tilgjengelige.  

Copilot Actions, som for øyeblikket er i forhåndsversjon for Windows Insiders i Copilot Labs, bruker denne funksjonaliteten, for mer informasjon, se Copilot på Windows: Copilot Actions begynner å rulle ut til Windows Insiders | Windows Insider-blogg.  

Denne innstillingen kan bare aktiveres av en administrativ bruker av enheten, og når den er aktivert, er den aktivert for alle brukere på enheten, inkludert andre administratorer og standardbrukere.   

Innstillingen for eksperimentell agentisk funksjon muliggjør:

• Oppretting av agentkontoer som gir agenter sin egen separate konto på enheten når de handler på dine vegne. Windows bruker en faset tilnærming til å legge til strengere regler for agentkontoer i kommende versjoner.

• Opprettingen av agentarbeidsområdet der agenter kan arbeide parallelt med en menneskelig bruker, noe som muliggjør kjøretidsisolering og omfangsautorisasjon. Dette gir agenten funksjoner som sitt eget skrivebord, samtidig som det begrenser synligheten og tilgangen agenten har til brukerens skrivebordsaktivitet.

• Agentiske apper som Copilot kan be om og få tilgang til disse seks ofte brukte mappene i brukerprofilkatalogen mens du kjører i agentarbeidsområdet: Dokumenter, nedlastinger, skrivebord, musikk, bilder og videoer.

Fremgangsmåte for å aktivere eksperimentelle agentfunksjoner:

1. Logge på Windows med en administratorkonto

2. Velg System > AI-komponenter > Eksperimentelle agentfunksjoner i Innstillinger-appen på Windows-enheten

Apptilgang i agentarbeidsområde

Når du kjører i agentarbeidsområdet, har den agentiske appen tilgang til appene som er tilgjengelige for alle brukere som standard. Hvis du vil begrense tilgangen, kan du installere apper for bestemte brukere eller spesielt for agentene dine.

Filtilgang i agentarbeidsområde

Agentkontoer har begrenset tilgang til brukerprofilkatalogen (C:\Users\<brukernavn>\) mens de opererer i agentarbeidsområdet. Hvis en agent trenger tilgang til filer i denne katalogen, gir Windows lese- og skrivetilgang til følgende kjente mapper: Dokumenter, Nedlastinger, Skrivebord, Videoer, Bilder, Musikk når innstillingen er aktivert. Du kan ha disse mappene på standardplasseringen, eller du kan ha omdirigert dem et annet sted på filsystemet.

Hvis du vil begrense tilgangen til disse mappene, deaktiverer du innstillingen for eksperimentell agentisk funksjon.

1. Velg System > AI-komponenter > Eksperimentelle agentiske funksjoner i Innstillinger-appen på Windows-enheten

2. Deaktivere innstillingen

Agentkontoer har tilgang til alle mapper som alle godkjente brukere har tilgang til, for eksempel offentlige brukerprofiler.

Kjente problemer

Du kan møte disse problemene i bygg 26220.7262:

• Windows vil ikke sove mens Copilot har aktive samtaler.

  • Løsning: Lukk eventuelle Copilot Actions-samtaler eller lukk Copilot ved å velge den fra skuffen, høyreklikke på den og velge «Avslutt».

• Du kan se en advarsel «Noen andre bruker fortsatt denne PC-en. Hvis du avslutter nå, kan de miste ulagret arbeid.» Når du prøver å avslutte eller starte Windows-enheten på nytt på grunn av aktive Copilot Actions-samtaler.

  • Løsning: Lukk eventuelle Copilot Actions-samtaler eller lukk Copilot ved å velge den fra skuffen, høyreklikke på den og velge «Avslutt».

• Virksomhetsbrukere med Behandling av endepunktrettigheter kan se Intune administrerte profiler som er opprettet for agentbrukerkontoene som ikke ryddes opp når Copilot-handlingssamtalen lukkes eller programmet avsluttes. Disse profilene slutter vanligvis med et dollartegn, dvs. _$, og er plassert sammen med agentbrukerkontoene i Windows-brukermappen (vanligvis c:\brukere).

  • Løsning: Microsoft er klar over dette problemet og arbeider med en løsning som vil rydde opp rester Intune profiler. ​​​​​​​

​​​​​​​