Πειραματικές δυνατότητες παραγόντων

Σε αυτό το άρθρο

• Γιατί έχει σημασία η ασφάλεια

• Αρχές ασφάλειας και προστασίας προσωπικών δεδομένων για εκπροσώπους

• Ενεργοποίηση πειραματικών δυνατοτήτων παράγοντα

• Πρόσβαση εφαρμογών στο χώρο εργασίας του συνεργάτη

• Πρόσβαση σε αρχεία στο χώρο εργασίας του συνεργάτη

• Γνωστά προβλήματα

Γιατί έχει σημασία η ασφάλεια

Το agentic AI διαθέτει σήμερα ισχυρές δυνατότητες— για παράδειγμα, μπορεί να ολοκληρώσει πολλές σύνθετες εργασίες ως απάντηση στις οδηγίες του χρήστη, μετασχηματίζοντας τον τρόπο με τον οποίο οι χρήστες αλληλεπιδρούν με τους υπολογιστές τους. Καθώς εισάγονται αυτές οι δυνατότητες, τα μοντέλα AI εξακολουθούν να αντιμετωπίζουν λειτουργικούς περιορισμούς όσον αφορά τον τρόπο συμπεριφοράς τους και περιστασιακά μπορεί να έχουν παραισθήσεις και να παράγουν απροσδόκητες εξόδους. Επιπλέον, οι εφαρμογές agentic AI ενέχουν νέους κινδύνους ασφαλείας, όπως η διασταυρούμενη εισαγωγή (XPIA), όπου κακόβουλο περιεχόμενο που είναι ενσωματωμένο σε στοιχεία του περιβάλλοντος εργασίας χρήστη ή έγγραφα μπορεί να παρακάμψει τις οδηγίες του παράγοντα, με αποτέλεσμα ακούσιες ενέργειες, όπως η αφαίρεση δεδομένων ή η εγκατάσταση λογισμικού κακόβουλης λειτουργίας. Συνιστάται να διαβάσετε αυτές τις πληροφορίες και να κατανοήσετε τις επιπτώσεις στην ασφάλεια της ενεργοποίησης ενός παράγοντα στον υπολογιστή σας. 

Καθώς αρχίζουμε να ενσωματώνουμε δυνατότητες υποστήριξης στα Windows, η δέσμευσή μας είναι να συμπεριλάβουμε ισχυρούς ελέγχους ασφάλειας και προστασίας προσωπικών δεδομένων που δίνουν στους πελάτες τη δυνατότητα να εξερευνήσουν τις δυνατότητές τους με σιγουριά, με την υποστήριξη σαφούς καθοδήγησης και κατάλληλων προστατευτικών κιγκλιδωμάτων που καθοδηγούνται από αυτούς τους στόχους.

1. Χωρίς αποκήρυξη: Όλες οι ενέργειες ενός παράγοντα είναι παρατηρήσιμες και διακρίνονται από εκείνες που λαμβάνει ένας χρήστης.

2. Εμπιστευτικότητα: Οι παράγοντες που συλλέγουν, συγκεντρώνουν ή χρησιμοποιούν με άλλο τρόπο προστατευμένα δεδομένα των χρηστών πληρούν ή υπερβαίνουν τα πρότυπα ασφάλειας και προστασίας προσωπικών δεδομένων των δεδομένων που καταναλώνουν.

3. Εξουσιοδότηση : Οι χρήστες εγκρίνουν όλα τα ερωτήματα για τα δεδομένα χρήστη καθώς και τις ενέργειες που πραγματοποιούνται.

Αρχές ασφάλειας και προστασίας προσωπικών δεδομένων για εκπροσώπους

Η ασφάλεια των παραγόντων τεχνητής νοημοσύνης απαιτεί ένα ισχυρό σύνολο αρχών που διασφαλίζουν ότι ενεργούν σύμφωνα με την πρόθεση του χρήστη, διασφαλίζοντας παράλληλα τα δεδομένα τους.

1. Οι πράκτορες είναι αυτόνομες οντότητες. Είναι επιρρεπείς σε επιθέσεις με τον ίδιο τρόπο που έχουν όλοι οι άλλοι χρήστες ή στοιχεία λογισμικού. Οι πράξεις τους πρέπει να είναι σε θέση να περιοριστούν.

2. Οι παράγοντες πρέπει να είναι σε θέση να παράγουν αρχεία καταγραφής που παραγραμμίζουν τις δραστηριότητές τους. Τα Windows θα πρέπει να μπορούν να επαληθεύσουν αυτές τις ενέργειες με ένα αρχείο καταγραφής ελέγχου που είναι προφανές για αλλοίωση.

3. Οι εκπρόσωποι θα πρέπει να παρέχουν μέσα για την εποπτεία των δραστηριοτήτων τους. Πολλές δραστηριότητες παραγόντων είναι συγκεντρωτικά σχέδια που περιέχουν πολλά βήματα. Οι χρήστες θα πρέπει να έχουν τη δυνατότητα να αναθεωρήσουν τα βήματα και να εγκρίνουν το σχέδιο και να παρακολουθούν την εκτέλεση του σχεδίου. Οι εκπρόσωποι πρέπει να μπορούν να ζητήσουν ρητά την εξουσιοδότηση ή την απόφαση ενός χρήστη, όπου είναι απαραίτητο.

4. Οι εκπρόσωποι θα πρέπει να ενεργούν πάντα σύμφωνα με τις αρχές των ελαχόντων δικαιωμάτων και δεν πρέπει να τους εκχωρούνται δικαιώματα ή δυνατότητες που υπερβαίνουν τα δικαιώματα του εκκινούντος χρήστη, συμπεριλαμβανομένων των διοικητικών δικαιωμάτων. Τα δικαιώματα εξουσιοδοτημένου αντιπροσώπου πρέπει να είναι λεπτομερή, συγκεκριμένα και χρονικά δεσμευμένα. Οι εκπρόσωποι πρέπει να έχουν πρόσβαση σε ευαίσθητες πληροφορίες (π.χ. δεδομένα πιστωτικών καρτών) μόνο σε συγκεκριμένα περιβάλλοντα εξουσιοδοτημένα από το χρήστη, όπως για τη διεξαγωγή συγκεκριμένων ενεργειών, όπως όταν αλληλεπιδρούν με συγκεκριμένες εφαρμογές ή σε καθορισμένες τοποθεσίες web.

5. Οι οντότητες του συστήματος – διαχειριστής, τοπικό σύστημα κ.λπ.– δεν θα πρέπει να έχουν ειδική πρόσβαση σε εκπρόσωπο διαφορετικό από τον κάτοχο του οποίου ενεργεί για λογαριασμό του.

6. Τα Windows έχουν σχεδιαστεί για να βοηθούν τους εκπροσώπους να τηρούν τις δεσμεύσεις της Microsoft στη Δήλωση προστασίας προσωπικών δεδομένων της Microsoft και στην Υπεύθυνη Standard τεχνητής νοημοσύνης . Τα Windows θα υποστηρίζουν παράγοντες επεξεργασίας δεδομένων μόνο για σαφώς καθορισμένους σκοπούς, διασφαλίζοντας τη διαφάνεια και την εμπιστοσύνη. Ανατρέξτε στην Αναφορά προστασίας προσωπικών δεδομένων της Microsoft για λεπτομέρειες σχετικά με τις δεσμεύσεις μας για την υπεύθυνη προώθηση της τεχνητής νοημοσύνης, διασφαλίζοντας παράλληλα την προστασία των προσωπικών δεδομένων και άλλα θεμελιώδη δικαιώματα.

Η ανάπτυξη παραγόντων και η ασφάλεια που σχετίζεται με την τεχνητή νοημοσύνη εξακολουθούν να είναι ένα ταχέως κινούμενο πεδίο έρευνας με ενεργή συμμετοχή από τη Microsoft σε συνεργασία με την ευρύτερη κοινότητα ασφάλειας. Στο πλαίσιο της δέσμευσης της Microsoft για την Πρωτοβουλία Secure Future , η παροχή βοήθειας σε χρήστες, επιχειρήσεις και προγραμματιστές για την αντιμετώπιση αυτών των προκλήσεων αποτελεί την κύρια προτεραιότητά μας, καθώς οι χρήστες αρχίζουν να αλληλεπιδρούν με εκπροσώπους στο πλαίσιο των καθημερινών ροών εργασιών τους.

Ενεργοποίηση πειραματικών δυνατοτήτων παραγόντων

Η ρύθμιση πειραματικών δυνατοτήτων παράγοντα είναι απενεργοποιημένη από προεπιλογή. Αυτή η δυνατότητα δεν έχει δυνατότητες τεχνητής νοημοσύνης από μόνη της, είναι μια δυνατότητα ασφαλείας για παράγοντες όπως οι Ενέργειες Copilot. Η ενεργοποίηση αυτού του διακόπτη επιτρέπει τη δημιουργία ενός ξεχωριστού λογαριασμού συνεργάτη και χώρου εργασίας στη συσκευή, παρέχοντας έναν περιορισμένο χώρο για να διατηρείτε τη δραστηριότητα του συνεργάτη ξεχωριστά από τον χρήστη.  

Η ρύθμιση πειραματικών δυνατοτήτων παράγοντα είναι επί του παρόντος σε προεπισκόπηση, για σκοπούς συγκέντρωσης και εκμάθησης από τα σχόλια για τη βελτίωση της εμπειρίας. Κατά τη διάρκεια της περιόδου προεπισκόπησης, θα συνεχίσουμε να προσθέτουμε πιο λεπτομερείς ελέγχους ασφάλειας και προστασίας προσωπικών δεδομένων προτού καταστεί γενικά διαθέσιμος.  

Οι ενέργειες copilot, οι οποίες είναι επί του παρόντος σε προεπισκόπηση για τα μέλη του προγράμματος Windows Insider στα εργαστήρια Copilot, χρησιμοποιούν αυτήν τη λειτουργικότητα, για περισσότερες πληροφορίες, ανατρέξτε στο θέμα Copilot στα Windows: Οι ενέργειες Copilot ξεκινούν να κυκλοφορούν για τα μέλη του προγράμματος Windows Insider | Ιστολόγιο Windows Insider.  

Αυτή η ρύθμιση μπορεί να ενεργοποιηθεί μόνο από διαχειριστή της συσκευής και, αφού ενεργοποιηθεί, ενεργοποιείται για όλους τους χρήστες στη συσκευή, συμπεριλαμβανομένων άλλων διαχειριστών και τυπικών χρηστών.   

Η ρύθμιση πειραματικής δυνατότητας παράγοντα ενεργοποιεί:

• Τη δημιουργία λογαριασμών παραγόντων που παρέχουν στους εκπροσώπους τον δικό τους ξεχωριστό λογαριασμό στη συσκευή σας όταν ενεργούν για λογαριασμό σας. Τα Windows χρησιμοποιούν μια σταδιακή προσέγγιση για να προσθέσουν αυστηρότερους κανόνες για τους λογαριασμούς παραγόντων στις προσεχείς εκδόσεις.

• Η δημιουργία του χώρου εργασίας παράγοντα όπου οι παράγοντες μπορούν να λειτουργούν παράλληλα με έναν ανθρώπινο χρήστη, επιτρέποντας την απομόνωση χρόνου εκτέλεσης και την εξουσιοδότηση εύρους. Αυτό παρέχει στον εκπρόσωπο δυνατότητες όπως η δική του επιφάνεια εργασίας, ενώ παράλληλα περιορίζει την ορατότητα και η πρόσβαση του παράγοντα στη δραστηριότητα του χρήστη στην επιφάνεια εργασίας.

• Οι εφαρμογές Agentic, όπως το Copilot, μπορούν να ζητήσουν και να αποκτήσουν πρόσβαση σε αυτούς τους έξι φακέλους που χρησιμοποιούνται συχνά στον κατάλογο προφίλ χρήστη σας ενώ εκτελούνται στο χώρο εργασίας του συνεργάτη: Έγγραφα, στοιχεία λήψης, επιφάνεια εργασίας, μουσική, εικόνες και βίντεο.

Βήματα για την ενεργοποίηση πειραματικών δυνατοτήτων παράγοντα:

1. Είσοδος στα Windows με λογαριασμό διαχειριστή

2. Στην εφαρμογή Ρυθμίσεις στη συσκευή Windows, επιλέξτε System > AI Components > Experimental agentic features

Πρόσβαση εφαρμογών στο χώρο εργασίας του συνεργάτη

Όταν εκτελείται στο χώρο εργασίας του συνεργάτη, η εφαρμογή agentic έχει πρόσβαση στις εφαρμογές που είναι διαθέσιμες σε όλους τους χρήστες από προεπιλογή. Για να περιορίσετε την πρόσβαση, μπορείτε να εγκαταστήσετε εφαρμογές για συγκεκριμένους χρήστες ή ειδικά για τους εκπροσώπους σας.

Πρόσβαση σε αρχεία στο χώρο εργασίας του συνεργάτη

Οι λογαριασμοί Agentic έχουν περιορισμένη πρόσβαση στον κατάλογο προφίλ χρήστη σας (C:\Χρήστες\<όνομα χρήστη>\) κατά τη λειτουργία στο χώρο εργασίας του συνεργάτη. Αν ένας συνεργάτης χρειάζεται πρόσβαση σε αρχεία σε αυτόν τον κατάλογο, τα Windows εκχωρούν πρόσβαση ανάγνωσης και εγγραφής στους ακόλουθους γνωστούς φακέλους: Έγγραφα, Λήψεις, Επιφάνεια εργασίας, Βίντεο, Εικόνες, Μουσική όταν η ρύθμιση είναι ενεργοποιημένη. Μπορεί να έχετε αυτούς τους φακέλους στην τυπική θέση ή να τους έχετε ανακατευθύνει σε άλλο σημείο του συστήματος αρχείων.

Για να περιορίσετε την πρόσβαση σε αυτούς τους φακέλους, απενεργοποιήστε τη ρύθμιση πειραματικής δυνατότητας παράγοντα.

1. Στην εφαρμογή Ρυθμίσεις στη συσκευή Windows, επιλέξτε System > AI Components > Experimental agentic features

2. Απενεργοποίηση της ρύθμισης

Οι λογαριασμοί παραγόντων έχουν πρόσβαση σε φακέλους στους οποίους έχουν πρόσβαση όλοι οι χρήστες με έλεγχο ταυτότητας, π.χ. σε δημόσια προφίλ χρηστών.

Γνωστά προβλήματα

Ενδέχεται να αντιμετωπίσετε αυτά τα προβλήματα στη δομή 26220.7262:

• Τα Windows δεν θα είναι σε αναστολή λειτουργίας ενώ το Copilot έχει ενεργές συνομιλίες.

  • Λύση: Κλείστε τυχόν συνομιλίες ενέργειες Copilot ή κλείστε το Copilot επιλέγοντάς το από την περιοχή ειδοποιήσεων, κάνοντας δεξί κλικ και επιλέγοντας "Έξοδος".

• Ενδέχεται να εμφανιστεί μια προειδοποίηση "Κάποιος άλλος εξακολουθεί να χρησιμοποιεί αυτόν τον υπολογιστή. Αν τερματίσετε τη λειτουργία τώρα, ενδέχεται να χάσουν μη αποθηκευμένη εργασία." κατά την προσπάθεια τερματισμού λειτουργίας ή επανεκκίνησης της συσκευής Windows λόγω ενεργών συνομιλιών ενεργειών Copilot.

  • Λύση: Κλείστε τυχόν συνομιλίες ενέργειες Copilot ή κλείστε το Copilot επιλέγοντάς το από την περιοχή ειδοποιήσεων, κάνοντας δεξί κλικ και επιλέγοντας "Έξοδος".

• Οι εταιρικοί χρήστες με Διαχείριση προνομίων τελικού σημείου μπορεί να δουν Intune διαχειριζόμενα προφίλ που έχουν δημιουργηθεί για τους λογαριασμούς χρηστών παράγοντα που δεν εκκαθαρίζονται όταν κλείσει η συνομιλία ενέργειας Copilot ή κλείνει η εφαρμογή. Αυτά τα προφίλ συνήθως τελειώνουν με ένα σύμβολο δολαρίου, δηλαδή: _$, και βρίσκονται δίπλα στους λογαριασμούς του συνεργάτη χρήστη στο φάκελο χρηστών των Windows (συνήθως c:\χρήστες).

  • Λύση: Η Microsoft γνωρίζει αυτό το πρόβλημα και εργάζεται για μια επιδιόρθωση που θα εκκαθαρίζει τα προφίλ Intune που απομένουν. ​​​​​​​

​​​​​​​