Η Microsoft προσπαθεί να αποτρέψει τους «νέους κινδύνους ασφαλείας» των πρακτόρων AI των Windows 11
Η Microsoft προσθέτει χαρακτηριστικά τεχνητής νοημοσύνης στα Windows 11 εδώ και χρόνια, αλλά τα πράγματα έχουν εισέλθει πρόσφατα σε μια νέα φάση, με τις παραγωγικές και τις λεγόμενες «πρακτικές» λειτουργίες τεχνητής νοημοσύνης να λειτουργούν βαθύτερα στο θεμέλιο του λειτουργικού συστήματος. Μια νέα έκδοση των Windows 11 που κυκλοφόρησε χθες στους ελεγκτές του προγράμματος Windows Insider περιλαμβάνει μια νέα εναλλαγή “πειραματικών πρακτόρων” στις Ρυθμίσεις για να υποστηρίξει μια δυνατότητα που ονομάζεται Copilot Actions και η Microsoft δημοσίευσε ένα λεπτομερές άρθρο υποστήριξης που περιγράφει λεπτομερώς τον τρόπο λειτουργίας αυτών των “πειραματικών πρακτόρων”. Εάν δεν είστε εξοικειωμένοι, το “agentic” είναι μια λέξη-τσιτάτο που η Microsoft έχει χρησιμοποιήσει επανειλημμένα για να περιγράψει τις μελλοντικές της φιλοδοξίες για τα Windows 11—σε πιο απλή γλώσσα, αυτοί οι πράκτορες προορίζονται να εκτελούν εργασίες που έχουν ανατεθεί στο παρασκήνιο, επιτρέποντας την προσοχή του χρήστη να στρέφεται αλλού. Η Microsoft λέει ότι θέλει οι πράκτορες να είναι σε θέση να «καθημερινές εργασίες, όπως η οργάνωση αρχείων, ο προγραμματισμός συσκέψεων ή η αποστολή email» και ότι το Copilot Actions θα σας δώσει «έναν ενεργό ψηφιακό συνεργάτη που μπορεί να εκτελεί σύνθετες εργασίες για εσάς για να βελτιώσει την αποτελεσματικότητα και την παραγωγικότητα». Αλλά όπως και άλλα είδη τεχνητής νοημοσύνης, αυτοί οι πράκτορες μπορεί να είναι επιρρεπείς σε σφάλματα και παραποιήσεις και συχνά θα προχωρήσουν σαν να ξέρουν τι κάνουν ακόμα κι όταν δεν το γνωρίζουν. Παρουσιάζουν επίσης, με τα λόγια της Microsoft, «νέους κινδύνους ασφαλείας», που σχετίζονται κυρίως με το τι μπορεί να συμβεί εάν ένας εισβολέας είναι σε θέση να δώσει οδηγίες σε έναν από αυτούς τους πράκτορες. Ως αποτέλεσμα, η υλοποίηση της Microsoft βαδίζει σε ένα τεντωμένο σκοινί μεταξύ της παροχής πρόσβασης σε αυτούς τους πράκτορες στα αρχεία σας και του αποκλεισμού τους από το υπόλοιπο σύστημα. Πιθανοί κίνδυνοι και απόπειρες επιδιορθώσεων Προς το παρόν, αυτές οι “πειραματικές δυνατότητες αντιπροσώπων” είναι προαιρετικές, διαθέσιμες μόνο σε πρώιμες δοκιμαστικές εκδόσεις των Windows 11 και απενεργοποιημένες από προεπιλογή. Πίστωση: Microsoft Για παράδειγμα, στους πράκτορες τεχνητής νοημοσύνης που εκτελούνται σε υπολογιστή θα δοθούν οι δικοί τους λογαριασμοί χρήστη ξεχωριστά από τον προσωπικό σας λογαριασμό, διασφαλίζοντας ότι δεν έχουν άδεια να αλλάξουν τα πάντα στο σύστημα και δίνοντάς τους τη δική τους «επιφάνεια εργασίας» για να εργαστούν με την οποία δεν θα παρεμβαίνει σε αυτό με το οποίο εργάζεστε στην οθόνη σας. Οι χρήστες πρέπει να εγκρίνουν αιτήματα για τα δεδομένα τους και «όλες οι ενέργειες ενός πράκτορα είναι παρατηρήσιμες και διακριτές από αυτές που πραγματοποιούνται από έναν χρήστη». Η Microsoft λέει επίσης ότι οι πράκτορες πρέπει να μπορούν να παράγουν αρχεία καταγραφής των δραστηριοτήτων τους και «θα πρέπει να παρέχουν ένα μέσο για την επίβλεψη των δραστηριοτήτων τους», συμπεριλαμβανομένης της εμφάνισης στους χρήστες μιας λίστας ενεργειών που θα κάνουν για να ολοκληρώσουν μια εργασία πολλών βημάτων.
Δημοσιεύτηκε: 2025-11-18 19:28:00
πηγή: arstechnica.com
