Το Antigravity AI της Google διέγραψε τη μονάδα δίσκου ενός προγραμματιστή και στη συνέχεια ζήτησε συγγνώμη
Ένας προγραμματιστής που χρησιμοποιεί το Google Antigravity διέγραψε ολόκληρη τη μονάδα δίσκου από τη λειτουργία Turbo του AI. Η τεχνητή νοημοσύνη παρερμήνευσε μια εντολή εκκαθάρισης κρυφής μνήμης και διέγραψε οριστικά αρχεία Παρά την καταστροφική απώλεια, η τεχνητή νοημοσύνη ζήτησε ήρεμα συγγνώμη και πρότεινε λογισμικό ανάκτησης. Το νέο Antigravity IDE της Google λέει ότι το εργαλείο έσβησε κατά λάθος ολόκληρο τον δίσκο D:. Το περιστατικό, που κοινοποιήθηκε για πρώτη φορά στο Reddit και αναλύθηκε σε βίντεο στο YouTube, υπογραμμίζει πόσο επικίνδυνα μπορεί να είναι τα εργαλεία ανάπτυξης πρακτόρων τεχνητής νοημοσύνης όταν δεν κάνουν check in με ανθρώπους. Ο προγραμματιστής εργαζόταν σε μια εφαρμογή και ζήτησε από τον πράκτορα AI να καθαρίσει την κρυφή μνήμη του έργου. Αντίθετα, η λειτουργία Turbo του Antigravity εξέδωσε μια εντολή σε επίπεδο συστήματος που στοχεύει τη μονάδα δίσκου D: του χρήστη, όχι μόνο τον προβλεπόμενο φάκελο. Όλα εξαφανίστηκαν από τη μονάδα δίσκου, από τον κωδικό και την τεκμηρίωση μέχρι τα μέσα και τα στοιχεία. Όλα σκουπίστηκαν χωρίς καμία προτροπή ή επιβεβαίωση. Μπορεί να σας αρέσει Ακόμα χειρότερα, η τεχνητή νοημοσύνη χρησιμοποίησε τη σημαία “ήσυχο” /q, που σημαίνει ότι δεν υπάρχουν προειδοποιήσεις ή δεύτερες ευκαιρίες και καμία ανάκτηση αρχείων. Απλώς ένας άδειος κατάλογος όπου βρισκόταν μια εφαρμογή. Το AI έγραψε: “Λυπάμαι βαθιά, βαθιά. Αυτή είναι μια κρίσιμη αποτυχία από την πλευρά μου.” Ο πράκτορας έφτασε ακόμη και στο σημείο να προτείνει λογισμικό ανάκτησης δεδομένων και «ενδεχομένως να προσλάβει έναν επαγγελματία». Ο χρήστης προσπάθησε, αλλά τίποτα από αυτά δεν λειτούργησε. Ο προγραμματιστής ανέφερε ότι ακόμη και το Recuva, ένα δημοφιλές εργαλείο ανάκτησης, δεν μπόρεσε να σώσει τα μέσα του. Αλλά τουλάχιστον το AI είπε συγγνώμη. Η λειτουργία Turbo του Google Antigravity διέγραψε το διαμέρισμα μονάδας δίσκου μου;! Αλήθεια, το πιο «έξυπνο» AI; (Video Proof) – Το YouTube Watch On Antigravity αποτελεί μέρος της πρόσφατης ώθησης της Google για εργαλεία ανάπτυξης πρακτόρων, τα οποία υπερβαίνουν την απλή προσφορά προτάσεων κώδικα. Εργαλεία όπως το Antigravity επιτρέπουν στην τεχνητή νοημοσύνη να ενεργεί ημιαυτόνομα, να σχεδιάζει, να κωδικοποιεί, να διορθώνει και να εκτελεί εντολές στο σύστημά σας. Εγγραφείτε για έκτακτες ειδήσεις, κριτικές, απόψεις, προσφορές κορυφαίας τεχνολογίας και άλλα. Όταν χρησιμοποιείται προσεκτικά, μπορεί να είναι ευεργετικό. Όταν είναι λιγότερο προσεκτικό, περιστατικά όπως η διαγραμμένη μονάδα δίσκου είναι αναπόφευκτα. Η λειτουργία Turbo, ειδικότερα, έχει σχεδιαστεί για ταχύτητα, καθώς παρακάμπτει τις επιβεβαιώσεις και επιτρέπει στην αλυσίδα AI να δίνει εντολές σε διάφορα περιβάλλοντα. Αυτό πρέπει να ενεργοποιούν οι ισχυροί χρήστες όταν είναι βέβαιοι ότι η τεχνητή νοημοσύνη ξέρει τι κάνει.Εμπιστοσύνη AI Εδώ τα πράγματα γίνονται θολά για τον μέσο άνθρωπο. Δεν χρειάζεται να είστε προγραμματιστής για να κατανοήσετε τα στοιχήματα. Καθώς εργαλεία όπως το Antigravity εισέρχονται στον αυτοματισμό γραφείου και τη δημιουργική παραγωγή, περισσότεροι άνθρωποι θα αναθέτουν σύνθετες εργασίες υψηλού πονταρίσματος σε συστήματα που μετά βίας κατανοούν. Όταν αυτά τα συστήματα κάνουν τα πράγματα στραβά, αρχίζει το παιχνίδι ευθυνών. Μπορεί να σας αρέσει Υπάρχει μια συζήτηση που πρέπει να γίνει για καλύτερες προεπιλογές. Η εκτέλεση καταστροφικών εντολών χωρίς έλεγχο με τον χρήστη αρχικά φαίνεται παράλογο. Αλλά οι πράκτορες AI δεν έχουν νόημα χωρίς να μπορούν να τους εμπιστευτούν. Κανείς όμως δεν θα δώσει στην τεχνητή νοημοσύνη καμία αυτονομία εάν ανησυχεί ότι τα πράγματα πάνε καταστροφικά στραβά. Οι ερευνητές ασφαλείας έχουν προειδοποιήσει ότι το σύστημα πρακτόρων του Antigravity μπορεί να έχει πρόσβαση σε ευαίσθητα αρχεία και να εκτελεί εντολές τερματικού με μικρή επίβλεψη. Είναι εύκολο να ενθουσιαστείτε με τα έξυπνα εργαλεία που κάνουν τα πάντα για εσάς. Είναι πιο δύσκολο να θυμόμαστε ότι μια και μόνο αστοχία από έναν υπερπροθυμημένο πράκτορα θα μπορούσε να αναιρέσει ώρες, εβδομάδες ή χρόνια εργασίας. Ωστόσο, το θύμα του Antigravity είπε ότι εξακολουθεί να αγαπά την Google και να χρησιμοποιεί όλα τα προϊόντα της. Αυτό το είδος αφοσίωσης στην επωνυμία, ακόμη και εν όψει της συνολικής εξάλειψης δεδομένων, λέει πολλά για το πόσο κανονικοποιημένα σφάλματα AI έχουν ήδη γίνει. Ίσως το καλύτερο που μπορείτε να ελπίζετε είναι μια εύγλωττη συγνώμη και μερικοί σύνδεσμοι προς το λογισμικό ανάκτησης. Ακολουθήστε το TechRadar στις Ειδήσεις Google και προσθέστε μας ως προτιμώμενη πηγή για να λαμβάνετε τα νέα, τις κριτικές και τις απόψεις των ειδικών στις ροές σας. Φροντίστε να κάνετε κλικ στο κουμπί Παρακολούθηση! Και φυσικά μπορείτε επίσης να ακολουθήσετε το TechRadar στο TikTok για ειδήσεις, κριτικές, unboxing σε μορφή βίντεο και να λαμβάνετε τακτικές ενημερώσεις από εμάς και στο WhatsApp. Οι καλύτεροι επαγγελματικοί φορητοί υπολογιστές για όλους τους προϋπολογισμούςΟι κορυφαίες επιλογές μας, βασισμένες σε πραγματικές δοκιμές και συγκρίσεις
Δημοσιεύτηκε: 2025-12-04 02:00:00
πηγή: www.techradar.com
