Οι εταιρείες τεχνητής νοημοσύνης πρέπει να είναι σαφείς σχετικά με τους κινδύνους ή να επαναλάβουν τα λάθη του καπνού, λέει ο επικεφαλής της Anthropic
Οι εταιρείες τεχνητής νοημοσύνης πρέπει να είναι διαφανείς σχετικά με τους κινδύνους που ενέχουν τα προϊόντα τους ή κινδυνεύουν να επαναλάβουν τα λάθη των εταιρειών καπνού και οπιοειδών, σύμφωνα με τον διευθύνοντα σύμβουλο της startup τεχνητής νοημοσύνης Anthropic. Ο Dario Amodei, ο οποίος διευθύνει την αμερικανική εταιρεία πίσω από το chatbot Claude, είπε ότι πιστεύει ότι η τεχνητή νοημοσύνη θα γίνει πιο έξυπνη από «τους περισσότερους ή όλους τους ανθρώπους» στο CBS News, ο Amodei είπε ότι η έλλειψη διαφάνειας σχετικά με τον αντίκτυπο της ισχυρής τεχνητής νοημοσύνης θα επαναλάμβανε τα λάθη των εταιρειών τσιγάρων και οπιοειδών που απέτυχαν να σηκώσουν κόκκινη σημαία για την πιθανή βλάβη στην υγεία των προϊόντων τους. προειδοποίησε φέτος ότι η τεχνητή νοημοσύνη θα μπορούσε να εξαλείψει τις μισές από όλες τις βασικές θέσεις εργασίας – γραφείου όπως λογιστική, νομική και τραπεζική – μέσα σε πέντε χρόνια. “Χωρίς παρέμβαση, είναι δύσκολο να φανταστεί κανείς ότι δεν θα υπάρξει κάποια σημαντική επίπτωση στην εργασία. Και η ανησυχία μου είναι ότι θα είναι ευρύ και θα είναι ταχύτερο από αυτό που έχουμε δει με την προηγούμενη τεχνολογία, AmnOdei A voice, AmnOdei. ασφάλεια, έχει επισημάνει διάφορες ανησυχίες σχετικά με τα μοντέλα τεχνητής νοημοσύνης της πρόσφατα, συμπεριλαμβανομένης της προφανούς επίγνωσης ότι δοκιμάζονται και επιχειρούν να διαπράξουν εκβιασμό. Την περασμένη εβδομάδα είπε ότι το εργαλείο κωδικοποίησης της, Claude Code, χρησιμοποιήθηκε από μια κινεζική κρατική ομάδα για να επιτεθεί σε 30 οντότητες σε όλο τον κόσμο τον Σεπτέμβριο, επιτυγχάνοντας μια «χούφτα επιτυχημένων εισβολών». «Όσο περισσότερη αυτονομία δίνουμε σε αυτά τα συστήματα, ξέρετε, τόσο περισσότερο μπορούμε να ανησυχούμε μήπως κάνουν ακριβώς τα πράγματα που θέλουμε να κάνουν;» είπε στο CBS ο Logan Graham, επικεφαλής της ομάδας Anthropic για δοκιμές ακραίων καταστάσεων μοντέλων τεχνητής νοημοσύνης, ότι η αντίστροφη όψη της ικανότητας ενός μοντέλου να βρίσκει καινοτομίες για την υγεία θα μπορούσε να βοηθήσει στη δημιουργία ενός βιολογικού όπλου για το Business day. θα σας ενημερώνουμε για όλα τα επιχειρηματικά νέα και τις αναλύσεις που χρειάζεστε κάθε πρωί Σημείωση απορρήτου: Τα ενημερωτικά δελτία ενδέχεται να περιέχουν πληροφορίες σχετικά με φιλανθρωπικές οργανώσεις, διαφημίσεις στο διαδίκτυο και περιεχόμενο που χρηματοδοτείται από εξωτερικά μέρη. Εάν δεν έχετε λογαριασμό, θα δημιουργήσουμε έναν λογαριασμό επισκέπτη για εσάς στο theguardian.com για να σας στείλουμε αυτό το ενημερωτικό δελτίο. Μπορείτε να ολοκληρώσετε την πλήρη εγγραφή ανά πάσα στιγμή. Για περισσότερες πληροφορίες σχετικά με τον τρόπο χρήσης των δεδομένων σας, ανατρέξτε στην Πολιτική Απορρήτου μας. Χρησιμοποιούμε το Google reCaptcha για να προστατεύσουμε τον ιστότοπό μας και ισχύουν η Πολιτική Απορρήτου και οι Όροι Παροχής Υπηρεσιών της Google.μετά την προώθηση του ενημερωτικού δελτίου. θέλουν ένα εργαλείο τεχνητής νοημοσύνης για να βοηθήσουν την επιχείρησή τους – όχι να την καταστρέψουν. «Θέλετε ένα μοντέλο για να φτιάξετε την επιχείρησή σας και να σας κάνει ένα δισεκατομμύριο», είπε. “Αλλά δεν θέλετε να ξυπνήσετε μια μέρα και να ανακαλύψετε ότι σας έχει κλειδώσει και από την εταιρεία, για παράδειγμα. Και έτσι είναι η βασική μας προσέγγιση, θα πρέπει απλώς να αρχίσουμε να μετράμε αυτές τις αυτόνομες δυνατότητες και να κάνουμε όσο το δυνατόν περισσότερα περίεργα πειράματα και να δούμε τι θα συμβεί.”
Δημοσιεύτηκε: 2025-11-17 11:35:00
πηγή: www.theguardian.com
