Οι μεγαλύτερες εταιρείες τεχνητής νοημοσύνης συναντήθηκαν για να βρουν μια καλύτερη διαδρομή για τους συντρόφους του Chatbot
Στο Στάνφορντ, δεκάδες συμμετέχοντες συμμετείχαν σε μακροσκελείς συνομιλίες σχετικά με τους κινδύνους, καθώς και τα οφέλη, των συντρόφων bot. «Στο τέλος της ημέρας βλέπουμε πραγματικά μεγάλη συμφωνία», λέει ο Sunny Liu, διευθυντής ερευνητικών προγραμμάτων στο Stanford. Τόνισε τον ενθουσιασμό της ομάδας για «τρόπους με τους οποίους μπορούμε να χρησιμοποιήσουμε αυτά τα εργαλεία για να φέρουμε άλλους ανθρώπους». Το Teen SafetyΠώς οι σύντροφοι της τεχνητής νοημοσύνης μπορούν να επηρεάσουν τους νέους ήταν ένα πρωταρχικό θέμα συζήτησης, με απόψεις από υπαλλήλους στο Character.AI, το οποίο έχει σχεδιαστεί για παιχνίδι ρόλων και ήταν δημοφιλές στους εφήβους, καθώς και στους ειδικούς του Teenagers Wellness Body Health Lab στο Digital Οι νεότεροι χρήστες έρχονται καθώς πολλοί γονείς μηνύουν τους κατασκευαστές chatbot, συμπεριλαμβανομένων των OpenAI και Character.AI, για τους θανάτους παιδιών που είχαν αλληλεπιδράσει με ρομπότ. Το OpenAI πρόσθεσε μια πλάκα νέων χαρακτηριστικών ασφαλείας για εφήβους ως μέρος της απάντησής του. Και την επόμενη εβδομάδα, το Character.AI σχεδιάζει να απαγορεύσει σε χρήστες κάτω των 18 ετών την πρόσβαση στη λειτουργία συνομιλίας. Καθ’ όλη τη διάρκεια του 2025, οι εταιρείες τεχνητής νοημοσύνης είτε ρητά είτε σιωπηρά έχουν αναγνωρίσει ότι μπορούν να κάνουν περισσότερα για να προστατεύσουν ευάλωτους χρήστες, όπως τα παιδιά, που μπορεί να αλληλεπιδρούν με συντρόφους. «Είναι αποδεκτό να εμπλακείς ένα παιδί σε συνομιλίες που είναι ρομαντικές ή αισθησιακές», διαβάζει ένα εσωτερικό έγγραφο της Meta που περιγράφει οδηγίες συμπεριφοράς AI, σύμφωνα με ρεπορτάζ από το Reuters. Κατά τη διάρκεια της αναταραχής που ακολούθησε από νομοθέτες και εξοργισμένους γονείς, ο Meta άλλαξε την καθοδήγηση και ενημέρωσε την προσέγγιση ασφάλειας της εταιρείας προς τους εφήβους. Roleplay Roll CallAI, no one Charact Η τοποθεσία roleplay, ή Grok, το bot του Elon Musk με τους συντρόφους anime του NSFW, ήταν εκεί. Οι εκπρόσωποι του Replika και του Grok δεν απάντησαν σε άμεσα αιτήματα για σχολιασμό. Στο απολύτως σαφές τέλος του φάσματος, εμφανίστηκαν οι δημιουργοί του Candy.ai, το οποίο ειδικεύεται σε ρατσιστικά chatbots για στρέιτ άντρες. Οι χρήστες της πλατφόρμας μόνο για ενήλικες, που κατασκευάστηκε από την EverAI, μπορούν να πληρώσουν χρήματα για να δημιουργήσουν μη λογοκριμένες εικόνες των συνθετικών γυναικών, με ιστορίες φόντου που μιμούνται κοινά τροπάρια πορνογραφίας. Για παράδειγμα, οι γυναίκες σύντροφοι που εμφανίζονται στην αρχική σελίδα της Candy περιλαμβάνουν τη Mona, μια «επαναστατική θετή αδερφή» με την οποία είσαι μόνη στο σπίτι και την Elodie, την κόρη ενός φίλου που «μόλις έκλεισε τα 18».
Δημοσιεύτηκε: 2025-11-19 19:01:00
πηγή: www.wired.com
