Το Character.AI να απαγορεύει στα παιδιά να μιλούν με chatbot
Η Character.AI σχεδιάζει να απαγορεύσει στα παιδιά να μιλούν με τα chatbot τεχνητής νοημοσύνης της από τον επόμενο μήνα, εν μέσω αυξανόμενου ελέγχου σχετικά με τον τρόπο με τον οποίο οι νεαροί χρήστες αλληλεπιδρούν με την τεχνολογία. Η εταιρεία, γνωστή για την τεράστια γκάμα χαρακτήρων τεχνητής νοημοσύνης, θα αφαιρέσει τη δυνατότητα των χρηστών κάτω των 18 ετών να συμμετέχουν σε «ανοιχτές» συνομιλίες με τεχνητή νοημοσύνη έως τις 25 Νοεμβρίου. Σκοπεύει να αρχίσει να μειώνει την πρόσβαση τις επόμενες εβδομάδες, περιορίζοντας αρχικά τα παιδιά σε δύο ώρες συνομιλίας την ημέρα. Η Character.AI σημείωσε ότι σχεδιάζει να αναπτύξει μια «εμπειρία κάτω των 18 ετών» στην οποία οι έφηβοι μπορούν να δημιουργούν βίντεο, ιστορίες και ροές με τους χαρακτήρες της AI. “Πραγματοποιούμε αυτές τις αλλαγές στην πλατφόρμα μας κάτω των 18 ετών υπό το φως του εξελισσόμενου τοπίου γύρω από την τεχνητή νοημοσύνη και τους εφήβους”, ανέφερε η εταιρεία σε μια ανάρτηση στο blog, υπογραμμίζοντας πρόσφατες ειδήσεις και ερωτήσεις από ρυθμιστικές αρχές. Η εταιρεία και άλλοι προγραμματιστές chatbot τέθηκαν πρόσφατα υπό έλεγχο μετά από αρκετές αυτοκτονίες εφήβων που συνδέονται με την τεχνολογία. Η μητέρα του 14χρονου Sewell Setzer III μήνυσε το Character.AI τον περασμένο Νοέμβριο, κατηγορώντας το chatbot ότι οδήγησε τον γιο της στην αυτοκτονία. Το OpenAI αντιμετωπίζει επίσης μήνυση από τους γονείς του 16χρονου Adam Raine, ο οποίος αυτοκτόνησε μετά την ενασχόλησή του με το ChatGPT. Και οι δύο οικογένειες κατέθεσαν ενώπιον επιτροπής της Γερουσίας τον περασμένο μήνα και προέτρεψαν τους νομοθέτες να τοποθετήσουν προστατευτικά κιγκλιδώματα στα chatbots. Η Ομοσπονδιακή Επιτροπή Εμπορίου ξεκίνησε επίσης μια έρευνα για τα chatbot AI τον Σεπτέμβριο, ζητώντας πληροφορίες από το Character.AI, το OpenAI και πολλές άλλες κορυφαίες εταιρείες τεχνολογίας. «Μετά την αξιολόγηση αυτών των αναφορών και των σχολίων από ρυθμιστικές αρχές, ειδικούς σε θέματα ασφάλειας και γονείς, αποφασίσαμε να κάνουμε αυτήν την αλλαγή για να δημιουργήσουμε μια νέα εμπειρία για την κοινότητά μας κάτω των 18 ετών», δήλωσε η Character.AI την Τετάρτη. «Αυτά είναι εξαιρετικά βήματα για την εταιρεία μας και αυτά που, από πολλές απόψεις, είναι πιο συντηρητικά από τους συνομηλίκους μας», πρόσθεσε. «Αλλά πιστεύουμε ότι είναι το σωστό πράγμα που πρέπει να κάνουμε». Εκτός από τον περιορισμό της πρόσβασης των παιδιών στα chatbot του, το Character.AI σχεδιάζει επίσης να αναπτύξει νέα τεχνολογία διασφάλισης ηλικίας και να ιδρύσει και να χρηματοδοτήσει έναν νέο μη κερδοσκοπικό οργανισμό που ονομάζεται AI Safety Lab. Εν μέσω αυξανόμενων ανησυχιών για τα chatbots, μια δικομματική ομάδα γερουσιαστών εισήγαγε νομοθεσία την Τρίτη που θα απαγορεύει τους συντρόφους με τεχνητή νοημοσύνη για παιδιά. Το νομοσχέδιο από τους γερουσιαστές Josh Hawley (R-Mo.), Richard Blumenthal (D-Conn.), Katie Britt (R-Ala.), Mark Warner (D-Va.) και Chris Murphy (D-Conn.) θα απαιτούσε επίσης από τα chatbots AI να αποκαλύπτουν επανειλημμένα ότι δεν είναι άνθρωποι, εκτός από το να καθιστούν το σεξουαλικό περιεχόμενο για την ανάπτυξη προϊόντων ή την παραγωγή τόσο σεξουαλικού περιεχομένου. Ο κυβερνήτης της Καλιφόρνια Gavin Newsom (D) υπέγραψε ένα παρόμοιο μέτρο στα τέλη του περασμένου μήνα, απαιτώντας από τους προγραμματιστές chatbot στο Golden State να δημιουργήσουν πρωτόκολλα που εμποδίζουν τα μοντέλα τους να παράγουν περιεχόμενο σχετικά με αυτοκτονία ή αυτοτραυματισμό και να κατευθύνουν τους χρήστες σε υπηρεσίες κρίσης, εάν χρειαστεί. Αρνήθηκε να εγκρίνει ένα αυστηρότερο μέτρο που θα απαγόρευε στους προγραμματιστές να κάνουν chatbot διαθέσιμα σε παιδιά, εκτός εάν μπορούσαν να διασφαλίσουν ότι δεν θα συμμετάσχουν σε επιβλαβείς συζητήσεις με παιδιά.
Δημοσιεύτηκε: 2025-10-29 16:26:00
πηγή: thehill.com
