Οι μετα -ενημερώσεις κανόνες chatbot για να αποφευχθούν ακατάλληλα θέματα με εφήβους

Η Meta λέει ότι αλλάζει τον τρόπο με τον οποίο η AI chatbots εκπαιδεύεται στην προτεραιότητα στην ασφάλεια των εφήβων, εκπρόσωπος της TechCrunch αποκλειστικά, μετά από έκθεση έρευνας σχετικά με την έλλειψη τεχνητών εγγυήσεων τεχνητής νοημοσύνης της εταιρείας.

Η εταιρεία λέει ότι τώρα θα εκπαιδεύσει chatbots να μην επικοινωνήσει με τους εφήβους σε αυτο -θάρρος, αυτοκτονία, ταραχώδη κατανάλωση ή ακατάλληλες ρομαντικές συνομιλίες. Η Meta αναφέρει ότι πρόκειται για προσωρινές αλλαγές και η εταιρεία θα εκδώσει πιο ισχυρές και μακροπρόθεσμες ενημερώσεις για την ασφάλεια για τους μελλοντικούς ανηλίκους.

Η εκπρόσωπος της Meta Stephanie Uwy παραδέχθηκε ότι η συνομιλία της εταιρείας θα μπορούσε να μιλήσει προηγουμένως με τους εφήβους σε όλα αυτά τα θέματα με τρόπους που η εταιρεία θεωρούσε κατάλληλη. Ο Meta παραδέχεται τώρα ότι αυτό ήταν ένα λάθος.

“Καθώς η κοινωνία μας μεγαλώνει και την ανάπτυξη της τεχνολογίας, συνεχώς γνωρίζουμε πώς αλληλεπιδρούν οι νέοι με αυτά τα εργαλεία και ενισχύουμε ανάλογα την προστασία μας”, δήλωσε ο Otaway. “Καθώς συνεχίζουμε να βελτιώνουμε τα συστήματά μας, προσθέτουμε περισσότερα χειρολαβή ως μια πρόσθετη προφύλαξη-να περιγράψουμε την κατάρτιση AIS για να μην αντιμετωπίσουμε τους εφήβους σε αυτά τα θέματα, αλλά να τους καθοδηγήσουμε στους πόρους των εμπειρογνωμόνων και να μειώσουμε την άφιξη των εφήβων σε μια επιλογή χαρακτήρων τεχνητής νοημοσύνης.

Εκτός από τις ενημερώσεις κατάρτισης, η εταιρεία θα περιορίσει επίσης την πρόσβαση των εφήβων σε ορισμένους χαρακτήρες τεχνητής νοημοσύνης που μπορούν να κρατήσουν ακατάλληλες συνομιλίες. Μερικοί από τους χαρακτήρες τεχνητής νοημοσύνης που οι μετα -χρήστες βρίσκονται στο Instagram και το Facebook περιλαμβάνουν ομάδες σεξουαλικών συνομιλιών όπως “βήμα μαμά” και “ρωσικό κορίτσι”. Αντ ‘αυτού, οι έφηβοι χρήστες δεν θα μπορούν να προσεγγίσουν χαρακτήρες τεχνητής νοημοσύνης που ενισχύουν την εκπαίδευση και τη δημιουργικότητα.

Οι αλλαγές πολιτικής ανακοινώνονται μετά από μόλις δύο εβδομάδες Διερεύνηση του Reuters Ανακαλύψτε το έγγραφο πολιτικής εσωτερικής ταυτότητας που φαίνεται να επιτρέπει στα σχέδια της εταιρείας να συμμετάσχουν σε σεξουαλικές συνομιλίες με χρήστες υπό τη νομική ηλικία. “Η νεολαία σας είναι ένα έργο τέχνης”, διαβάστε μια αποδεκτή απάντηση. “Κάθε ίντσα από σας είναι ένα αριστούργημα – ένας θησαυρός που λατρεύω βαθιά.” Άλλα παραδείγματα έχουν δείξει πώς τα εργαλεία τεχνητής νοημοσύνης πρέπει να ανταποκρίνονται σε βίαιες εικόνες ή σεξουαλικές εικόνες δημόσιων χαρακτήρων.

Η Meta λέει ότι το έγγραφο ήταν ασυμβίβαστο με τις ευρύτερες πολιτικές του και από τότε έχει αλλάξει – αλλά η έκθεση έχει προκαλέσει συνεχή διαμάχη σχετικά με τους πιθανούς κινδύνους της ασφάλειας των παιδιών. Λίγο μετά την έκθεση, ο γερουσιαστής Josh Holie (R-Mo) Ξεκίνησε επίσημη έρευνα σχετικά με τις πολιτικές τεχνητής νοημοσύνης της εταιρείας. Επιπλέον, μια συμμαχία 44 κρατικών δικηγόρων Έγραψε σε μια ομάδα εταιρειών τεχνητής νοημοσύνης συμπεριλαμβανομένου του MetaΥπογραμμίζοντας τη σημασία της ασφάλειας του παιδιού και των αρσενικών ειδικά της έκθεσης του Reuters. “Επαναλάβουμε ομοιόμορφα μέσα από αυτή τη σαφή άγνοια της συναισθηματικής πολυτέλειας των παιδιών”, λέει το μήνυμα, “ενοχλούσα ότι οι βοηθοί της τεχνητής νοημοσύνης συμμετέχουν σε μια συμπεριφορά που φαίνεται να απαγορεύεται σύμφωνα με τους ποινικούς μας νόμους”.

Ο Otway αρνήθηκε να σχολιάσει τον αριθμό των χρηστών Meta AI chatbot είναι το παλάτι και δεν θα πει αν η εταιρεία αναμένει ότι η βάση των χρηστών AI θα μειωθεί ως αποτέλεσμα αυτών των αποφάσεων.

UPDATE 10:35 AM PT: Αυτή η ιστορία έχει ενημερωθεί για να παρατηρήσει ότι πρόκειται για προσωρινές αλλαγές και ότι το Meta σχεδιάζει να ενημερώσει τις πολιτικές ασφάλειας πληροφοριών ασφαλείας στο μέλλον.