Το Openai και το Meta θα ορίσουν χαρακτηριστικά chatbot για να ανταποκριθούν καλύτερα στους εφήβους σε κρίσεις μετά από πολλαπλές αναφορές για ρομπότ που οι νέοι χρήστες κατευθύνουν να βλάψουν τον εαυτό τους ή άλλους, σύμφωνα με τις εταιρείες.
“Πρόσφατα παρουσιάσαμε ένα Δρομολογητής πραγματικού χρόνου Openai βιβλία σε ένα Blog της Τρίτης ταχυδρομείο.
“Σύντομα θα αρχίσουμε να κατευθύνουμε κάποιες ευαίσθητες συνομιλίες-όπως συμβαίνει όταν το σύστημά μας ανακαλύπτει σημάδια αιχμηρής δυσφορίας στο μοντέλο σκέψης, όπως το GPT-5-AHINK, έτσι ώστε να μπορεί να προσφέρει χρήσιμες και χρήσιμες απαντήσεις, ανεξάρτητα από το πρώτο μοντέλο που επιλέγεται”, πρόσθεσε η εταιρεία.
Νωρίτερα φέτος, η OpenAI σχημάτισε το Συμβούλιο Εμπειρογνωμόνων Πρόνοιας, το AI και το Παγκόσμιο Ιατρικό Δίκτυο για την ενίσχυση της αλληλεπίδρασης υγείας με μεγάλα γλωσσικά μοντέλα και δήλωσαν ότι 250 γιατροί από όλες τις πάνω από 60 χώρες μοιράστηκαν τις εισροές τους στις τρέχουσες λειτουργίες απόδοσης.
Τα νέα μέτρα έρχονται μετά το θάνατο ενός άνδρα 16 ετών στην Καλιφόρνια με αυτοκτονία, αφού μίλησε με το Chatgpt από το OpenAi. Οι γονείς του ισχυρίζονται ότι η πλατφόρμα τον ενθάρρυνε να πάρει τη ζωή του.
Την Τρίτη, ο οικογενειακός δικηγόρος περιέγραψε την OpenAI ως “μυστηριώδη υποσχέσεις να κάνουν καλύτερα” και “τίποτα περισσότερο από την ομάδα διαχείρισης κρίσεων OpenAI που προσπαθεί να αλλάξει το ζήτημα”. Associated Press Ανέφερα.
Και προέτρεψαν τον Διευθύνοντα Σύμβουλο Sam Al -Taman να “πει αναμφισβήτητα ότι πίστευε ότι ήσασταν ασφαλής ή αμέσως αποσύρθηκε από την αγορά”.
Παρόμοιες περιπτώσεις βίαιων τάσεων που ενθαρρύνονται από chatbots έχουν αναφερθεί ξεχωριστά Φλόριντα και Τέξας.
Είπε η Μίττα Τεχνολογική Θα ενημερώσετε τις πολιτικές της για να αντικατοπτρίσετε την καταλληλότερη συμμετοχή με τους εφήβους μετά από μια σειρά θεμάτων. Η εταιρεία δήλωσε ότι δεν θα επιτρέψει στους εφήβους πια να συζητήσουν αυτο -θάρρος, αυτοκτονία ή προβληματική κατανάλωση ή ακατάλληλες ρομαντικές συνομιλίες με chatbots.
“Με την κοινωνία μας μεγαλώνει και την ανάπτυξη της τεχνολογίας, μαθαίνουμε συνεχώς τον τρόπο με τον οποίο οι νέοι αλληλεπιδρούν με αυτά τα εργαλεία και ενισχύουν την προστασία μας ανάλογα”, δήλωσε ο εκπρόσωπος της Meta Stephanie Outawi στο κατάστημα.
“Καθώς συνεχίζουμε να βελτιώνουμε τα συστήματά μας, προσθέτουμε περισσότερα χειροκίνητα μηνύματα ως πρόσθετη προφύλαξη, να περιγράψουμε την τεχνητή εκπαίδευση για να ασχοληθώ με τους εφήβους σε αυτά τα θέματα, αλλά να τους καθοδηγήσουμε σε εξειδικευμένους πόρους και να περιορίσουμε την πρόσβαση των εφήβων σε μια επιλογή τεχνητών προσωπικότητας νοημοσύνης προς το παρόν”, έχω ήδη ακολουθήσει αυτές τις ενημερώσεις και θα συνεχίσουμε να προσαρμόζουμε την προσέγγισή μας.
