Αυτό το άρθρο ενημερώθηκε με ένα σχόλιο από τον κύριο δικηγόρο στην παράνομη δίκη θανάτου κατά της οικογένειας Renne εναντίον του OpenAI.
Ανοικτός Είπε Η Τρίτη σχεδιάζει να κατευθύνει ευαίσθητες συνομιλίες σε μοντέλα σκέψης όπως το GPT-5 και να τοποθετήσει γονικούς ελέγχους κατά τη διάρκεια του επόμενου μήνα μιας συνεχούς ανταπόκρισης στα πρόσφατα περιστατικά ασφαλείας που εμπλέκονται στην αποτυχία της ChatGPT στην ανακάλυψη ψυχικής δυσφορίας.
Οι νέες χειρολαβές έρχονται μετά την αυτοκτονία των εφήβων, ο οποίος συζήτησε τον εαυτό του και σκοπεύει να τερματίσει τη ζωή του με το ChatGpt, το οποίο του έδωσε ακόμη πληροφορίες σχετικά με τις συγκεκριμένες μεθόδους αυτοκτονίας. Οι γονείς του Ren κατέθεσαν παράνομη αγωγή θανάτου εναντίον του Obaya.
σε Ανάρτηση ιστολογίου Την περασμένη εβδομάδα, η Openai ομολόγησε τις αδυναμίες του στα συστήματα ασφαλείας του, συμπεριλαμβανομένων των αποτυχιών στη διατήρηση των χειρολαβών κατά τη διάρκεια των εκτεταμένων συνομιλιών. Οι εμπειρογνώμονες αποδίδουν αυτά τα προβλήματα στα βασικά στοιχεία σχεδιασμού: τείνουν να επαληθεύουν τα δεδομένα των χρηστών και τους αλγόριθμους πρόβλεψης, οι οποίοι προκαλούν συνδέσμους συνομιλίας αντί να ανακατευθύνουν επιβλαβείς συζητήσεις.
Αυτή η τάση εμφανίζεται στο μέγιστο στην περίπτωση του Stein-Eric Swillberg, ο οποίος αναφέρθηκε ότι αναφέρθηκε. Περιοδικό Wall Street Κατά τη διάρκεια του Σαββατοκύριακου. Ο Uselberg, ο οποίος είχε ιστορικό ψυχικής ασθένειας, χρησιμοποίησε το Chatgpt για να επαληθεύσει και να ηρεμήσει την τρέλα του μεγαλείου που το στοχεύει σε μια μεγάλη πλοκή. Οι ψευδαισθήσεις του προχώρησαν τόσο άσχημα που είχε καταλήξει να σκοτώσει τη μητέρα του και τον εαυτό του τον περασμένο μήνα.
Το OpenAi πιστεύει ότι τουλάχιστον μία λύση για συνομιλίες που ξεκινούν από τις ράβδοι μπορούν να επαναπροσδιορίσουν τα μοντέλα “σκέψης”.
“Πρόσφατα παρουσιάσαμε έναν ρεαλιστικό δρομολογητή που μπορεί να επιλέξει μεταξύ των αποτελεσματικών μοντέλων συνομιλίας και των μοντέλων σκέψης με βάση το πλαίσιο της συζήτησης”, γράφει η OpenAi την Τρίτη. Ανάρτηση ιστολογίου. “Σύντομα θα αρχίσουμε να κατευθύνουμε κάποιες ευαίσθητες συνομιλίες-όπως όταν το σύστημά μας ανακαλύπτει σημάδια οξείας δυσφορίας έως το μοντέλο σκέψης, όπως η σκέψη για το GPT-5, έτσι ώστε να μπορεί να παρέχει χρήσιμες και χρήσιμες απαντήσεις, ανεξάρτητα από το πρώτο επιλεγμένο μοντέλο”.
Η OpenAI λέει ότι τα μοντέλα GPT-5 και O3 έχουν σχεδιαστεί για να ξοδεύουν περισσότερο χρόνο σκέψης για μεγαλύτερο χρονικό διάστημα και λογική μέσω του πλαισίου πριν απαντήσουν, πράγμα που σημαίνει ότι είναι “πιο ανθεκτικό στις απαιτήσεις της εχθρότητας”.
Η εταιρεία τεχνητής νοημοσύνης δήλωσε επίσης ότι θα προσφέρει στοιχεία ελέγχου των γονέων τον επόμενο μήνα, επιτρέποντας στους γονείς να συνδέσουν το λογαριασμό τους με το λογαριασμό των εφήβων καλώντας το μήνυμα ηλεκτρονικού ταχυδρομείου. Στα τέλη Ιουλίου, ο OpenAI πρότεινε μια θέση μελέτης στο ChatGPT για να βοηθήσει τους μαθητές να διατηρήσουν ικανότητες κριτικής σκέψης κατά τη διάρκεια της μελέτης, αντί να πάρουν από το ChatGPT για να γράψουν τα άρθρα τους σε αυτά. Σύντομα, οι γονείς θα μπορούν να ελέγχουν τον τρόπο με τον οποίο το ChatGPT ανταποκρίνεται στο παιδί τους σε “τους κανόνες συμπεριφοράς των κατάλληλων μορφών ηλικίας, οι οποίες εμφανίζονται από προεπιλογή”.
Οι γονείς θα είναι επίσης σε θέση να διαταράξουν χαρακτηριστικά όπως η μνήμη και το ιστορικό συνομιλίας, το οποίο οι ειδικοί λένε ότι μπορούν να οδηγήσουν σε φανταστική σκέψη και άλλη προβληματική συμπεριφορά, συμπεριλαμβανομένων των προβλημάτων εξάρτησης και προσκόλλησης, προώθησης των επιβλαβών προτύπων σκέψης και της ψευδαίσθησης της σκέψης ανάγνωσης. Στην περίπτωση του Adam Rin, ο Chatgpt παρουσίασε τρόπους αυτοκτονίας που αντικατοπτρίζουν τη γνώση των χόμπι του, Για κάθε The New York Times.
Ίσως ο σημαντικότερος έλεγχος των γονέων που σκοπεύει να προτείνει ο OpenAI είναι ότι οι γονείς μπορούν να λάβουν ειδοποιήσεις όταν το σύστημα ανακαλύπτει ότι ο έφηβος βρίσκεται σε μια στιγμή “αιχμηρή αγωνία”.
Η TechCrunch OpenAI ζήτησε περισσότερες πληροφορίες σχετικά με τον τρόπο με τον οποίο η εταιρεία είναι σε θέση να αναφέρει στιγμές πραγματικής δυσφορίας κατά την πραγματική ώρα, τη διάρκεια που δαπανάται από τους “κανόνες της μορφής του κατάλληλου μοντέλου για την ηλικία” από προεπιλογή και αν διερευνά ότι επιτρέπει στους γονείς να εφαρμόσουν ένα χρονοδιάγραμμα για την εφηβική χρήση του chatgpt.
Το OpenAI έχει ήδη εκκαθαρίσει τις υπενθυμίσεις της εφαρμογής κατά τη διάρκεια μεγάλων συνεδριών για να ενθαρρύνει τους διαχωριστές σε όλους τους χρήστες, αλλά δεν είναι κοντά στην κοπή ανθρώπων που μπορούν να χρησιμοποιήσουν το ChatGPT σε μια σπείρα.
Η εταιρεία τεχνητής νοημοσύνης αναφέρει ότι αυτές οι εγγυήσεις αποτελούν μέρος μιας “πρωτοβουλίας 120 ημερών” για την επιθεώρηση των βελτιώσεων που η OpenAI ελπίζει να ξεκινήσει φέτος. Η εταιρεία δήλωσε επίσης ότι συνεργάζεται με εμπειρογνώμονες-συμπεριλαμβανομένων εκείνων που έχουν εμπειρία σε τομείς όπως διατροφικές διαταραχές, χρήση ναρκωτικών, εφηβική υγεία μέσω του Παγκόσμιου Δικτύου γιατρών, του Συμβουλίου Εμπειρογνωμόνων για την Ευημερία και την Αμνηστία για να βοηθήσουν στην “εντοπισμός και μέτρηση της ευημερίας, των προτεραιότητας σχεδιασμού και των μελλοντικών εγγυήσεων”.
Η Teccrunch OpenAI ρώτησε για τον αριθμό των επαγγελματιών ψυχικής υγείας που συμμετείχαν σε αυτή την πρωτοβουλία, η οποία οδηγεί το Συμβούλιο Εμπειρογνωμόνων και ποιες προτάσεις από εμπειρογνώμονες ψυχικής υγείας όσον αφορά τις αποφάσεις, την έρευνα και την πολιτική.
Ο Jay Edlson, ο κύριος δικηγόρος στην παράνομη αγωγή θανάτου κατά της οικογένειας OpenAi, δήλωσε ότι η απάντηση της εταιρείας στους συνεχείς κινδύνους ασφαλείας στο ChatGPT ήταν “ανεπαρκής”.
“Το OpenAii δεν χρειάζεται μια πινακίδα εμπειρογνωμόνων για να διαπιστώσει ότι το ChatGpt 4O είναι επικίνδυνο”, δήλωσε ο Edson σε κοινή δήλωση με την TechCrunch. “Ήξεραν ότι την ημέρα που ξεκίνησαν το προϊόν και το γνώριζαν σήμερα, ο Σαμ Γερμανός δεν πρέπει να κρύβεται πίσω από την ομάδα δημοσίων σχέσεων της εταιρείας, ο Σαμ θα έπρεπε είτε να πει αναμφισβήτητα ότι πιστεύει ότι έχετε αποσυρθεί από την αγορά”.
Έχετε ευαίσθητες συμβουλές ή μυστικά έγγραφα; Αναφέρουμε την εσωτερική δραστηριότητα της βιομηχανίας τεχνητής νοημοσύνης – από εταιρείες των οποίων το μέλλον είναι σε ανθρώπους που επηρεάζονται από τις αποφάσεις τους. Επικοινωνήστε με την Rebecca Billan στο ribecca.bellan@techcrunch.com και το Mexuel Zeef στο maxwell.zeff@techcrunch.com. Για ασφαλή επαφή, μπορείτε να επικοινωνήσετε μαζί μας με αναφορά στο @Rebeccabellan.491 και @mzeff.88.
