Το OpenAI αναδιοργανώνει την ομάδα συμπεριφοράς μοντέλων, μια μικρή αλλά επιρροή ομάδα ερευνητών που διαμορφώνουν τον τρόπο με τον οποίο τα μοντέλα AI αλληλεπιδρούν για την εταιρεία με ανθρώπους, σύμφωνα με την TechCrunch.
Στο μνημόνιο των εργαζομένων του Αυγούστου που είδαν την TechRunch, τον κύριο ερευνητικό αξιωματούχο στο Openai Mark Chen, δήλωσε ότι η τυπική ομάδα συμπεριφοράς-η οποία αποτελείται από περίπου 14 ερευνητές-ανέφεραν την μεταγενέστερη ομάδα κατάρτισης, μια ευρύτερη ερευνητική ομάδα που είναι υπεύθυνη για τη βελτίωση των μοντέλων τεχνητής νοημοσύνης της εταιρείας μετά την αρχική εκπαίδευση.
Ως μέρος των αλλαγών, η ομάδα συμπεριφοράς μοντέλων θα υποβάλει τώρα αναφορές στο Max Schwarzer στο OpenAI. Ο εκπρόσωπος της Openai επιβεβαίωσε αυτές τις αλλαγές στο TechCrunch.
Η Joan Gang, ο ιδρυτικός ηγέτης της ομάδας συμπεριφοράς μοντέλων, Joan Gang, μετακινείται στην αρχή ενός νέου έργου στην εταιρεία. Σε συνέντευξή του στην TechCrunch, ο Jang λέει ότι κατασκευάζει μια νέα ερευνητική ομάδα που ονομάζεται OAI Labs, η οποία θα είναι υπεύθυνη για την “εφεύρεση νέων προσόψεων για το πώς οι άνθρωποι συνεργάζονται με την τεχνητή νοημοσύνη”.
Η τυπική ομάδα συμπεριφοράς έχει γίνει μια από τις κύριες ερευνητικές ομάδες στο OpenAI, ο οποίος είναι υπεύθυνος για τη διαμόρφωση του χαρακτήρα των μοντέλων τεχνητής νοημοσύνης της εταιρείας μόνο από τη Sycophance – η οποία συμβαίνει όταν τα μοντέλα τεχνητής νοημοσύνης συμφωνούν με τις πεποιθήσεις και την προώθηση του χρήστη και ακόμη και τις ανθυγιεινές, αντί να παρέχουν ισορροπημένες απαντήσεις. Η ομάδα εργάστηκε επίσης για να μετακινηθεί σε πολιτική προκατάληψη στις απαντήσεις μοντέλων και βοήθησε το OpenAI να καθορίσει τη θέση της Συνείδηση της τεχνητής νοημοσύνης.
Στο σημείωμα των εργαζομένων, ο Τσεν δήλωσε ότι η ώρα έχει έρθει τώρα για να κάνει την ομάδα συμπεριφοράς μοντέλου OpenAI για να αναπτύξει το βασικό μοντέλο. Με αυτόν τον τρόπο, η εταιρεία δείχνει ότι η τεχνητή νοημοσύνη της “προσωπικότητα” είναι πλέον ένας κρίσιμος παράγοντας για το πώς εξελίσσεται η τεχνολογία.
Τους τελευταίους μήνες, η OpenAI αντιμετώπισε τον αυξανόμενο έλεγχο σχετικά με τη συμπεριφορά των μοντέλων τεχνητής νοημοσύνης. Οι χρήστες αντιτάχθηκαν έντονα στις προσωπικές αλλαγές που έγιναν στο GPT-5, τις οποίες η εταιρεία δήλωσε ότι έχει δείξει ποσοστά χαμηλότερα από τη Sycophancy, αλλά φαινόταν πιο κρύο για ορισμένους χρήστες. Αυτό έχει αποκαταστήσει την πρόσβαση σε ορισμένα παλιά μοντέλα, όπως το GPT-4O, και η απελευθέρωση της ενημέρωσης για να γίνει οι τελευταίες απαντήσεις GPT-5 να αισθάνονται “θερμότερες και πιο σαφείς” χωρίς να αυξάνουν το ημερολόγιο.
Εκδήλωση TechRunch
Σαν Φρανσίσκο
|
27-29 Οκτωβρίου, 2025
Το Openai και όλοι οι προγραμματιστές AI θα πρέπει να περπατούν για μια λεπτή γραμμή για να κάνουν την AI chatbots τυχαία να μιλήσουν μαζί τους, αλλά όχι στο Sycophantic. Τον Αύγουστο, ο πατέρας ενός αγοριού 16 ετών ήταν Μια αγωγή εναντίον του Openai Σχετικά με τον εικαζόμενο ρόλο του ChatGPT στην αυτοκτονία του γιου τους. Το αγόρι, ο Adam Rin, σκότωσε μερικές από τις ιδέες του και αυτοκτόνησε για σχέδια συνομιλίας (ειδικά ένα αντίγραφο που υποστηρίζεται από το GPT-4O), σύμφωνα με έγγραφα του δικαστηρίου, τους μήνες πριν από το θάνατό του. Η δίκη ισχυρίζεται ότι η GPT-4O απέτυχε να αποσύρει την αυτοκτονία του.
Η τυπική ομάδα συμπεριφοράς έχει εργαστεί σε κάθε μοντέλο OpenAI από το GPT-4, συμπεριλαμβανομένων των GPT-4O, GPT-4.5 και GPT-5. Πριν ξεκινήσει η μονάδα, ο Jang εργάστηκε στο παρελθόν σε έργα όπως το Dall-E2, το Early OpenAi Tool για τη διαδικασία φωτογραφίας.
Ο Jang ανακοίνωσε σε ένα Μετά το x Την περασμένη εβδομάδα, θα αφήσετε την ομάδα να ξεκινήσει κάτι νέο στο OpenAI. Ήταν ο πρώην επικεφαλής του μοντέλου με το OpenAI για σχεδόν τέσσερα χρόνια.
Ο Jang Techcrunch είπε ότι θα εργαστεί ως γενικός διευθυντής του OAII Labs, ο οποίος θα παρουσιάσει στον Chen επί του παρόντος. Ωστόσο, είναι στις πρώτες μέρες και δεν είναι σαφές μετά από αυτές τις νέες προσόψεις.
“Είμαι πραγματικά ενθουσιασμένος που θα εξερευνήσω μοτίβα που υπερβαίνουν το μοντέλο συνομιλίας, το οποίο σήμερα συνδέεται περισσότερο με τη συντροφιά ή ακόμα και τους πράκτορες, καθώς επικεντρώνεται στην αυτονομία”, δήλωσε ο Gang. “Σκεφτόμουν (συστήματα τεχνητής νοημοσύνης) ως εργαλεία για τη σκέψη, την παραγωγή, το παιχνίδι, τη μάθηση και την κλήση.”
Όταν ρωτήθηκε αν η OAI Labs θα συνεργαστεί σε αυτές τις νέες προσόψεις με τον πρώην επικεφαλής της Apple Design Jony Ive – ποιος είναι Δουλεύω τώρα Με το Openai σε μια οικογένεια διεθνούς αμνηστίας – ο Yang είπε ότι είναι ανοικτή σε πολλές ιδέες. Ωστόσο, είπε ότι πιθανότατα θα ξεκινήσει με τα πεδία της έρευνας που ξέρει περισσότερα.
Αυτή η ιστορία ενημερώθηκε για να συμπεριλάβει έναν σύνδεσμο προς την ανάρτηση του Jang, η οποία ανακοίνωσε τη νέα της ιστοσελίδα, η οποία κυκλοφόρησε μετά τη δημοσίευση αυτής της ιστορίας. Εξηγούμε επίσης τα μοντέλα στην ομάδα συμπεριφοράς μοντέλων OpenAI.
