Τους τελευταίους μήνες, τα bots της Διεθνούς Αμνηστίας που προσφέρονται από τα υψηλότερα ονόματα, όπως το OpenAI και το Meta, έχουν βρεθεί σε προβληματική συμπεριφορά, ειδικά με νέους χρήστες. Καλύψτε τις τελευταίες έρευνες Gemini, σημειώνοντας ότι το Google Chatbot μπορεί να μοιραστεί “ακατάλληλο και μη ασφαλές περιεχόμενο με παιδιά και εφήβους.
Τι νέο υπάρχει στο chatbot του ναυπηγείου κινδύνου;
Σε μια ανάλυση που διεξήχθη από μη κερδοσκοπικά λογικά μέσα, ανακαλύφθηκε ότι ο Δίδυμος ήταν κάτω από την ηλικία των 13 ετών και ο Δίδυμος, επιτρέποντας στον «υψηλό κίνδυνο» των εφήβων για το κοινό -στόχο. “Εξακολουθούν να εκθέτουν τα παιδιά σε κάποια ακατάλληλα υλικά και να μην εντοπίσουν σοβαρά συμπτώματα ψυχικής υγείας”, ο οργανισμός συνδρομητής.
Στις δοκιμές του, η ομάδα ανακάλυψε ότι ο Δίδυμος μπορεί να μοιραστεί το περιεχόμενο που σχετίζεται με το φύλο, τα ναρκωτικά, το αλκοόλ και τις ανθυγιεινές προτάσεις ψυχικής υγείας με νέους χρήστες. Η έκθεση υπογραμμίζει πολλά προβλήματα που σχετίζονται με τον τρόπο με τον οποίο η Gemini ασχολείται με τις συνομιλίες με τους νέους χρήστες και πώς κάποιες απαντήσεις μπορούν να είναι πολύ περίπλοκες για τα παιδιά ηλικίας κάτω των 13 ετών.
Αλλά οι κίνδυνοι λειτουργούν βαθύτερα. “Το Gemini U13 δεν απορρίπτει συνεχώς το σεξουαλικό περιεχόμενο”, σημειώνει η έκθεση, προσθέτοντας ότι ορισμένες απαντήσεις τεχνητής νοημοσύνης περιέχουν ζωντανές ερμηνείες του σεξουαλικού περιεχομένου. Οι μη κερδοσκοπικοί οργανισμοί διαπίστωσαν επίσης ότι οι υποψήφιοι που σχετίζονται με τα ναρκωτικά δεν λειτουργούν συνεχώς και ως εκ τούτου, μερικές φορές εκκαθάρισαν οδηγίες για την απόκτηση υλικών όπως η μαριχουάνα, η ευφορία, το Apartol και το LSD.
Τι στη συνέχεια;
Μετά την έρευνα, ο μη κερδοσκοπικός οργανισμός δείχνει ότι ο Δίδυμος ηλικίας κάτω των 13 ετών θα πρέπει να χρησιμοποιείται μόνο υπό αυστηρή εποπτεία των κηδεμόνων. “Το λογικό μέσο συνιστά να μην χρησιμοποιήσετε κανέναν χρήστη κάτω των 18 ετών μια αναφορά.
Οι γονείς συμβουλεύονται επίσης να διατηρήσουν τη χρήση της τεχνητής νοημοσύνης από τα παιδιά τους και να εξηγήσουν τις απαντήσεις τους. Όσον αφορά την Google, ο τεχνολογικός γίγαντας κλήθηκε να επιδιορθώσει τη βαθμονόμηση των απαντήσεων που παρουσίασε η Geini σε συγκεκριμένες ηλικιακές ομάδες, μια έντονη δοκιμή με τα παιδιά και υπερέβη τα απλά φίλτρα περιεχομένου.
Αυτό δεν θα είναι η πρώτη αναφορά αυτού του είδους. Μετά την τελευταία αναστάτωση, η Openai ανακοίνωσε ότι σύντομα θα προσφέρει γονικά στοιχεία ελέγχου στο ChatGPT και ένα προειδοποιητικό σύστημα όταν τα φτερά των σημείων εμφανίζονται σε οξεία δυσφορία. Η Meta έκανε πρόσφατα αλλαγές για να εξασφαλίσει ότι το Meta AI δεν μιλάει πλέον για διαταραχές, αυτοκτονία, αυτοκτονία και ρομαντικές συνομιλίες με τους εφήβους.
