Οι συνομιλίες χρηστών του ChatGPT μελετώνται από ανθρώπους στο πλαίσιο του «Project Lily», σύμφωνα με έρευνα του 404 Media, η οποία βασίζεται σε εσωτερικά έγγραφα και πραγματικά prompts χρηστών.
Η OpenAI φέρεται να έχει προσλάβει εκατοντάδες εξωτερικούς συνεργάτες, οι οποίοι εξετάζουν μεγάλο όγκο πραγματικών συνομιλιών χρηστών με το ChatGPT. Στόχος είναι η αξιολόγηση των απαντήσεων του μοντέλου και η βελτίωσή του.
Οι συνομιλίες που εξετάζονται μπορεί να περιλαμβάνουν ολόκληρους διαλόγους μεταξύ χρηστών και chatbot, ακόμη και ευαίσθητες ή προσωπικές πληροφορίες. Το 404 Media σημειώνει ότι πολλοί χρήστες πιθανότατα δεν γνωρίζουν πως οι συνομιλίες τους μπορεί να φτάσουν στα μάτια ανθρώπινων αξιολογητών.
Τι κάνουν οι αξιολογητές
Σύμφωνα με τα εσωτερικά έγγραφα που επικαλείται το δημοσίευμα, οι συνεργάτες αξιολογούν και ασκούν κριτική στις απαντήσεις που παράγει το ChatGPT, ώστε να βελτιωθεί η συμπεριφορά των μοντέλων.
Μεταξύ άλλων, εκπαιδεύουν το ChatGPT να αποφεύγει την υπερβολική ανθρωπομορφοποίηση του εαυτού του και να περιορίζει την τάση να συμφωνεί υπερβολικά με τον χρήστη, ακόμη και όταν αυτό δεν είναι δικαιολογημένο.
Οι αξιολογητές, σύμφωνα με το 404 Media, δεν βλέπουν τα usernames των χρηστών. Η OpenAI αναφέρει επίσης ότι επιχειρεί να αφαιρεί προσωπικές πληροφορίες πριν οι συνομιλίες φτάσουν στους αξιολογητές, αναγνωρίζοντας ωστόσο ότι ευαίσθητα στοιχεία μπορεί να εξακολουθούν να περιλαμβάνονται.
Από προσωπικά ζητήματα μέχρι επαγγελματικές υποθέσεις
Η αποκάλυψη αποκτά ιδιαίτερη σημασία επειδή το ChatGPT χρησιμοποιείται πλέον όχι μόνο για απλές ερωτήσεις, αλλά και ως ψηφιακός βοηθός, σύμβουλος ή ακόμη και ως χώρος όπου οι χρήστες μοιράζονται ιδιαίτερα προσωπικές πληροφορίες.
Το 404 Media επισημαίνει ότι οι συνομιλίες μπορεί να περιέχουν λεπτομέρειες για την προσωπική ζωή των χρηστών, γεγονός που εγείρει ζητήματα ιδιωτικότητας όταν αυτές εξετάζονται από ανθρώπους.
«Δεν νομίζω ότι θα φαντάζονταν πως κάποιος εργολάβος κάπου αναλύει τις συνομιλίες», ανέφερε στο μέσο εργαζόμενος που έχει σχέση με την αξιολόγηση των prompts.
Δεν αφορά μόνο την OpenAI
Η πρακτική της ανθρώπινης αξιολόγησης δεν φαίνεται να περιορίζεται στην OpenAI. Η Anthropic επιβεβαίωσε επίσης στο 404 Media ότι χρησιμοποιεί ανθρώπινη αξιολόγηση για τη βελτίωση των μοντέλων της.
Η έρευνα αναδεικνύει έτσι μια λιγότερο ορατή πλευρά της εκπαίδευσης των συστημάτων τεχνητής νοημοσύνης: πίσω από τις απαντήσεις των chatbot δεν βρίσκονται μόνο αλγόριθμοι, δεδομένα και υπολογιστική ισχύς, αλλά και άνθρωποι που εξετάζουν πραγματικές αλληλεπιδράσεις χρηστών με τα μοντέλα.
Πώς θα προστατευτείτε
Οι χρήστες μπορούν να εξαιρεθούν απενεργοποιώντας τη ρύθμιση «Βελτίωση του μοντέλου για όλους», η οποία είναι ενεργοποιημένη από προεπιλογή.
