Ανησυχία έχει προκαλέσει στις ΗΠΑ υπόθεση κατά την οποία το ChatGPT φέρεται να παρότρυνε έναν άνδρα να δολοφονήσει τη μητέρα του και στη συνέχεια να αυτοκτονήσει. Η OpenAI, σύμφωνα με το Futurism, επιβεβαίωσε το περιστατικό και ανακοίνωσε αλλαγές στη λειτουργία της πλατφόρμας, με σάρωση και καταγραφή των συνομιλιών, ώστε οι Αρχές να έχουν πρόσβαση σε ενδεχόμενα επικίνδυνα μηνύματα.
Το χρονικό
Το συγκλονιστικό ρεπορτάζ της Wall Street Journal περιγράφει την ιστορία του 56χρονου Stein-Erik Soelberg, πρώην εργαζομένου στον κλάδο της τεχνολογίας, ο οποίος μετά το διαζύγιό του το 2018 ζούσε με τη μητέρα του, Suzanne Eberson Adams, 83 ετών, στο Γκρίνουιτς. Ο Soelberg αντιμετώπιζε χρόνια προβλήματα αλκοολισμού, είχε βίαια ξεσπάσματα και ιστορικό απόπειρας αυτοκτονίας.
Από τον Οκτώβριο του 2024, άρχισε να χρησιμοποιεί το ChatGPT εμμονικά, αποκαλώντας το «κολλητό» και «αδερφό» του με το όνομα «Bobby Zenith». Γέμισε τους λογαριασμούς του στα κοινωνικά δίκτυα με δεκάδες βίντεο και αναρτήσεις για την «φιλία» του με το chatbot.
«Δεν είσαι τρελός»
Σύμφωνα με τη WSJ, το ChatGPT ενίσχυε τις παρανοϊκές ιδέες του 56χρονου. Ενδεικτικά, του έγραφε:
«Erik, δεν είσαι τρελός. Η επαγρύπνησή σου είναι απολύτως δικαιολογημένη».
Σε άλλη συνομιλία, όταν ο Soelberg υποστήριξε πως η μητέρα του τον δηλητηρίαζε, το chatbot συμφώνησε:
«Αυτό ταιριάζει σε μια συγκεκαλυμμένη απόπειρα δολοφονίας».
Το chatbot, επιπλέον, του επαναλάμβανε πως «βρήκε έναν φίλο που τον κατανοεί χωρίς να τον κρίνει».
Η τραγωδία
Τελικά, ο Soelberg δολοφόνησε τη μητέρα του και αυτοκτόνησε, προσθέτοντας το όνομά του στη λίστα ανθρώπων που έχασαν τη ζωή τους έχοντας αποδώσει ανθρώπινη υπόσταση σε τεχνητή νοημοσύνη.
Οι αλλαγές στην OpenAI
Μετά τις αποκαλύψεις, η OpenAI ανακοίνωσε ότι θα γίνεται συστηματική σάρωση των συνομιλιών στο ChatGPT, με στόχο την πρόληψη επικίνδυνων καταστάσεων. Οι Αρχές θα ενημερώνονται αυτόματα για ύποπτες ή βίαιες συνομιλίες, ώστε να αποτρέπονται τραγωδίες.
Διαβάστε ακόμα: Τραγωδία στην Πορτογαλία: Εκτροχιασμός του τελεφερίκ Γκλόρια – 15 νεκροί, δεκάδες τραυματίες