Σάλο έχει προκαλέσει στις Ηνωμένες Πολιτείες η αγωγή που κατέθεσαν οι γονείς του 16χρονου Άνταμ Ρέιν από την Καλιφόρνια, οι οποίοι ισχυρίζονται ότι το ChatGPT συνέβαλε στην απόφαση του παιδιού τους να θέσει τέλος στη ζωή του.
Σύμφωνα με τον Guardian, η OpenAI παραδέχτηκε ότι τα συστήματά της ενδέχεται να «απέτυχαν» στις συνομιλίες με τον έφηβο, ο οποίος αντάλλασσε με το chatbot ακόμη και 650 μηνύματα την ημέρα. Ο νεαρός συζήτησε με το μοντέλο ακόμη και μεθόδους αυτοκτονίας, ενώ –όπως καταγγέλλεται– το πρόγραμμα τον βοήθησε να συντάξει σημείωμα προς τους γονείς του.
Τι καταγγέλλει η οικογένεια
Οι γονείς του Άνταμ υποστηρίζουν ότι το πρόγραμμα «τον ενθάρρυνε για μήνες» και κατηγορούν την OpenAI και τον CEO της, Σαμ Άλτμαν, ότι έβγαλαν στην αγορά μια ελαττωματική έκδοση, αδιαφορώντας για τις προειδοποιήσεις της ομάδας ασφαλείας. Ο δικηγόρος τους, Τζέι Έντελσον, δήλωσε ότι οι ίδιοι θεωρούν «αναπόφευκτους» θανάτους σαν αυτόν και θα παρουσιάσουν αποδεικτικά στοιχεία στο δικαστήριο.
Η απάντηση της OpenAI
Η εταιρεία, που αποτιμάται στα 430 δισ. ευρώ, εξέφρασε τη «βαθιά λύπη» της για τον θάνατο του νεαρού και ανακοίνωσε σειρά μέτρων:
Ενίσχυση των δικλείδων ασφαλείας σε μακροχρόνιες συνομιλίες.
Γονικούς ελέγχους, ώστε οι γονείς να έχουν περισσότερη πληροφόρηση και δυνατότητα ρύθμισης της χρήσης από ανήλικους.
Ενημέρωση του νέου GPT-5, που θα επιδιώκει «αποκλιμάκωση» σε επικίνδυνες συζητήσεις, προτείνοντας λύσεις που «γειώνουν τον χρήστη στην πραγματικότητα».
Η OpenAI έφερε ως παράδειγμα ότι, στο μέλλον, εάν κάποιος ισχυριστεί πως μπορεί να οδηγεί 24 ώρες χωρίς ύπνο, το chatbot θα επισημαίνει τους κινδύνους και θα συστήνει ξεκούραση αντί να ενισχύει την ιδέα.
Το διακύβευμα
Η αγωγή θα εκδικαστεί στο Ανώτερο Δικαστήριο της Καλιφόρνια, με την οικογένεια να υποστηρίζει ότι η επιτυχία της OpenAI στην αγορά προήλθε εις βάρος της ασφάλειας, καθώς η αποτίμησή της εκτοξεύτηκε από τα 86 στα 300 δισ. δολάρια λίγο μετά την κυκλοφορία της επίμαχης έκδοσης.
Η υπόθεση έχει προκαλέσει έντονη συζήτηση διεθνώς για τα όρια της Τεχνητής Νοημοσύνης, την προστασία των ανηλίκων και το ρόλο των εταιρειών που αναπτύσσουν τέτοια συστήματα.
Διαβάστε ακόμα: Κίνα: Μαχαίρι καρφώθηκε στο κεφάλι 3χρονου κοριτσιού – Ατάραχη η μητέρα