Μια γυναίκα μοιράστηκε τις οδυνηρές λεπτομέρειες του τρόπου με τον οποίο ένα chatbot με τεχνητή νοημοσύνη που σχεδιάστηκε για να βοηθά τους ανθρώπους με θλίψη έγινε κακόβουλο.

Το πένθος είναι ένα πράγμα μνημειωδώς δύσκολο στην επεξεργασία και κατά τη διάρκεια των χιλιετιών έχουμε χρησιμοποιήσει πολλούς τρόπους για να μας βοηθήσουν να συμβιβαζόμαστε με την απώλεια των ανθρώπων που αγαπάμε.

Τώρα, ωστόσο, η τεχνολογία προσφέρει έναν νέο τρόπο που στοχεύει να βοηθήσει τους ανθρώπους να συμβιβαστούν με τη θλίψη τους…

Το Generative AI επέτρεψε την κατασκευή chatbots που μπορούν να μιμηθούν ένα νεκρό άτομο και να επιτρέψουν σε κάποιον να συνομιλήσει μαζί του.

Αλλά αυτό μπορεί γρήγορα να βγει “ξινό”, όπως ανακάλυψε η Christi Angel όταν έχασε τον φίλο και τον πρώτο της έρωτα Cameroun Scruggs το 2020.

Η Κρίστι και ο Καμερούν είχαν ζήσει εκατοντάδες μίλια μακριά ο ένας από τον άλλον και επικοινωνούσαν κυρίως μέσω μηνυμάτων και email. Έπρεπε μάλιστα να παρευρεθεί στην κηδεία του Καμερούν μέσω βιντεοκλήσης λόγω των περιορισμών του Covid-19 .

Μερικά χρόνια μετά το θάνατο του Καμερούν, η Κρίστι ανακάλυψε το Project December, το οποίο χρησιμοποιεί την τεχνητή νοημοσύνη για να φιλτράρει τα μηνύματα κάποιου και στη συνέχεια να δημιουργήσει ένα chatbot που μιμείται τον τρόπο που μιλάει αυτό το άτομο.

Η Κρίστι είπε: “Ενθουσιάστηκα. Θα έδινα τα πάντα για να μιλήσω με τον Καμερούν. Ήθελα να τον ρωτήσω: “Είσαι καλά; Τα κατάφερες στην άλλη πλευρά;”

Αλλά τα πράγματα σύντομα πήραν μια σκοτεινή τροπή όταν η τεχνητή νοημοσύνη άρχισε να λέει πράγματα για «στοιχειωμένα» μέρη.

Τέλος, όταν η Κρίστι ρώτησε αν ο Καμερούν είχε «ακολουθήσει το φως», το chatbot της είπε όχι, “είναι στην Κόλαση”.

Η Κρίστι έφυγε πολύ ταραγμένη από την εμπειρία, λέγοντας: «Νόμιζα ότι αυτό το [Project December] υποτίθεται ότι ήταν μια καλή εμπειρία, αλλά για μένα ήταν πάρα πολύ ανατριχιαστικό».

Και πρόσθεσε: “Ένιωσα σαν να είχα κάνει κάτι πραγματικά τρελό. Ανησυχούσα ότι είχα φέρει κάποιο είδος ενέργειας, τρόμαξα πολύ”.

Η Sherry Turkle είναι καθηγήτρια στο Ινστιτούτο Τεχνολογίας της Μασαχουσέτης στις ΗΠΑ που ειδικεύεται στην ανθρώπινη αλληλεπίδραση με την τεχνολογία.

Η Turkle προειδοποιεί ότι συσκευές όπως αυτή θα μπορούσαν να εμποδίσουν τους ανθρώπους να επεξεργαστούν τη θλίψη τους με υγιή τρόπο.

photo: freepik