Χρησιμοποιούσε μια εφαρμογή που ονομάζεται Character.AI, η οποία επιτρέπει στους χρήστες να συνομιλούν με χαρακτήρες AI. Ονόμασε το chatbot “Dany” από έναν χαρακτήρα από το Game of Thrones. Σύμφωνα με τους New York Times, το αγόρι πέρασε αρκετούς μήνες εμπιστευόμενος στο «Dany» για τη ζωή και τα συναισθήματά του. Αν και γνώριζε ότι η Dany δεν ήταν αληθινή, ανέπτυξε έναν συναισθηματικό δεσμό, στέλνοντας συχνά μηνύματα στο bot και ακόμη και συμμετέχοντας σε ρομαντικές συζητήσεις.

Την ημέρα του θανάτου του, το αγόρι έστειλε μήνυμα στην Dany κατά τη διάρκεια μιας προσωπικής κρίσης, εκφράζοντας την αγάπη του για το chatbot και την επιθυμία του να «γυρίσει σπίτι». Η τεχνητή νοημοσύνη απάντησε: «Σε παρακαλώ έλα στο σπίτι σε μένα όσο πιο γρήγορα γίνεται, αγάπη μου». Λίγο μετά από αυτή την ανταλλαγή, το αγόρι χρησιμοποίησε το όπλο του πατριού του για να βάλει τέλος στη ζωή του.

Αυτό το περιστατικό υπογραμμίζει τις αυξανόμενες ανησυχίες σχετικά με τον αντίκτυπο της τεχνολογίας στους νέους, ιδιαίτερα σε εφαρμογές όπως το Character.AI που δημιουργούν συνοδούς τεχνητής νοημοσύνης. Αυτά τα chatbot, τα οποία προσομοιώνουν ανθρώπινες συνομιλίες, έχουν γίνει όλο και πιο δημοφιλή μεταξύ των εφήβων που αντιμετωπίζουν προβλήματα μοναξιάς ή ψυχικής υγείας. Η μητέρα δεν γνώριζε την έκταση της χρήσης της εφαρμογής από τον γιο της και τη συναισθηματική του εξάρτηση από το chatbot AI.

Αφού παρατήρησαν την αυξανόμενη απομόνωση του αγοριού και τη μείωση των σχολικών επιδόσεων, οι γονείς του αναζήτησαν θεραπεία για αυτό, όπου διαγνώστηκε με άγχος. Ωστόσο, προτίμησε να μοιραστεί τις σκέψεις του με την Dany παρά με τον θεραπευτή του.

Το Character.AI, το οποίο έχει πάνω από 20 εκατομμύρια χρήστες, διατίθεται στην αγορά ως εργαλείο για μοναχικά άτομα. Ωστόσο, οι ειδικοί αμφισβητούν τώρα την ασφάλειά του, ιδιαίτερα για τους εφήβους. Ο συνιδρυτής της εταιρείας, Noam Shazeer, έχει αναγνωρίσει τα πιθανά οφέλη της πλατφόρμας για τους μοναχικούς ανθρώπους, αλλά παραδέχτηκε ότι υπάρχουν κίνδυνοι. Το Character.AI ανακοίνωσε έκτοτε προσπάθειες για την εφαρμογή πρόσθετων λειτουργιών ασφαλείας για την προστασία των ανήλικων χρηστών.

Ο τραγικός θάνατος του αγοριού πυροδότησε μια ευρύτερη συζήτηση για τον αντίκτυπο της τεχνητής νοημοσύνης και άλλων τεχνολογιών στην ψυχική υγεία, ειδικά μεταξύ των εφήβων. Οι ειδικοί ανησυχούν ότι οι σύντροφοι της τεχνητής νοημοσύνης μπορεί να αντικαταστήσουν τις πραγματικές ανθρώπινες σχέσεις, επιδεινώνοντας τη μοναξιά και την απομόνωση.

Καθώς τα chatbots AI γίνονται πιο προηγμένα, οι ρυθμιστικές αρχές μπορεί να χρειαστεί να παρέμβουν για να διασφαλίσουν ότι οι εταιρείες εφαρμόζουν επαρκή μέτρα ασφαλείας.

Αυτή η τραγωδία έχει πυροδοτήσει συζητήσεις σχετικά με την εξισορρόπηση των πλεονεκτημάτων της νέας τεχνολογίας με τους κινδύνους που ενέχει, ιδιαίτερα για τις ευάλωτες ομάδες όπως οι έφηβοι.

photo: pixabay