Τα chatbot AI χρησιμοποιούνται ήδη ευρέως από τις επιχειρήσεις για να καλωσορίσουν τους πελάτες και να απαντήσουν στις ερωτήσεις τους – είτε μέσω τηλεφώνου είτε σε ιστότοπους. Ορισμένες εταιρείες έχουν διαπιστώσει ότι μπορούν, σε κάποιο βαθμό, να αντικαταστήσουν τους ανθρώπους με μηχανές σε ρόλους τηλεφωνικού κέντρου.
Ωστόσο, τα διαθέσιμα στοιχεία υποδηλώνουν ότι υπάρχουν τομείς –όπως η υγειονομική περίθαλψη και οι ανθρώπινοι πόροι– στους οποίους χρειάζεται ιδιαίτερη προσοχή όσον αφορά τη χρήση αυτών των εργαλείων πρώτης γραμμής και μπορεί να είναι απαραίτητη η ηθική επίβλεψη.
Ένα πρόσφατο, και με μεγάλη δημοσιότητα, παράδειγμα είναι αυτό του α chatbot που ονομάζεται Tessa, το οποίο χρησιμοποιούσε η Εθνική Ένωση Διατροφικών Διαταραχών (NEDA) στις Η.Π.Α. Ο οργανισμός είχε αρχικά διατηρήσει μια γραμμή βοήθειας που λειτουργούσε από έναν συνδυασμό μισθωτών και εθελοντών. Αυτό είχε ρητό στόχο να βοηθήσει ευάλωτα άτομα που πάσχουν από διατροφικές διαταραχές.
Ωστόσο, φέτος η διοργάνωση διέλυσε το προσωπικό της γραμμής βοήθειας, ανακοινώνοντας ότι θα τα αντικαταστήσει με το chatbot Tessa. Οι λόγοι για αυτό αμφισβητούνται. Πρώην εργαζόμενοι ισχυρίζονται ότι η μετατόπιση ακολούθησε απόφαση του προσωπικού της γραμμής βοήθειας για συνδικαλισμό. ο επικαλείται αντιπρόεδρος της ΝΕΔΑ αυξημένο αριθμό κλήσεων και χρόνους αναμονής, καθώς και νομικές υποχρεώσεις σχετικά με τη χρήση εθελοντικού προσωπικού.
Σε κάθε περίπτωση, μετά από μια πολύ σύντομη περίοδο λειτουργίας, η Tessa τέθηκε εκτός σύνδεσης λόγω των αναφορών ότι το chatbot είχε εκδώσει προβληματικές συμβουλές που θα μπορούσαν να έχουν επιδεινώσει τα συμπτώματα των ατόμων που αναζητούσαν βοήθεια για διατροφικές διαταραχές.
Αναφέρθηκε επίσης ότι Η Dr Ellen Fitzsimmons-Craft και η Dr C Barr Taylor, δύο υψηλά καταρτισμένοι ερευνητές που βοήθησαν στη δημιουργία της Tessa, είχαν ορίσει ότι το chatbot δεν προοριζόταν ποτέ ως αντικατάσταση μιας υπάρχουσας γραμμής βοήθειας ή για παροχή άμεσης βοήθειας σε όσους αντιμετωπίζουν έντονα συμπτώματα διατροφικής διαταραχής.
Σημαντική αναβάθμιση
Για ποιο λόγο λοιπόν σχεδιάστηκε η Tessa; Οι ερευνητές, μαζί με συναδέλφους, είχαν δημιουργήσει ένα μελέτη παρατήρησης επισημαίνοντας τις προκλήσεις που αντιμετώπισαν κατά τον σχεδιασμό ενός chatbot βασισμένου σε κανόνες για την αλληλεπίδραση με χρήστες που ανησυχούν για τις διατροφικές διαταραχές. Είναι ένα αρκετά συναρπαστικό ανάγνωσμα, που απεικονίζει σχεδιαστικές επιλογές, λειτουργίες, παγίδες και τροποποιήσεις.
Η αρχική έκδοση της Tessa ήταν μια παραδοσιακή, chatbot που βασίζεται σε κανόνες, αν και εξαιρετικά εκλεπτυσμένο, το οποίο ακολουθεί μια προκαθορισμένη δομή που βασίζεται στη λογική. Δεν μπορούσε να παρεκκλίνει από τις τυποποιημένες προ-προγραμματισμένες απαντήσεις που βαθμονομήθηκαν από τους δημιουργούς του.
Το συμπέρασμά τους περιελάμβανε το εξής σημείο: «Τα chatbot που βασίζονται σε κανόνες έχουν τη δυνατότητα να προσεγγίσουν μεγάλους πληθυσμούς με χαμηλό κόστος παρέχοντας πληροφορίες και απλές αλληλεπιδράσεις, αλλά είναι περιορισμένα στην κατανόηση και την κατάλληλη ανταπόκριση σε απρόβλεπτες απαντήσεις των χρηστών».
Αυτό μπορεί να φαίνεται ότι περιορίζει τις χρήσεις για τις οποίες ήταν κατάλληλη η Tessa. Πώς, λοιπόν, κατέληξε να αντικαταστήσει τη γραμμή βοήθειας που χρησιμοποιούσε προηγουμένως η NEDA; Η ακριβής αλυσίδα των γεγονότων είναι υπό συζήτηση εν μέσω διαφορετικών λογαριασμών, αλλά, σύμφωνα με το NPR, η εταιρεία φιλοξενίας του chatbot άλλαξε την Tessa από ένα chatbot που βασίζεται σε κανόνες με προ-προγραμματισμένες απαντήσεις σε ένα με "βελτιωμένη λειτουργία ερωτήσεων και απαντήσεων".
Η μεταγενέστερη έκδοση της Tessa ήταν αυτή που χρησιμοποιούσε γενετική τεχνητή νοημοσύνη, όπως το ChatGPT και παρόμοια προϊόντα. Αυτά τα προηγμένα chatbot AI έχουν σχεδιαστεί για να προσομοιώνουν ανθρώπινα μοτίβα συνομιλίας με σκοπό να δώσουν πιο ρεαλιστικές και χρήσιμες απαντήσεις. Η δημιουργία αυτών των προσαρμοσμένων απαντήσεων βασίζεται σε μεγάλες βάσεις δεδομένων πληροφοριών, τις οποίες τα μοντέλα τεχνητής νοημοσύνης έχουν εκπαιδευτεί να «κατανοούν» μέσω μιας ποικιλίας τεχνολογικών διαδικασιών: μάθηση μηχανής, βαθιά μάθηση και επεξεργασία φυσικής γλώσσας.
Μαθαίνοντας μαθήματα
Τελικά, το chatbot δημιούργησε αυτό που έχει περιγραφεί ως δυνητικά επιβλαβείς απαντήσεις σε ερωτήσεις ορισμένων χρηστών. Οι συζητήσεις που ακολούθησαν μετατόπισαν την ευθύνη από το ένα θεσμικό όργανο στο άλλο. Ωστόσο, το θέμα παραμένει ότι οι επακόλουθες περιστάσεις θα μπορούσαν ενδεχομένως να είχαν αποφευχθεί εάν υπήρχε ένα όργανο που παρείχε ηθική εποπτεία, ένας «άνθρωπος στο βρόχο» και μια προσκόλληση στον σαφή σκοπό του αρχικού σχεδίου της Tessa.
Είναι σημαντικό να αντλήσουμε διδάγματα από περιπτώσεις όπως αυτή στο πλαίσιο της βιασύνης προς την ενσωμάτωση της τεχνητής νοημοσύνης σε διάφορα συστήματα. Και ενώ αυτά τα γεγονότα έλαβαν χώρα στις ΗΠΑ, περιέχουν μαθήματα για όσους θέλουν να κάνουν το ίδιο σε άλλες χώρες.
Το ΗΒ φαίνεται να έχει μια κάπως κατακερματισμένη προσέγγιση σε αυτό το ζήτημα. Το συμβουλευτικό συμβούλιο του Κέντρου Δεοντολογίας και Καινοτομίας Δεδομένων (CDEI) διαλύθηκε πρόσφατα και τη θέση της στο τραπέζι κατέλαβε η νεοσυσταθείσα Ομάδα Εργασίας Συνόρων AI. Υπάρχουν επίσης αναφορές ότι τα συστήματα τεχνητής νοημοσύνης δοκιμάζονται ήδη στο Λονδίνο ως εργαλεία για να βοηθήσουν τους εργαζόμενους – αν και όχι ως αντικατάσταση μιας γραμμής βοήθειας.
Και τα δύο αυτά παραδείγματα υπογραμμίζουν μια πιθανή ένταση μεταξύ ηθικών παραγόντων και επιχειρηματικών συμφερόντων. Πρέπει να ελπίζουμε ότι τα δύο θα ευθυγραμμιστούν τελικά, εξισορροπώντας την ευημερία των ατόμων με την αποτελεσματικότητα και τα οφέλη που θα μπορούσε να προσφέρει η τεχνητή νοημοσύνη.
Ωστόσο, σε ορισμένους τομείς όπου οι οργανισμοί αλληλεπιδρούν με το κοινό, οι απαντήσεις που δημιουργούνται από την τεχνητή νοημοσύνη και η προσομοίωση της ενσυναίσθησης μπορεί να μην είναι ποτέ αρκετές για να αντικαταστήσουν την αυθεντική ανθρωπιά και συμπόνια – ιδιαίτερα στους τομείς της ιατρικής και της ψυχικής υγείας.
Μάρκος Τσάγκας, Λέκτορας, Ποινικό Δίκαιο, Πανεπιστήμιο του East London
Αυτό το άρθρο αναδημοσιεύθηκε από το Η Συνομιλία υπό την άδεια Creative Commons. Διαβάστε το αρχικό άρθρο.
