Πώς η τεχνητή νοημοσύνη έχει τη δυνατότητα να φέρει επανάσταση στην υγειονομική περίθαλψη
Getty Images

Η Τεχνητή Νοημοσύνη (AI) προχωρά γρήγορα και θα γίνει ένα σημαντικό εργαλείο υποστήριξης στην κλινική περίθαλψη. Η έρευνα δείχνει ότι οι αλγόριθμοι τεχνητής νοημοσύνης μπορούν με ακρίβεια ανίχνευση μελανωμάτων και προβλέψει μελλοντικούς καρκίνους του μαστού.

Αλλά προτού η τεχνητή νοημοσύνη μπορεί να ενσωματωθεί στην καθημερινή κλινική χρήση, πρέπει να αντιμετωπίσουμε την πρόκληση της αλγοριθμικής μεροληψίας. Οι αλγόριθμοι τεχνητής νοημοσύνης μπορεί να έχουν εγγενείς προκαταλήψεις που θα μπορούσαν να οδηγήσουν σε διακρίσεις και ζητήματα απορρήτου. Τα συστήματα τεχνητής νοημοσύνης θα μπορούσαν επίσης να λαμβάνουν αποφάσεις χωρίς την απαιτούμενη επίβλεψη ή ανθρώπινη συμβολή.

 Ένα παράδειγμα των δυνητικά επιβλαβών επιπτώσεων της τεχνητής νοημοσύνης προέρχεται από ένα διεθνές έργο που στοχεύει να χρησιμοποιήσει την τεχνητή νοημοσύνη για να σώσει ζωές αναπτύσσοντας πρωτοποριακές ιατρικές θεραπείες. Σε ένα πείραμα, η ομάδα αντέστρεψε το «καλό» μοντέλο τεχνητής νοημοσύνης για να δημιουργήσει επιλογές για ένα νέο μοντέλο τεχνητής νοημοσύνης που θα μπορούσε να κάνει «βλάβη».

Σε λιγότερο από έξι ώρες εκπαίδευσης, ο αλγόριθμος της αντίστροφης τεχνητής νοημοσύνης δημιούργησε δεκάδες χιλιάδες πιθανούς παράγοντες χημικού πολέμου, με πολλούς πιο επικίνδυνους από τους τρέχοντες πολεμικούς πράκτορες. Αυτό είναι ένα ακραίο παράδειγμα σχετικά με τις χημικές ενώσεις, αλλά χρησιμεύει ως κλήση αφύπνισης για την αξιολόγηση των γνωστών και πιθανώς άγνωστων ηθικών συνεπειών της τεχνητής νοημοσύνης.

AI στην κλινική φροντίδα

Στην ιατρική, ασχολούμαστε με τα πιο ιδιωτικά δεδομένα των ανθρώπων και συχνά με αποφάσεις που αλλάζουν τη ζωή. Τα ισχυρά πλαίσια ηθικής τεχνητής νοημοσύνης είναι επιτακτικά.

Η Αυστραλιανό πρόγραμμα επιληψίας στοχεύει να βελτιώσει τη ζωή των ανθρώπων και να κάνει την κλινική περίθαλψη ευρύτερα διαθέσιμη. Με βάση την προηγμένη απεικόνιση του εγκεφάλου, τις γενετικές και γνωστικές πληροφορίες από χιλιάδες άτομα με επιληψία, σχεδιάζουμε να χρησιμοποιήσουμε την τεχνητή νοημοσύνη για απαντήστε σε αναπάντητα επί του παρόντος ερωτήσεις.


εσωτερικά εγγραφείτε γραφικό


Θα συνεχιστούν οι κρίσεις αυτού του ατόμου; Ποιο φάρμακο είναι πιο αποτελεσματικό; Είναι η χειρουργική επέμβαση εγκεφάλου μια βιώσιμη θεραπευτική επιλογή; Αυτά είναι θεμελιώδη ερωτήματα που η σύγχρονη ιατρική αγωνίζεται να αντιμετωπίσει.

Ως επικεφαλής της τεχνητής νοημοσύνης αυτού του έργου, η κύρια ανησυχία μου είναι ότι η τεχνητή νοημοσύνη κινείται γρήγορα και η ρυθμιστική εποπτεία είναι ελάχιστη. Αυτά τα ζητήματα είναι ο λόγος που δημιουργήσαμε πρόσφατα ένα ηθικό πλαίσιο για τη χρήση της τεχνητής νοημοσύνης ως εργαλείου κλινικής υποστήριξης. Αυτό το πλαίσιο σκοπεύει να διασφαλίσει ότι οι τεχνολογίες τεχνητής νοημοσύνης μας είναι ανοιχτές, ασφαλείς και αξιόπιστες, ενισχύοντας παράλληλα τη συμμετοχικότητα και τη δικαιοσύνη στην κλινική περίθαλψη.

Πώς λοιπόν εφαρμόζουμε την ηθική της τεχνητής νοημοσύνης στην ιατρική για να μειώσουμε την προκατάληψη και να διατηρήσουμε τον έλεγχο των αλγορίθμων; Η αρχή της επιστήμης των υπολογιστών «σκουπίδια μέσα, σκουπίδια έξω» ισχύει για την τεχνητή νοημοσύνη. Ας υποθέσουμε ότι συλλέγουμε μεροληπτικά δεδομένα από μικρά δείγματα. Οι αλγόριθμοι τεχνητής νοημοσύνης μας πιθανότατα θα είναι μεροληπτικοί και δεν θα μπορούν να αναπαραχθούν σε άλλο κλινικό περιβάλλον.

Παραδείγματα προκαταλήψεων δεν είναι δύσκολο να βρεθούν στα σύγχρονα μοντέλα τεχνητής νοημοσύνης. Τα δημοφιλή μοντέλα μεγάλων γλωσσών (για παράδειγμα ChatGPT) και τα μοντέλα λανθάνουσας διάχυσης (DALL-E και Stable Diffusion) δείχνουν πώς ρητές προκαταλήψεις σχετικά με το φύλο, την εθνικότητα και την κοινωνικοοικονομική κατάσταση.

Οι ερευνητές διαπίστωσαν ότι οι απλές προτροπές των χρηστών δημιουργούν εικόνες που διαιωνίζουν εθνοτικά, έμφυλα και ταξικά στερεότυπα. Για παράδειγμα, μια προτροπή για έναν γιατρό παράγει κυρίως εικόνες ανδρών γιατρών, κάτι που δεν συνάδει με την πραγματικότητα καθώς περίπου οι μισοί γιατροί στις χώρες του ΟΟΣΑ είναι γυναίκες.

Ασφαλής εφαρμογή ιατρικής τεχνητής νοημοσύνης

Η λύση για την πρόληψη της μεροληψίας και των διακρίσεων δεν είναι ασήμαντη. Η ενεργοποίηση της ισότητας στην υγεία και η προώθηση της ένταξης στις κλινικές μελέτες είναι πιθανές μεταξύ πρωτογενείς λύσεις για την καταπολέμηση των προκαταλήψεων στην ιατρική τεχνητή νοημοσύνη.

Ενθαρρυντικά, η Αμερικανική Υπηρεσία Τροφίμων και Φαρμάκων πρότεινε πρόσφατα καθιστώντας υποχρεωτική τη διαφορετικότητα σε κλινικές δοκιμές. Αυτή η πρόταση αντιπροσωπεύει μια κίνηση προς λιγότερο προκατειλημμένες και βασισμένες στην κοινότητα κλινικές μελέτες.

Ένα άλλο εμπόδιο για την πρόοδο είναι η περιορισμένη χρηματοδότηση της έρευνας. Οι αλγόριθμοι τεχνητής νοημοσύνης απαιτούν συνήθως σημαντικές ποσότητες δεδομένων, οι οποίες μπορεί να είναι ακριβές. Είναι ζωτικής σημασίας να δημιουργηθούν ενισχυμένοι μηχανισμοί χρηματοδότησης που παρέχουν στους ερευνητές τους απαραίτητους πόρους για τη συλλογή κλινικά συναφών δεδομένων κατάλληλα για εφαρμογές τεχνητής νοημοσύνης.

Υποστηρίζουμε επίσης ότι πρέπει πάντα να γνωρίζουμε την εσωτερική λειτουργία των αλγορίθμων AI και να κατανοούμε πώς καταλήγουν στα συμπεράσματα και τις συστάσεις τους. Αυτή η έννοια αναφέρεται συχνά ως «εξηγησιμότητα» στο AI. Σχετίζεται με την ιδέα ότι άνθρωποι και μηχανές πρέπει να συνεργάζονται για βέλτιστα αποτελέσματα.

Προτιμούμε να βλέπουμε την εφαρμογή της πρόβλεψης σε μοντέλα ως «επαυξημένη» παρά ως «τεχνητή» νοημοσύνη – οι αλγόριθμοι θα πρέπει να αποτελούν μέρος της διαδικασίας και τα ιατρικά επαγγέλματα πρέπει να διατηρούν τον έλεγχο της λήψης αποφάσεων.

Εκτός από την ενθάρρυνση της χρήσης εξηγήσιμων αλγορίθμων, υποστηρίζουμε τη διαφανή και ανοιχτή επιστήμη. Οι επιστήμονες θα πρέπει να δημοσιεύουν λεπτομέρειες για τα μοντέλα AI και τη μεθοδολογία τους για να ενισχύσουν τη διαφάνεια και την αναπαραγωγιμότητα.

Τι χρειαζόμαστε στο Aotearoa Νέας Ζηλανδίας για να διασφαλίσουμε την ασφαλή εφαρμογή της τεχνητής νοημοσύνης στην ιατρική περίθαλψη; Οι ανησυχίες για την ηθική της τεχνητής νοημοσύνης καθοδηγούνται κατά κύριο λόγο από ειδικούς στον τομέα. Ωστόσο, στοχευμένοι κανονισμοί τεχνητής νοημοσύνης, όπως οι κανονισμοί που εδρεύουν στην ΕΕ Νόμος περί τεχνητής νοημοσύνης έχουν προταθεί, αντιμετωπίζοντας αυτούς τους ηθικούς λόγους.

Ο ευρωπαϊκός νόμος για την τεχνητή νοημοσύνη είναι ευπρόσδεκτος και θα προστατεύει τους ανθρώπους που εργάζονται στο πλαίσιο «ασφαλούς τεχνητής νοημοσύνης». Η κυβέρνηση του Ηνωμένου Βασιλείου κυκλοφόρησε πρόσφατα τους προορατική προσέγγιση στη ρύθμιση της τεχνητής νοημοσύνης, χρησιμεύοντας ως σχέδιο για άλλες κυβερνητικές αντιδράσεις στην ασφάλεια της τεχνητής νοημοσύνης.

Στην Aotearoa, υποστηρίζουμε την υιοθέτηση μιας προληπτικής και όχι αντιδραστικής στάσης για την ασφάλεια της τεχνητής νοημοσύνης. Θα δημιουργήσει ένα ηθικό πλαίσιο για τη χρήση της τεχνητής νοημοσύνης στην κλινική περίθαλψη και σε άλλους τομείς, αποδίδοντας ερμηνεύσιμη, ασφαλή και αμερόληπτη τεχνητή νοημοσύνη. Κατά συνέπεια, θα αυξηθεί η πεποίθησή μας ότι αυτή η ισχυρή τεχνολογία ωφελεί την κοινωνία ενώ την προστατεύει από τη ζημιά.Η Συνομιλία

Σχετικά με το Συγγραφέας

Mangor Pedersen, Αναπληρωτής Καθηγητής Ψυχολογίας και Νευροεπιστημών, Τεχνολογικό Πανεπιστήμιο του Ώκλαντ

Αυτό το άρθρο αναδημοσιεύθηκε από το Η Συνομιλία υπό την άδεια Creative Commons. Διαβάστε το αρχικό άρθρο.

Σχετικές Βιβλία:

The Body Keeps the Score: Brain Mind and Body in the Healing of Trauma

από τον Bessel van der Kolk

Αυτό το βιβλίο διερευνά τις συνδέσεις μεταξύ του τραύματος και της σωματικής και ψυχικής υγείας, προσφέροντας ιδέες και στρατηγικές για τη θεραπεία και την ανάρρωση.

Κάντε κλικ για περισσότερες πληροφορίες ή για παραγγελία

Breath: The New Science of a Lost Art

από τον James Nestor

Αυτό το βιβλίο διερευνά την επιστήμη και την πρακτική της αναπνοής, προσφέροντας ιδέες και τεχνικές για τη βελτίωση της σωματικής και ψυχικής υγείας.

Κάντε κλικ για περισσότερες πληροφορίες ή για παραγγελία

Το παράδοξο των φυτών: Οι κρυμμένοι κίνδυνοι σε «υγιεινές» τροφές που προκαλούν ασθένειες και αύξηση βάρους

από τον Steven R. Gundry

Αυτό το βιβλίο διερευνά τους δεσμούς μεταξύ διατροφής, υγείας και ασθένειας, προσφέροντας ιδέες και στρατηγικές για τη βελτίωση της συνολικής υγείας και ευεξίας.

Κάντε κλικ για περισσότερες πληροφορίες ή για παραγγελία

The Immunity Code: The New Paradigm for Real Health and Radical Anti-aging

από τον Joel Greene

Αυτό το βιβλίο προσφέρει μια νέα προοπτική για την υγεία και την ανοσία, βασιζόμενη στις αρχές της επιγενετικής και προσφέροντας ιδέες και στρατηγικές για τη βελτιστοποίηση της υγείας και της γήρανσης.

Κάντε κλικ για περισσότερες πληροφορίες ή για παραγγελία

Ο πλήρης οδηγός νηστείας: Θεραπεύστε το σώμα σας μέσω διαλείπουσας, εναλλασσόμενης ημέρας και παρατεταμένης νηστείας

από τον Δρ Jason Fung και τον Jimmy Moore

Αυτό το βιβλίο διερευνά την επιστήμη και την πρακτική της νηστείας προσφέροντας ιδέες και στρατηγικές για τη βελτίωση της συνολικής υγείας και ευεξίας.

Κάντε κλικ για περισσότερες πληροφορίες ή για παραγγελία

ο οποίος