*Ομιλία του Νίκου Β. Καρατζά, επίτιμου διευθυντή της Β’ Καρδιολογικής Κλινικής του νοσοκομείου ΥΓΕΙΑ

Η Β΄ Καρδιολογική Κλινική του Νοσοκομείου ΥΓΕΙΑ, με επικεφαλής τον διευθυντή της Στέλιο Κωνσταντινίδη, διοργάνωσε πρόσφατα στο αμφιθέατρο του νοσοκομείου «ΜΗΤΕΡΑ» εκδήλωση προς τιμήν του επίτιμου διευθυντή της Β΄ Καρδιολογικής Κλινικής Νίκου Β. Καρατζά. 

Για τον κ. Καρατζά μίλησαν κατά σειρά ο Στέλιος Κωνσταντινίδης, διευθυντής Β΄ Καρδιολογικής Κλινικής του «ΥΓΕΙΑ», ο Ανδρέας Καρταπάνης, πρόεδρος και διευθύνων σύμβουλος του «ΥΓΕΙΑ», ο Γεώργιος Ζαχαρόπουλος, πρόεδρος του Επιστημονικού Συμβουλίου του «ΥΓΕΙΑ», καθώς και ο Αθανάσιος Πιπιλής, διευθυντής της Α΄ Καρδιολογικής Κλινικής του «ΥΓΕΙΑ».
Κατά τη διάρκεια της εκδήλωσης ο κ. Καρατζάς έκανε μια ενδιαφέρουσα ομιλία για τη συμβολή της Τεχνητής Νοημοσύνης στην Κλινική Ιατρική και συγκεκριμένα για το πώς ο ιατρός θα κάνει την Τεχνητή Νοημοσύνη βοηθό του και όχι αντίπαλο. Τα βασικότερα σημεία της ομιλίας αυτής έχουν ως εξής: 

«Είμαι ευγνώμων στο “ΥΓΕΙΑ”, στη διοίκησή του, στην Επιστημονική Ένωση και ιδιαίτερα στον Στέλιο Κωνσταντινίδη, τον διευθυντή της Β’ Καρδιολογικής Κλινικής, ο οποίος είναι σταθερός συνεργάτης μου από την πρώτη μέρα που ήρθα εδώ στο νοσοκομείο πριν από 35 χρόνια. Ο οποίος βέβαια φρόντισε να βγάλει από το χρονοντούλαπο της ιστορίας παλιά μου φαντάσματα ξεχασμένα. Βλέπετε, η ψηφιακή μνήμη είναι αιωνία, ενώ τη φυσική μνήμη τρώει το σαράκι του χρόνου. 

Σε μια προηγούμενη ομιλία πριν από 5 χρόνια μίλησα για την επανάσταση που φέρνει η εκθετική τεχνολογία στην Ιατρική. Είχα ορίσει τότε την εκθετική τεχνολογία με δύο παραδείγματα: την εξέλιξη της ευχέρειας και του κόστους εξέτασης του ανθρωπίνου γονιδιώματος, όπως βλέπετε μέσα από το 2001-2017 το κόστος από το 1 εκατ. και διάρκεια 9 μήνες έγινε 100 ευρώ και διάρκεια 1 ώρα. Και το δεύτερο παράδειγμα είναι η εξέλιξη της υπολογιστικής δύναμης, των υπολογιστών από το 1971 έως το 2017 που έγινε 650 φορές ταχύτερη και 4 εκατ. 200 φορές φθηνότερη, όπως φαίνεται και από την καμπύλη. 
Μια ίδια καμπύλη πιο γραφιστική είναι αυτή που λέει ότι μέχρι το 2023 η υπολογιστική δύναμη των μηχανών θα ξεπεράσει την υπολογιστική δύναμη του ανθρώπινου εγκεφάλου. Κατέληξα ως τελευταία για την Τεχνητή Νοημοσύνη (ΤΝ). Με μια διαφάνεια που έλεγε ότι κάποια στιγμή όλη η εμπειρία θα βρίσκεται στα χέρια οποιουδήποτε ακόμα και του νεότερου γιατρού με την ΤΝ. Οπότε τι θα διαφέρει ο μορφωμένος έμπειρος παλιός γιατρός από τον νέο; Και η τελική διαφάνεια ήταν η κατάληξη του Λάρσεν εκείνες τις μέρες που προειδοποιούσε ότι η ιατρική κοινότητα βρίσκεται αυτή τη στιγμή στο κατώφλι μιας εξέλιξης που θα αποτελέσει ορόσημο στη ιατρική πράξη. 

Αυτή η στιγμή πράγματι έφτασε και με ένα μπαμ τον Νοέμβριο του 2022 δημιούργησε μια καταιγίδα αντιδράσεων θετικών και αρνητικών σε όλη την οικουμένη. Ήταν η στιγμή που η ΤΝ βγήκε από τα ερευνητικά εργαστήρια και μπήκε στη ζωή μας με τη μορφή του GTP. Το GTP είναι ένας αλγόριθμος επεξεργασίας φυσικής γλώσσας βασισμένο σε μια τράπεζα κειμένων από το Ίντερνετ με πάνω από 1 τρισ. λέξεις. Πανίσχυροι υπολογιστές διαθέτουν προγράμματα μηχανικής μάθησης που λέγονται νευρωνικά δίκτυα (neural networks), εμπνευσμένα από τον ανθρώπινο εγκέφαλο, τα οποία τροφοδοτούν με πακέτα κειμένων, που, αφού περάσουν τα κείμενα αυτά από τα δίκτυα, η μηχανή μαθαίνει τη μορφή που οι λέξεις ακολουθούν η μία την άλλη, τη γραμματική και το συντακτικό και τελικά αναζητώντας σχέσεις σε αυτό τον όγκο των αποθηκευμένων κειμένων παράγει δικές της προτάσεις. 

Η οικουμένη κατεπλήγη και τρομοκρατήθηκε συγχρόνως από τον ανθρωπόμορφο χαρακτήρα του μοντέλου αυτού. Η δε διείσδυση ήταν τρομακτική, μέσα σε 2 μήνες απέκτησε 100 εκατ. χρήστες. Συγκρίνετε αυτό με άλλες δημοφιλείς εφαρμογές, π.χ. για το facebook χρειάστηκε 4,5 χρόνια για να φτάσει τον αριθμό αυτό των χρηστών. Αμέσως διαπιστώθηκε ότι το GTP μπορούσε να παραγάγει όχι μόνο απαντήσεις σε απλά ερωτήματα, αλλά και ολόκληρα πονήματα απαράλλακτα με ανθρώπινη δημιουργία πάνω σε οποιοδήποτε θέμα του ζητηθεί. Μπορούσε να παραγάγει πραγματείες μέχρι και διδακτορικές διατριβές, να συντάσσει απαντητικά γράμματα σε ποικιλία θεμάτων, να φτιάχνει σενάρια ταινιών με βάση γνωστά αφηγήματα, να γράφει ποιήματα στο ύφος γνωστών ποιητών και ό,τι μπορείτε άλλο να φανταστείτε. 

Η παγκόσμια αντίδραση ήταν εκστασιασμός και πανικός. Δεν υπάρχει δημοσιογραφικό και επιστημονικό μέσο που να μην ασχολήθηκε και μάλιστα πολλές φορές. Η εκπαιδευτική κοινότητα ήταν αυτή που προβληματίστηκε πρώτη και περισσότερο από όλους. Έφτασε να συνεννοηθούν πάνω από 1.000 σχετικοί με το αντικείμενο επιστήμονες και λόγιοι κάθε είδους, να υπογράψουν επιστολή με την οποία ζητούσαν να υπάρξει διακοπή στην εξέλιξη της Τεχνητής Νοημοσύνης αυτού του είδους μέχρι οι κοινωνίες να αποφασίσουν πώς μπορούν να την ελέγξουν. 

Μεγαλύτερο θόρυβο προκάλεσε η παραίτηση του Jeffrey Hinton, του επιστήμονα που σχεδίασε το λογισμικό, δηλαδή τα νευρωνικά δίκτυα, που χρησιμοποιούνται στην ανάπτυξη της Τεχνητής Νοημοσύνης. Παραιτήθηκε, λοιπόν, και όπως δήλωσε σε συνέντευξή του στο BBC και τους «New York Times» για να είναι ελεύθερος να φέρει τις αντιρρήσεις του. Το θέμα του ελέγχου της ΤΝ πρόσφατα συζητήθηκε στο αμερικανικό Κογκρέσο και επίσης στην Ευρωπαϊκή Επιτροπή και σε πολλά άλλα fora. 

Ποιοι είναι οι κύριοι φόβοι;

• Ότι δεν προστατεύει από επικίνδυνες και κακόβουλες εφαρμογές και υπόκειται σε εκμετάλλευση για δόλιους σκοπούς. 
• Ότι μπορεί να χρησιμοποιηθεί για να διαδίδει ψευδείς ειδήσεις.
• Ότι δεν υπάρχουν προς το παρόν περιορισμοί και έλεγχο στη χρήση τους.
• Ότι μπορεί να οδηγήσει σε παραστατικές κοινωνικές αναταράξεις με ανεργία και αύξηση ανισοτήτων.
• Και ότι μπορεί να οδηγήσει σε ανατροπή των ισορροπιών του οικονομικού μοντέλου. 

Ο διάσημος ιστορικός και φιλόσοφος ο N. Harry, συγγραφέας του Sappiens, δηλώνει ότι η αυτονόμηση της ανθρώπινης γλώσσας κινδυνεύει να εξαφανίσει την ανθρώπινη υπόσταση και έχει επιχειρήματα που τα εξηγεί. (Παράδειγμα: με βάση προφορικές περιγραφές θα μπορεί να φτιάξει την ταυτότητά μας). Υπήρχαν βέβαια και θεωρητικές αντιρρήσεις: ότι είναι ένα μοντέλο γλώσσας και όχι αντίληψης. 

Κάποια κυρία ειδική λέει ότι ενώ είναι απίστευτα έξυπνο, ταυτόχρονα είναι σοκαριστικά ηλίθιο. Ενώ συγκεντρώνει την ανθρώπινη γνώση, υπολείπεται της ανθρώπινης κρίσης. Δεν λογοδοτεί όταν δίνει ψευδείς απαντήσεις και μπορεί να μοιάζουν απόλυτα λογικές και να παραπλανούν επικίνδυνα. Μερικές φορές παθαίνει σύγχυση (hallucinations). Της λείπει η εναρμόνιση με την ανθρώπινη νοημοσύνη. 

Το θέμα αυτό μου το επισήμανε ο Αντώνης Περράκης στο ακροατήριο, όταν είδε το θέμα της ομιλίας μου και με το οποίο έχει ασχοληθεί ο ίδιος και πιθανώς να αξίζει να τον καλέσετε να κάνει μια ομιλία για τη γενική Τεχνητή Νοημοσύνη, ωστόσο υπάρχουν εταιρείες που υποστηρίζουν ότι έχουν καταφέρει να πλησιάσουν αυτή την προϋπόθεση. Αν και εγώ πιστεύω ότι η προϋπόθεση για να επιτευχθεί η πλήρης ευθυγράμμιση είναι πρώτα να κατανοηθούν τα μυστικά της ανθρώπινης νοημοσύνης, που πολλοί αγωνίζονται να τα ανακαλύψουν αλλά ακόμα είναι κρυμμένα. 

Όταν ρωτήθηκε η Τεχνητή Νοημοσύνη πώς επεξεργάζεται τις απαντήσεις, απάντησε: «Συσχετίζω τη μορφή των δεδομένων και δεν μπλέκω κατανόηση ή σκοπιμότητα». Όταν ρωτήθηκε γιατί έκανε λάθος σε ένα ιατρικό θέμα, απάντησε ευθαρσώς: «Δεν έχω πρόθεση να παραπλανήσω κανέναν, αλλά μερικές φορές κάνω λάθη εξαιτίας ατελών ή ανακριβών δεδομένων. Επίσης δεν έχω την ηθική κρίση ή την ηθική υπευθυνότητα του ανθρώπου-ιατρού ή νοσηλεύτριας». 

Το GTP έδειξε αμέσως ότι μπορεί να διεισδύσει σε κάθε γωνιά της Ιατρικής. Πέρασε τις εξετάσεις της Αμερικανικής Άδειας της Ιατρικής. Έγραψε εκθέσεις εξόδου ασθενών από το νοσοκομείο. Έγραψε σημειώσεις στον ιατρικό φάκελο ασθενούς, παρακολουθώντας την προφορική λήψη ιστορικού κατά την επίσκεψη στον γιατρό. Παρήγαγε εκπαιδευτικό υλικό για κάθε θέμα που ζητήθηκε. Επέτυχε να διαλέξει τη διάγνωση κυρίου συμπτώματος που περιλαμβάνεται σε χιλιάδες διαγνώσεις. 

Πώς προβλέπεται πως θα μπει η καινούργια αυτή τεχνολογία στην ιατρική πράξη του καθενός μας;

Έθεσα προχθές την ερώτηση αυτή στο GTP και πήρα αμέσως μια εκτενή και ενδελεχή απάντηση με 5 επιμέρους παραγράφους, τις οποίες μόνο περιληπτικά σας τις παρουσιάζω γιατί είναι μεγάλη η έκτασή τους.

Λέει, λοιπόν, ότι προάγει τη διαγνωστική διαδικασία με το να βοηθάει τους γιατρούς να παίρνουν πληροφορημένες αποφάσεις. Κάνει θεραπευτικές υποδείξεις, αλλά η τελική απόφαση είναι του γιατρού. Εξυπηρετεί την ιατρική έρευνα αναλύοντας μεγάλο όγκο βιβλιογραφίας και καταθέτοντας ερευνητικές υποθέσεις. Βοηθάει την επικοινωνία με τους ασθενείς με το να παράγει αυτοματοποιημένες απαντήσεις σε συνήθεις ερωτήσεις, να δίνει γενικές συστάσεις υγείας και εξατομικευμένες συστάσεις με βάση τον ιατρικό φάκελο. Υποδεικνύει στο να λαμβάνουν υπόψη ηθικές θεωρήσεις, όπως η ιδιωτικότητα, ο ρόλος της ανθρώπινης κρίσης, η προκατάληψη του αλγορίθμου, ώστε να γίνεται υπεύθυνη χρήση της τεχνολογίας. 

Και καταλήγει: Τεχνολογίες όπως το GTP έχουν τη δυνατότητα να προάγουν την ιατρική φροντίδα, αλλά δεν σκοπεύουν να αντικαταστήσουν τον πάροχο υπηρεσίας υγείας. Ο ρόλος του επαγγελματία υγείας στη διάγνωση και θεραπεία παραμένει κρίσιμος. Η Τεχνητή Νοημοσύνη πρέπει να θεωρείται εργαλείο υποστήριξης της δικής τους τεχνογνωσίας και όχι υποκατάστατο. Καθησυχαστικά είναι για εμάς αυτά που δηλώνει η Τεχνητή Νοημοσύνη. Η νέα τεχνολογία της ΤΝ δίνει απευθείας και σε ελάχιστα δευτερόλεπτα τις απαντήσεις σε ερωτήματα που θα ξοδεύαμε ώρες για να βρούμε στα περιοδικά. Μπορείς επίσης να συζητήσεις μαζί της και να ζητήσεις εξηγήσεις. 

Σε τι μειονεκτεί η Τεχνητή Νοημοσύνη;

Παρότι αποδεικνύει ότι μπορεί να περάσει τις εξετάσεις του πτυχίου της Ιατρικής, δεν έχει δώσει τον Όρκο του Ιπποκράτη. Δεν αναλαμβάνει ιατρικές ευθύνες και δεν έχει ανθρώπινο αίσθημα, ούτε ψυχή. Και κάτι ακόμα. Σε μια προηγούμενη ομιλία μου είχα διαπραγματευθεί το θέμα της βασισμένης ένδειξης της Ιατρικής, το περίφημο Evidence Base Medicine, και είχα δείξει τότε την πυραμίδα των ενδείξεων που έβαλε τις στοιχειοποιημένες μελέτες και τη λογική ανασκόπηση αυτών στην κορυφή. Και βέβαια ξέρετε ότι οι διαφορετικές κατευθυντήριες συστάσεις βαθμολογούνται σε μια κλίμακα ισχύος και αξιοπιστίας με βάση τέτοιες μελέτες. Η μεθοδολογία των μελετών αυτών πήρε δεκαετίες για να τελειοποιηθεί. Η μεθοδολογία της Τεχνητής Νοημοσύνης τώρα μόλις ξεκινάει. 

Η νέα τεχνολογία πρέπει επομένως να μας πείσει ότι μπορεί να δώσει απαντήσεις ασφαλείς, αποτελεσματικές, δηλαδή με διαγνωστική και θεραπευτική αξί,α που να αφορούν όλες τις κατηγορίες των ασθενών. Βεβαίως η προσπάθεια για να εξασφαλισθούν οι προϋποθέσεις αυτές βρίσκεται σε εξέλιξη και ενδεχομένως δεν θα αργήσει να φέρει αποτελέσματα. Εξάλλου, ο αλγόριθμος μαθαίνει από τις αντιδράσεις των χρηστών. Τα λάθη θα μειώνονται και οι πρόοδοι θα είναι ραγδαίες. 

Πώς μπορεί να χρησιμοποιηθεί η Τεχνητή Νοημοσύνη στην Ιατρική πρακτικά; 

Η GPT δίνει ανθρωπόμορφες αναλυτικές εξηγήσεις και συστάσεις. Ο γιατρός θα πρέπει να τις ελέγξει για λάθη ή παραλείψεις, άρα θα πρέπει να είναι προσεκτικός και καλύτερα ενημερωμένος από τον αλγόριθμο. 

Ρώτησα το GPT πώς θα αποφύγω να παραπλανηθώ από την Τεχνητή Νοημοσύνη στη διάρκεια της κλινικής μου πράξης. Μου υπέδειξε επτά στρατηγικές, τις οποίες σας αναφέρω περιληπτικά:
1) Κατανόηση των ορίων της Τεχνητής Νοημοσύνης. Ενώ χρησιμοποιεί τεράστιο όγκο δεδομένων, στερείται των τελευταίων εξελίξεων. Δεν λειτουργεί σε real time. 
2) Εμπιστεύσου, μου λέει, πιστοποιημένες πηγές, όπως περιοδικά που δημοσιεύουν άρθρα μετά από κρίση PEAR reviewed και guidelines. Διασταύρωσε τις πληροφορίες και σύγκρινε το GPT με πολλαπλές αξιόπιστες πηγές. Κρατάει πισινή, όπως βλέπετε. 
3) Να είσαι προσεκτικός με ευαίσθητες πληροφορίες, για την προστασία της ιδιωτικότητας των ασθενών σου. 
4) Χρησιμοποίησε το GPT ως εργαλείο και όχι σαν να παίρνει εκείνο τις αποφάσεις. 
5) Να παραμένεις ενημερωμένος. Το GPT βασίζεται σε γνώσεις μέχρι τον Σεπτέμβριο του 2021. 
6) Κατάγραφε τις διαδικασίες λήψης των αποφάσεών σου, περιλαμβανομένων των πηγών που συμβουλεύτηκες, που θα σε βοηθήσουν σε περίπτωση ασυμφωνίας. 
7) Να θυμάσαι: Το GPT δεν πρέπει να υποκαθιστά την επαγγελματική κρίση, την κριτική σκέψη, τη σχέση ιατρού-ασθενή. Πρέπει να χρησιμοποιείται ως επιπρόσθετο εργαλείο για να υποστηρίξει στη λήψη των αποφάσεων, στην ιατρική πράξη. Σοφές συμβουλές. 

Ρώτησα ξανά πώς θα αποφύγω τις αδυναμίες του GPT, όταν το αξιοποιώ στην ιατρική πράξη. Μου υποδεικνύει επτά στρατηγικές, τις οποίες αναπτύσσει λεπτομερώς: Μιλάει για διαφάνεια, μεταφραστικότητα, αποφυγή bias, ακεραιότητα (fairness), υψηλή ποιότητα δεδομένων για επεξεργασία, ηθικές θεωρήσεις και κατευθύνσεις, αυστηρή αξιολόγηση και έλεγχο, ανθρώπινη επίβλεψη και συνεργασία. Όπως καταλάβατε από αυτά που ακούσατε, θα μπορούσε αυτήν την ομιλία να την είχε φτιάξει το GPT και ίσως καλύτερα από μένα! Κι εγώ απλά να τη διάβαζα! 

Η τεχνολογία αυτή τρέχει ασύλληπτα γρήγορα. Κάθε εβδομάδα αναγγέλλεται και μία καινούργια εξέλιξη και επενδύονται δισεκατομμύρια. Έχουν επιστρατευθεί στρατιές ταλαντούχων νέων παιδιών από κάθε γωνιά της Γης και δουλεύουν στα εργαστήρια της Τεχνητής Νοημοσύνης, με τη συμμετοχή ειδικών, με ιατρικό προσανατολισμό. Σύντομα, εξελίξεις και βελτιώσεις θα καθησυχάσουν τις σημερινές ανησυχίες και επιφυλάξεις ή θα ξεπηδήσουν καινούργιες. 

Η Τεχνητή Νοημοσύνη θα μπει για τα καλά στη ζωή μας και καλό θα είναι να προετοιμαστούμε για να την κάνουμε βοηθό μας και όχι αντίπαλο». 

Δείτε το όπως δημοσιεύτηκε στο περιοδικό Heath NextGeneration - Τεύχος 15

Εναλλακτικά πατήστε εδώ για μεγένθυση