Έφη Βαγενά, Ελβετικό Οµοσπονδιακό Ινστιτούτο Τεχνολογίας Ζυρίχης: Η ΤΝ απαιτεί σωστή διακυβέρνηση

Λίγο πριν να συµµετάσχει στο επικείµενο AI Conference, που διοργανώνει η KPMG στην Ελλάδα, η  Έφη Βαγενά, καθηγήτρια Βιοηθικής στο Ελβετικό Οµοσπονδιακό Ινστιτούτο Τεχνολογίας της Ζυρίχης, µίλησε στο adbusiness για τη σηµασία της σωστής διακυβέρνησης της τεχνητής νοηµοσύνης στην υγεία. Τόνισε ότι χωρίς σαφείς κανόνες και ασφαλιστικές δικλίδες, η ΤΝ δεν µπορεί να αξιοποιηθεί πραγµατικά προς όφελος των ασθενών, των επαγγελµατιών και των συστηµάτων υγείας, ενώ υπογράµµισε τις «κόκκινες γραµµές» που ούτε κράτη ούτε επιχειρήσεις πρέπει να ξεπεράσουν.

Γράφει ο Δηµήτρης Τσουκαλάς

adb: Συµµετέχετε στο επικείµενο AI Conference της KPMG στην Ελλάδα. Ποιο πρόκειται να είναι το βασικό θέµα µε το οποίο θα καταπιαστείτε στην παρουσίαση; Τι θέλετε να περάσετε στους συµµετέχοντες;

Ενδιαφέροµαι πολύ για τη διακυβέρνηση της Τεχνητής Νοηµοσύνης, και αυτό είναι το θέµα που θα συζητήσω στη διάσκεψη. Ο λόγος είναι ότι χωρίς τη σωστή διακυβέρνηση δεν µπορούµε να αξιοποιήσουµε το δυναµικό της Τεχνητής Νοηµοσύνης για το κοινό καλό. Το βασικό µου θέµα είναι πως η εφαρµογή της ΤΝ στον χώρο της υγείας και της ιατρικής ειδικότερα θα γίνει µε τέτοιον τρόπο ώστε να δηµιουργήσει ουσιαστικό όφελος για τους ασθενείς (δηλαδή όλους µας), τους επαγγελµατίες υγείας και τα συστήµατα υγείας. Η ΤΝ έχει τη δυνατότητα να φέρει ριζικές αλλαγές - ποιες, όµως, από αυτές χρειαζόµαστε, ποιες θα κάνουν την ουσιαστική διαφορά, πώς θα διασφαλίσουµε τη σωστή και δίκαιη διανοµή του οφέλους αυτής της τεχνολογικής επανάστασης;

adb: Η Τεχνητή Νοηµοσύνη εξελίσσεται σε game-changer για την υγειονοµική περίθαλψη. Ποιες θεωρείτε τις πιο ώριµες εφαρµογές της σήµερα και πού βλέπετε -ίσως- επικίνδυνες υπεραπλουστεύσεις;

Αυτά που ήδη βλέπουµε, είναι σε λιγότερο εντυπωσιακά πεδία, όπως η ανάλυση και η ερµηνεία κλινικών σηµειώσεων, η µεταγραφή συνοµιλιών µεταξύ ασθενών και ιατρικού προσωπικού, η εξαγωγή πληροφοριών από µη δοµηµένα ιατρικά δεδοµένα για την υποβοήθηση της διαχείρισης των ασθενών κ.λπ. Αρχίζουµε επίσης να βλέπουµε πολλά υποσχόµενες εφαρµογές στη διαγνωστική απεικόνιση, πρόβλεψη αποτελεσµάτων θεραπειών, πρόβλεψη επανεισαγωγών σε νοσοκοµεία ή της εξέλιξης χρόνιων παθήσεων.

adb: Μεγάλες εταιρείες τεχνολογίας και startups επενδύουν µαζικά στην επεξεργασία ιατρικών δεδοµένων. Ποια είναι η µεγαλύτερη «ηθική πρόκληση» γι’ αυτές και τι πρέπει να περιλαµβάνει ένα υπεύθυνο επιχειρηµατικό µοντέλο;

Ένα κύριο θέµα εδώ είναι ποια ακριβώς είναι αυτά τα δεδοµένα, γιατί και πώς έχουν πρόσβαση σε αυτά οι εταιρείες και αν γνωρίζουν οι ασθενείς πώς τα δεδοµένα τους χρησιµοποιούνται. Το θέµα µε τα ιατρικά δεδοµένα είναι ότι είναι αναγκαία για το training της ΤΝ - και η έλλειψή τους έχει επιπτώσεις στην ποιότητα των προβλέψεων που κάνει η ΤΝ. Το θέµα λοιπόν δεν είναι να µην έχουν πρόσβαση οι εταιρείες, αλλά να έχουν πρόσβαση κάτω από τις σωστές συνθήκες και µε δικλίδες ασφαλείας που εξασφαλίζουν την προστασία των ασθενών από κακή χρήση των δεδοµένων τους. Είναι σηµαντικό οι εταιρείες να συµµορφώνονται µε την προστασία των δεδοµένων των ασθενών, να επικοινωνούν µε διαφάνεια τον τρόπο µε τον οποίο το επιτυγχάνουν και να λαµβάνουν υπόψη τις ανησυχίες των ασθενών σχετικά µε τη χρήση των δεδοµένων τους.

adb: Συµµετέχετε σε διεθνείς οµάδες διαµόρφωσης πολιτικής για την AI στην υγεία. Καθώς οι κανονισµοί εξελίσσονται, ποια είναι η «κόκκινη γραµµή» που, κατά τη γνώµη σας, δεν πρέπει να περάσουν ούτε κράτη ούτε επιχειρήσεις;

Υπάρχουν αρκετές κόκκινες γραµµές. Για παράδειγµα, δεν πρέπει να επιτρέπονται οι µη εξουσιοδοτηµένες παραβιάσεις υπολογιστικών συστηµάτων από την AI, που θέτουν σηµαντικούς κινδύνους για την ιδιωτικότητα των ασθενών, υπονοµεύοντας έτσι την ανθρώπινη επίβλεψη; Η προσποίηση: πρέπει να αποφεύγεται κάθε µορφή προσποίησης [είναι σηµαντικό να ξέρει ο ασθενής ότι αλληλοεπιδρά µε ΤΝ], εξασφαλίζοντας διαφάνεια, για να διατηρεί την εµπιστοσύνη των ασθενών και να αποφεύγεται πιθανή χειραγώγηση. Επιπλέον, πρέπει να απαγορεύονται αυστηρά οι διακριτικές πρακτικές, είτε είναι σκόπιµες είτε ακούσιες, προκειµένου να εξασφαλιστεί η ισότητα στη φροντίδα των ασθενών. Τέλος, τα συστήµατα AI δεν πρέπει ποτέ να αποκαλύπτουν ιδιωτικές πληροφορίες χωρίς ρητή συγκατάθεση, προστατεύοντας την εµπιστευτικότητα των ατόµων σύµφωνα µε τα ηθικά πρότυπα. Αυτές οι «κόκκινες γραµµές» είναι κοινές σε διάφορες εφαρµογές της ΤΝ. Επιπλέον, στο χώρο της υγείας είναι πολύ σηµαντικό να µη χρησιµοποιούµε συστήµατα Τεχνητής Νοηµοσύνης για τα οποία δεν διαθέτουµε τα κατάλληλα στοιχεία που να αποδεικνύουν την ασφάλεια και την αποτελεσµατικότητά τους. Kαι εδώ δεν εννοώ µόνο την κλινική ιατρική, αλλά και τη δηµόσια υγεία, όπου τα µέτρα που λαµβάνονται βάσει προβλέψεων ή αυτοµατοποιηµένων αποφάσεων πρέπει να έχουν δοκιµαστεί επαρκώς ως προς την αποτελεσµατικότητά τους.

adb: Πώς βλέπετε τη συνεργασία δηµόσιου και ιδιωτικού τοµέα στην ανάπτυξη ψηφιακών υπηρεσιών υγείας; Μπορούν να συνυπάρξουν innovation, κερδοφορία και ηθική υπευθυνότητα;

Ναι, µπορούν, και πιστεύω ότι πρέπει να προωθηθούν τα λεγόµενα public-private partnerships.  Ένας πρακτικός λόγος είναι το γεγονός ότι το µεγαλύτερο µέρος της τεχνογνωσίας στον τοµέα της τεχνητής νοηµοσύνης βρίσκεται στα χέρια ιδιωτικών φορέων. Από την άλλη πλευρά, ο δηµόσιος τοµέας ελέγχει τις υποδοµές, τα δεδοµένα και τις ρυθµιστικές διαδικασίες. Πιστεύω ότι εναπόκειται και στους δύο τοµείς (δηµόσιο και ιδιωτικό) να βρουν τους κατάλληλους τύπους συνεργασιών που θα προωθήσουν την καινοτοµία, αλλά ταυτόχρονα θα ωφελήσουν το σύνολο της κοινωνίας.

Η κερδοφορία δεν θα πρέπει να έρχεται σε αντίθεση µε την προσφορά ποιοτικών υπηρεσιών υγείας, και οι εταιρείες πρέπει να ενσωµατώνουν ηθικές αρχές στην ανάπτυξη και την υλοποίηση των προϊόντων τους. Η διαφάνεια στη διαδικασία λήψης αποφάσεων και η συµµετοχή διαφόρων ενδιαφεροµένων (stakeholders) όπως οι ασθενείς και οι επαγγελµατίες υγείας, είναι επίσης κρίσιµες για να διασφαλίσουν ότι οι ψηφιακές υπηρεσίες υγείας είναι ωφέλιµες για όλους, ενισχύοντας ταυτόχρονα την καινοτοµία και τη βιωσιµότητα.

adb: Είναι εφικτό να σχεδιάσουµε «έξυπνα» ψηφιακά συστήµατα υγείας που να µειώνουν τις ανισότητες αντί να τις διευρύνουν; Και τι ρόλο παίζει εδώ η αγορά;

Ναι, είναι δυνατόν. Στους κύκλους της τεχνητής νοηµοσύνης εδώ και χρόνια συζητάµε για τα προβλήµατα µε την προκατάληψη για το πώς να βελτιώσουµε τα συστήµατα ώστε να ελαχιστοποιήσουµε τον κίνδυνο προκατάληψης. Πώς να αναπτύξουµε µια δίκαιη Τεχνητή Νοηµοσύνη; Νοµίζω ότι υπάρχει πρόοδος. Εξακολουθεί να υπάρχει το θέµα της καλύτερης πρόσβασης σε ποιοτικά και συµπεριληπτικά δεδοµένα (για training and testing) καθώς και στενή παρακολούθηση των συστηµάτων, ώστε τα αποτελέσµατα να ελέγχονται και οι προκαταλήψεις (εάν υπάρχουν) να διορθώνονται προτού προκαλέσουν βλάβη.

adb: Λέτε συχνά ότι «η τεχνολογία πρέπει να ενσωµατώνει αρχές ισότητας από το σχεδιασµό της». Πώς µεταφράζεται αυτό σε εµπορικά προϊόντα και υπηρεσίες υγείας που παράγονται/προσφέρονται από τον ιδιωτικό τοµέα;

Νοµίζω ότι αυτό αφορά στην εταιρική κοινωνική ευθύνη. Οι εταιρείες έχουν την ευθύνη να αναπτύσσουν προϊόντα που δεν είναι επιβλαβή - στην περίπτωση της ιατρικής τεχνητής νοηµοσύνης, προϊόντα που δεν εισάγουν λανθασµένες διακρίσεις σε ευάλωτες οµάδες, για παράδειγµα. Και πάλι, αυτό είναι δυνατό µέσω της δέσµευσης για δίκαιη Τεχνητή Νοηµοσύνη και συγκεκριµένα σηµαίνει ότι τα προϊόντα ΤΝ έχουν εκπαιδευτεί και δοκιµαστεί σε διαφάνεια και συµµετοχή των ενδιαφεροµένων µερών σε όλο τον κύκλο ζωής της Τεχνητής Νοηµοσύνης.

adb: Από τον Απρίλιο του 2021 έως τον ∆εκέµβριο του 2023, υπηρετήσατε ως η πρώτη πρόεδρος της Εθνικής Επιτροπής Βιοηθικής και Τεχνοηθικής. Τι κρατάτε ως πιο ουσιαστική εµπειρία από αυτήν τη θητεία;

Είχα την τιµή να προεδρεύσω µιας επιτροπής που συγκροτήθηκε από εξαιρετικά συνετούς και έµπειρους συναδέλφους. Αυτό που αποκόµισα από εκείνη την περίοδο είναι η δύναµη της κοινής και ειλικρινούς δέσµευσης όλων των µελών να λειτουργήσουν ως µια θετική και εποικοδοµητική δύναµη στην κοινωνία µας.

AI Conference

Με κεντρικό µήνυµα “Adapt now - Influence tomorrow”, το ΑΙ Conference θα πραγµατοποιηθεί στις 8 Οκτωβρίου από την KPMG στην Ελλάδα. Το συνέδριο έχει ως στόχο να αναδείξει ότι το ΑΙ, τα data και τα αυτοµατοποιηµένα εργαλεία δεν είναι απλώς εργαλεία παραγωγικότητας. Αποτελούν καταλυτικό παράγοντα µετασχηµατισµού των επιχειρήσεων. Είναι πυξίδες για την ηγεσία του αύριο! Η πορεία προς τον έξυπνο οργανισµό είναι ένα διαρκές ταξίδι και οι ηγέτες διαδραµατίζουν καίριο ρόλο σε αυτό. Για περισσότερες πληροφορίες σχετικά µε το ΑΙ Conference, µπορείτε να επισκεφθείτε το https://bit.ly/kpmgaiconfer.