Στο πλαίσιο της ενημέρωσής σας για τις ευρωπαϊκές εξελίξεις όσον αφορά στον ψηφιακό μετασχηματισμό του χρηματοπιστωτικού τομέα και ειδικότερα την τεχνητή νοημοσύνη και σε συνέχεια της εγκυκλίου με αριθμό 24774/10.09.2024, θα θέλαμε να σας ενημερώσουμε ότι η Ευρωπαϊκή Επιτροπή δημοσίευσε στις αρχές Φεβρουαρίου 2025 δύο σύνολα κατευθυντήριων γραμμών σχετικά με:

α. απαγορευμένες πρακτικές τεχνητής νοημοσύνης (ΤΝ) (εδώ) και

β. τον ορισμό συστήματος ΤΝ (εδώ),

και με στόχο την αποτελεσματική και συνεκτική εφαρμογή του Κανονισμού (ΕΕ) 2024/1689 για την Τεχνητή Νοημοσύνη (ΑΙ Αct).

Ο Κανονισμός για την ΤΝ θα αρχίσει να εφαρμόζεται από τις 2 Αυγούστου 2026. Η δημοσίευση των δύο παραπάνω συνόλων κατευθυντήριων γραμμών (ΚΓ) συμπίπτει ωστόσο με το γεγονός ότι ορισμένες διατάξεις του Κανονισμού έχουν τεθεί σε εφαρμογή, από τις 2 Φεβρουαρίου τρέχοντος έτους. Οι διατάξεις αυτές αφορούν, μεταξύ άλλων, στον ορισμό του συστήματος ΤΝ (άρθρο 3, παρ.1) και στις απαγορευμένες πρακτικές TN (άρθρο 5 του Κανονισμού).

Επισκόπηση κατευθυντήριων γραμμών

α. Κατευθυντήριες Γραμμές για απαγορευμένες πρακτικές ΤΝ

Στις 4 Φεβρουαρίου 2025, η Ευρωπαϊκή Επιτροπή δημοσίευσε ΚΓ για απαγορευμένες πρακτικές ΤΝ

σύμφωνα με τις διατάξεις του Κανονισμού ΤΝ (άρθρο 96, παρ.1 β), οι οποίες θεωρούνται απαράδεκτες λόγω του υψηλού κινδύνου που ενέχουν για τα θεμελιώδη δικαιώματα και τις αξίες της Ευρωπαϊκής Ένωσης.

Οι πρακτικές αυτές περιλαμβάνουν ιδίως την επιβλαβή χειραγώγηση, την αξιολόγηση ή ταξινόμηση προσώπων με βάση κοινωνικά χαρακτηριστικά και την εξ αποστάσεως βιομετρική ταυτοποίηση σε «πραγματικό χρόνο».

Οι ΚΓ εξειδικεύουν τα όρια των απαγορεύσεων, περιγράφουν τη διαδικασία ελέγχου των εφαρμογών ΤΝ και παρέχουν μηχανισμούς συμμόρφωσης και επιβολής του θεσμικού πλαισίου.

Η Ευρωπαϊκή Επιτροπή επισημαίνει στο κείμενο των ΚΓ (σημείο 2.6., παρ.37 των ΚΓ) ότι σε ορισμένες περιπτώσεις ως απαγορευμένες πρακτικές ΤΝ θα μπορούσαν να χαρακτηριστούν και συστήματα ΤΝ υψηλού κινδύνου (άρθρο 6 του Κανονισμού ΤΝ, ιδίως εκείνα που παρατίθενται στο Παράρτημα ΙΙΙ), εάν πληρούνται μία ή περισσότερες από τις προϋποθέσεις απαγορεύσεων που προβλέπει το άρθρο 5 του Κανονισμού. Υπενθυμίζεται ότι στον κατάλογο του Παραρτήματος ΙΙΙ του Κανονισμού με τους τομείς συστημάτων ΤΝ υψηλού κινδύνου, συμπεριλήφθηκαν «τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την εκτίμηση κινδύνων και την τιμολόγηση σε σχέση με φυσικά πρόσωπα στην περίπτωση ασφάλιση ζωής και υγείας (Παράρτημα ΙΙΙ, σημείο 5, στοιχείο Γ).

Πέραν τούτου, στο κείμενο των ΚΓ περιλαμβάνονται οι ακόλουθες αναφορές απαγορευμένων πρακτικών ΤΝ που ενδιαφέρουν τον ασφαλιστικό κλάδο:

• Συστήματα ΤΝ που εκμεταλλεύονται τα τρωτά σημεία ηλικιωμένων με μειωμένο επίπεδο ψηφιακού γραμματισμού με στόχο τη σύναψη ασφαλιστηρίου συμβολαίου που δεν είναι απαραίτητο (unnecessary insurance policies) ή την επένδυση σε απατηλά / παραπλανητικά σχήματα, οδηγώντας έτσι τους ηλικιωμένους σε σημαντική απώλεια αποταμιεύσεων και συναισθηματική θλίψη (σημείο 3.3.3, παρ.117 των ΚΓ).
• Ορισμένες πρακτικές διαφοροποιημένης τιμολόγησης (differential pricing practices) με τη χρήση συστημάτων τεχνητής νοημοσύνης σε υπηρεσίες, όπως η ασφάλιση, που εκμεταλλεύονται τη συγκεκριμένη κοινωνικοοικονομική κατάσταση και επιβάλλουν υψηλότερες τιμές σε καταναλωτές με χαμηλότερα εισοδήματα, μπορεί να επιφέρουν στους καταναλωτές σημαντική οικονομική επιβάρυνση, αναγκάζοντάς τους να πληρώσουν περισσότερα για την ίδια κάλυψη, και επιπλέον ενδέχεται να τους εκθέσουν σε οικονομικούς κραδασμούς (σημείο 3.3.3, παρ.117 των ΚΓ).
• Μη αποδεκτές πρακτικές κοινωνικής βαθμολόγησης, δηλαδή αξιολόγησης ή ταξινόμησης προσώπων με βάση κοινωνικά χαρακτηριστικά (social scoring practices), αναφέροντας ως παράδειγμα ασφαλιστική εταιρία που συλλέγει δαπάνες και άλλες χρηματοοικονομικές πληροφορίες από τράπεζα που δεν σχετίζονται με τον καθορισμό της επιλεξιμότητας των υποψηφίων για ασφάλιση ζωής, αλλά χρησιμοποιούνται για τον καθορισμό του ύψους των ασφάλιστρων για μια τέτοια ασφάλιση. Στις περιπτώσεις αυτές, το σύστημα τεχνητής νοημοσύνης αναλύει τις πληροφορίες που συγκεντρώνει η ασφαλιστική εταιρία και, βάσει αυτών, προτείνει είτε τον καθορισμό υψηλότερων ασφαλίστρων ζωής για ένα συγκεκριμένο άτομο ή μια ομάδα πελατών είτε την άρνηση / απόρριψη της ασφαλιστικής σύμβασης (σημείο 4.2.3., παρ. 170 των ΚΓ).
• Διαμόρφωση προφίλ (profiling) στο πλαίσιο της κοινωνικής βαθμολόγησης, που αφορά αξιολόγηση ή ταξινόμηση φυσικών προσώπων ή ομάδων προσώπων για μια ορισμένη χρονική περίοδο, με βάση την κοινωνική τους συμπεριφορά ή γνωστά, συναγόμενα ή προβλεπόμενα προσωπικά χαρακτηριστικά τους ή χαρακτηριστικά της προσωπικότητάς τους (σημείο 4.2.1, παρ. 151 των ΚΓ).

Η Ευρωπαϊκή Επιτροπή σημειώνει ωστόσο ότι η ταξινόμηση φυσικών προσώπων με βάση κοινωνικά χαρακτηριστικά δεν απαγορεύεται γενικώς, αλλά μόνο στις περιπτώσεις όπου πληρούνται σωρευτικά όλες οι προϋποθέσεις του άρθρου 5 παράγραφος 1 στοιχείο γ) του Κανονισμού ΤΝ. Eπίσης στις ΚΓ αναφέρεται ότι η πιστοληπτική βαθμολόγηση (credit scoring), η βαθμολόγηση κινδύνου (risk scoring) και το underwriting αποτελούν βασικές πτυχές των υπηρεσιών των χρηματοοικονομικών και ασφαλιστικών επιχειρήσεων. Αυτές οι πρακτικές, καθώς και άλλες νόμιμες δραστηριότητες (όπως η βελτίωση της ποιότητας και της αποτελεσματικότητας των υπηρεσιών, η διασφάλιση αποτελεσματικότερης διαχείρισης αξιώσεων, η διενέργεια ειδικών αξιολογήσεων εργαζομένων, η πρόληψη και ανίχνευση απάτης, η επιβολή του νόμου ή η βαθμολόγηση της συμπεριφοράς των χρηστών σε διαδικτυακές πλατφόρμες), δεν απαγορεύονται per se, εφόσον είναι νόμιμες και διενεργούνται σύμφωνα με τον Κανονισμό ΤΝ και την λοιπή ευρωπαϊκή και εθνική νομοθεσία.

β. Κατευθυντήριες Γραμμές για τον ορισμό συστήματος ΤΝ

Στις 6 Φεβρουαρίου 2025 η Ευρωπαϊκή Επιτροπή δημοσίευσε ΚΓ για τον ορισμό συστήματος ΤΝ σύμφωνα με τις διατάξεις του Κανονισμού ΤΝ (άρθρο 96, παρ. 1 στ). Οι ΚΓ έχουν στόχο να συμβάλουν στην κατανόηση των παρόχων αλλά και όλων των φορέων εφαρμογής συστημάτων ΤΝ σχετικά με τον προσδιορισμό ενός συστήματος ως συστήματος ΤΝ, καθώς ο ορισμός συστήματος ΤΝ είναι καθοριστικός για την κατανόηση του πεδίου εφαρμογής του Κανονισμού ΤΝ.

Με βάση το άρθρο 3, παρ. 1 του Κανονισμού ΤΝ ο ορισμός του συστήματος ΤΝ είναι ο ακόλουθος:

«σύστημα ΤΝ»: μηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα».

Σύμφωνα με τις ΚΓ, ο ορισμός συστήματος AI περιλαμβάνει ένα ευρύ φάσμα συστημάτων. Ο προσδιορισμός ενός συστήματος ως συστήματος ΤΝ θα πρέπει να βασίζεται στην ιδιαίτερη αρχιτεκτονική και λειτουργικότητά του και θα πρέπει να λαμβάνει υπόψη τα επτά στοιχεία του παραπάνω αναφερόμενου ορισμού του άρθρου 3 παρ. 1 του Κανονισμού ΤΝ. Οι ΚΓ παρέχουν περαιτέρω επεξήγηση αυτών των διαφορετικών στοιχείων.

Θα πρέπει να επισημανθεί η αναγνώριση από την Ευρωπαϊκή Επιτροπή ότι ορισμένα συστήματα δεν θα πρέπει να εμπίπτουν στον ορισμό ΤΝ (Ενότητα 5.2 των ΚΓ). Η Ευρωπαϊκή Επιτροπή επισημαίνει ότι κάποια συστήματα που διαθέτουν περιορισμένη ικανότητα εξαγωγής συμπερασμάτων, ενδέχεται να μην εμπίπτουν στο πεδίο εφαρμογής του ορισμού του συστήματος ΤΝ λόγω της περιορισμένης ικανότητάς τους να αναλύουν μοτίβα και να προσαρμόζουν αυτόνομα την παραγωγή στοιχείων εξόδου. Για παράδειγμα «τα συστήματα που χρησιμοποιούνται για τη βελτίωση της μαθηματικής βελτιστοποίησης ή για την επιτάχυνση και την προσέγγιση των παραδοσιακών, καθιερωμένων μεθόδων βελτιστοποίησης, όπως οι μέθοδοι γραμμικής ή λογιστικής παλινδρόμησης, δεν εμπίπτουν στο πεδίο εφαρμογής του ορισμού του συστήματος AI. Αυτό συμβαίνει επειδή, ενώ αυτά τα μοντέλα έχουν την ικανότητα να συνάγουν κάποια συμπεράσματα, ωστόσο η ικανότητά τους αυτή δεν υπερβαίνει τη «βασική επεξεργασία δεδομένων».

Η Ευρωπαϊκή Επιτροπή επισημαίνει τέλος ότι δεν είναι δυνατός ο αυτόματος προσδιορισμός ή η κατάρτιση εξαντλητικής λίστας συστημάτων που είτε εμπίπτουν είτε εξαιρούνται από τον ορισμό ενός συστήματος ΤΝ. Οι ΚΓ είναι σχεδιασμένες να εξελίσσονται με την πάροδο του χρόνου και θα ανανεώνονται συνεχώς βάσει πρακτικών εμπειριών, νέων ερωτημάτων και περιπτώσεων χρήσης που θα προκύπτουν.

Οι παραπάνω κατευθυντήριες γραμμές για απαγορευμένες πρακτικές ΤΝ και για τον ορισμό συστήματος ΤΝ δεν έχουν δεσμευτικό χαρακτήρα και θα επικαιροποιούνται συνεχώς. Οι κατευθυντήριες γραμμές έχουν εγκριθεί από την Ευρωπαϊκή Επιτροπή, αλλά δεν έχουν υιοθετηθεί ακόμη επίσημα. Θα υιοθετηθούν επίσημα σε μεταγενέστερο στάδιο, όταν θα είναι διαθέσιμες σε όλες τις γλώσσες. Aπό εκείνη τη στιγμή και έπειτα θα καθίστανται εφαρμοστέες.