Όσο περισσότερο οδηγεί ο αλγόριθμος, τόσο πιο θολή γίνεται η ευθύνη.

Τα συστήματα υποβοήθησης οδηγού (ADAS) και οι αλγόριθμοι τεχνητής νοημοσύνης έχουν αλλάξει ριζικά την ασφάλεια στην αυτοκίνηση.

Αυτόματη πέδηση, διατήρηση λωρίδας, adaptive cruise control και πολλά ακόμα συμβάλλουν σημαντικά στη μείωση ατυχημάτων. Ταυτόχρονα όμως, δημιουργούν ένα νέο και σύνθετο ερώτημα για τον ασφαλιστικό κλάδο: τι συμβαίνει όταν το σύστημα αποτύχει; Η παραδοσιακή λογική της ευθύνης βασιζόταν στον οδηγό. Σήμερα, όμως, η απόφαση δεν λαμβάνεται πάντα από άνθρωπο. Λαμβάνεται από αλγόριθμο, βασισμένο σε δεδομένα, αισθητήρες και υπολογιστικά μοντέλα.

Όταν το ADAS επεμβαίνει  και αποτυγχάνει

Τα συστήματα ADAS λειτουργούν υποστηρικτικά για τον οδηγό και σε κρίσιμες στιγμές αναλαμβάνουν δράση: φρενάρουν, διορθώνουν πορεία, επιταχύνουν ή περιορίζουν την ταχύτητα. Αν το σύστημα δεν αναγνωρίσει σωστά το εμπόδιο, αντιδράσει με καθυστέρηση ή ενεργοποιηθεί λανθασμένα, το αποτέλεσμα μπορεί να είναι ατύχημα.

Σε τέτοιες περιπτώσεις, η διερεύνηση της ζημιάς δεν αφορά μόνο το τι έκανε ο οδηγός, αλλά και το πώς λειτούργησε το σύστημα. Υπήρχε δυσλειτουργία; Ήταν σωστά βαθμονομημένοι οι αισθητήρες; Είχε προηγηθεί ενημέρωση λογισμικού; Όλα αυτά επηρεάζουν την ευθύνη.

Η ευθύνη διαχέεται

Το μεγάλο πρόβλημα για την ασφάλιση είναι ότι η ευθύνη πλέον δεν είναι μονοδιάστατη. Μπορεί να αφορά τον οδηγό, αλλά και τον κατασκευαστή, τον προμηθευτή αισθητήρων, τον πάροχο λογισμικού ή ακόμη και το συνεργείο που έκανε την τελευταία επαναβαθμονόμηση.

Και ο ασφαλιστής βρίσκεται συχνά στη μέση. Πρέπει να αποζημιώσει, αλλά δεν είναι πάντα σαφές αν και πώς μπορεί να στραφεί κατά τρίτου, ενώ η απόδειξη τεχνικής αστοχίας απαιτεί πρόσβαση σε δεδομένα και τεχνική τεκμηρίωση που δεν είναι πάντα διαθέσιμα.

Ένα επιπλέον ζήτημα είναι η αδιαφάνεια των αλγορίθμων. Πολλά συστήματα τεχνητής νοημοσύνης δεν λειτουργούν πάντοτε με τον αναμενόμενο τρόπο. Ακόμη και οι ίδιοι οι κατασκευαστές δεν μπορούν πάντα να εξηγήσουν με απλό τρόπο γιατί το σύστημα πήρε μια συγκεκριμένη απόφαση. Όμως αυτό για την ασφαλιστική αγορά δυσκολεύει δραματικά την απόδοση ευθύνης.

Όταν δεν μπορεί να εξηγηθεί πλήρως η αιτία της απόφασης, η διερεύνηση περιορίζεται σε ενδείξεις και όχι σε αποδείξεις. Αυτό δημιουργεί νομική αβεβαιότητα και αυξάνει τον κίνδυνο διαφορών.

Ο ρόλος του ασφαλιστή αλλάζει

Σε αυτό το περιβάλλον, ο ασφαλιστής δεν μπορεί να λειτουργεί μόνο με όρους παραδοσιακής πραγματογνωμοσύνης. Χρειάζεται βασική κατανόηση των συστημάτων ADAS, των ορίων τους και των σεναρίων αποτυχίας τους. Όχι για να γίνει μηχανικός, αλλά για να μπορεί να θέτει τα σωστά ερωτήματα, μιας και έτσι θα βρει τη λύση.

Σαφώς η τεχνητή νοημοσύνη και τα συστήματα υποβοήθησης του οδηγού κάνουν τα οχήματα ασφαλέστερα, αλλά κάνουν την ευθύνη πιο σύνθετη. Το ερώτημα «ποιος φταίει» δεν έχει πλέον εύκολη απάντηση.