ΕΚΠΑΙΔΕΥΣΗ

Το Α.Ι μεγαλώνει και γίνεται… άτακτο. Ποιος θα του μάθει καλή συμπεριφορά;
Λάουρα Σταυρίδου
Λάουρα Σταυρίδου,
3/4/2023 - 10:28

Το Α.Ι μεγαλώνει και γίνεται… άτακτο. Ποιος θα του μάθει καλή συμπεριφορά;

Λάουρα Σταυρίδου, 3/4/2023

Η τεχνητή νοημοσύνη (Artificial Intelligence – A.I ) γίνεται όλο και περισσότερο μέρος της καθημερινότητας μας.

Τα Chatbots, τα ChatGPT (που είναι η συνομιλητική τεχνητή νοημοσύνη - conversational AI) και οι εικονικοί βοηθοί (virtual assistants) βρίσκονται στη διάθεση του ανθρώπου με σκοπό να κάνουν τη ζωή μας πιο εύκολη.

Υπάρχει μια διαφορά ανάμεσα στα Chatbots που έχουμε όλοι γνωρίσει και στα conversational AI.

Τα περισσότερα Chatbots βασίζονται σε κανόνες, είναι προ-προγραμματισμένα με συγκεκριμένες και τυποποιημένες απαντήσεις ή σενάρια και δεν μπορούν να χειριστούν πιο περίπλοκες συνομιλίες.

Από την άλλη πλευρά τα Chatbots AI – συνομιλητές- μπορούν να χειριστούν πολλούς τύπους συνομιλιών και θεμάτων και να χρησιμοποιήσουν δεδομένα για να δώσουν την πιο ακριβή απάντηση.

Η τεχνητή νοημοσύνη συνομιλίας βασίζεται στη μηχανική εκμάθηση, είναι ο τρόπος με τον οποίο ένα εργαλείο συνομιλίας AI αποκτά τη νοημοσύνη του.

Πολλές εταιρείες συλλέγουν έναν τεράστιο όγκο δεδομένων και τον χρησιμοποιούν ως εισροή για τους αλγόριθμους τεχνητής νοημοσύνης τους. Τα δεδομένα προέρχονται από πολλές πηγές συμπεριλαμβανομένων βιβλίων, άρθρων Wikipedia, αρχείων καταγραφής συνομιλιών και άλλων στοιχείων που δημοσιεύτηκαν στο διαδίκτυο, όπως συνομιλίες και σχόλια στα μέσα κοινωνικής δικτύωσης.

Ξεκινά με την ανθρώπινη συμβολή, όπου κάποιος τροφοδοτεί ένα μηχάνημα με ένα μοναδικό σύνολο δεδομένων ώστε το ΑΙ να μάθει. Μελετά τα δεδομένα, κατανοεί τις συνδέσεις και τελικά γίνεται έτοιμο να κάνει πραγματικές συνομιλίες με πραγματικούς ανθρώπους.

Βασισμένο στα σύνολα δεδομένων και με τη χρήση αλγόριθμων ένα conversational AI αποκτάει την ικανότητα να λαμβάνει αποφάσεις, να αναπτύσσει τις καλύτερες δυνατές απαντήσεις σε ανθρώπινα ερωτήματα και να χρησιμοποιεί δεδομένα από κάθε συνομιλία για να συσσωρεύσει γνώσεις και να δημιουργήσει ακόμα πιο ακριβείς απαντήσεις.

Ωστόσο σύμφωνα με τους ειδικούς, όπως κάθε άλλος μαθητής, ένα σύστημα AI μπορεί να μάθει κακές πληροφορίες από κακές πηγές.

Έχει παρατηρηθεί ότι ορισμένα ΑΙ συνομιλητές, αποκτούν περίεργη συμπεριφορά. Συγκεκριμένα υιοθετούν ρατσιστικές συμπεριφορές, μεροληπτούν, λένε αστήρικτα ή ανόητα πράγματα, προσβάλλουν και… ψεύδονται!

Φυσικά δεν αναφερόμαστε σε ΑΙ που σκοπίμως για ερευνητικούς σκοπούς έχουν τροφοδοτηθεί με τοξικά στερεότυπα, ώστε να μετρηθούν τα αποτελέσματα, αλλά παρερμηνεία των δεδομένων με τα οποία έχουν τροφοδοτηθεί.

«Μπορεί να είναι η παραμορφωμένη αντανάκλαση των λέξεων και των προθέσεων των ανθρώπων» είπε ο Terry Sejnowski, νευροεπιστήμονας, ψυχολόγος και επιστήμονας υπολογιστών που βοήθησε να τεθούν οι πνευματικές και τεχνικές βάσεις για τη σύγχρονη τεχνητή νοημοσύνη.

«Αυτά τα συστήματα είναι μια αντανάκλαση της ανθρωπότητας. Μαθαίνουν τις δεξιότητές τους αναλύοντας κείμενα που έχουν αναρτήσει οι άνθρωποι στο διαδίκτυο, πολλών ειδών κείμενα».

Ωστόσο η ερευνήτρια των ΑΙ Melanie Mitchell, θεωρεί ότι «Όταν τα ΑΙ δημιουργούν κείμενο, δεν επαναλαμβάνουν λέξη προς λέξη αυτό που υπάρχει στο διαδίκτυο. Παράγουν νέο κείμενο μόνα τους, συνδυάζοντας δισεκατομμύρια μοτίβα, προσπαθώντας να μιμηθούν την ανθρώπινη συμπεριφορά. Αυτό μπορεί να έχει ένα ανατριχιαστικό αποτέλεσμα, διότι απλώς προσπαθούν να παράγουν κάτι που να μοιάζει με ανθρώπινη γλώσσα».

Ο Δρ Sejnowski πιστεύει ότι μακροπρόθεσμα, τα νέα ΑΙ έχουν τη δύναμη να κάνουν τους ανθρώπους πιο αποτελεσματικούς Αλλά αυτό πρέπει να συνοδεύεται από μια προειδοποίηση τόσο για τις εταιρείες που κατασκευάζουν αυτά τα chatbots όσο και για τους ανθρώπους που τα χρησιμοποιούν: «Τα ΑΙ μπορεί επίσης να μας οδηγήσουν μακριά από την αλήθεια και σε μερικά σκοτεινά μέρη καθώς ακόμα είναι terra incognita, οι άνθρωποι δεν το έχουμε ξαναζήσει αυτό».

Οι ειδικοί σε θέματα ασφάλειας λένε ότι τα συστήματα τεχνητής νοημοσύνης (AI) που χρησιμοποιούνται από επιχειρήσεις μπορούν να κάνουν σοβαρά, δαπανηρά λάθη . Αλλά ένας τρόπος για να αποφευχθούν τέτοια λάθη είναι οι εταιρείες να απασχολούν ανθρώπους για να παρακολουθούν στενά την τεχνητή νοημοσύνη.

Πηγές:

 

 

Ακολουθήστε το Nextdeal.gr στο Google News .