Γράφει η Κατερίνα Τσάλιου, Νομικός – Information Security Analyst
Η τεχνητή νοημοσύνη (ΤΝ) αναπτύσσεται με ταχύτατους ρυθμούς και σε σύντομο χρονικό πλαίσιο θα χρησιμοποιείται όλο και περισσότερο στην καθημερινή ζωή. Από τις εφαρμογές που χρησιμοποιούμε για την εργασία μας μέχρι τα αυτοκινούμενα οχήματα, οι δυνατότητες της ΤΝ είναι σχεδόν ατελείωτες.
Ωστόσο, η ραγδαία ανάπτυξη αυτής εγείρει σημαντικά ζητήματα, ηθικής, ασφάλειας και προστασίας των δεδομένων.
Ο Ευρωπαϊκός Κανονισμός για την Τεχνητή Νοημοσύνη (AI Act) αποσκοπεί στο να θέσει σαφείς κανόνες και προδιαγραφές για τη χρήση και ανάπτυξη της ΤΝ στην Ευρώπη, προκειμένου να εξασφαλιστεί η προστασία θεμελιωδών δικαιωμάτων των ατόμων. Θεωρείται το πρώτο ολοκληρωμένο ρυθμιστικό πλαίσιο παγκοσμίως.
Όπως και ο Γενικός Κανονισμός Προστασίας Δεδομένων, έτσι και ο κανονισμός αυτός μπορεί να εμπνέυσει άλλα έθνη να θεσπίσουν νόμους για την προστασία δεδομένων από εφαρμογές της ΤΝ και να οδηγήσει στην ανάπτυξη προτύπων διακυβέρνησης και δεοντολογίας παγκοσμίως.
Πού αποσκοπεί ο καινούργιος αυτός κανονισμός;
Ο κανονισμός έχει ως στόχο να εξασφαλίσει ότι οι εφαρμογές ΤΝ κατά τη χρήση τους είναι ασφαλείς και συμμορφώνονται με τα δικαιώματα των πολιτών. Προβλέπει τη δημιουργία ενός νομικού πλαισίου που θα διέπει την ανάπτυξη και χρήση της ΤΝ, προκειμένου να προστατευτούν οι πολίτες από τους κινδύνους που ενδέχεται να προκύψουν.
Ένα από τα βασικά σημεία του κανονισμού είναι η ταξινόμηση των συστημάτων ΤΝ σε τέσσερις κατηγορίες κινδύνου:
- Απαγορευμένα Συστήματα: Συστήματα που θεωρούνται επικίνδυνα για την κοινωνία, όπως η κοινωνική πιστοποίηση μέσω αλγορίθμων (social scoring[1]).
- Υψηλού Κινδύνου Συστήματα: Συστήματα που ενδέχεται να επηρεάσουν σημαντικά τη ζωή των ανθρώπων, όπως οι εφαρμογές ΤΝ στην υγειονομική περίθαλψη ή η χρήση τους σε κρίσιμες υποδομές.
- Μέτριου Κινδύνου Συστήματα: Εφαρμογές που απαιτούν λιγότερη εποπτεία και ρύθμιση, όπως οι προσωπικοί βοηθοί.
- Χαμηλού Κινδύνου Συστήματα: Συστήματα που δεν ενέχουν σημαντικούς κινδύνους και δεν απαιτούν αυστηρή εποπτεία.
Ένα παράδειγμα ώστε να καταλάβουμε αυτή τη διάκριση κινδύνων είναι το εξής:
Ας σκεφτούμε ότι οι αστυνομικές αρχές χρησιμοποιούν ένα σύστημα αναγνώρισης βιομετρικών δεδομένων, σε κάμερες ασφαλείας, των πιθανών εγκληματιών όπως και υπόπτων. Τα μοντέλα τεχνητής νοημοσύνης μπορούν από τον δημιουργό τους, να φέρουν καταγεγραμμένες «προκαταλήψεις» (μέσα στο λογισμικό τους) από ιστορικά δεδομένα εγκληματικότητας, οδηγώντας σε πρακτικές αστυνόμευσης που εισάγουν διακρίσεις. Αυτό όπως αναφέρθηκε και στον ορισμό του «social scoring» μπορεί να οδηγήσει σε δυσμενή μεταχείριση φυσικών προσώπων ή ολόκληρων ομάδων αυτών σε κοινωνικά πλαίσια, τα οποία δεν σχετίζονται με το πλαίσιο στο οποίο δημιουργήθηκαν ή συλλέχθηκαν αρχικά τα δεδομένα, ή ακόμη και σε μεταχείριση δυσανάλογη ή αδικαιολόγητη σε σχέση με την σοβαρότητα της κοινωνικής τους συμπεριφοράς.
Συμπερασματικά, αυτό το σύστημα ΤΝ θα ταξινομηθεί σε υψηλού και απαγορευμένου κινδύνου για τα δικαιώματα των πολιτών.
Πέρα από αυτό όμως σε ποιον εφαρμόζεται η πράξη της ΕΕ για την ΤΝ;
Ο νόμος της ΕΕ για την ΤΝ εφαρμόζεται στους παρόχους, τους φορείς ανάπτυξης, τους εισαγωγείς, τους διανομείς, τους κατασκευαστές προϊόντων όπως και στους εξουσιοδοτημένους αντιπροσώπους. Αξίζει να αναφερθούν οι ορισμοί των παρόχων, των φορέων ανάπτυξης και των εισαγωγέων σύμφωνα με τον νόμο της ΕΕ για την ΤΝ:
- Πάροχοι: Οι πάροχοι είναι άτομα ή οργανισμοί που αναπτύσσουν ένα σύστημα ΤΝ,το διαθέτουν στην αγορά ή θέτουν το σύστημα ΤΝ σε λειτουργία με το όνομα ή το εμπορικό σήμα τους.
- Οι φορείς ανάπτυξης είναι άτομα ή οργανισμοί που χρησιμοποιούν συστήματα ΤΝ. Για παράδειγμα, ένας οργανισμός που χρησιμοποιεί ένα chatbot[2] τεχνητής νοημοσύνης τρίτου μέρους για τη διαχείριση ερωτημάτων εξυπηρέτησης πελατών. Η πράξη της ΕΕ για την ΤΝ εφαρμόζεται επίσης σε παρόχους και φορείς ανάπτυξης εκτός ΕΕ, εάν η ΤΝ τους ή τα αποτελέσματα της ΤΝ χρησιμοποιούνται στην ΕΕ.
- Εισαγωγείς: Είναι άτομα και οργανισμοί που βρίσκονται ή είναι εγκατεστημένοι στην ΕΕ και φέρνουν στην αγορά της ΕΕ συστήματα ΤΝ ενός ατόμου ή μιας εταιρείας που είναι εγκατεστημένη εκτός της ΕΕ.
Άλλος ένας προβληματισμός που τίθεται εδώ είναι ποιος θα έχει την ευθύνη σε περίπτωση λάθους του συστήματος ΤΝ.
Το σύστημα δεν έχει νομική οντότητα οπότε η ευθύνη μεταφέρεται σε έναν από τους παραπάνω.
Ο Ευρωπαϊκός Κανονισμός για την Τεχνητή Νοημοσύνη εισάγει ένα νέο, καινοτόμο νομικό πλαίσιο που στοχεύει στη ρύθμιση της ΤΝ στην Ευρώπη. Μέσω της ταξινόμησης των συστημάτων ανάλογα με τον κίνδυνο, παρέχει σαφείς κατευθύνσεις για την ανάπτυξη και χρήση της ΤΝ, με σκοπό την προστασία των πολιτών και την προώθηση της καινοτομίας. Η επιτυχία αυτού του κανονισμού θα εξαρτηθεί από τη συνεργασία μεταξύ κυβερνήσεων, βιομηχανίας και πολιτών. Και φυσικά δεν εξαρτατάται μόνο από αυτό.
Τις περισσότερες φορές, η πρακτική εφαρμογή ενός κανονισμού μας δείχνει πιθανά κενά της νομοθέτησης. Και αυτό συμβαίνει επειδή η κάθε περίπτωση είναι διαφορετική και δεν μπορούν να καλύπτονται όλες οι παράμετροι του νόμου.
Καθώς η τεχνητή νοημοσύνη συνεχίζει να εξελίσσεται, είναι επιτακτική ανάγκη να διασφαλιστεί ότι η ανάπτυξή της συμβαδίζει με τις αξίες και τα θεμελιώδη δικαιώματα των πολιτών. Με την κατάλληλη ρύθμιση, η ΤΝ μπορεί να γίνει ένας πολύτιμος σύμμαχος στην καθημερινότητά μας, ενισχύοντας τη ζωή και την κοινωνία μας, αντί να την απειλεί.
[1] Τα συστήματα τεχνητής νοημοσύνης που παρέχουν «κοινωνική βαθμολόγηση» (σε ακριβή μετάφραση του όρου) φυσικών προσώπων από δημόσιους ή ιδιωτικούς φορείς τα οποία μπορεί να οδηγήσουν σε αποτελέσματα που εισάγουν διακρίσεις και στον αποκλεισμό ορισμένων ομάδων. Ενδέχεται όμως αυτά τα συστήματα να παραβιάζουν το δικαίωμα στην αξιοπρέπεια και της απαγόρευση των διακρίσεων και τις αξίες της ισότητας και της δικαιοσύνης. Τα εν λόγω συστήματα ΤΝ αξιολογούν ή ταξινομούν φυσικά πρόσωπα ή ομάδες αυτών με βάση πολλαπλά σημεία δεδομένων που σχετίζονται με την κοινωνική τους συμπεριφορά σε πολλαπλά πλαίσια ή με γνωστά, συμπερασματικά ή προβλεπόμενα προσωπικά χαρακτηριστικά ή χαρακτηριστικά προσωπικότητας σε ορισμένες χρονικές περιόδους.
[2] Το chatbot είναι ένα σύστημα τεχνητής νοημοσύνης που αυτοματοποιεί την υποστήριξη πελατών με φιλικό, οικείο τρόπο, παρέχοντας υπηρεσίες 24/7.
