Σπυριδούλα Καρύδα
LL.M.
Με το άρθρο 10 του ΣχΝ υπό τον τίτλο: «Ολοκλήρωση της κτηματογράφησης, απλοποίηση διαδικασιών, χρήση τεχνητής νοημοσύνης και διατάξεις για τη λειτουργία του ν.π.δ.δ. «Ελληνικό Κτηματολόγιο», λοιπές διατάξεις του Υπουργείου Ψηφιακής Διακυβέρνησης» προτείνεται η εισήγηση νομικού ελέγχου με αντικείμενο τον έλεγχο των προϋποθέσεων καταχώρισης της αιτούμενης πράξης να υποστηρίζεται από ‘εφαρμογή τεχνητής νοημοσύνης’, η οποία, σύμφωνα με την παρ. 2 του ως άνω άρθρου, θα λειτουργεί σύμφωνα με τον Κανονισμό (ΕΕ) 2024/1689 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 13ης Ιουνίου 2024, για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη [L 2024/1689].
Από πλευράς ενωσιακού νομοθέτη, αναγνωρίζοντας τους κινδύνους από την εφαρμογή συστημάτων τεχνητής νοημοσύνης, μέσω της δεσμευτικής για τα Κράτη Μέλη (ΚΜ) υιοθέτηση της νομικής πράξης του ‘κανονισμού’, έχουν θεσπισθεί εναρμονισμένοι κανόνες σχετικά με την τεχνητή νοημοσύνη (Kανονισμός για την τεχνητή νοημοσύνη, L 2024/1689, εφεξής: ΚΤΝ) με το κριτήριο της διαβάθμισης του κινδύνου ( risk-based approach). Ο κανονισμός βασίζεται σε μια δυαδική αντίληψη: αφενός, αποσκοπεί στην προστασία του κεκτημένου της ΕΕ στον τομέα των θεμελιωδών δικαιωμάτων, αφετέρου, στην προώθηση της ανταγωνιστικότητας της ΕΕ. Οι δύο αυτοί στόχοι – ιδιαίτερα στον τομέα των νέων τεχνολογιών – είναι δύσκολο να εναρμονισθούν.[1]
Στην προβληματική αυτή, η οριοθέτηση του ορισμού των ‘συστημάτων τεχνητής νοημοσύνης’ (AIs) αποτέλεσε κατά τη διάρκεια των διαπραγματεύσεων έντονο σημείο αντιπαράθεσης. Επισημαίνεται ότι, έως και την ψήφιση του εν θέματι κανονισμού, δεν υπήρχε νομικά δεσμευτικός ορισμός για τα συστήματα τεχνητής νοημοσύνης. [2]Αντιθέτως, ελλόχευε σοβαρός κίνδυνος υπό τον ορισμό των συστημάτων τεχνητής νοημοσύνης να ενταχθούν όλες οι τεχνολογικές εφαρμογές και τα λογισμικά τους. [3] Ένας άλλος φόβος ήταν ότι η υπερβολική ρύθμιση θα μπορούσε να θέσει σε κίνδυνο τις σχετικές τεχνολογικές εξελίξεις ή να αναγκάσει τις εταιρείες υψηλής τεχνολογίας να εγκαταλείψουν την ΕΕ. Έτσι, για παράδειγμα, χώρες όπως η Γαλλία και η Γερμανία αντιτάχθηκαν έντονα στην πιθανή ρύθμιση μοντέλων τεχνητής νοημοσύνης, όπως το ChatGPT, μέσω του ΚΤΝ, εκφράζοντας επιφυλάξεις κυρίως οικονομοτεχνικού χαρακτήρα. [4]
Τα προλεγόμενα έχουν ως στόχο να αναδείξουν τη σημασία του ορισμού ενός συστήματος ως εμπίπτοντος στην έννοια του συστήματος ΤΝ στο οποίο και μόνο εφαρμόζεται ο εν θέματι κανονισμός. Έτσι λοιπόν, ως σύστημα ΤΝ[5] ορίζεται στο άρθρο 3 σημείο 1) του ΚΤΝ το: «μηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα». Ο ΚΤΝ προβλέπει επίσης και την περίπτωση «μοντέλων ΤΝ γενικού σκοπού» [άρθρο 3 σημείο 63) του ΚΤΝ].
Ως πρώτη παρατήρηση στην προτεινόμενη ρύθμιση θα επισημάνω την ορολογική ασυνέπεια που παρουσιάζει σε σχέση με τον ΚΤΝ καθώς χρησιμοποιεί τον αόριστο και αδόκιμο ορισμό ‘εφαρμογή τεχνητής νοημοσύνης’( άρθρο 10 παρ.1), ενώ σπεύδει στην παρ.2 να ορίσει ότι η εφαρμογή αυτή θα λειτουργεί σύμφωνα με τον ΚΤΝ. Η πρόβλεψη αυτή είναι προεχόντως αντίθετη με το ενωσιακό δίκαιο καθώς όπως προελέχθει μόνο συστήματα ΤΝ με τα ως άνω χαρακτηριστικά εμπίπτουν στο πεδίο εφαρμογής του ΚΤΝ και όχι το αντίθετο, και πάντως αν θα εμπίπτει ή όχι το όποιο σύστημα ΤΝ υιοθετηθεί στο πεδίο εφαρμογής του ΚΤΝ το ορίζει ο ίδιος ο κανονισμός και όχι ο εθνικός νομοθέτης. Εξάλλου, οποιαδήποτε εθνική ρύθμιση έρχεται σε αντίθεση με το ενωσιακό δίκαιο δεν τυγχάνει εφαρμογής (βλ. ενδ. C- 106/77 υπόθεση Simmenthal).
Επισημαίνεται επίσης, ότι με άρθρο 29 παρ.5 του ΣχΝ δίδεται εξουσιοδότηση στο Δ.Σ. του Εθνικού Κτηματολογίου για τη ρύθμιση των ειδικότερων ζητημάτων σχετικά με την ανάπτυξη και τη λειτουργία της εφαρμογής εισήγησης νομικού ελέγχου με τη χρήση συστήματος τεχνητής νοημοσύνης του άρθρου 10, όπως τα αντλούμενα έγγραφα ή πληροφορίες, οι αναγκαίες διαλειτουργικότητες με πληροφοριακά συστήματα και τα οργανωτικά και τεχνικά μέτρα. Ωστόσο, η εξουσιοδοτική διάταξη είναι εξαιρετικά ευρεία καθώς δεν έχουν ορισθεί τα χαρακτηριστικά του συστήματος ΤΝ, ερευνητέο αν εμπίπτει στα υψηλού κινδύνου συστήματα ΤΝ, ενώ στη διάταξη αυτή για πρώτη φορά γίνεται αναφορά σε ‘σύστημα ΤΝ’ και όχι σε ‘εφαρμογή’.
Περαιτέρω, εφιστώ την προσοχή και σε ένα άλλο ζήτημα. Σύμφωνα με το σημείο 8 του Παραρτήματος ΙΙΙ του ΚΤΝ, υπό τον τίτλο «Απονομή δικαιοσύνης και δημοκρατικές διαδικασίες», χαρακτηρίζονται ως υψηλού κινδύνου και τα «συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από δικαστική αρχή ή για λογαριασμό της για τη συνδρομή προς δικαστική αρχή κατά την έρευνα και την ερμηνεία των πραγματικών περιστατικών και του νόμου και κατά την εφαρμογή του νόμου σε συγκεκριμένο σύνολο πραγματικών περιστατικών ή να χρησιμοποιηθούν με παρεμφερή τρόπο σε εναλλακτική επίλυση διαφορών». Η πρόβλεψη αυτή σε συνδυασμό με την αιτ.σκ. 63 του ΚΤΝ χρήζει ιδιαίτερης προσοχής διότι ο έλεγχος πράξεων κτηματολογίου αποτελεί σαφέστατα προπαρασκευαστική ενέργεια για λογαριασμό και δικαστικής αρχής και ενδέχεται να εμπίπτει στα υψηλού κινδύνου συστήματα ΤΝ από την άποψη αυτή ( βλ. ν. 2664/1998 όπως ισχύει).
Ενόψει των παραπάνω, θα πρότεινα η διάταξη να αποσυρθεί διότι η εμπειρία από την εφαρμογή του ΚΤΝ είναι ισχνή και το κυριότερο δεν έχει ορισθεί η αρμόδια εποπτική αρχή επί της αγοράς. Αντιλαμβάνομαι, από την διατύπωση του άρθρου 29 παρ. 2 περ. ε΄, ότι το επίμαχο άρθρο 10 δεν έχει άμεση εφαρμογή. Ωστόσο, ενωσιακά νομοθετήματα της εμβέλειας του ΚΤΝ ευκταίο θα ήταν να τυγχάνουν δέουσας προσοχής κατά το νομοπαρασκευαστικό έργο, ιδίως στον ευαίσθητο τομέα της αγοράς ακινήτων (real estate). Τούτο διότι, η όποια σπουδή για την υιοθέτηση σχετικών τεχνολογικών εφαρμογών, μετά τη θέση σε ισχύ του ΚΤΝ, χωρίς σαφή οριοθέτηση των συστημάτων ΤΝ, θέτει σε κίνδυνο και την οικονομία και το επενδυτικό ενδιαφέρον στον τομέα αυτό συνολικά.
Τέλος, θα εισηγούμουν ενθέρμως οι όποιες λεπτομέρειες να εισαχθούν με Π.Δ. μετά από επεξεργασία από το Συμβούλιο της Επικρατείας και λήψη υπόψη της γνώμης της ΑΠΔΠΧ (η εν θέματι επεξεργασία προδήλως αφορά σε επεξεργασία δεδομένων προσωπικού χαρακτήρα) καθώς και της αρμόδιας για την εποπτεία της αγοράς εποπτικής αρχής, σύμφωνα με τα οριζόμενα στο άρθρο 74 παρ. 8, όταν αυτή ορισθεί. Εξάλλου, η αλληλεπίδραση του ΓΚΠΔ με τον ΚΤΝ είναι πρόδηλη [βλ.EDPB: Statement 3/2024 on data protection authorities’ role in the Artificial Intelligence Act framework, AI system development: CNIL’s recommendations to comply with the GDPR (7 June 2024)] και άρθρο 2 παρ. 7 και αιτ.σκ. 10 ΚΤΝ.
Σπυριδούλα Καρύδα
LL.M.
Πηγή: www.dikastis.gr
[1] Rostalski/Weiss, ZfDR 2021,329 (336).
[2] Herberger, NJW 2018, 2825 (2825).
[3] Ibid, 2825 (2826).
[4] Luca Bertuzzi, EU’s AI Act negotiations hit the brakes over foundation models (euroactiv.com, 15 November 2023)<https://www.euractiv.com/section/artificial-intelligence/news/eus-ai-act-negotiations-hit-the-brakes-over-foundation-models/>.
[5] Βλ. άρθρο 3 σημείο1) ΚΤΝ.
