H Χρέωση Δικαστικών Υποθέσεων με Αλγόριθμο ενώπιον του ΔΕΕ

Σπυριδούλα Καρύδα

LL.M.

Με το C-159/25 προδικαστικό ερώτημα, αποσταλέν από δικαστήριο της Πολωνίας, παραπέμπεται προς επίλυση στο ΔΕΕ η συμβατότητα της χρέωσης δικαστικών υποθέσεων με χρήση αλγορίθμου με το ενωσιακό δίκαιο. Σε αμφότερες τις εν λόγω υποθέσεις εγείρεται το ζήτημα αν η διαδικασία ορισμού της συνθέσεως της έδρας του δικαστηρίου με τη χρήση εργαλείου πληροφορικής το οποίο λειτουργεί βάσει λογισμικού αυτοματοποιημένης αναθέσεως υποθέσεων (ήτοι, του Συστήματος Τυχαίας Κατανομής Υποθέσεων, στο εξής: SLPS) είναι σύμφωνη με το άρθρο 2 και το άρθρο 19 παρ. 1 εδ β΄ της Συνθήκης για την Ευρωπαϊκή Ένωση, σε συνδυασμό με τα άρθρα 20 και 47 του Χάρτη των Θεμελιωδών Δικαιωμάτων και την αιτιολογική σκέψη 61 του Κανονισμού (ΕΕ) 2024/1689 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 13ης Ιουνίου 2024 (Κανονισμός για την Τεχνητή Νοημοσύνη, εφεξής: ΚΤΝ) με την οποία επισημαίνεται ότι ορισμένα συστήματα ΤΝ που προορίζονται για την απονομή δικαιοσύνης και τις δημοκρατικές διαδικασίες θα πρέπει να ταξινομηθούν ως υψηλού κινδύνου, λαμβανομένου υπόψη του δυνητικά σημαντικού αντικτύπου τους στη δημοκρατία, το κράτος δικαίου, τις ατομικές ελευθερίες, καθώς και στο δικαίωμα πραγματικής προσφυγής και αμερόληπτου δικαστηρίου.

Ειδικότερα ερωτάται, μεταξύ άλλων, εάν: Υπό το πρίσμα των ανωτέρω διατάξεων, αποτελεί ανεξάρτητο και αμερόληπτο δικαστήριο το οποίο έχει προηγουμένως συσταθεί νομίμως και το οποίο διασφαλίζει την εκδίκαση υποθέσεων χωρίς αδικαιολόγητη καθυστέρηση και χωρίς διακρίσεις και εγγυάται την αποτελεσματική δικαστική προστασία, τακτικό δικαστήριο κράτους μέλους αποφαινόμενο σε τελευταίο βαθμό δικαιοδοσίας, στη σύνθεση του οποίου μετέχει δικαστής του εν λόγω δικαστηρίου, ο οποίος έχει οριστεί για την εκδίκαση υποθέσεως κατόπιν χρήσεως λογισμικού αυτοματοποιημένης αναθέσεως υποθέσεων, βάσει εκθέσεως κληρώσεως και προηγούμενης αποφάσεως του συμβουλίου διοικήσεως του δικαστηρίου: α) όταν ο ορισμός του […] δικαστή πραγματοποιείται με χρήση του λογισμικού αυτοματοποιημένης αναθέσεως υποθέσεων του συστήματος SLPS το οποίο δημιουργήθηκε από εκπρόσωπο της εκτελεστικής εξουσίας υπό τον Υπουργό Δικαιοσύνης και [κατόπιν] θεσπίσεως των κανόνων για την κατανομή των υποθέσεων και την κλήρωση στα δικαστήρια με κανονιστική πράξη του ίδιου υπουργού και κατά τρόπο ο οποίος συνιστά προσβολή του δικαιώματος σε ανεξάρτητο και αμερόληπτο δικαστήριο και παραβίαση της αρχής του δικαιώματος σε νόμιμο δικαστή, β) όταν ο ορισμός του […] δικαστή πραγματοποιείται με χρήση του λογισμικού αυτοματοποιημένης αναθέσεως υποθέσεων του συστήματος SLPS χωρίς να υφίσταται γνώση και δυνατότητα επαλήθευσης της λειτουργίας του πηγαίου κώδικα του αλγορίθμου τυχαίας αναθέσεως υποθέσεων μέσω του SLPS, περί του οποίου απλώς δημοσιεύθηκαν ορισμένα στοιχεία σε ανάρτηση στον ιστότοπο του Biuletyn Informacji Publicznej (Δημόσιου Ενημερωτικού Δελτίου), και δεδομένου ότι το συγκεκριμένο λογισμικό τυχαίας αναθέσεως υποθέσεων ενέχει κίνδυνο σφαλμάτων και επιδέχεται χειραγώγηση, κατά τρόπον ο οποίος συνιστά προσβολή του δικαιώματος των διαδίκων σε δίκαιη δίκη, γ) όταν ο ορισμός του […] δικαστή πραγματοποιείται με χρήση του λογισμικού αυτοματοποιημένης αναθέσεως υποθέσεων του συστήματος SLPS που δημιουργήθηκε από εκπρόσωπο της εκτελεστικής εξουσίας υπό τον Υπουργό Δικαιοσύνης και [κατόπιν] θεσπίσεως των κανόνων για την κατανομή των υποθέσεων και την κλήρωση στα δικαστήρια με κανονιστική πράξη του ίδιου υπουργού κατά τρόπο που παραβιάζει την αρχή του δικαιώματος των διαδίκων να εκδικάζονται οι υποθέσεις τους χωρίς αδικαιολόγητη καθυστέρηση, δεδομένου ότι με τη λειτουργία του SLPS δεν διασφαλίζεται η ισομερής κατανομή των υποθέσεων στους δικαστές, με αποτέλεσμα να παραβιάζονται οι αρχές της απαγορεύσεως των διακρίσεων εις βάρος των διαδίκων και της ισότητας ενώπιον του νόμου, γεγονός το οποίο έχει ως συνέπεια ότι ο δικαστής καταλήγει να αποφαίνεται υπό συνθήκες ελλείψεως νομιμότητας, καθόσον η σύνθεση του εν λόγω δικαστηρίου αντιβαίνει στους κανόνες δικαίου, χωρίς να διασφαλίζεται αποτελεσματική δικαστική προστασία στους διαδίκους, και ενώ ο δικαστής δεν διαθέτει, βάσει του εθνικού δικαίου, πραγματική προσφυγή κατά της γραπτής αποφάσεως του διοικητικού οργάνου του δικαστηρίου περί αναθέσεως υποθέσεως και περί ορισμού της συνθέσεως του δικαστηρίου, δεδομένου ότι δεν υφίσταται ένδικο βοήθημα που να διασφαλίζει στον δικαστή τη δυνατότητα να προσβάλει την εν λόγω απόφαση ενώπιον αμερόληπτου και ανεξάρτητου δικαστηρίου στο πλαίσιο διαδικασίας που πληροί τις απαιτήσεις του άρθρου 47 του Χάρτη των Θεμελιωδών Δικαιωμάτων.

Ωστόσο, η πρακτική της χρέωσης δικαστικών υποθέσεων με αλγόριθμο εφαρμόζεται και στη χώρα μας. Με το άρθρο 20 παρ.1 του π.δ. 18/1989, όπως αυτό ισχύει μετά την αντικατάστασή του με το άρθρο 4 του ν. 5119/2024 ( Α΄103), ορίσθηκε, ειδικώς για τις υποθέσεις ενώπιον του Συμβουλίου της Επικρατείας, ότι «Το ένδικο βοήθημα ή μέσο αμέσως μετά από την κατάθεση ή περιέλευσή του στο Δικαστήριο ανατίθεται από τη Γραμματεία του αρμόδιου Τμήματος, υπό την εποπτεία του Προέδρου του Τμήματος, σε Πάρεδρο ή Εισηγητή από εκείνους που κατανέμονται στο Τμήμα, για την εισαγωγή της υπόθεσης σε συμβούλιο, σύμφωνα με την παρ. 4 του άρθρου 22. Η ανάθεση γίνεται βάσει αλγορίθμου με ίση κατανομή υποθέσεων σε κάθε Πάρεδρο και Εισηγητή». Αντίστοιχη είναι και η ρύθμιση του άρθρου 12 παρ.1 του Κανονισμού του ΣτΕ (βλ. υπ αριθμ. 24/4.10.2024 απόφαση, Β΄ 7157/30.12.2024) σύμφωνα με την οποία: «1. Κάθε ένδικο βοήθημα ή μέσο, μετά την περιέλευση ή κατάθεσή του στο Δικαστήριο, ανατίθεται από τη γραμματεία του αρμόδιου τμήματος, υπό την εποπτεία του Προέδρου, σε Πάρεδρο ή Εισηγητή του ίδιου τμήματος, προκειμένου να εισαχθεί στον κατά το άρθρο 34Γ του π.δ. 18/1989 δικαστικό σχηματισμό σε συμβούλιο σύμφωνα με την παρ. 4 του άρθρου 22 του ίδιου π.δ. Η ανάθεση γίνεται βάσει αλγορίθμου κατά την παρ. 1 του άρθρου 20 του ανωτέρω π.δ. με κριτήριο την ίση κατανομή υποθέσεων σε κάθε Πάρεδρο και Εισηγητή. Για την ανάθεση αυτή, όταν καταστεί τεχνικά εφικτό, δύναται να λαμβάνονται υπόψη παράμετροι, όπως η συνάφεια και το αντικείμενο των υποθέσεων και η προηγούμενη χρέωση. Οι υποθέσεις μείζονος σπουδαιότητας ανατίθενται από τη γραμματεία της Ολομέλειας, υπό την εποπτεία του Προέδρου, σε Πάρεδρο με τριετή τουλάχιστον υπηρεσία στον βαθμό».

Η διάταξη αυτή, πριν την ψήφιση του ν. 5119/2024, έτυχε ευρείας διαβούλευσης και προβληματισμού μεταξύ των μελών του Δικαστηρίου, ως προς δε την παρούσα έκταση εφαρμογής της διάταξης αυτής αρμόδιο να παράσχει ενημέρωση είναι το ίδιο το Δικαστήριο. Επισημαίνεται επίσης, ότι κατά το χρονικό διάστημα των εν θέματι συζητήσεων (Δεκέμβριος 2023) ο ΚΤΝ δεν είχε τεθεί ακόμη σε εφαρμογή. Στις συζητήσεις που έγιναν τότε επεσήμανα μετ’ επιτάσεως ότι η χρέωση με αλγόριθμο ήταν αμφισβητούμενη πρακτική υιοθετούμενη από την Πολωνία και ότι μόλις μετά από 4 χρόνια κατέστη εφικτή η πρόσβαση στον τύπο του αλγορίθμου και μάλιστα μετά από απόφαση του ανώτατου δικαστηρίου. Από την αποστολή του προδικαστικού ερωτήματος είναι πασιφανές ότι τα προβλήματα (αμεροληψίας, ανισομερούς χρέωσης κλ.π.) δεν λύθηκαν.

Είχα προτείνει επίσης να τεθεί υπόψη της ΔΟ και να αξιολογηθεί αναλόγως η δημοσιευθείσα την 7.12.2023 απόφαση ΔΕΕ  (C-634/21: SCHUFA) με την οποία ερμηνεύεται η έννοια της ‘απόφασης’ υπό το άρθρο 22 του ΓΚΠΔ και είχα επισημάνει ότι η χρέωση των υποθέσεων με αλγόριθμο έχει όλα τα χαρακτηριστικά της «αυτοματοποιημένης απόφασης» και συνακόλουθα θα πρέπει να υπακούει τις απαιτήσεις του ΓΚΠΔ, με απλά λόγια είχα επισημάνει ότι:

1.Η πρόβλεψη για χρέωση με αλγόριθμο συνιστά εθνική νομική βάση για την εν θέματι επεξεργασία, σύμφωνα με το άρθρο 22 παρ. 2 περ. β΄ του ΓΚΠΔ. Δηλαδή, έχουμε το καταρχήν  ‘εάν’ της επεξεργασίας σύμφωνα με την αρχή της επιτρεπτικότητας που διαπνέει όλη τη νομοθεσία περί προσωπικών δεδομένων. Το ‘πως’ θα μας το πει ο ΓΚΠΔ και ο ν. 4624/2019, όπου εφαρμόζεται (βλ. και σκ. 65 απόφασης SCHUFA).  Ωστόσο, ακόμη και η κρίση αυτή, εναπόκειται στην κρίση της ΔΟ ( βλ. σκ. 72 απόφασης SCHUFA). Υπόψιν ότι η έννοια της αυτοματοποιημένης απόφασης έχει ήδη ερμηνευθεί ευρέως από το ΔΕΕ στην ίδια ως άνω απόφαση, σε προηγούμενες σκέψεις. Είχα επίσης τονίσει ότι η χρέωση με αλγόριθμο συνιστά αυτοματοποιημένη απόφαση που συγκεντρώνει και τα τρία κριτήρια του ΔΕΕ¹ ενόψει και της ευρείας ερμηνείας που δόθηκε από το ΔΕΕ και του υποθετικού σεναρίου της αξιολόγησης π.χ. δικαστικών λειτουργών με τον χαρακτηρισμό «πολύ καλός», διότι κατά την κρίση του Συμβουλίου χρεώθηκαν και επεξεργάσθηκαν μόνο εύκολες υποθέσεις. Η χρέωση των υποθέσεων είναι σημαντική διαδικαστική ενέργεια του Δικαστηρίου με σοβαρές επιπτώσεις στους διαδίκους και στους δικαστικούς λειτουργούς και δεν μπορεί να αφεθεί στον «αλγόριθμο». Οι Πρόεδροι των δικαστηρίων με την εμπειρία τους και τη γνώση τους είναι σε θέση να γνωρίζουν τις ικανότητες και δυνατότητες κάθε δικαστικού λειτουργού και μόνοι αυτοί, κατά το Σύνταγμα, είναι αρμόδιοι για την διαδικαστική αυτή ενέργεια.

2.Αν γίνει δεκτό ότι η διάταξη αυτή συνιστά την εθνική νομική βάση του άρθρου 22 παρ.2 περ. β΄ του ΓΚΠΔ τότε θα πρέπει να λαμβάνονται όλα τα κατάλληλα μέτρα για την προστασία των υποκειμένων των δεδομένων ( βλ. σκ. 65-66 απόφασης SCHUFA), τα οποία πάντως στην ανωτέρω ρύθμιση δεν εξειδικεύονται, ίσως εξειδικευθούν στο μέλλον, πάντως σχετική εξουσιοδότηση στην επίμαχη διάταξη δεν τέθηκε. Τα δικαιώματα αυτά περιλαμβάνουν το δικαίωμα ενημέρωσης του υποκειμένου των δεδομένων για τον τύπο του αλγόριθμου, κατάλληλα τεχνικά και οργανωτικά μέτρα ώστε να ελαχιστοποιείται ο κίνδυνος σφαλμάτων και δυνατότητα διόρθωσης σφαλμάτων και αποφυγής διακρίσεων σε βάρος του υποκειμένου των δεδομένων. Εξάλλου, τα μέτρα αυτά περιλαμβάνουν το δικαίωμα του υποκειμένου των δεδομένων (δηλ. δικαστές και διαδίκους) να εξασφαλίζεται πάντοτε η ανθρώπινη παρέμβαση, να εκφράζει την άποψή του και να αμφισβητεί την απόφαση που λαμβάνεται σχετικά ( βλ. σκ. 66 απόφασης SCHUFA).

Είναι αληθές, ότι οι Πολωνοί δικαστικοί λειτουργοί επέλεξαν να θέσουν τα ερωτήματά τους υπό το πρίσμα του ΚΤΝ και όχι του ΓΚΠΔ, γεγονός το οποίο είμαι βέβαιη ότι θα σχολιασθεί από την ακαδημαϊκή κοινότητα. Η πρακτική όμως αυτή πρέπει οπωσδήποτε να ελεγχθεί και από τη άποψη του τελευταίου. Τούτο διότι, ο ΚΤΝ αντιπροσωπεύει την εμπορική όψη της τεχνητής νοημοσύνης και στοχεύει να διευκολύνει την κυκλοφορία των προϊόντων και υπηρεσιών και για αυτό μάλιστα έχει επικριθεί για έλλειψη ανθρωποκεντρικής προσέγγισης² ή ότι δεν είναι επαρκώς συμβατός με τον ΓΚΠΔ. Πάντως, ο ΚΤΝ είναι προορισμένος να εφαρμοστεί συμπληρωματικά με τη νομοθεσία για τα προσωπικά δεδομένα.³ Εξάλλου, το άρθρο 2 (7) του ΚΤΝ ειδικώς προβλέπει ότι η εφαρμογή του ΚΤΝ δεν επηρεάζει τη νομοθεσία για τα προσωπικά δεδομένα, ενώ η αιτιολογική σκέψη 10 περιέχει ρήτρα περί μη ανάμειξης του ΚΤΝ με την νομοθεσία για τα προσωπικά δεδομένα. Επιπλέον, ο ΚΤΝ αφορά ως επί το πλείστον τους παρόχους, δηλαδή κατασκευαστές, και σε δεύτερο βαθμό τους φορείς εφαρμογής, δηλαδή επαγγελματικούς χρήστες, συστημάτων ΤΝ, τα οποία ορίζονται ως «μηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα» και επικεντρώνεται εξ αυτού του λόγου στο προϊόν. Υπό τα ανωτέρω δεδομένα, οι διατυπωθέντες προβληματισμοί μου υπό το πρίσμα του άρθρου 22 ΓΚΠΔ και με δεδομένη την αδιαφάνεια των αλγορίθμων παραμένουν βάσιμοι.

Αναμένω με ενδιαφέρον την απόφαση και τις κατευθύνσεις του ΔΕΕ, ιδιαίτερα ως προς το πως θα αξιοποιήσει την αναφορά στο προδικαστικό ερώτημα της αιτιολογικής σκέψης 61 του ΚΤΝ. Επισημαίνεται επίσης ότι ο ΚΤΝ έχει μία μακρά περίοδο προσαρμογής και δεν είναι άμεσα εφαρμοστέος ως προς όλες τις διατάξεις του.

Υπό οποιαδήποτε εκδοχή, η χρέωση με αλγόριθμο αποτελεί ένα χαρακτηριστικό παράδειγμα εφαρμογής τεχνολογίας που ρυθμίζεται μεν σε ενωσιακό επίπεδο, αφορά δε τον σκληρό πυρήνα της δικαστικής εξουσίας του κάθε κράτους μέλους και συνακόλουθα απαιτεί τη μέγιστη προσοχή.