Στην ΕΕ η πρώτη νομοθεσία στον κόσμο για την τεχνητή νοημοσύνη

Σε συμφωνία για τις πρώτες στον κόσμο νομοθεσίες για τις τεχνολογίες Τεχνητής Νοημοσύνης (ΤΝ) κατέληξαν μετά από τρεις ημέρες διαβουλεύσεων το Συμβούλιο της ΕΕ και το Ευρωπαϊκό Κοινοβούλιο λίγο μετά τα μεσάνυχτα της Παρασκευής προς Δευτέρα. Πρόκειται για την νομοθεσία για την Τεχνητή Νοημοσύνη (AI Act), η οποία θέτει ενιαίους κανόνες για την ασφάλεια τέτοιων συστημάτων στην αγορά της ΕΕ αλλά και για τον σεβασμό των θεμελιωδών δικαιωμάτων των πολιτών.

Παράλληλα ωστόσο, η προκαταρκτική συμφωνία που θα πρέπει να εγκριθεί μέσω των συνηθισμένων διαδικασιών από το Συμβούλιο και το Κοινοβούλιο, περιέχει και πρόνοιες για τόνωση των επενδύσεων και της καινοτομίας στον τομέα της Τεχνητής Νοημοσύνης στην Ευρώπη.

Οι θεσμοί της ΕΕ είχαν θέσει ως στόχο η νομοθεσία αυτή να αποτελέσει παγκόσμιο πρότυπο για τις τεχνολογίες Τεχνητής Νοημοσύνης, κατά τρόπο ανάλογο με την επιρροή που είχε σε άλλες αγορές ο κανονισμός GDPR για την προστασία των προσωπικών δεδομένων.

Σε περίπτωση παραβίασης των προνοιών, θα υπάρχει η δυνατότητα επιβολής χρηματικών προστίμων ύψους 35 εκατομμυρίων ευρώ ή 7% των παγκόσμιων δραστηριοτήτων της εταιρίας αν το ποσό αυτό υπερβαίνει τα 35 εκατ. ευρώ, αν και προβλέπονται πιο αναλογικά πρόστιμα για μικρομεσαίες και νεοφυείς επιχειρήσεις.

«Καταφέραμε να διατηρήσουμε μια εξαιρετικά λεπτή ισορροπία» δήλωσε σχετικά η Ισπανίδα Υφυπουργός Ψηφιοποίησης και Τεχνητής Νοημοσύνης, Κάρμε Αρτίγας, εκ μέρους της Ισπανικής Προεδρίας του Συμβουλίου της ΕΕ.

Η ισορροπία αφορούσε την προσπάθεια «να δώσουμε ώθηση στην καινοτομία και την υιοθέτηση της τεχνητής νοημοσύνης σε ολόκληρη την Ευρώπη, σεβόμενοι παράλληλα πλήρως τα θεμελιώδη δικαιώματα των πολιτών», όπως είπε.

Η πράξη για την Τεχνητή Νοημοσύνη (AI Act) ρυθμίζει τις συγκεκριμένες τεχνολογίες βάσει της αρχής πως όσους περισσότερους κίνδυνους παρουσιάζει μια συγκεκριμένη εφαρμογή της τεχνολογίας ΤΝ, τόσο αυστηρότεροι πρέπει να είναι οι κανόνες ρύθμισης. Βάσει των όσων έχουν συμφωνηθεί μέχρι στιγμής, η νομοθεσία θα τεθεί σε εφαρμογή δύο χρόνια μετά την τελική έγκρισή της, εκτός από συγκεκριμένες εξαιρέσεις.

Η συμφωνία στην οποία κατέληξαν Συμβούλιο και Κοινοβούλιο, προσθέτει στην αρχική πρόταση της Κομισιόν η οποία χρονολογείται από τον Απρίλιο του 2021, κανόνες για τα μοντέλα ΤΝ υψηλού αντίκτυπου και γενικού σκοπού μπορούν να προκαλέσουν συστημικούς κίνδυνους στο μέλλον, καθώς και για συστήματα ΤΝ υψηλού κινδύνου.

Η νομοθεσία απαγορεύει τη χρήση ΤΝ σε τομείς όπου ο κίνδυνος εκτιμάται ως απαράδεκτα υψηλός, κατηγορία που περιλαμβάνει τη χειραγώγηση της συμπεριφοράς, τη μη στοχευμένη άντληση εικόνων προσώπων από το διαδίκτυο ή από υλικό από κάμερες κλειστού κυκλώματος παρακολούθησης, την αναγνώριση συναισθημάτων στο χώρο εργασίας και στα εκπαιδευτικά ιδρύματα, την κοινωνική βαθμολόγηση, τη βιομετρική κατηγοριοποίηση για την εξαγωγή συμπερασμάτων για ευαίσθητα δεδομένα, όπως ο σεξουαλικός προσανατολισμός ή οι θρησκευτικές πεποιθήσεις, και ορισμένες περιπτώσεις προγνωστικής αστυνόμευσης για άτομα.

Επίσης καθορίζεται σύστημα διακυβέρνησης με την ΕΕ να έχει ορισμένες αρμοδιότητες για την εφαρμογή των κανόνων, με τη δημιουργία ενός Γραφείου ΤΝ στην Κομισιόν το οποίο θα επιβλέπει την ανάπτυξη προχωρημένων μοντέλων ΤΝ, με τη συνδρομή επιστημονικού πάνελ ανεξάρτητων ειδικών, με συντονισμό μέσω συμβουλίου εκπροσώπων των κρατών μελών, και με συνεισφορά σε τεχνικό επίπεδο από συμβουλευτικό φόρουμ στο οποίο θα συμμετέχουν εκπρόσωποι της βιομηχανίας, της κοινωνίας των πολιτών και της ακαδημαϊκής έρευνας.

Ωστόσο, οι αρχές επιβολής του νόμου θα έχουν τη δυνατότητα χρήσης βιομετρικής ταυτοποίησης εξ αποστάσεως σε δημόσιους χώρους, με δικλείδες ασφαλείας κατά της κατάχρησης.

Οι χρήστες συστημάτων ΤΝ που αποτελούν δημόσιες οντότητες θα πρέπει πάντως να εγγράφονται στη βάση δεδομένων της ΕΕ για τη χρήση τέτοιων συστημάτων, ενώ οι χρήστες συστήματος αναγνώρισης συναισθημάτων θα πρέπει να ενημερώνουν τα φυσικά πρόσωπα που εκτίθενται σε αυτά.

Ακόμα, προβλέπεται υποχρέωση των φορέων που αναπτύσσουν συστήματα ΤΝ υψηλού κινδύνου να διενεργούν εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα πριν από τη χρήση τους.

Γενικότερα, η νομοθεσία για την ΤΝ περιέχει συγκεκριμένα κριτήρια για τον ορισμό τι αποτελεί σύστημα ΤΝ, αλλά και το πεδίο εφαρμογής της νομοθεσίας, καθώς δεν θα καλύπτει τις αρμοδιότητες των κρατών μελών στον τομέα της εθνικής ασφάλειας, οντότητες που αναλαμβάνουν αρμοδιότητες στον τομέα αυτό, συστήματα με αποκλειστική στρατιωτική ή αμυντική χρήση, ούτε σε συστήματα με αποκλειστική χρήση στους τομείς της έρευνας και της καινοτομίας.

Οι κανόνες που θα αφορούν τα συστήματα ΤΝ θα περιορίζονται σε υποχρεώσεις διαφάνειας στη χρήση τους για τα συστήματα που θεωρούνται περιορισμένου ρίσκου, ενώ θα επιτρέπεται η χρήση αρκετών συστημάτων υψηλού κινδύνου με συγκεκριμένες όμως προϋποθέσεις πριν να μπορούν να διατεθούν στην αγορά της ΕΕ.