AI ACT HANDBOOK

Πρόλογος

Κεφάλαιο 1

Εισαγωγή: σύντομη ιστορική αναδρομή
και αντίκτυπος της τεχνητής νοημοσύνης 1

I. Ιστορική Αναδρομή 1

II. Ο εξελισσόμενος ρόλος των εσωτερικών νομικών συμβούλων
(in-house legal practitioners) και των επαγγελματιών συμμόρφωσης στην εποχή της Τεχνητής Νοημοσύνης 8

Κεφάλαιο 2

Πώς ρυθμίζει το AI ACT την Τεχνητή Νοημοσύνη; 13

2.1.

To Πεδίο Εφαρμογής του Κανονισμού Τεχνητής Νοημοσύνης 13

Ι. Ουσιαστικό και Εδαφικό Εύρος Εφαρμογής 14

ΙΙ. Εξαιρέσεις 17

Α. Συστήματα Τεχνητής Νοημοσύνης που διατίθενται, λειτουργούν ή χρησιμοποιούνται αποκλειστικά για στρατιωτικούς, αμυντικούς ή σκοπούς εθνικής ασφάλειας 17

Β. Συστήματα Τεχνητής Νοημοσύνης που αναπτύσσονται αποκλειστικά για αμιγώς
ερευνητική χρήση και επιστημονική έρευνα και ανάπτυξη χωρίς καμίας μορφής
εμπορική εκμετάλλευση 18

Γ. Συστήματα Τεχνητής Νοημοσύνης που προορίζονται αποκλειστικά για xρήση
από φυσικά πρόσωπα που ενεργούν ως φορείς εφαρμογής για προσωπικούς,
μη επαγγελματικούς και οικιακούς σκοπούς 19

Δ. Συστήματα Τεχνητής Νοημοσύνης κατά τη φάση της έρευνας και δοκιμής τους 19

Ε. Σε δημόσιες αρχές τρίτων χωρών και διεθνείς οργανισμούς όταν ενεργούν
στο πλαίσιο συνεργασιών ή διεθνών συμφωνιών που έχουν συναφθεί με
την Ευρωπαϊκή Ένωση ή με κράτη μέλη για σκοπούς επιβολής του νόμου
και δικαστικής συνεργασίας 19

ΣΤ. Συστήματα Τεχνητής Νοημοσύνης που διατίθενται με άδεια ελεύθερου και ανοιχτού κώδικα (open-source) 20

III. Ενδεικτικά Παραδείγματα κατανόησης πεδίου εφαρμογής Κανονισμού
Τεχνητής Νοημοσύνης 21

2.2.

Η διττή φύση του Κανονισμού Τεχνητής Νοημοσύνης
και των συναφών υποχρεώσεων 27

Ι. Διασφάλιση της ελεύθερης κυκλοφορίας Συστημάτων Τεχνητής Νοημοσύνης
στην Ευρωπαϊκή αγορά βάσει κανόνων ασφάλειας προϊόντων 29

ΙΙ. Προώθηση της καινοτομίας, της ανταγωνιστικότητας και της οικονομικής ανάπτυξης, με έμφαση στις μικρομεσαίες (ΜΜΕ) επιχειρήσεις 31

ΙΙΙ. Προάσπιση των θεμελιωδών δικαιωμάτων, της ασφάλειας και
του κράτους δικαίου 34

2.3.

Τι ορίζεται ως «Σύστημα Τεχνητής Νοημοσύνης» 45

I. Επιμέρους κριτήρια ορισμού Συστήματος Τεχνητής Νοημοσύνης κατά
τον Κανονισμό 49

Α. Μηχανικό Σύστημα 49

Β. Σύστημα με πολλαπλά επίπεδα αυτονομίας 50

Γ. Σύστημα με δυνατότητα προσαρμοστικότητας 51

Δ. Σύστημα με ρητούς ή σιωπηρούς στόχους 52

Ε. Σύστημα με ικανότητα συναγωγής συμπερασμάτων/στοιχείων εξόδου 53

1. Συστήματα βελτίωσης της μαθηματικής βελτιστοποίησης 55

2. Συστήματα Βασικής Επεξεργασίας Δεδομένων 55

3. Συστήματα απλής πρόβλεψης 56

4. Συστήματα βασιζόμενα στην κλασσική ευρετική 56

ΣΤ. Σύστημα που παράγει αποτελέσματα υπό μορφή προβλέψεων, συστάσεων
ή αποφάσεων 56

Ζ. Σύστημα με αλληλεπίδραση με φυσικό ή εικονικό περιβάλλον 57

2.4.

Λοιποί βασικοί ορισμοί 61

Ι. Δεδομένα εισόδου 61

ΙΙ. Δεδομένα εκπαίδευσης 62

ΙΙΙ. Σοβαρό Περιστατικό 64

IV. Συστημικός Κίνδυνος 66

V. Ουσιαστική Τροποποίηση 68

VI. Επιδιωκόμενος σκοπός 70

VII. Σύστημα παρακολούθησης μετά τη διάθεση στην αγορά 72

VIII. Δοκιμή σε Πραγματικές Συνθήκες 74

IX. Σήμανση CE 76

X. Νομοθεσία Εναρμόνισης 78

2.5.

Κατηγοριοποίηση των Συστημάτων Τεχνητής Νοημοσύνης
βάσει κινδύνου και Μοντέλα Γενικού Σκοπού 81

I. Κατηγοριοποίηση Συστημάτων Τεχνητής Νοημοσύνης βάσει κινδύνου 81

A. Συστήματα Τεχνητής Νοημοσύνης που συνιστούν απαγορευμένες πρακτικές 86

B. Συστήματα Τεχνητής Νοημοσύνης Υψηλού Κινδύνου 92

1. Συστήματα Υψηλού Κινδύνου βάσει Νομοθεσίας Εναρμόνισης Προϊόντων
(Παράρτημα Ι του Κανονισμού Τεχνητής Νοημοσύνης) 92

2. Συστήματα Υψηλού Κινδύνου βάσει Τομέα Εφαρμογής
(Παράρτημα ΙΙΙ του Κανονισμού Τεχνητής Νοημοσύνης) 98

Γ. Συστήματα Τεχνητής Νοημοσύνης περιορισμένου κινδύνου 103

Δ. Συστήματα Τεχνητής Νοημοσύνης ελαχίστου κινδύνου 105

Ε. Παράδειγμα εφαρμογής της προσέγγισης βάσει κινδύνου που εφαρμόζει
ο Κανονισμός σε συγκεκριμένο κλάδο της αγοράς 106

ΣΤ. Περιπτώσεις όπου η χρήση Τεχνητής Νοημοσύνης με περιορισμένο ή ελάχιστο
κίνδυνο θα μπορούσε να καταστεί χρήση υψηλού κινδύνου 107

ΙΙ. Μοντέλα Τεχνητής Νοημοσύνης Γενικού Σκοπού 109

Α. Μοντέλα Γενικού Σκοπού χωρίς συστημικό κίνδυνο 114

Β. Μοντέλα Γενικού Σκοπού με συστημικό κίνδυνο 115

Κεφάλαιο 3

Οι ρόλοι των υπόχρεων φορέων και επιχειρήσεων 119

Ι. Μπορεί σε έναν Φορέα ή μια επιχείρηση να συμπίπτουν ταυτόχρονα
πάνω από ένας ρόλοι; 120

ΙΙ. Ρόλοι που θεσπίζονται σε σχέση με τα Συστήματα Τεχνητής Νοημοσύνης 121

Α. Φορέας Εκμετάλλευσης Συστήματος Τεχνητής Νοημοσύνης 121

Β. Πάροχος Τεχνητής Νοημοσύνης 123

1. Ειδικές Κατηγορίες Παρόχων 126

i. Πάροχος Μοντέλου Τεχνητής Νοημοσύνης Γενικού Σκοπού 126

ii. Κατάντη Πάροχος (Downstream Provider) 127

Γ. Φορέας Εφαρμογής Τεχνητής Νοημοσύνης 128

Δ. Εξουσιοδοτημένος Αντιπρόσωπος Τεχνητής Νοημοσύνης 133

Ε. Εισαγωγέας Τεχνητής Νοημοσύνης 135

ΣΤ. Διανομέας Τεχνητής Νοημοσύνης 137

Ζ. Πότε μπορεί να μετατραπούν οι λοιποί ρόλοι σε Πάροχο Τεχνητής Νοημοσύνης; 139

1. Στην περίπτωση ανασήμανσης ή rebranding του Συστήματος Τεχνητής Νοημοσύνης 139

2. Στην περίπτωση ουσιαστικής τροποποίησης του Συστήματος Τεχνητής Νοημοσύνης 140

3. Στην περίπτωση της μεταβολής του επιδιωκόμενου σκοπού ενός Συστήματος
Τεχνητής Νοημοσύνης 140

4. Στην περίπτωση που ένα Σύστημα Τεχνητής Νοημοσύνης αποτελεί κατασκευαστικό
στοιχείο ασφαλείας ενός προϊόντος ή ενσωματώνεται σε προϊόν που υπόκειται
σε τομεακή νομοθεσία της Ευρωπαϊκής Ένωσης 141

Η. Τελικός Χρήστης Συστήματος Τεχνητής Νοημοσύνης 144

Κεφάλαιο 4

Οι Υποχρεώσεις του ΑΙ Αct και το Roadmap
Συμμόρφωσης των Φορέων Εκμετάλλευσης 147

I. Εισαγωγή 147

II. Οριζόντιες Υποχρεώσεις 148

Α. Έλεγχος Υπαγωγής στις Απαγορευμένες Πρακτικές ΤΝ (Άρθ.5 AI Act) 148

Β. Ταξινόμηση Συστημάτων ΤΝ Υψηλού Κινδύνου (Άρθ.6 ΑΙ Αct) 149

III. Υποχρεώσεις και Οδικός Χάρτης Συμμόρφωσης για Παρόχους Συστημάτων ΤΝ 149

Α. Χάρτης Υποχρεώσεων 149

1. Υποχρεώσεις Ανεξαρτήτως Βαθμού Κινδύνου 150

i. Γραμματισμός στον τομέα της Τεχνητής Νοημοσύνης/ AI Literacy 150

ii. Υποχρεώσεις Διαφάνειας για Συγκεκριμένα Συστήματα ΤΝ 151

iii. Υποχρέωση Καταχώρησης των Συστημάτων στην Βάση Δεδομένων της ΕΕ 153

2. Υποχρεώσεις για συστήματα Υψηλού Κινδύνου 155

i. Υποχρεώσεις ως Προς τα Δεδομένα και το Data Governance 155

ii. Εισαγωγή τεχνικών μέτρων και προδιαγραφών που εξασφαλίζουν
την συμμόρφωση σε όλη την εφοδιαστική αλυσίδα ΤΝ 157

iii. Σύστημα Διαχείρισης Κινδύνου και Σύστημα Διαχείρισης Ποιότητας ΤΝ 160

iv. Ανάπτυξη Τεχνικού Φακέλου 164

v. Διαδικασία Αξιολόγησης Συμμόρφωσης και Απαραίτητα Βήματα για
την Νομότυπη Διάθεση του Συστήματος στην Αγορά 168

vi. Υποχρεώσεις Τήρησης Εγγράφων Τεκμηρίωσης και Αρχείων Καταγραφής (logs) 174

vii. Υποχρέωση Καταχώρησης των Συστημάτων στην Βάση Δεδομένων της ΕΕ 176

viii. Παρακολούθηση μετά τη διάθεση στην αγορά (post market monitoring), λήψη διορθωτικών μέτρων & Αναφορά σοβαρών περιστατικών 178

ix. Υποχρέωση συνεργασίας με τις αρμόδιες αρχές 181

Β. Κρίσιμοι Χρόνοι Εντός του Κύκλου Ζωής του Συστήματος ΤΝ ως προς
την Συμμόρφωση & Roadmap Συμμόρφωσης του Παρόχου 182

1. Στάδιο Σχεδιασμού του Συστήματος ΤΝ 182

2. Στάδιο Ανάπτυξης και Εκπαίδευσης του Συστήματος ΤΝ 183

3. Στάδιο Δοκιμής και Επικύρωσης του Συστήματος ΤΝ 183

4. Πριν την Διάθεση του Συστήματος ΤΝ στην Αγορά 183

5. Μετά την Διάθεση του Συστήματος ΤΝ στην Αγορά 184

IV. Υποχρεώσεις και Οδικός Χάρτης Συμμόρφωσης για Φορείς
Εφαρμογής Συστημάτων ΤΝ 186

Α. Χάρτης Υποχρεώσεων 186

1. Υποχρεώσεις Ανεξαρτήτως Βαθμού Κινδύνου 187

i. Γραμματισμός στον Τομέα της Τεχνητής Νοημοσύνης/ AI Literacy 187

ii. Υποχρεώσεις Διαφάνειας για Συγκεκριμένα Συστήματα ΤΝ 188

2. Υποχρεώσεις για συστήματα Υψηλού Κινδύνου 189

i. Υποχρεώσεις ως Προς τα Δεδομένα Εισόδου 189

ii. Εισαγωγή Μέτρων για την Χρήση και την Παρακολούθηση της Λειτουργίας
των Συστημάτων ΤΝ Σύμφωνα με τις Οδηγίες Χρήσης και Υποχρεώσεις
Ενημέρωσης του Παρόχου & Αναφοράς Σοβαρών Περιστατικών 190

iii. Εισαγωγή, Εφαρμογή και Παρακολούθηση Μέτρων Ανθρώπινης Εποπτείας
των Συστημάτων ΤΝ 191

iv. Υποχρεώσεις Διαφάνειας ως Προς την Χρήση Συστημάτων ΤΝ Υψηλού Κινδύνου
στον Τομέα της Εργασίας ή για την Λήψη/Υποβοήθηση Λήψης Αποφάσεων 193

v. Υποχρεώσεις Τήρησης Αρχείων Καταγραφής (logs) 194

vi. Υποχρέωση Καταχώρησης των Συστημάτων στην Βάση Δεδομένων της ΕΕ 195

vii. Εκτίμηση Επιπτώσεων των Συστημάτων ΤΝ Υψηλού Κινδύνου στα Θεμελιώδη Δικαιώματα (Fundamental Rights Impact Assessment- FRIA) 196

viii. Υποχρέωση συνεργασίας με τις αρμόδιες αρχές 198

ix. Έλεγχος ως προς την Διατήρηση του Ρόλου του Φορέα Εφαρμογής
στην Εφοδιαστική Αλυσίδα ΤΝ 199

Β. Κρίσιμοι Χρόνοι Εντός του Κύκλου Ζωής του Συστήματος ΤΝ ως προς
την Συμμόρφωση & Roadmap Συμμόρφωσης του Παρόχου 199

1. Στάδιο Επιλογής Προμηθευτή και Προμήθειας του Συστήματος 199

2. Στάδιο Ενσωμάτωσης του Συστήματος ΤΝ και Προετοιμασίας για
την Θέση του Συστήματος σε Λειτουργία 200

3. Στάδιο Παραγωγικής Χρήσης & Παρακολούθησης της Λειτουργίας
του Συστήματος 200

V. Υποχρεώσεις και Οδικός Χάρτης Συμμόρφωσης για Εισαγωγείς/Διανομείς/Εξουσιοδοτημένους Αντιπροσώπους Συστημάτων ΤΝ 203

Α. Χάρτης Υποχρεώσεων 203

1. Υποχρεώσεις Εισαγωγέων 203

i. Υποχρεώσεις Δέουσας Επιμέλειας πριν την Διάθεση του Συστήματος στην Αγορά 203

ii. Υποχρεώσεις Παρακολούθησης της Ομαλής Διάθεσης του Συστήματος
στην Αγορά & Υποχρεώσεις Ενημέρωσης του Παρόχου και των Λοιπών
Εμπλεκόμενων Φορέων 204

iii. Υποχρεώσεις ως Προς την Διαφάνεια, την Ασφάλεια των Συστημάτων και
την Τήρηση Εγγράφων Συμμόρφωσης 205

iv. Υποχρεώσεις Συνεργασίας με τις Αρμόδιες Αρχές 206

v. Έλεγχος ως προς την Διατήρηση του Ρόλου του Εισαγωγέα στην Εφοδιαστική
Αλυσίδα ΤΝ 206

2. Υποχρεώσεις Διανομέων 207

i. Υποχρεώσεις Δέουσας Επιμέλειας πριν την Διάθεση του Συστήματος στην Αγορά 207

ii. Υποχρεώσεις Παρακολούθησης της Ομαλής Διάθεσης του Συστήματος
στην Αγορά & Υποχρεώσεις Ενημέρωσης του Παρόχου και των Λοιπών
Εμπλεκόμενων Φορέων 208

iii. Υποχρεώσεις ως Προς την Ασφάλεια των Συστημάτων ΤΝ 209

iv. Υποχρεώσεις Συνεργασίας με τις Αρμόδιες Αρχές 209

v. Έλεγχος ως προς την Διατήρηση του Ρόλου του Διανομέα στην Εφοδιαστική
Αλυσίδα ΤΝ 209

3. Υποχρεώσεις Εξουσιοδοτημένων Αντιπροσώπων 210

i. Λήψη/Υπογραφή Γραπτής ή Συμβατικής Εντολής Αντιπροσώπευσης και Υποχρέωση Διάθεσής της στις Εποπτικές Αρχές 210

ii. Υποχρεώσεις Τήρησης Εγγράφων, Διενέργειας Διαδικαστικών Πράξεων,
και Συνεργασίας με τις Εποπτικές Αρχές Βάσει της Εντολής 211

iii. Υποχρεώσεις Επικοινωνίας και Συνεργασίας με Άλλους Φορείς Εκμετάλλευσης 213

iv. Έλεγχος ως προς την Διατήρηση του Ρόλου του Αντιπροσώπου στην Εφοδιαστική Αλυσίδα ΤΝ 214

Β. Roadmaps Συμμόρφωσης 214

1. Το Roadmap των Εισαγωγέων 214

2. Το Roadmap των Διανομέων 215

3. Το Roadmap των Εξουσιοδοτημένων Αντιπροσώπων 216

VI. Υποχρεώσεις και Οδικός Χάρτης Συμμόρφωσης για Παρόχους Μοντέλων ΤΝ Γενικού Σκοπού 217

Α. Χάρτης Υποχρεώσεων 217

i. Υποχρεώσεις Κατάρτισης και Επικαιροποίησης Τεχνικού Φακέλου του Μοντέλου 217

ii. Υποχρεώσεις Παροχής Τεχνικών Πληροφοριών στους Κατάντη Παρόχους 219

iii. Σύνταξη Πολιτικής Συμμόρφωσης με τις Διατάξεις Πνευματικής Ιδιοκτησίας 220

iv. Υποχρέωση Δημοσίευσης Λεπτομερειών ως προς το Περιεχόμενο Εκπαίδευσης
του Μοντέλου 221

v. Ταξινόμηση Μοντέλων Γενικού Σκοπού με Συστημικό Κίνδυνο 221

vi. Επιπλέον Υποχρεώσεις για τα Μοντέλα με Συστημικό Κίνδυνο 223

vii. Κώδικες Πρακτικής 224

viii. Υποχρεώσεις Συνεργασίας με τις Αρμόδιες Αρχές 225

Β. Roadmap Συμμόρφωσης Παρόχων Μοντέλων Γενικού Σκοπού 225

Κεφάλαιο 5

Χρονοδιάγραμμα Εφαρμογής των Υποχρεώσεων
του Κανονισμού 227

Ι. 2 Αυγούστου 2024 228

ΙΙ. 2 Φεβρουαρίου 2025 228

ΙΙΙ. 2 Αυγούστου 2025 229

Α. Τμήμα 4 («Κοινοποιούσες αρχές και κοινοποιημένοι οργανισμοί»)
του Κεφαλαίου III («Συστήματα ΤΝ Υψηλού Κινδύνου») 229

Β. Κεφάλαιο V («Μοντέλα ΤΝ Γενικού Σκοπού») 229

Γ. Κεφάλαιο VII («Διακυβέρνηση») 230

Δ. Κεφάλαιο ΧΙΙ («Κυρώσεις») με ρητή εξαίρεση του άρθρου 101
(«Πρόστιμα για παρόχους μοντέλων ΤΝ γενικού σκοπού») 230

Ε. Άρθρο 78 («Εμπιστευτικότητα και προστασία δεδομένων») 231

IV. 2 Αυγούστου 2026 232

V. 2 Αυγούστου 2027 232

VI. Τέλος 2030 233

VII. Τι προβλέπει ο Κανονισμός για τα συστήματα τεχνητής νοημοσύνης
που έχουν διατεθεί στην αγορά ή τεθεί σε λειτουργία πριν από
την ημερομηνία εφαρμογής του; 233

VIII. Πρωτοβουλίες Πρόωρης Ενεργοποίησης Συμμόρφωσης, ο Κώδικας Συμπεριφοράς για τα Μοντέλα Γενικής Τεχνητής Νοημοσύνης (GPAI Code
of Practice) και το Σύμφωνο Τεχνητής Νοημοσύνης (AI Pact) 235

IX. Συμπεράσματα 237

Κεφάλαιο 6

Κυρώσεις και Πρόστιμα 239

I. Κατηγορίες Παραβάσεων και Ανώτατα Όρια Προστίμων βάσει του Κανονισμού Τεχνητής Νοημοσύνης 239

A. Παραβιάσεις απαγορευμένων πρακτικών του άρθρου 5 του Κανονισμού 239

B. Παραβιάσεις υποχρεώσεων συστημάτων υψηλού κινδύνου και περιορισμένου
κινδύνου 240

Γ. Παραβιάσεις που αφορούν παροχή ανακριβών, ελλιπών ή παραπλανητικών
πληροφοριών 240

ΙΙ. Εξουσίες και Αρμοδιότητες Εθνικών Αρχών Εποπτείας στο Πλαίσιο
του Κανονισμού Τεχνητής Νοημοσύνης 241

ΙΙΙ. Ειδικό Καθεστώς Κυρώσεων για τις Μικρομεσαίες και νεοφυείς επιχειρήσεις 242

IV. Ειδικό Καθεστώς Κυρώσεων για τα Μοντέλα Γενικού Σκοπού 243

V. Ειδικό Καθεστώς Κυρώσεων για τα Θεσμικά Όργανα
της Ευρωπαϊκής Ένωσης 244

VI. Το Σύστημα Κυρώσεων του Κανονισμού Τεχνητής Νοημοσύνης
σε σύγκριση με άλλες Κομβικές Νομοθεσίες του Ψηφιακού
και Τεχνολογικού Τομέα 245

Παραρτήματα

Πίνακες και Εργαλεία Συμμόρφωσης 247

I. Ερωτηματολόγιο / Ροή Εντοπισμού Υποχρεώσεων
Συμμόρφωσης 249

II. Συγκεντρωτικός Πίνακας Συμμόρφωσης Φορέων
Εκμετάλλευσης ΤΝ - Ανά Άρθρο 252

ΙΙΙ. Συγκεντρωτικός Πίνακας Συμμόρφωσης Φορέων
Εκμετάλλευσης ΤΝ - Ανά Κατηγορία Υποχρεώσεων 258

IV. Roadmap Συμμόρφωσης - Πάροχος Συστήματος ΤΝ 262

V. Roadmap Συμμόρφωσης - Φορέας Εφαρμογής Συστήματος ΤΝ 264

VI. Roadmap Συμμόρφωσης - Εισαγωγέας Συστήματος ΤΝ 266

VII. Roadmap Συμμόρφωσης - Διανομέας Συστήματος ΤΝ 267

VIII. Roadmap Συμμόρφωσης - Εξουσιοδοτημένος
Αντιπρόσωπος ΤΝ 268

IX. Roadmap Συμμόρφωσης - Πάροχος Μοντέλου ΤΝ Γενικού
Σκοπού 269

Βιβλιογραφία και Αρθρογραφία 271

Αλφαβητικό Ευρετήριο 281

Κεφάλαιο 1

Εισαγωγή: σύντομη ιστορική αναδρομή
και αντίκτυπος της τεχνητής νοημοσύνης

Εδώ και πολλά χρόνια, η Τεχνητή Νοημοσύνη έχει πάψει να αποτελεί απλώς ένα σύνολο αφηρημένων τεχνολογικών δυνατοτήτων ή ένα πεδίο θεωρητικής ακαδημαϊκής ενασχόλησης. Δεν πρόκειται πλέον για μια υπόσχεση του μέλλοντος. Από την εφαρμογή αλγορίθμων που αυτοματοποιούν τη λήψη αποφάσεων μέχρι την ενσωμάτωση και λειτουργία πολύπλοκων συστημάτων σε καίριες επιχειρησιακές διαδικασίες, η Τεχνητή Νοημοσύνη είναι παρούσα στην καρδιά της λειτουργίας δημόσιων και ιδιωτικών οργανισμών. Αποτελεί σε κάθε επιχείρηση βασικό μοχλό καινοτομίας, αύξησης της παραγωγικότητας και ενίσχυσης της ανταγωνιστικότητας και η επιρροή και διείσδυσή της διευρύνεται συνεχώς, ανεξαρτήτως κλάδου, τομέα ή μεγέθους οργανισμού.

I. Ιστορική Αναδρομή

Παρότι σήμερα η Τεχνητή Νοημοσύνη αποτελεί ένα σύγχρονο και εντυπωσιακό τεχνολογικό επίτευγμα, οι ρίζες της εκτείνονται πολύ βαθύτερα στον χρόνο, όχι μόνο στις απαρχές της επιστήμης των ηλεκτρονικών υπολογιστών αλλά ήδη ακόμη στην αρχαία ελληνική σκέψη και μυθολογία. Η ιδέα της ύπαρξης τεχνητών όντων τα οποία έχουν διαθέτουν χαρακτηριστικά ανθρώπινης νοημοσύνης ή συνείδησης δεν είναι αποκλειστικό εφεύρημα της σύγχρονης εποχής, αντίθετα, εμφανίζεται ήδη στις πρώτες πολιτισμικές καταγραφές του ανθρώπου, καταδεικνύοντας τη διαχρονική του επιθυμία να δημιουργήσει ευφυή συστήματα που μιμούνται ή ακόμα και υπερβαίνουν τις ανθρώπινες ικανότητες.

Όπως έχει υποστηριχθεί, πολύ πριν την εμφάνιση των ρομποτικών κατασκευών του Μεσαίωνα και της πρώιμης σύγχρονης Ευρώπης, οι ιδέες για τη δημιουργία τεχνητής ζωής είχαν ήδη εξερευνηθεί στους ελληνικούς μύθους. Ένα τέτοιο χαρακτηριστικό πρώτο παράδειγμα τεχνητού όντος είναι ο Τάλως, ο χάλκινος γίγαντας που, σύμφωνα με την αρχαία ελληνική μυθολογία προστάτευε την Κρήτη από εχθρικές επιδρομές. Ο Τάλως απεικονίζεται στην ελληνική μυθολογία να μοιάζει με ρομπότ αλλά να σκέφτεται σαν άνθρωπος. Ήταν ένα ανθρωπόμορφο δημιούργημα, κατασκευασμένο από τον Ήφαιστο ή τον Δαίδαλο, που διέθετε ικανότητες πα-

ρατήρησης, λήψης αποφάσεων και ενεργής δράσης, ιδιότητες που τον καθιστούν πρόγονο των σύγχρονων έξυπνων συστημάτων.

Παράλληλα με την ελληνική μυθολογία, και η φιλοσοφία της ελληνικής αρχαιότητας έπαιξε κρίσιμο ρόλο στη διαμόρφωση των εννοιολογικών θεμελίων της Τεχνητής Νοημοσύνης. Φιλόσοφοι, όπως ο Πλάτωνας και ο Αριστοτέλης, στοχάστηκαν βαθιά γύρω από τη φύση της ανθρώπινης σκέψης, της γνώσης και της λογικής. Ο Αριστοτέλης, ειδικότερα, εισήγαγε τη θεωρία του συλλογισμού, που αποτελεί έναν τύπο λογικής επιχειρηματολογίας με κανόνες και πρότυπα, σχεδόν σαν μαθηματική διαδικασία, η οποία επηρέασε ουσιαστικά την ανάπτυξη των λογικών και υπολογιστικών συστημάτων στους επόμενους αιώνες. Η ιδέα ότι η σκέψη μπορεί να αναπαρασταθεί με σαφή, προκαθορισμένα λογικά βήματα και σταθερούς κανόνες αποτέλεσε αργότερα τη βάση για τη λεγόμενη συμβολική Τεχνητή Νοημοσύνη, ένα ρεύμα της Τεχνητής Νοημοσύνης βασιζόμενο στην ιδέα πως η νοημοσύνη μπορεί να αποδοθεί μέσω συμβόλων και λογικών κανόνων. Το ρεύμα αυτό βρήκε τη σημαντικότερη έκφρασή του στα έργα των πρώτων επιστημόνων της πληροφορικής και των μαθηματικών, θέτοντας τις βάσεις για την ανάπτυξη των πρώιμων συστημάτων Τεχνητής Νοημοσύνης.

Η μετάβαση από τις φιλοσοφικές αναζητήσεις στη συστηματική επιστημονική μελέτη της Τεχνητής Νοημοσύνης πραγματοποιήθηκε ωστόσο αρκετούς αιώνες αργότερα. Ορόσημο αυτής της μετάβασης αποτελεί η πρωτοποριακή εργασία του Άλαν Τούρινγκ, το 1950, με τίτλο ‘Υπολογιστικά Μηχανήματα και Νοημοσύνη’ η οποία έθεσε το προκλητικό, για την εποχή, ερώτημα: «Μπορούν οι μηχανές να σκέφτονται;». Η εργασία αυτή αποτέλεσε την αφετηρία ενός νέου επιστημονικού πεδίου, το οποίο απέκτησε επίσημη υπόσταση το 1956, όταν στο Κολλέγιο του Ντάρτμουθ πραγματοποιήθηκε το ιστορικό Θερινό Συνέδριο για την Τεχνητή Νοημοσύνη. Εκεί, τέθηκε ο φιλόδοξος στόχος της διερεύνησης του τρόπου με τον οποίο οι μηχανές θα μπορούσαν να προσομοιώσουν πτυχές της ανθρώπινης νοημοσύνης, με το ίδιο το συνέδριο να θεωρείται ευρέως ως η ιδρυτική πράξη της έρευνας στην Τεχνητή Νοημοσύνη. Οι διοργανωτές του, οι πρωτοπόροι John McCarthy, Marvin Minsky, Nathaniel Rochester και Claude Shannon, διατύπωσαν τη ρηξικέλευθη υπόθεση ότι «Κάθε πτυχή της μάθησης ή οποιοδήποτε άλλο χαρακτηριστικό της νοημοσύνης μπορεί, κατ’ αρχήν, να περιγραφεί με τόσο μεγάλη ακρίβεια ώστε μια

μηχανή να μπορεί να κατασκευαστεί για να την προσομοιώσει.» Αυτή η ριζοσπαστική διακήρυξη, λειτούργησε ως η σπίθα που πυροδότησε δεκαετίες διεπιστημονικής έρευνας, συνδέοντας τη μαθηματική λογική, τη γλωσσολογία, τη νευροεπιστήμη και την πληροφορική. Ωστόσο, η πορεία της Τεχνητής Νοημοσύνης έκτοτε δεν υπήρξε ούτε γραμμική, ούτε ομαλή.

Η πρώτη περίοδος μετά το Συνέδριο του Ντάρτμουθ χαρακτηρίστηκε από έντονη επιστημονική δραστηριότητα, η οποία έδωσε έμφαση στην ανάπτυξη πρώιμων προγραμμάτων Τεχνητής Νοημοσύνης. Οι ερευνητές της εποχής φιλοδοξούσαν να δημιουργήσουν μηχανές ικανές να επιλύουν προβλήματα, να παίζουν παιχνίδια και να μιμούνται βασικές διεργασίες της ανθρώπινης σκέψης. Δημιουργήθηκαν τα πρώτα προγράμματα επίλυσης προβλημάτων, όπως το Logic Theorist, το οποίο μπορούσε να αποδεικνύει θεωρήματα μαθηματικής λογικής. Επίσης, αναπτύχθηκαν στρατηγικά παιχνίδια και προσομοιώσεις, όπως ο General Problem Solver και προσομοιώσεις σκακιού, που επιδίωκαν να αναπαραστήσουν την ανθρώπινη στρατηγική σκέψη. Η περίοδος αυτή χαρακτηρίστηκε από υπερβολικές προσδοκίες: πολλοί ερευνητές πίστευαν ότι η επίτευξη μιας πλήρους τεχνητής νοημοσύνης ήταν ζήτημα λίγων δεκαετιών. Πολύ σύντομα όμως, κατέστη σαφές ότι η πολυπλοκότητα της ανθρώπινης νοημοσύνης υπερέβαινε κατά πολύ τις αρχικές εκτιμήσεις.

Κατά τις δεκαετίες του 1970 και του 1980, το ενδιαφέρον των επιστημόνων μετατοπίστηκε από τη γενική νοημοσύνη σε πιο εξειδικευμένες και πρακτικές εφαρμογές. Αναπτύχθηκαν, έτσι, τα λεγόμενα έμπειρα συστήματα (Expert Systems), δηλαδή προγράμματα Τεχνητής Νοημοσύνης σχεδιασμένα να προσομοιώνουν τη λογική σκέψη και τη διαδικασία λήψης αποφάσεων ενός ειδικού σε ένα συγκεκριμένο επιστημονικό πεδίο. Αυτά τα συστήματα στόχευαν στην υποστήριξη ή και υποκατάσταση της ανθρώπινης εμπειρογνωμοσύνης σε περιορισμένους τομείς, όπως η ιατρική διάγνωση, με χαρακτηριστικό παράδειγμα το MYCIN του Πανεπιστημίου του Στανφορντ ή τη χημική ανάλυση. Τα έμπειρα συστήματα χρησιμοποιούσαν εκτενείς βάσεις γνώσης και σύνολα κανόνων λογικής τύπου ‘αν…→ τότε…’ για να εξάγουν λογικά συμπεράσματα. Η ικανότητά τους να επιλύουν, επιτυχώς, αυστηρά

καθορισμένα και περιορισμένου εύρους προβλήματα ενέπνευσε προσδοκίες για την μελλοντική εμπορική τους αξιοποίηση με εφαρμογές που εκτείνονταν από την υγεία έως τη βιομηχανία.

Ωστόσο, η πρόοδος αυτή δεν ήταν χωρίς προκλήσεις. Τα έμπειρα συστήματα παρουσίαζαν σημαντικούς περιορισμούς, διότι δεν μπορούσαν να προσαρμοστούν σε απρόβλεπτες ή νέες καταστάσεις και εξαρτώνταν σε μεγάλο βαθμό από τη χειροκίνητη καταγραφή της γνώσης από ειδικούς. Οι αδυναμίες αυτές, σε συνδυασμό με την αποτυχία εκπλήρωσης υπερφιλόδοξων προβλέψεων, οδήγησαν στην πρώτη ‘χειμερία νάρκη’ της Τεχνητής Νοημοσύνης, επονομαζόμενη και ‘AI winter’ το 1974, δηλαδή μια περίοδο έντονης απογοήτευσης, όπου η χρηματοδότηση και το επιστημονικό ενδιαφέρον μειώθηκαν απότομα λόγω εμπορικών εφαρμογών και υπερβολικών υποσχέσεων .

Χρειάστηκε να φτάσουμε στις δεκαετίες του 1990 και του 2000 για να παρατηρηθεί μία ριζική μεταστροφή στη προσέγγιση της Τεχνητής Νοημοσύνης, με την ανάπτυξη της μηχανικής μάθησης (machine learning). Η νέα, αυτή, φάση βασίστηκε σε ένα θεμελιώδες αξίωμα: αντί να προγραμματίζονται τα συστήματα με σταθερούς, ρητούς κανόνες, έπρεπε αυτά να μαθαίνουν από τα δεδομένα. Αυτό οδήγησε στην αναβίωση του ενδιαφέροντος για αλγορίθμους όπως τα decision trees, και τα νευρωνικά δίκτυα τα οποία επανεμφανίστηκαν ενισχυμένα με μεγαλύτερη υπολογιστική ισχύ και αφθονία δεδομένων. Παράλληλα, η ραγδαία εξάπλωση του Διαδικτύου και η άνθηση των βάσεων δεδομένων κατέστησαν εφικτή την εκπαίδευση αλγορίθμων σε τεράστια σύνολα πληροφορίας, γεγονός που αναβάθμισε δραστικά τις επιδόσεις τους. Η εστίαση, πλέον, μετατοπίστηκε από την καθαρά λογική επεξεργασία στην πιθανολογική και στατιστική ανάλυση, προσδίδοντας στα συστήματα Τεχνητής Νοημοσύνης μεγαλύτερη προσαρμοστικότητα, ευελιξία και ρεαλισμό, ανοίγοντας τον δρόμο για τις πιο σύγχρονες και δυναμικές εφαρμογές που γνωρίζουμε σήμερα.

Η τελευταία εικοσαετία στην ιστορία της Τεχνητής Νοημοσύνης xαρακτηρίζεται από την εκρηκτική άνοδο της βαθιάς μάθησης (deep learning), μιας υποκατηγορίας της μηχανικής μάθησης, η οποία βασίζεται στη χρήση πολυεπίπεδων τεχνητών νευρωνικών δικτύων. Χάρη στην ενίσχυση της υπολογιστικής ισχύος, ιδίως μέσω GPU και TPU τεχνολογιών, καθώς και στην αδιάλειπτη ροή τεράστιων ποσοτήτων ψηφιακών δεδομένων, οι αλγόριθμοι βαθιάς μάθησης έφεραν εντυπωσιακές εξελί-

ξεις σε τομείς όπως η αναγνώριση εικόνας (με εφαρμογές, παραδείγματος χάριν, στην ιατρική διάγνωση μέσω αυτοματοποιημένης ανάλυσης ιατρικών εικόνων), η αναγνώριση και σύνθεση ομιλίας (όπως οι φωνητικοί βοηθοί και τα διαλογικά συστήματα), η επεξεργασία φυσικής γλώσσας (όπως η αυτόματη μετάφραση και τα προηγμένα συνομιλιακά μοντέλα) καθώς και τα αυτόνομα οχήματα και τα ρομποτικά συστήματα. Η μετάβαση αυτή σε μια εποχή γενικής χρήσης της Τεχνητής Νοημοσύνης δεν υπήρξε απλώς τεχνολογική, αλλά πρόκειται για βαθιά κοινωνική και πολιτισμική μεταβολή, η οποία έφερε την Τεχνητή Νοημοσύνης στο επίκεντρο της καθημερινής ζωής, της εργασίας, της ηθικής σκέψης και της δημόσιας πολιτικής.

Ιδιαίτερο σημείο καμπής αποτέλεσε η έκρηξη στη χρήση εργαλείων Τεχνητής Νοημοσύνης, όπως το ChatGPT, τα οποία έχουν καταστήσει την Τεχνητή Νοημοσύνη προσβάσιμη στον μέσο χρήστη, μεταμορφώνοντας ριζικά τον τρόπο με τον οποίο επικοινωνούμε, εργαζόμαστε, ενημερωνόμαστε και αλληλεπιδρούμε με την τεχνολογία. Η ευρεία διάδοση τέτοιων εργαλείων προκάλεσε ενθουσιασμό για τις παραγωγικές, δημιουργικές και υποστηρικτικές δυνατότητές τους, αλλά ταυτόχρονα ανέδειξε και νέους, πολυσύνθετους κινδύνους, όπως παραδείγματος χάριν, τη διάδοση ψευδών ή παραπλανητικών πληροφοριών, τη χειραγώγηση της κοινής γνώμης μέσω αυτόματων αφηγήσεων, την αδιαφανή λήψη αποφάσεων, καθώς και τον απρόσμενο επαναπροσδιορισμό επαγγελμάτων και δεξιοτήτων. Η πρόσβαση στην Τεχνητή Νοημοσύνη δεν είναι πλέον προνόμιο των ειδικών αλλά καθημερινή πραγματικότητα για εκατομμύρια ανθρώπους, γεγονός που αναδεικνύει, περισσότερο από ποτέ, την ανάγκη για ενσυνείδητη, ελεγχόμενη και δικαιοκρατικά θεμελιωμένη χρήση της τεχνολογίας.

Καθώς τα συστήματα Τεχνητής Νοημοσύνης καθίστανται ολοένα και πιο αυτόνομα και παρεμβατικά, η ανάγκη για ρύθμιση έγινε επιτακτική. Τα εντυπωσιακά τους αποτελέσματα συνοδεύτηκαν από ανησυχίες σχετικά με τη διαφάνεια στον τρόπο λειτουργίας τους, τη λογοδοσία σε περιπτώσεις λανθασμένων ή επιβλαβών αποφάσεων και την προστασία των θεμελιωδών δικαιωμάτων, ιδίως σε ευαίσθητους τομείς όπως η υγεία, η απασχόληση και η δημόσια τάξη. Ο δημόσιος διάλογος διευρύνθηκε ώστε να περιλαμβάνει ηθικά διλήμματα, κοινωνικές επιπτώσεις και τη σχέση ανθρώπου και μηχανής, καθιστώντας τη νομοθετική παρέμβαση όχι απλώς επίκαιρη, αλλά αναγκαία.

Η Τεχνητή Νοημοσύνη άρχισε να διεισδύει στον πυρήνα των οργανισμών, επηρεάζοντας τον τρόπο με τον οποίο λαμβάνονται αποφάσεις και εκτελούνται κρίσιμες λειτουργίες και επιχειρώντας να διαμορφώσει τον τρόπο με τον οποίο αναπτύσσονται επιχειρησιακές στρατηγικές. Αυτή η τεχνολογική μετάβαση συνοδεύεται από

μία παράλληλη θεσμική και νομική μετατόπιση. Πλέον, το ζητούμενο δεν είναι μόνο η καινοτομία, αλλά και η θεσμική κατοχύρωση της εμπιστοσύνης, μέσω ρυθμιστικών πλαισίων που διασφαλίζουν την υπευθυνότητα, την ακεραιότητα και τον σεβασμό στις αξίες της δημοκρατίας και των ανθρωπίνων δικαιωμάτων.

Σε αυτή ακριβώς την επιτακτική ανάγκη για θεσμική απάντηση απέναντι στην ανεξέλεγκτη και ταχύτατα εξελισσόμενη χρήση της Τεχνητής Νοημοσύνης, η Ευρωπαϊκή Ένωση, ανταποκρίθηκε δυναμικά με την υιοθέτηση του Κανονισμού 2024/1689 για την Τεχνητή Νοημοσύνη, του πρώτου στον κόσμο οριζόντιου νομικού πλαισίου που ρυθμίζει ολιστικά τη χρήση και ανάπτυξη συστημάτων Τεχνητή Νοημοσύνης. Η Ευρωπαϊκή Ένωση έχει, ήδη, αναδειχθεί σε πρωτοπόρο διεθνή παράγοντα στη ρυθμιστική θεσμοθέτηση της ψηφιακής εποχής, εγγυώμενη την προστασία των θεμελιωδών δικαιωμάτων και της δημοκρατικής διακυβέρνησης έναντι των τεχνολογικών προκλήσεων. Η ανάγκη για μια τέτοια ρύθμιση αναδύθηκε οξύτερα μετά την υιοθέτηση του Γενικού Κανονισμού Προστασίας Δεδομένων 2016/679 τον Απρίλιο του 2016, όταν έγινε αντιληπτό ότι οι αλγόριθμοι Τεχνητής Νοημοσύνης άρχισαν να επηρεάζουν κρίσιμες πτυχές της κοινωνικής και οικονομικής ζωής, όπως η πρόσληψη, η υγεία και η προληπτική αστυνόμευση.

Από το 2018, με τη σύσταση της Ομάδας Εμπειρογνωμόνων Υψηλού Επιπέδου για την Τεχνητή Νοημοσύνη και τη δημοσίευση των Ηθικών Κατευθυντήριων Αρχών για αξιόπιστη Τεχνητή Νοημοσύνη το 2019, η Ευρωπαϊκή Επιτροπή σταδιακά μετακινήθηκε από τις εθελοντικές αρχές και συστάσεις προς τις νομοθετικές παρεμβάσεις. Η «Λευκή Βίβλος» του 2020 αποτέλεσε τον καταλύτη των νομοθε-

τικών πρωτοβουλιών, εισάγοντας μία στρατηγική για τη συνύπαρξη της τεχνολογικής αριστείας και της ρυθμιστικής εποπτείας στην ανάπτυξη της Τεχνητής Νοημοσύνης.

Η επίσημη πρόταση του Κανονισμού για την Τεχνητή Νοημοσύνη κατατέθηκε από την Ευρωπαϊκή Επιτροπή στις 21 Απριλίου 2021. Ακολούθησε μια τριετής περίοδος διαπραγματεύσεων μεταξύ των ευρωπαϊκών θεσμών, η οποία κορυφώθηκε με την επίτευξη τελικής συμφωνίας τον Δεκέμβριο του 2023. Ακολούθησε η ψήφισή του από το Ευρωπαϊκό Κοινοβούλιο στις 13 Μαρτίου 2024 και η έγκρισή του από το Συμβούλιο της Ευρωπαϊκής Ένωσης στις 21 Μαΐου 2024. Ο Κανονισμός 2024/1689 δημοσιεύθηκε στην Επίσημη Εφημερίδα της ΕΕ στις 12 Ιουλίου 2024. Ο Κανονισμός τέθηκε σε ισχύ την 1η Αυγούστου 2024, με σταδιακή εφαρμογή του προβλέπεται να λάβει χώρα σε διακριτά χρονικά στάδια, με διαφορετικές προθεσμίες ανάλογα με τη φύση των υποχρεώσεων και το επίπεδο κινδύνου των συστημάτων Τεχνητής Νοημοσύνης. Η κατανόηση και εφαρμογή του Κανονισμού της Τεχνητής Νοημοσύνης αποτελεί κρίσιμη παράμετρο για τους νομικούς συμβούλους, προκειμένου να διασφαλίσουν τη συμμόρφωση των επιχειρήσεων και να ενισχύσουν τις ηθικές και νομικές αξίες της Ενιαίας Αγοράς στην ψηφιακή εποχή.

Ο Κανονισμός δεν αποτελεί απλώς ένα ακόμη κείμενο πολιτικής. Πρόκειται για ένα πλήρως λειτουργικό εργαλείο συμμόρφωσης και διακυβέρνησης, με άμεσες επιχειρησιακές και πρακτικές συνέπειες για κάθε οργανισμό που σχεδιάζει, χρησιμοποιεί ή ενσωματώνει τεχνολογίες Τεχνητής Νοημοσύνης. Πρόκειται για ένα τολμηρά καινοτόμο μέτρο που έχει τη δυνατότητα να επηρεάσει σημαντικά το εμπόριο και μας αναγκάζει να επανεξετάσουμε τον τρόπο με τον οποίο δημιουργούνται και αναπτύσσονται τέτοιες τεχνολογίες, όπως ακριβώς έκανε και ο ΓΚΠΔ τον Απρίλιο του 2016, καθιστώντας την υπεύθυνη και αξιόπιστη καινοτομία τον νέο κανόνα, και όχι την εξαίρεση.

II. Ο εξελισσόμενος ρόλος των εσωτερικών νομικών συμβούλων (in-house legal practitioners) και των επαγγελματιών συμμόρφωσης στην εποχή της Τεχνητής Νοημοσύνης

Μέσα σε αυτό το περιβάλλον ραγδαίων τεχνολογικών εξελίξεων και ενόψει της έναρξης εφαρμογής του πρώτου ολοκληρωμένου νομοθετικού πλαισίου της Ευρωπαϊκής Ένωσης για την Τεχνητή Νοημοσύνη – του Κανονισμού 2024/1689, στο προσκήνιο έχουν βρεθεί οι εσωτερικοί νομικοί σύμβουλοι και οι επαγγελματίες συμμόρφωσης των οργανισμών. Η Τεχνητή Νοημοσύνη δεν αφορά πλέον αποκλειστικά τα τμήματα Έρευνας και Ανάπτυξης ή Πληροφορικής των επιχειρήσεων. Ο σύγχρονος εσωτερικός νομικός σύμβουλος και επαγγελματίας συμμόρφωσης καλείται να αναλάβει έναν υβριδικό ρόλο, που συνδυάζει νομική οξυδέρκεια, τεχνική παιδεία και ηθική διαχείριση.

Η πρόκληση για τους εσωτερικούς νομικούς συμβούλους και τους επαγγελματίες συμμόρφωσης δεν περιορίζεται στην απλή ερμηνεία και κατανόηση του κειμένου του Κανονισμού. Η συμμόρφωση με το νέο ρυθμιστικό πλαίσιο, απαιτεί τη στρατηγική ενσωμάτωση των νομικών απαιτήσεων στην επιχειρησιακή πρακτική, τη στενή διεπιστημονική συνεργασία με τις τεχνικές ομάδες και την ακριβή αξιολόγηση των εφαρμογών Τεχνητής Νοημοσύνης στο πραγματικό επιχειρησιακό περιβάλλον ενός οργανισμού. Ακόμη μεγαλύτερη πρόκληση για τους νομικούς συμβούλους και τους επαγγελματίες συμμόρφωσης αποτελεί το γεγονός ότι η Τεχνητή Νοημοσύνη δεν αποτελεί πλέον διακριτό προϊόν, αλλά ενσωματώνεται οριζόντια σε πολυάριθμες, διασυνδεδεμένες επιχειρησιακές διεργασίες, από την εφοδιαστική αλυσίδα έως το ανθρώπινο δυναμικό και την εξυπηρέτηση πελατών. Η επιτυχής υιοθέτηση της Τεχνητής Νοημοσύνης δεν αντανακλά απλώς την τεχνολογική πρόοδο μιας επιχείρησης, αλλά αποτελεί παράγοντα ανθεκτικότητας, οργανωσιακής προσαρμοστικότητας και στρατηγικής επιβίωσης σε ένα ταχέως μεταβαλλόμενο οικονομικό και ρυθμιστικό περιβάλλον.

Η πολυπλοκότητα του εγχειρήματος εντείνεται ακόμη περισσότερο από το γεγονός ότι η εφαρμογή του Κανονισμού για την Τεχνητή Νοημοσύνη δεν λαμβάνει χώρα εν κενώ. Αποτελεί τμήμα ενός ευρύτερου, δυναμικά εξελισσόμενου ευρωπαϊκού πλαισίου ρύθμισης των ψηφιακών τεχνολογιών, το οποίο περιλαμβάνει, μεταξύ άλλων, τον Γενικό Κανονισμό για την Προστασία Δεδομένων, τον Κανονισμό για

την Ψηφιακή Διακυβέρνηση, τον Κανονισμό για την Ψηφιακή Αγορά καθώς και τον Κανονισμό για τις Ψηφιακές Υπηρεσίες. Το πλήθος των νομοθετημάτων αυτών δημιουργεί ένα σύνθετο πλέγμα υποχρεώσεων, το οποίο απαιτεί συνεχή παρακολούθηση, ολιστική ανάλυση και εσωτερική συνέργεια.

Σε αυτό το πλαίσιο, η συμμόρφωση με τον Κανονισμό Τεχνητής Νοημοσύνης δεν μπορεί να αντιμετωπιστεί αποσπασματικά. Αντιθέτως, προϋποθέτει συστηματικό συντονισμό με τα παράλληλα ρυθμιστικά καθεστώτα, τα οποία ρυθμίζουν κρίσιμες πτυχές της τεχνολογικής ανάπτυξης και επιχειρησιακής λειτουργίας. Οι εσωτερικοί νομικοί σύμβουλοι και οι επαγγελματίες συμμόρφωσης καλούνται να ενεργήσουν ως ενδιάμεσοι συνδετικοί κρίκοι ανάμεσα στις επιμέρους λειτουργίες συμμόρφωσης, αναπτύσσοντας ενιαία πλαίσια εσωτερικής διακυβέρνησης και μηχανισμούς ελέγχου που ελαχιστοποιούν τις νομικές και επιχειρησιακές ασυμβατότητες.

Οι εσωτερικοί νομικοί σύμβουλοι και οι επαγγελματίες συμμόρφωσης εξελίσσονται σε έναν διεπιστημονικό παράγοντα ο οποίος είναι υπεύθυνος για την αξιολόγηση νομικών και δεοντολογικών κινδύνων, την εξασφάλιση της πλήρους συμμόρφωσης των συστημάτων Tεχνητής Nοημοσύνης που παράγει ή προμηθεύεται ένας οργανισμός και πρακτική επιτήρηση της ηθικής χρήσης των τεχνολογιών αυτών. Ο ρόλος τους δεν περιορίζεται πλέον σε εκ των υστέρων νομική υποστήριξη ή απλή συμβουλευτική. Αντιθέτως, καλείται να λειτουργήσει ως καταλύτης θεσμικής συμμόρφωσης, αλλά και ως στρατηγικός συνομιλητής της διοίκησης, με άμεση επίδραση στον σχεδιασμό, την υλοποίηση και την εποπτεία τεχνολογικών λύσεων

που ενσωματώνουν Τεχνητή Νοημοσύνη, με τρόπο που να επιτρέπει την καινοτομία και την εξέλιξη της επιχείρησης ενώ, παράλληλα, προστατεύει τα έννομα δικαιώματά της και ελαχιστοποιεί τους κινδύνους που σχετίζονται με τη συμμόρφωση της. Είναι εκείνος που οφείλει να μεταφράσει το γράμμα του νόμου σε λειτουργικές πολιτικές, διαδικασίες και τεχνολογικά πρότυπα. Η πρόκληση που αντιμετωπίζει δεν είναι μόνο νομική· είναι ταυτόχρονα οργανωσιακή, επιχειρησιακή και διακυβερνητική.

Καθίσταται, συνεπώς, σαφές ότι η ραγδαία ενίσχυση του ρόλου των νομικών επαγγελμάτων αυτών στην υλοποίηση ή προμήθεια έργων Τεχνητής Νοημοσύνης από τους οργανισμούς σε συνδυασμό με τη σταδιακή ωρίμανση του ρυθμιστικού πλαισίου της Ευρωπαϊκής Ένωσης μέσω της υιοθέτησης του Κανονισμού για την Τεχνητή Νοημοσύνη, αναδεικνύουν ως αδήριτη την ανάγκη για συνεχή επιμόρφωση και παροχή πρακτικών εργαλείων και κατευθύνσεων, ιδίως για τους νομικούς συμβούλους που δραστηριοποιούνται εντός των οργανισμών.

Το παρόν εγχειρίδιο φιλοδοξεί να λειτουργήσει ως γέφυρα μεταξύ θεωρητικής γνώσης και πρακτικής εφαρμογής, προσφέροντας έναν ρεαλιστικό, ευσύνοπτο και λειτουργικά εφαρμόσιμο οδικό χάρτη. Αποτελεί ένα πρώιμο εργαλείο συμμόρφωσης, σχεδιασμένο να υποστηρίξει την κατανόηση των ουσιαστικών διατάξεων και υποχρεώσεων του Κανονισμού, την αναγνώριση των κρίσιμων χρονικών σταδίων του κύκλου ζωής ενός συστήματος Τεχνητής Νοημοσύνης (ανάπτυξη – προμήθεια – χρήση), κατά τα οποία η εμπλοκή του νομικού συμβούλου είναι καθοριστική και τον προσδιορισμό του τρόπου με τον οποίο ο εσωτερικός νομικός σύμβουλος ή ο επαγγελματίας συμμόρφωσης καλείται να αντιμετωπίσει την πρόκληση της συμμόρφωσης με τον Κανονισμό. Το εγχειρίδιο επικεντρώνεται στην υποστήριξη της υπεύθυνης υιοθέτησης και χρήσης της Τεχνητής Νοημοσύνης στο επιχειρησιακό περιβάλλον, με βάση τις ειδικές υποχρεώσεις που απορρέουν από τον Κανονισμό ανά ρυθμιστικά ορισμένο ρόλο. Κάθε ρόλος συνεπάγεται διαφορετικό φάσμα υποχρεώσεων, ευθυνών και αλληλεπιδράσεων με άλλους παράγοντες της εφοδιαστικής αλυσίδας της Τεχνητής Νοημοσύνης. Η κατανόηση των διαφοροποιήσεων αυτών είναι απαραίτητη για την αποτελεσματική οργάνωση της συμμόρφωσης, την αποφυγή νομικών κινδύνων και την υποστήριξη μιας θεσμικά υπεύθυνης και τεχνολογικά βιώσιμης στρατηγικής Τεχνητής Νοημοσύνης.

Η αποστολή του παρόντος εγχειριδίου είναι να καθοδηγήσει τον εσωτερικό νομικό σύμβουλο ή τον επαγγελματία συμμόρφωσης με σαφήνεια, ταχύτητα και τεκμηρίωση, προκειμένου να θέσει τα αναγκαία θεμέλια για την αποτελεσματική ανταπόκριση στις νέες, σύνθετες ευθύνες που απορρέουν από το ρυθμιστικό πλαίσιο για την Τεχνητή Νοημοσύνη.

Η προσέγγιση του παρόντος εγχειριδίου δεν εστιάζει στην ανάλυση συγκεκριμένων περιπτώσεων χρήσης, καθώς σε αυτή τη φάση της εφαρμογής του Κανονισμού τα διαθέσιμα παραδείγματα παραμένουν περιορισμένα και ενίοτε μη αντιπροσωπευτικά της ποικιλομορφίας των πραγματικών επιχειρησιακών σεναρίων. Αντιθέτως, στόχος είναι η παροχή ενός θεμελιωμένου και ευέλικτου πλαισίου εργαλείων, το οποίο θα επιτρέψει στον εσωτερικό νομικό σύμβουλο ή επαγγελματία συμμόρφωσης να δομήσει, να προσαρμόσει και να εξελίξει ο ίδιος ένα συστηματικό μηχανισμό κατανόησης, ανάλυσης και συμμόρφωσης, ικανό να ανταποκριθεί στην εκάστοτε επιχειρησιακή περίπτωση. Με αυτόν τον τρόπο, το εγχειρίδιο αποσκοπεί στο να ενισχύσει όχι μόνο τη συμμόρφωση, αλλά και την αυτονομία, τη λειτουργική ετοιμότητα και την οργανωσιακή ανθεκτικότητα των νομικών επαγγελματιών.

Ειδικότερα, η προσέγγιση του παρόντος εγχειριδίου είναι προσανατολισμένη στον επαγγελματία του εσωτερικού νομικού τμήματος ή στον επαγγελματία συμμόρφωσης, ο οποίος καλείται να:

• αξιολογήσει ποια συστήματα Τεχνητής Νοημοσύνης εμπίπτουν στο πεδίο εφαρμογής του Κανονισμού,

• κατανοήσει και ερμηνεύσει τις υποχρεώσεις συμμόρφωσης ανάλογα με την ειδικότερο ρόλο που έχει η επιχείρηση του στην εφοδιαστική αλυσίδα και να τις ενσωματώσει στις εσωτερικές διαδικασίες και πολιτικές της εκάστοτε επιχείρησης,

• συνεργαστεί ουσιαστικά με λοιπές τεχνολογικές, επιχειρησιακές και διοικητικές ομάδες για τον σχεδιασμό μηχανισμών ελέγχου, λογοδοσίας και διαφάνειας,

• συνδέσει τη συμμόρφωση με τον Κανονισμό της τεχνητής Νοημοσύνης με άλλα αλληλοσυμπληρούμενα νομοθετήματα, όπως ο ΓΚΠΔ δημιουργώντας ένα συνολικό πλαίσιο ρυθμιστικής συνοχής.

• προετοιμάσει τον οργανισμό για εξωτερικούς ελέγχους, πιστοποιήσεις και την αντιμετώπιση νομικών ευθυνών που μπορεί να προκύψουν από τη χρήση συστημάτων Τεχνητής Νοημοσύνης.

Η συμμόρφωση με τον Κανονισμό Τεχνητής Νοημοσύνης δεν αποτελεί απλώς ένα ακόμη checkbox σε ένα πρόγραμμα έννομης συμμόρφωσης. Αντιθέτως, συνιστά μια ευκαιρία στρατηγικής αναβάθμισης της νομικής λειτουργίας, εδραίωσης της εταιρικής υπευθυνότητας και ανάδειξης του εσωτερικού νομικού συμβούλου και του επαγγελματία συμμόρφωσης σε καταλύτη διακυβέρνησης της Τεχνητής Νοημοσύνης. Κάτι τέτοιο δεν αποτελεί μόνο στρατηγικό στόχο για κάθε σύγχρονη επιχείρηση, αλλά οφείλει να είναι και προσωπική αποστολή κάθε σύγχρονου

επαγγελματία του δικαίου που δραστηριοποιείται εντός ενός τεχνολογικά ώριμου οργανισμού.

Όπως θα μπορούσε να παραφραστεί και μια σύγχρονη δημοφιλής παροιμία, η Τεχνητή Νοημοσύνη δεν θα αντικαταστήσει τους νομικούς, αλλά οι νομικοί που κατανοούν, αξιοποιούν και εφαρμόζουν την Τεχνητή Νοημοσύνη ενδέχεται να αντικαταστήσουν εκείνους που δεν το πράττουν.

Κεφάλαιο 2

Πώς ρυθμίζει το AI ACT την Τεχνητή Νοημοσύνη;

2.1.

To Πεδίο Εφαρμογής του Κανονισμού
Τεχνητής Νοημοσύνης

Ο Κανονισμός για την Τεχνητή Νοημοσύνη ρυθμίζει τη χρήση συστημάτων Τεχνητής Νοημοσύνης καθιερώνοντας κοινά πρότυπα σε όλα τα κράτη μέλη της Ευρωπαϊκής Ένωσης. Στόχος του είναι η δημιουργία μιας ενιαίας αγοράς αξιόπιστης και ασφαλούς Τεχνητής Νοημοσύνης και η προώθηση της ανάπτυξης συστημάτων Τεχνητής Νοημοσύνης που σέβονται τις ευρωπαϊκές αξίες και τα θεμελιώδη δικαιώματα. Περαιτέρω, ο Κανονισμός επιδιώκει να διασφαλίσει ότι η καινοτομία θα μπορεί να ανθίσει χωρίς να υπονομεύεται η ασφάλεια και τα δικαιώματα των πολιτών, επιχειρώντας προς τον σκοπό αυτό να περιορίσει τις δυνητικά επιβλαβείς συνέπειες της χρήσης των συστημάτων Τεχνητής Νοημοσύνης εντός της Ευρωπαϊκής Ένωσης.

Ο νέος Κανονισμός διαθέτει ένα ιδιαίτερα ευρύ πεδίο εφαρμογής. Αυτό, σε συνδυασμό με τον καθαρά ψηφιακό χαρακτήρα των συστημάτων και εργαλείων Τεχνητής Νοημοσύνης, σημαίνει ότι η πλειονότητα των οργανισμών και των επιχειρήσεων είναι πιθανόν να υπάγονται στις διατάξεις του και να πρέπει να συμμορφωθούν με τις υποχρεώσεις που απορρέουν από αυτόν.

Ενόψει των ανωτέρω και δεδομένης και της σχετικά σύντομης μεταβατικής περιόδου εφαρμογής του, όπως αναλύεται σε επόμενο Κεφάλαιο του εγχειριδίου, οι επιχειρήσεις οφείλουν να αποκτήσουν εις βάθος κατανόηση των Συστημάτων Τεχνητής Νοημοσύνης που αναπτύσσουν ή χρησιμοποιούν και να αξιολογήσουν εγκαίρως εάν αυτά εμπίπτουν στο πεδίο εφαρμογής του Κανονισμού.

Η κατανόηση του πεδίου εφαρμογής του Κανονισμού για την Τεχνητή Νοημοσύνη, και η ακριβής χαρτογράφηση του τρόπου με τον οποίο τα συστήματα Τεχνητής Νοημοσύνης έχουν ενταχθεί στην καθημερινή λειτουργία της εκάστοτε επιχείρησης, αποτελεί κρίσιμο και ουσιώδες πρώτο βήμα για τη συμμόρφωση των επιχειρήσεων με τη νέα νομοθεσία, και για τους εσωτερικούς νομικούς συμβούλους και τους επαγγελματίες συμμόρφωσης που έχουν αναλάβει την ευθύνη του έργου αυτού.

Ι. Ουσιαστικό και Εδαφικό Εύρος Εφαρμογής

Όπως συνέβη και με τον Γενικό Κανονισμό για την Προστασία Δεδομένων, όπου η Ευρωπαϊκή Επιτροπή έκρινε ότι οι φορείς εκτός της Ευρωπαϊκής Ένωσης που διαθέτουν τα προϊόντα ή τις υπηρεσίες τους στις ευρωπαϊκές αγορές πρέπει να υπόκεινται σε ανάλογες ρυθμιστικές απαιτήσεις με αυτές που ισχύει για τους φορείς εντός της Ευρωπαϊκής Ένωσης, έτσι και το εδαφικό πεδίο εφαρμογής του Κανονισμού Τεχνητής Νοημοσύνης εκτείνεται πέρα από τα φυσικά σύνορα της Ευρωπαϊκής Ένωσης, επηρεάζοντας επιχειρήσεις και οργανισμούς σε παγκόσμια κλίμακα.

Ένας από τους βασικούς στόχους και λόγους ύπαρξης, άλλωστε, του Κανονισμού Τεχνητής Νοημοσύνης είναι η θέσπιση κανόνων που θα εξασφαλίζουν την ασφαλή και ελεύθερη κυκλοφορία συστημάτων Τεχνητής Νοημοσύνης εντός της Ενιαίας Κοινοτικής Αγοράς (Free Movement of Goods). Με αυτόν τον τρόπο, διασφαλίζεται όχι μόνο η προστασία των θεμελιωδών δικαιωμάτων, αλλά και η εύρυθμη λειτουργία της εσωτερικής αγοράς, δημιουργώντας ένα συνεκτικό πλαίσιο που ευνοεί την καινοτομία και τον θεμιτό ανταγωνισμό.

Ο Κανονισμός θεσπίζοντας ένα εκτενές, εξωεδαφικό και πολυεπίπεδο πεδίο εφαρμογής, το οποίο εξασφαλίζει νομοθετική συνοχή και προστασία των φυσικών προσώπων ανεξαρτήτως γεωγραφικής ή τεχνικής ρύθμισης επιδιώκει να αποτρέψει την καταστρατήγηση των διατάξεών του μέσω της μεταφοράς κρίσιμων λειτουργιών σε υπεργολάβους εγκατεστημένους σε τρίτες χώρες. Συγκεκριμένα, όταν τα στοιχεία εξόδου (outputs) ενός εργαλείου Τεχνητής Νοημοσύνης, ακόμη και αν αυτό δεν διατίθεται στην Ευρωπαϊκή αγορά ούτε παρέχεται εντός της Ευρωπαϊκής Ένωσης, χρησιμοποιούνται από φορέα εντός της Ευρωπαϊκής Ένωσης, το εν λόγω εργαλείο εμπίπτει στο πεδίο εφαρμογής του Κανονισμού. Η προσέγγιση αυτή κατοχυρώνει την αρχή ότι η ουσία υπερισχύει της μορφής, αποτρέποντας τη δημιουργία ρυθμιστικών παραθύρων και διασφαλίζοντας ότι οι υποχρεώσεις δεν μπορούν να παρακαμφθούν μέσω τεχνητής εξωτερικοποίησης.

Με τον τρόπο αυτό, η Ευρωπαϊκή Ένωση κατοχυρώνει τη νομική ευθύνη τόσο των παρόχων εκτός Ευρωπαϊκής Ένωσης όσο και των ενωσιακών φορέων που χρησιμοποιούν στοιχεία εξόδου (outputs) από συστήματα Τεχνητής Νοημοσύνης, ενισχύοντας τη διαφάνεια, τη λογοδοσία και την προστασία των θεμελιωδών δικαιωμάτων. Η ρύθμιση αυτή ενδυναμώνει την εποπτεία και αποτρέπει την αθέμιτη εκμετάλλευση χαλαρότερων ρυθμιστικών πλαισίων τρίτων χωρών, διατηρώντας ταυτόχρονα ισότιμους όρους ανταγωνισμού στην εσωτερική αγορά.

Το ευρύ πεδίο εφαρμογής του Κανονισμού, καθιστά απαραίτητο από τις επιχειρήσεις, ανεξαρτήτως της γεωγραφικής τους βάσης, να διακριβώσουν προσεκτικά τις υποχρεώσεις τους που απορρέουν από αυτό, προκειμένου να εξασφαλίσουν συμμόρφωση, να αποφύγουν πιθανές κυρώσεις και να διατηρήσουν την επιχειρησιακή τους ακεραιότητα στην αγορά της Ευρωπαϊκής Ένωσης. Αυτή η πολυπλοκότητα υπογραμμίζει την ανάγκη για τις επιχειρήσεις να αξιολογήσουν προσεκτικά τον ρόλο τους και να οργανώνουν τα εσωτερικά τους χρονοδιαγράμματα, ώστε να εξασφαλίσουν πλήρη και έγκαιρη συμμόρφωση.

Η εφαρμογή του Κανονισμού καθορίζεται από τρία βασικά κριτήρια: (α) την εγκατάσταση της επιχείρησης ή του οργανισμού, (β) την διάθεση στην Ευρωπαϊκή Αγορά ενός συστήματος ή μοντέλου Τεχνητής Νοημοσύνης και (γ) τη γεωγραφική χρήση των στοιχείων εξόδου (outputs) του συστήματος Τεχνητής Νοημοσύνης.

Ο Κανονισμός θεσπίζει, επομένως, ένα ενιαίο και οριζόντιο νομικό πλαίσιο, το οποίο εφαρμόζεται ανεξαρτήτως του κλάδου ή της συγκεκριμένης χρήσης του εκάστοτε συστήματος Τεχνητής Νοημοσύνης. Το πεδίο εφαρμογής του εκτείνεται σε κάθε σύστημα Τεχνητής Νοημοσύνης που είτε διατίθεται στην αγορά της Ευρωπαϊκής Ένωσης, είτε χρησιμοποιείται εντός αυτής, είτε επιφέρει άμεσες επιπτώσεις σε πρόσωπα και πολίτες που βρίσκονται εντός του εδάφους της Ένωσης, ακόμη και αν οι πάροχοι ή οι χρήστες του συστήματος εδρεύουν σε τρίτες χώρες.

Πριν εξεταστεί περισσότερο το εδαφικό πεδίο εφαρμογής του Κανονισμού είναι σημαντικό να αναδειχθεί και το προσωπικό πεδίο εφαρμογής του. Ήδη από το άρθρο 2 του, ο Κανονισμός εισάγει στο κύριο σώμα των διατάξεων του όρους που αναφέρονται σε διαφορετικές οντότητες οι οποίες, με κάποιον τρόπο, συνδέονται με συστήματα Τεχνητής Νοημοσύνης και, αναλόγως με το ρόλο τους, υπάγονται σε διαφορετικές υποχρεώσεις συμμόρφωσης. Ειδικότερα, γίνεται αναφορά σε «παρόχους», «χρήστες», «φορείς εφαρμογής», «κατασκευαστές», «εισαγωγείς»,

«διανομείς», «αντιπροσώπους» και «θιγόμενα πρόσωπα». Για να εφαρμοστεί ο Κανονισμός σε μία οντότητα, αυτή θα πρέπει να έχει την ιδιότητα ενός (ή και περισσότερων) από τους ως άνω αναφερόμενους ρόλους σε σχέση με ένα ή περισσότερα συστήματα ή εργαλεία Τεχνητής Νοημοσύνης. Ο κάθε ρόλος υπόχρεου φορέα ή επιχείρησης συνεπάγεται διαφορετικές υποχρεώσεις, σύμφωνα με τον Κανονισμό, συνεπώς είναι υψίστης σημασία για κάθε εσωτερικό νομικό σύμβουλο ή επαγγελματία συμμόρφωσης που αναλαμβάνει το έργο της εφαρμογής του Κανονισμού, να είναι σε θέση να προσδιορίσει με ακρίβεια τον ρόλο και την ιδιότητα υπό την οποία ενεργεί και δραστηριοποιείται ο οργανισμός του σε σχέση με συγκεκριμένα συστήματα Τεχνητής Νοημοσύνης. Στα επόμενα κεφάλαια του παρόντος εγχειριδίου θα αναλυθούν λεπτομερώς τόσο οι διαφορετικοί ρόλοι που μνημονεύονται στις διατάξεις του Κανονισμού όσο και οι βασικές ενέργειες συμμόρφωσης που πρέπει να υλοποιούνται για κάθε ρόλο υπόχρεου φορέα ή επιχείρησης.

Ο Κανονισμός υιοθετεί, όπως προαναφέραμε, μία εξωεδαφική ρυθμιστική προσέγγιση, επιδιώκοντας την ίση μεταχείριση όλων των οικονομικών παραγόντων ανεξαρτήτως γεωγραφικής εγκατάστασης και την προστασία των θεμελιωδών δικαιωμάτων των φυσικών προσώπων εντός της Ευρωπαϊκής Ένωσης. Συγκεκριμένα:

Στους υπόχρεους με έδρα ή εγκατάσταση εντός της Ευρωπαϊκής Ένωσης, ο Κανονισμός τυγχάνει εφαρμογής:

• Σε φορείς εφαρμογής συστημάτων Τεχνητής Νοημοσύνης που έχουν τον τόπο εγκατάστασής τους ή εδρεύουν εντός της Ευρωπαϊκής Ένωσης,

• Σε εισαγωγείς και διανομείς συστημάτων Τεχνητής Νοημοσύνης στην Ευρωπαϊκή αγορά,

• Σε κατασκευαστές προϊόντων οι οποίοι διαθέτουν στην Ευρωπαϊκή αγορά ή θέτουν σε λειτουργία σύστημα Τεχνητής Νοημοσύνης μαζί με το προϊόν τους και υπό τη δική τους επωνυμία ή εμπορικό σήμα,

• Σε εξουσιοδοτημένους αντιπροσώπους που ενεργούν για λογαριασμό παρόχων συστημάτων Τεχνητής Νοημοσύνης οι οποίοι δεν είναι εγκατεστημένοι εντός της Ευρωπαϊκής Ένωσης,

• Σε λοιπά θιγόμενα πρόσωπα ή πολίτες που βρίσκονται στην Ευρωπαϊκή Ένωση, τα δικαιώματα ή τα συμφέροντα των οποίων πλήττονται.

Στους υπόχρεους με έδρα ή εγκατάσταση εκτός της Ευρωπαϊκής Ένωσης, ο Κανονισμός τυγχάνει εφαρμογής:

• Σε παρόχους που διαθέτουν στην αγορά της Ευρωπαϊκής Ένωσης συστήματα Τεχνητής Νοημοσύνης, ανεξαρτήτως του τόπου εγκατάστασής ή της έδρας τους·

• Σε παρόχους και χρήστες συστημάτων ΤΝ που είναι εγκατεστημένοι εκτός ΕΕ, εφόσον τα στοιχεία εξόδου (οutputs) των εν λόγω συστημάτων χρησιμοποιούνται εντός της Ευρωπαϊκής Ένωσης.

ΙΙ. Εξαιρέσεις

Ο Κανονισμός της Τεχνητής Νοημοσύνης δεν εφαρμόζεται στις ακόλουθες περιπτώσεις:

Α. Συστήματα Τεχνητής Νοημοσύνης που διατίθενται, λειτουργούν ή χρησιμοποιούνται αποκλειστικά για στρατιωτικούς, αμυντικούς ή σκοπούς εθνικής ασφάλειας

Η εξαίρεση στα Συστήματα αυτά ισχύει ανεξαρτήτως αν οι σχετικές δραστηριότητες ασκούνται από δημόσιo ή ιδιωτικό φορέα. Επίσης, η παρούσα εξαίρεση εξακολουθεί να ισχύει ακόμη κι αν η παραγωγή των συστημάτων πραγματοποιείτα εντός της Ευρωπαϊκής Ένωσης, αρκεί η χρήση τους να περιορίζεται αποκλειστικά στους ανωτέρω σκοπούς.

Ωστόσο, εάν ένα σύστημα που έχει αναπτυχθεί για στρατιωτική χρήση χρησιμοποιείται και για μη στρατιωτικούς σκοπούς (π.χ. αστυνόμευση, συνοριακοί έλεγχοι, πολιτική προστασία), τότε για το σκέλος της μη στρατιωτικής χρήσης εμπίπτει στο πεδίο εφαρμογής του Κανονισμού και οι αντίστοιχοι φορείς υποχρεούνται σε πλήρη συμμόρφωση. Αντίστροφα, εάν ένα σύστημα έχει αναπτυχθεί για πολιτική χρήση αλλά αξιοποιείται αποκλειστικά σε στρατιωτικά περιβάλλοντα, εξακολουθεί να εξαιρείται, εφόσον η χρήση του παραμένει αμιγώς στρατιωτική. Τα συστήμα-

τα Τεχνητής Νοημοσύνης διπλής χρήσης (dual-use) αποτελούν, συνεπώς, ιδιαίτερα κρίσιμη κατηγορία, καθώς μπορούν να χρησιμοποιηθούν τόσο για εξαιρούμενες (π.χ. στρατιωτικές) όσο και για ρυθμιζόμενες (π.χ. πολιτικές) εφαρμογές. Αν η χρήση τους διασταυρώνεται με μη εξαιρούμενες δραστηριότητες, τότε για το μέρος αυτό εφαρμόζεται πλήρως ο Κανονισμός. Οι οργανισμοί οφείλουν για τα συστήματα αυτά να εφαρμόζουν σαφή διαχωρισμό ανάμεσα στα εξαιρούμενα και τα μη εξαιρούμενα σενάρια χρήσης, καθώς και να τεκμηριώνουν τις σχετικές διαδικασίες, ώστε να αποδεικνύουν τη συμμόρφωση όπου απαιτείται. Αυτή η διάκριση είναι καθοριστική για τους εσωτερικούς νομικούς συμβούλους ή τους επαγγελματίες συμμόρφωσης, διότι από την ορθή κατηγοριοποίηση εξαρτάται η νομική υποχρέωση συμμόρφωσης ή η δυνατότητα εξαίρεσης.

Β. Συστήματα Τεχνητής Νοημοσύνης που αναπτύσσονται αποκλειστικά για αμιγώς ερευνητική χρήση και επιστημονική έρευνα και ανάπτυξη χωρίς καμίας μορφής εμπορική εκμετάλλευση

Η εξαίρεση αυτή αποσκοπεί στη διαφύλαξη της καινοτομίας και της ελευθερίας της επιστήμης, επιτρέποντας την ανάπτυξη και δοκιμή τεχνολογιών χωρίς τις εμπορικές και ρυθμιστικές δεσμεύσεις που προβλέπει ο Κανονισμός.Και στην περίπτωση αυτή μπορεί να υπάρχουν συστήματα που έχουν συχνά διπλή χρήση (dual-use). Εφόσον ένα ερευνητικό σύστημα Τεχνητής Νοημοσύνης, ακόμη και αν έχει αναπτυχθεί αποκλειστικά για ερευνητικούς σκοπούς, χρησιμοποιηθεί ή προσαρμοστεί σε μη ερευνητικό πλαίσιο, παραδείγματος χάριν, τεθεί σε εμπορική αξιοποίηση ή επιχειρησιακή χρήση σε δημόσιο ή ιδιωτικό τομέα, τότε παύει να καλύπτεται από την εξαίρεση και υπάγεται στο πεδίο εφαρμογής του Κανονισμού για το συγκεκριμένο σκέλος της χρήσης του. Η διάκριση αυτή είναι κρίσιμη, καθώς ένα εργαλείο που αρχικά αναπτύχθηκε σε ερευνητικό πλαίσιο μπορεί να μετατραπεί σε σύστημα διπλής χρήσης (dual-use) εάν αποκτήσει εμπορική ή επιχειρησιακή διάσταση, ενεργοποιώντας αντίστοιχες υποχρεώσεις συμμόρφωσης.

Γ. Συστήματα Τεχνητής Νοημοσύνης που προορίζονται αποκλειστικά για xρήση από φυσικά πρόσωπα που ενεργούν ως φορείς εφαρμογής για προσωπικούς, μη επαγγελματικούς και οικιακούς σκοπούς

Η παρούσα εξαίρεση, δεν καλύπτει νομικά πρόσωπα ή άλλους φορείς εκμετάλλευσης, ακόμη και αν η χρήση που κάνουν δεν είναι επαγγελματική.

Δ. Συστήματα Τεχνητής Νοημοσύνης κατά τη φάση της έρευνας και δοκιμής τους

Περαιτέρω, οι διατάξεις του Κανονισμού δεν εφαρμόζονται κατά τη φάση της έρευνας και δοκιμής ενός συστήματος Τεχνητής Νοημοσύνης, εφόσον το σύστημα δεν έχει ακόμη διατεθεί στην αγορά ή τεθεί σε λειτουργία. Ωστόσο, με την διάθεση ή την θέση του συστήματος στην Αγορά, ο Κανονισμός εφαρμόζεται πλήρως επί του συστήματος. Ωστόσο, ακόμη και όταν δεν εφαρμόζεται ο Κανονισμός, οι πράξεις έρευνας, δοκιμής, και ανάπτυξης θα πρέπει να διεξάγονται με σεβασμό στα δεοντολογικά πρότυπα και σύμφωνα με το ενωσιακό δίκαιο. Διευκρινίζεται επίσης ότι η παρούσα εξαίρεση δεν εφαρμόζεται σε δοκιμές των συστημάτων Τεχνητής Νοημοσύνης σε πραγματικές συνθήκες.

Ε. Σε δημόσιες αρχές τρίτων χωρών και διεθνείς οργανισμούς όταν ενεργούν στο πλαίσιο συνεργασιών ή διεθνών συμφωνιών που έχουν συναφθεί με την Ευρωπαϊκή Ένωση ή με κράτη μέλη για σκοπούς επιβολής του νόμου και δικαστικής συνεργασίας

Η εν λόγω εξαίρεση ισχύει μόνο εφόσον παρέχονται επαρκείς και αποτελεσματικές εγγυήσεις όσον αφορά την προστασία των θεμελιωδών δικαιωμάτων και ελευθεριών των φυσικών προσώπων, οι οποίες πρέπει να προβλέπονται ρητώς στο σχετικό συμβατικό πλαίσιο. Επιπλέον, η εξαίρεση μπορεί να καλύπτει δραστηριότητες φορέων που έχουν εξουσιοδοτηθεί από τρίτες χώρες να εκτελούν ειδικές εργασίες υποστήριξης των αρμοδίων αρχών. Την ευθύνη αξιολόγησης των συμφωνιών αυτών και της επάρκειας των σχετικών εγγυήσεων φέρουν οι εθνικές αρχές εποπτείας των αρχών επιβολής του νόμου και των δικαστικών αρχών, όπως ορίζεται στον Κανονισμό. Παράλληλα, οι εθνικές αρχές και τα θεσμικά όργανα της Ευρωπαϊκής

Ένωσης που κάνουν χρήση των δεδομένων αυτών παραμένουν υπόλογοι για τη συμμόρφωσή τους με το δίκαιο της Ένωσης. Σε περίπτωση αναθεώρησης ή σύναψης νέων συμφωνιών, τα συμβαλλόμενα μέρη οφείλουν να επιδιώκουν την ευθυγράμμισή τους με τις απαιτήσεις του Κανονισμού.

ΣΤ. Συστήματα Τεχνητής Νοημοσύνης που διατίθενται με άδεια ελεύθερου και ανοιχτού κώδικα (open-source)

Η παρούσα εξαίρεση ισχύει, υπό την προϋπόθεση ότι δεν εντάσσονται σε ειδικές κατηγορίες συστημάτων Τεχνητής Νοημοσύνης που δεν δικαιολογούν την εξαίρεση. Η παρούσα εξαίρεση, δηλαδή, δεν είναι απόλυτη. Συγκεκριμένα, η εξαίρεση δεν θα εφαρμοστεί εάν, ανεξαρτήτως της άδειας με την οποία διατίθεται:

• το σύστημα Τεχνητής Νοημοσύνης αποτελεί σύστημα υψηλού κινδύνου, όπως αυτά προσδιορίζονται στο άρθρο 6 του Κανονισμού·

• το σύστημα Τεχνητής Νοημοσύνης εμπίπτει στις απαγορευμένες πρακτικές του άρθρου 5 (π.χ. κοινωνική βαθμολόγηση [social scoring], χειραγώγηση ευάλωτων ομάδων)·

• το σύστημα υπάγεται στις υποχρεώσεις διαφάνειας του άρθρου 50 του Κανονισμού (π.χ. συστήματα που αλληλεπιδρούν με ανθρώπους ή παράγουν προϊόντα βαθυπαραποίησης).