Παράρτημα III: Συστήματα Τεχνητής Νοημοσύνης Υψηλού Κινδύνου: Άρθρο 6 – Οδηγός Ταξινόμησης

Τι καθιστά ένα σύστημα Τεχνητής Νοημοσύνης υψηλού κινδύνου;

Το άρθρο 6 δημιουργεί δύο ανεξάρτητες διαδρομές. Η συμπερίληψη σε οποιαδήποτε από αυτές συνεπάγεται ότι ανήκετε στην κατηγορία υψηλού κινδύνου — και ενεργοποιεί την πλήρη τεκμηρίωση του Παραρτήματος IV, τους ελέγχους των άρθρων 9–15 και τις υποχρεώσεις αξιολόγησης της συμμόρφωσης.

Οι δύο διαδρομές: Το Άρθρο 6(1) καλύπτει την τεχνητή νοημοσύνη που χρησιμοποιείται ως συστατικό ασφαλείας σε ρυθμιζόμενα προϊόντα. Το Άρθρο 6(2) + Παράρτημα III καλύπτει την αυτόνομη τεχνητή νοημοσύνη σε οκτώ συγκεκριμένες κατηγορίες περιπτώσεων χρήσης.

Διαδρομή 1: Στοιχεία Ασφαλείας (Άρθρο 6(1))

Εάν η τεχνητή νοημοσύνη (ΤΝ) που χρησιμοποιείτε αποτελεί στοιχείο ασφαλείας ενός προϊόντος που καλύπτεται από την ενωσιακή νομοθεσία ανά τομέα (ιατρικές συσκευές, οχήματα, μηχανήματα, ανελκυστήρες, παιχνίδια κ.λπ.) ή είναι η ίδια ένα τέτοιο προϊόν, τότε αυτόματα θεωρείται ότι ενέχει υψηλό κίνδυνο.

Η αξιολόγηση της συμμόρφωσης πρέπει να πραγματοποιείται από έναν κοινοποιημένο φορέα.

Διαδρομή 2: Παραδείγματα Χρήσης του Παραρτήματος III (Άρθρο 6(2))

Οκτώ κατηγορίες περιπτώσεων χρήσης ενεργοποιούν την ταξινόμηση ως υψηλού κινδύνου, ανεξάρτητα από την υποκείμενη τεχνολογία:

• Βιομετρία: Συστήματα απομακρυσμένης βιομετρικής αναγνώρισης και αναγνώρισης συναισθημάτων.
• Κρίσιμες Υποδομές: Τεχνητή νοημοσύνη στην ενέργεια, το νερό, το φυσικό αέριο, τη θέρμανση και τις ψηφιακές υποδομές.
• Εκπαίδευση: Τεχνητή νοημοσύνη για την αξιολόγηση των μαθητών, τη βαθμολόγηση των εξετάσεων και την ανάλυση δεδομένων μάθησης.
• Απασχόληση: Έλεγχος βιογραφικών, ανάλυση συνεντεύξεων, ανάθεση εργασιών, αξιολόγηση απόδοσης, λήψη αποφάσεων για τερματισμό της σύμβασης.
• Βασικές Υπηρεσίες: Αξιολόγηση πιστοληπτικής ικανότητας, έγκριση δανείου, καθορισμός ασφαλιστικών τιμών, αποστολή υπηρεσιών έκτακτης ανάγκης.
• Επιβολή του Νόμου: Αξιολόγηση κινδύνου, πολυγράφος, αξιολόγηση αποδεικτικών στοιχείων, δημιουργία προφίλ
• **Μετανάστευση και Άσυλο:** Αιτήσεις για βίζες, διαδικασίες χορήγησης ασύλου, έλεγχος στα σύνορα.
• Δικαιοσύνη: Υποστήριξη στην επιμέτρηση της ποινής, πρόβλεψη της έκβασης μιας υπόθεσης, νομική έρευνα.

Η εξαίρεση του άρθρου 6(3)

Ένα σύστημα Τεχνητής Νοημοσύνης του Παραρτήματος III μπορεί να εξαιρεθεί εάν δεν εγκυμονεί σημαντικό κίνδυνο για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα.

Αναγνωρισμένες περιπτώσεις περιλαμβάνουν στενές διαδικαστικές εργασίες, βελτίωση του αποτελέσματος μιας προηγουμένως ολοκληρωμένης ανθρώπινης δραστηριότητας, ανίχνευση προτύπων λήψης αποφάσεων χωρίς να αντικαθίσταται η ανθρώπινη αξιολόγηση ή προπαρασκευαστικές εργασίες για μια μεταγενέστερη ανθρώπινη απόφαση. Η δημιουργία προφίλ αποτελεί πάντα υψηλό κίνδυνο. Η εξαίρεση δεν εφαρμόζεται ποτέ εάν το σύστημα εκτελεί δημιουργία προφίλ φυσικών προσώπων.

Εάν υποβάλλετε αίτηση για την εξαίρεση, τεκμηριώστε διεξοδικά την αιτιολόγηση. Οι ρυθμιστικές αρχές ενδέχεται να την αμφισβητήσουν.

Απαιτήσεις τεκμηρίωσης εάν υπάρχει υψηλός κίνδυνος

Τα συστήματα Τεχνητής Νοημοσύνης υψηλού κινδύνου πρέπει να διατηρούν ολοκληρωμένη τεκμηρίωση συμμόρφωσης:

• Τεχνική τεκμηρίωση του Παραρτήματος IV
• Σύστημα διαχείρισης κινδύνων του άρθρου 9
• Αρχεία διακυβέρνησης δεδομένων του άρθρου 10
• Καταγραφή κατά τη λειτουργία του άρθρου 12
• Σχεδιασμός ανθρώπινης εποπτείας του άρθρου 14
• Διαδικασία αξιολόγησης συμμόρφωσης + σήμανση CE
• Εγγραφή στην ευρωπαϊκή βάση δεδομένων Τεχνητής Νοημοσύνης