Η εξαίρεση του άρθρου 6(3)

Όλοι παραθέτουν το παράρτημα III. Σχεδόν κανείς δεν διαβάζει το άρθρο 6(3), που κάθεται ακριβώς από κάτω του και μπορεί να βγάλει ένα σύστημα εντελώς έξω από την κατηγορία του υψηλού κινδύνου.

Είναι η πιο καθοριστική παράγραφος ολόκληρου του Κανονισμού της ΕΕ για την τεχνητή νοημοσύνη (ΤΝ) για τις μικρές εταιρείες, και συστηματικά τη χάνουν - οι ιδρυτές, οι σύμβουλοι και τα περισσότερα δωρεάν εργαλεία κατάταξης που κυκλοφορούν αυτή τη στιγμή. Το αποτέλεσμα είναι ομάδες που προϋπολογίζουν αξιολογήσεις συμμόρφωσης, κοινοποιημένους οργανισμούς και σήμανση CE που μπορεί να μην οφείλουν ποτέ.

Τι λέει

Ένα σύστημα που εμπίπτει σε τομέα του παραρτήματος III δεν είναι υψηλού κινδύνου αν δεν ενέχει σημαντικό κίνδυνο βλάβης για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα, μεταξύ άλλων επειδή δεν επηρεάζει ουσιωδώς το αποτέλεσμα της λήψης αποφάσεων. Αυτό ισχύει όταν πληρούται οποιαδήποτε μία από αυτές τις τέσσερις προϋποθέσεις:

Η προϋπόθεση της κατάρτισης προφίλ είναι εκεί όπου κρίνεται σχεδόν κάθε περίπτωση

Επειδή είναι απόλυτη, αυτό είναι το ερώτημα που απαντάτε πρώτο. Η κατάρτιση προφίλ κατά το άρθρο 4(4) του ΓΚΠΔ, στο οποίο πατά ο Κανονισμός για την ΤΝ, σημαίνει αυτοματοποιημένη επεξεργασία δεδομένων προσωπικού χαρακτήρα για την αξιολόγηση προσωπικών πτυχών ενός φυσικού προσώπου - ιδίως για την ανάλυση ή την πρόβλεψη της απόδοσης στην εργασία, της οικονομικής κατάστασης, της υγείας, των προτιμήσεων, των ενδιαφερόντων, της αξιοπιστίας, της συμπεριφοράς, της θέσης ή των κινήσεων.

Η παγίδα: οι ομάδες διαβάζουν την «κατάρτιση προφίλ» ως «δημιουργία φακέλου». Είναι πολύ ευρύτερη. Η αξιολόγηση ή η πρόβλεψη οτιδήποτε αφορά ένα πρόσωπο με βάση τα δεδομένα του είναι κατάρτιση προφίλ, ακόμη και μία φορά, ακόμη και στιγμιαία, ακόμη και αν δεν αποθηκεύσετε ποτέ το αποτέλεσμα.

Το μοτίβο: είναι το πρόσωπο το αντικείμενο της αξιολόγησης, ή κάτι άλλο; Έγγραφα, αποφάσεις, απομαγνητοφωνήσεις και διαδικασίες μπορούν να αναλύονται ελεύθερα. Τη στιγμή που το αποτέλεσμα είναι μια κρίση για έναν άνθρωπο, καταρτίζετε προφίλ.

Η άλλη παγίδα: το «επηρεάζει ουσιωδώς το αποτέλεσμα»

Ακόμη και χωρίς κατάρτιση προφίλ, η εξαίρεση απαιτεί το σύστημα να μην επηρεάζει ουσιωδώς τη λήψη αποφάσεων. Δύο τρόποι με τους οποίους οι ομάδες πείθουν τον εαυτό τους ότι το προσπερνούν, και δεν θα έπρεπε:

«Την τελική απόφαση την παίρνει άνθρωπος.» Τυπικά αληθές, συχνά χωρίς νόημα. Αν το σύστημά σας παρουσιάζει μια βαθμολογημένη λίστα και ο άνθρωπος επιλέγει από τους τρεις πρώτους στο ενενήντα πέντε τοις εκατό των περιπτώσεων, το σύστημα επηρεάζει ουσιωδώς το αποτέλεσμα. Οι ρυθμιστικές αρχές κοιτούν τι συμβαίνει στην πραγματικότητα, όχι πού βρίσκεται το κουμπί. Αν έχετε τα δεδομένα για τα ποσοστά παράκαμψης, δείτε τα πριν στηριχθείτε σε αυτό το επιχείρημα.

«Είναι απλώς μια πρόταση.» Μια πρόταση που ακολουθείται εξ ορισμού είναι απόφαση με επιπλέον βήματα. Το κριτήριο στο σκέλος (γ) είναι ρητό - το σύστημα δεν πρέπει να επηρεάζει την ανθρώπινη αξιολόγηση χωρίς κατάλληλο έλεγχο. Κατάλληλος έλεγχος σημαίνει ότι ο ελεγκτής έχει τις πληροφορίες, τον χρόνο και την εξουσία να διαφωνήσει, και ενίοτε διαφωνεί.

Η εξαίρεση δεν είναι δωρεάν

Αυτό είναι το κομμάτι που παραλείπεται, και μετατρέπει μια καλή θέση σε κακή.

Ένας πάροχος που καταλήγει ότι το σύστημά του εξαιρείται βάσει του 6(3) οφείλει να τεκμηριώσει αυτή την αξιολόγηση πριν διαθέσει το σύστημα στην αγορά, και οφείλει επίσης να καταχωρίσει το σύστημα στη βάση δεδομένων της ΕΕ. Η αρμόδια αρχή μπορεί να ζητήσει την τεκμηρίωση. Άρα η εξαίρεση αφαιρεί τις βαριές υποχρεώσεις του κεφαλαίου III - διαχείριση κινδύνου, τεχνικός φάκελος, αξιολόγηση συμμόρφωσης, σήμανση CE - αλλά δεν είναι σιωπή. Είναι μια ελαφρύτερη, τεκμηριωμένη θέση.

Ένα λυμένο παράδειγμα

Μια εταιρεία έντεκα ατόμων πουλά σε νοσοκομεία λογισμικό που διαβάζει τα εισερχόμενα παραπεμπτικά και τα δρομολογεί στο σωστό τμήμα.

Παράρτημα III; Ναι - η πρόσβαση στην υγειονομική περίθαλψη μπορεί να ενεργοποιεί τις βασικές υπηρεσίες, και αυτό αγγίζει διαδρομές ασθενών.

Ποιο σκέλος; Το (α), στενή διαδικαστική εργασία. Κατατάσσει ένα έγγραφο κατά θεματικό αντικείμενο και το προωθεί παρακάτω.

Κατάρτιση προφίλ; Όχι. Διαβάζει το κλινικό περιεχόμενο του παραπεμπτικού και το αντιστοιχίζει σε τμήμα. Δεν σχηματίζει καμία άποψη για τον ασθενή - ούτε για το επείγον, ούτε για τον κίνδυνο, ούτε για την πιθανότητα προσέλευσης.

Ουσιώδης επιρροή; Όχι. Ένας κλινικός γιατρός ελέγχει κάθε παραπεμπτικό κατά την άφιξή του ανεξάρτητα από τη δρομολόγηση, και τα λανθασμένα δρομολογημένα παραπεμπτικά ανακατανέμονται καθημερινά.

Συμπέρασμα: πιθανώς εξαιρείται. Τεκμηριώστε το, καταχωρίστε το, προχωρήστε.

Τώρα αλλάξτε ένα πράγμα. Η εταιρεία προσθέτει λειτουργία που επισημαίνει παραπεμπτικά ως «πιθανώς επείγοντα» με βάση το ιστορικό του ασθενούς. Αυτό είναι πρόβλεψη για την υγεία ενός προσώπου - κατάρτιση προφίλ. Η εξαίρεση κλείνει ακαριαία και το σύστημα είναι υψηλού κινδύνου, με όλο το σύνολο του κεφαλαίου III να οφείλεται έως τις 2 Δεκεμβρίου 2027.

Μία λειτουργία. Ίδιο προϊόν, ίδιοι πελάτες, ίδια ομάδα. Τόσο γρήγορα κινείται αυτό, και γι' αυτό η αξιολόγηση πρέπει να επανεξετάζεται κάθε φορά που αλλάζει το προϊόν.

Πώς να κάνετε τον έλεγχο

1. Επιβεβαιώστε ότι βρίσκεστε όντως σε τομέα του παραρτήματος III. Αν όχι, το 6(3) είναι άσχετο - δεν ήσασταν ποτέ υψηλού κινδύνου.
2. Θέστε πρώτα το ερώτημα της κατάρτισης προφίλ. Είναι απόλυτο, οπότε ένα ναι τερματίζει την ανάλυση και σας γλιτώνει τα υπόλοιπα.
3. Προσδιορίστε σε ποιο σκέλος στηρίζεστε. Ένα αρκεί, αλλά κατονομάστε το. Το «είναι μάλλον στενό» δεν είναι σκέλος.
4. Δοκιμάστε υπό πίεση την ουσιώδη επιρροή. Δείτε τα πραγματικά ποσοστά παράκαμψης, αν τα έχετε.
5. Γράψτε το, βάλτε ημερομηνία, καταχωρίστε το σύστημα.
6. Ξανατρέξτε το όταν αλλάζει το προϊόν. Βάλτε το στην επισκόπηση του roadmap, όχι σε έναν φάκελο.