Πάροχος ή φορέας εφαρμογής;

Υπάρχει ένα ερώτημα στον Κανονισμό της ΕΕ για την τεχνητή νοημοσύνη (ΤΝ) που κρίνει τις περισσότερες από τις υποχρεώσεις σας, και δεν είναι το «είναι το σύστημά μου υψηλού κινδύνου;»

Είναι το «τι είμαι;»

Ο κανονισμός αναθέτει καθήκοντα ανάλογα με τον ρόλο στην αλυσίδα αξίας. Η απόσταση ανάμεσα στους ρόλους είναι τεράστια, και η λάθος απάντηση κοστίζει χρήμα και προς τις δύο κατευθύνσεις - ή προϋπολογίζετε δουλειά που δεν οφείλατε ποτέ, ή χάνετε δουλειά που όντως οφείλατε.

Οι τέσσερις ρόλοι

Το όλο ζήτημα κρέμεται από τη φράση «υπό τη δική σας επωνυμία ή εμπορικό σήμα». Όχι ποιος έγραψε τον κώδικα. Όχι ποιος εκπαίδευσε το μοντέλο. Ποιανού το όνομα βρίσκεται πάνω στο πράγμα όταν αυτό φτάνει στην αγορά.

Το λάθος που κάνουν πιο συχνά οι ιδρυτές

«Το φτιάξαμε εμείς, άρα είμαστε πάροχος.»

Ενίοτε ισχύει. Συχνά όχι, και η διάκριση αξίζει πραγματικά χρήματα.

Αν το ίδιο το σύστημα ΤΝ ανήκει σε κάποιον άλλο - ένα εργαλείο προσλήψεων με άδεια χρήσης, ένα μοντέλο υποστήριξης που καλείτε μέσω API, ένα προϊόν βαθμολόγησης που μεταπωλείτε μέσα στην πλατφόρμα σας - και το χρησιμοποιείτε στη λειτουργία σας, είστε φορέας εφαρμογής αυτού του συστήματος. Κάτι φτιάξατε, όντως. Φτιάξατε ένα προϊόν γύρω από το σύστημα ΤΝ κάποιου άλλου, και ο κανονισμός ενδιαφέρεται για το ποιο από τα δύο είναι το επίμαχο σύστημα ΤΝ.

Αυτό που αφαιρείται είναι σημαντικό. Καμία αξιολόγηση συμμόρφωσης. Καμία σήμανση CE. Κανένας τεχνικός φάκελος του παραρτήματος IV. Καμία καταχώριση στη βάση δεδομένων της ΕΕ. Αυτές είναι οι ακριβές και αργές υποχρεώσεις που εξαρτώνται από κοινοποιημένο οργανισμό, και οι φορείς εφαρμογής απλώς δεν τις έχουν.

Το λάθος που τρέχει προς την άλλη κατεύθυνση

Δύο δρόμοι σας οδηγούν στα καθήκοντα του παρόχου χωρίς να έχετε αποφασίσει να γίνετε πάροχος.

1. Ουσιαστική τροποποίηση - άρθρο 25

Γίνεστε πάροχος ενός συστήματος που προηγουμένως ανήκε σε κάποιον άλλο αν:

• βάλετε τη δική σας επωνυμία ή το εμπορικό σας σήμα σε σύστημα υψηλού κινδύνου που βρίσκεται ήδη στην αγορά·
• κάνετε ουσιαστική τροποποίηση σε σύστημα υψηλού κινδύνου, τέτοια ώστε αυτό να παραμένει υψηλού κινδύνου· ή
• μεταβάλετε τον επιδιωκόμενο σκοπό ενός συστήματος - ακόμη και ενός που δεν είχε προηγουμένως καταταχθεί ως υψηλού κινδύνου - ώστε να καταστεί υψηλού κινδύνου.

Το τρίτο σκέλος είναι αυτό που πιάνει τον κόσμο. Πάρτε ένα εργαλείο ταξινόμησης γενικού σκοπού, στρέψτε το στη διαλογή βιογραφικών, δώστε το σε εργοδότες με τη δική σας μάρκα, και έχετε δημιουργήσει ένα σύστημα υψηλού κινδύνου με εσάς ως πάροχό του. Κανείς δεν έστειλε ειδοποίηση. Οι υποχρεώσεις του αρχικού προμηθευτή δεν μεταβιβάστηκαν σε εσάς - ένα νέο σύνολο προσκολλήθηκε σε εσάς.

Το white-labelling είναι η ίδια παγίδα με πιο φιλικό κοστούμι. Η μεταπώληση με τη δική σας μάρκα βάζει το όνομά σας πάνω στο προϊόν, και ο κανονισμός διαβάζει ονόματα.

2. GPAI - άρθρο 53

Ξεχωριστό ερώτημα με ξεχωριστή απάντηση. Τι κάνατε στο μοντέλο;

• Κλήσεις API ή prompting - βρίσκεστε κατάντη. Τα καθήκοντα του άρθρου 53 βαρύνουν τον πάροχο του μοντέλου. Όχι εσάς.
• Ελαφρύ fine-tune, ίδιος τομέας, μέτριο σύνολο δεδομένων - στη συνήθη περίπτωση, πάλι κατάντη.
• Ουσιαστική επανεκπαίδευση, μεγάλη αλλαγή παραμέτρων ή νέος τομέας εργασιών - ενδέχεται να είστε πάροχος GPAI: τεχνική τεκμηρίωση του παραρτήματος XI, πληροφορίες προς τα κατάντη του παραρτήματος XII, πολιτική για τα δικαιώματα πνευματικής ιδιοκτησίας και την εξόρυξη κειμένων και δεδομένων, και δημόσια σύνοψη των δεδομένων εκπαίδευσης.

Ισχύει από τον Αύγουστο 2025, εκτελεστό από τις 2 Αυγούστου 2026. Η εκτεθειμένη ομάδα είναι οι ομάδες που έκαναν σοβαρό fine-tune μέσα στο 2025 για λόγους επιδόσεων, τότε που δεν υπήρχε κανονιστικός λόγος να το σκεφτούν. Περισσότερα για το πού βρίσκεται αυτό το κατώφλι.

Μάλλον είστε και τα δύο

Οι περισσότερες εταιρείες οποιουδήποτε μεγέθους κατέχουν και τους δύο ρόλους ταυτόχρονα, και ο κανονισμός δεν έχει πρόβλημα με αυτό - σημαίνει απλώς δύο σύνολα υποχρεώσεων.

Ένα ρεαλιστικό παράδειγμα. Μια εταιρεία HR-tech είκοσι ατόμων:

• Πάροχος του δικού της συστήματος κατάταξης βιογραφικών, που πωλείται σε εργοδότες με τη δική της μάρκα. Υψηλού κινδύνου βάσει του παραρτήματος III σημείο 4. Πλήρη καθήκοντα παρόχου έως τις 2 Δεκεμβρίου 2027.
• Φορέας εφαρμογής ενός έτοιμου εργαλείου τήρησης σημειώσεων με ΤΝ που χρησιμοποιεί στις δικές της εσωτερικές προσλήψεις. Καθήκοντα του άρθρου 26, και αν αυτό το εργαλείο είναι υψηλού κινδύνου, ισχύουν για αυτήν την εταιρεία ως χρήστη του.
• Φορέας εφαρμογής ενός chatbot υποστήριξης στον ιστότοπο μάρκετινγκ. Περιορισμένου κινδύνου, γνωστοποίηση βάσει του άρθρου 50, ενεργή ήδη τώρα.

Τρία συστήματα, τρεις θέσεις, μία εταιρεία. Γι' αυτό το «σε ποιο επίπεδο κινδύνου βρίσκεται η εταιρεία μου;» δεν είναι ερώτημα στο οποίο μπορεί να απαντήσει ο κανονισμός. Οι ρόλοι και τα επίπεδα προσκολλώνται σε συστήματα, όχι σε οργανισμούς. Κάθε αξιολόγηση γίνεται ανά σύστημα, και μια εταιρεία με τρία συστήματα ΤΝ έχει τρεις αξιολογήσεις.

Το άρθρο 26 ολόκληρο - τι οφείλουν πραγματικά οι φορείς εφαρμογής

Αξίζει να το διαβάσετε, επειδή είναι πιο σύντομο απ' ό,τι φοβάται ο κόσμος:

• Χρησιμοποιείτε το σύστημα σύμφωνα με τις οδηγίες χρήσης του παρόχου
• Αναθέτετε την ανθρώπινη εποπτεία σε φυσικό πρόσωπο με την αρμοδιότητα, την κατάρτιση και την εξουσία να την ασκήσει - και με δυνατότητα παράκαμψης
• Διασφαλίζετε ότι τα δεδομένα εισόδου είναι συναφή και επαρκώς αντιπροσωπευτικά για τον επιδιωκόμενο σκοπό, στον βαθμό που τα ελέγχετε
• Παρακολουθείτε τη λειτουργία και αναστέλλετε τη χρήση αν το σύστημα παρουσιάζει κίνδυνο
• Αναφέρετε τα σοβαρά περιστατικά στον πάροχο και στην αρχή
• Διατηρείτε τα αυτόματα παραγόμενα αρχεία καταγραφής για τουλάχιστον έξι μήνες, εφόσον βρίσκονται υπό τον έλεγχό σας
• Ενημερώνετε τους εργαζομένους και τους εκπροσώπους τους πριν θέσετε σύστημα υψηλού κινδύνου σε χρήση στον χώρο εργασίας
• Ενημερώνετε τα θιγόμενα πρόσωπα όταν το σύστημα λαμβάνει ή συνδράμει σε αποφάσεις που τα αφορούν
• Συνεργάζεστε με τις αρχές

Πραγματικές υποχρεώσεις. Αλλά κανένας κοινοποιημένος οργανισμός, καμία σήμανση CE, κανένας τεχνικός φάκελος, και κανένας απαιτούμενος διάδρομος δεκαοκτώ μηνών.

Πώς να το ξεκαθαρίσετε σε είκοσι λεπτά

1. Απαριθμήστε τα συστήματα ΤΝ σας ξεχωριστά. Όχι προϊόντα - συστήματα. Το chatbot, το μοντέλο κατάταξης και το εσωτερικό εργαλείο σημειώσεων είναι τρεις εγγραφές.
2. Για καθένα, ρωτήστε: ποιανού το όνομα βρίσκεται πάνω του όταν φτάνει στην αγορά; Το δικό σας σημαίνει πάροχος. Κάποιου άλλου, και εσείς απλώς το χρησιμοποιείτε, σημαίνει φορέας εφαρμογής.
3. Για καθένα, ρωτήστε: αλλάξαμε τον σκοπό για τον οποίο υπάρχει; Αν στρέψατε ένα σύστημα σε χρήση υψηλού κινδύνου, πιθανότατα είστε πλέον ο πάροχός του.
4. Ξεχωριστά, ρωτήστε: τροποποιήσαμε ουσιαστικά ένα μοντέλο γενικού σκοπού; Το ναι σημαίνει ελέγξτε το άρθρο 53.
5. Γράψτε κάθε απάντηση με μία πρόταση σκεπτικού, και βάλτε ημερομηνία.

Αυτό το τελευταίο βήμα είναι εκείνο που ο κόσμος παραλείπει και εκείνο που έχει αξία. Μια χρονολογημένη σελίδα που λέει «αυτό το σύστημα, αυτός ο ρόλος, αυτό το σκεπτικό» είναι ακριβώς ό,τι ζητά το νομικό τμήμα ενός επιχειρηματικού αγοραστή όταν στέλνει το ερωτηματολόγιο. Είναι επίσης αυτό που κάνει τη διαφορά ανάμεσα στο «το αξιολογήσαμε» και στο «το υποθέσαμε».