Είναι το chatbot μου υψηλού κινδύνου;

Σύντομη απάντηση: σχεδόν σίγουρα δεν είναι υψηλού κινδύνου - αλλά έχετε υποχρεώσεις που είναι εκτελεστές ήδη τώρα, που δεν είναι η απάντηση την οποία περιμένουν οι περισσότεροι κατασκευαστές chatbot, ούτε αυτή που τους είπαν τον Ιούνιο.

Η σύγχυση είναι κατανοητή. Το «υψηλού κινδύνου» ακούγεται σαν περιγραφή του πόση ζημιά μπορεί να κάνει κάτι, οπότε ένα chatbot με πρόσβαση σε δεδομένα πελατών μοιάζει να πρέπει να μπαίνει μέσα. Δεν είναι τέτοιος όρος. Ο υψηλός κίνδυνος είναι ορισμένη κατάταξη με συγκεκριμένη λίστα από πίσω, και τα περισσότερα chatbot κάθονται εκτός της - ενώ προσγειώνονται καταμεσής ενός άλλου συνόλου υποχρεώσεων για το οποίο δεν έγραψε κανείς.

Πότε είναι υψηλού κινδύνου ένα chatbot

Το chatbot σας είναι υψηλού κινδύνου μόνο αν εμπίπτει στο παράρτημα III. Για συστήματα συνομιλίας, ρεαλιστικά αυτό σημαίνει ένα από τα παρακάτω:

Προσέξτε τι έχουν κοινό. Καθένα από αυτά λαμβάνει ή επηρεάζει ουσιωδώς μια απόφαση για ένα συγκεκριμένο πρόσωπο που αφορά την πρόσβασή του σε εργασία, χρήμα, εκπαίδευση, ελευθερία ή διαμονή. Αυτό είναι το πραγματικό κριτήριο που κρύβεται πίσω από τη λίστα.

Ένα chatbot υποστήριξης που απαντά σε ερωτήσεις για το προϊόν σας δεν κάνει τίποτα από αυτά. Ούτε ένα chatbot πωλήσεων που αξιολογεί leads - το να αξιολογείς μια εταιρεία δεν είναι απόφαση για πρόσωπο. Ούτε ένα εσωτερικό chatbot που ψάχνει στην τεκμηρίωσή σας.

Και ακόμη και τότε, ελέγξτε το άρθρο 6(3)

Το να βρίσκεστε μέσα σε τομέα του παραρτήματος III δεν καθιστά αυτομάτως ένα σύστημα υψηλού κινδύνου. Το άρθρο 6(3) προβλέπει εξαίρεση όταν το σύστημα εκτελεί στενή διαδικαστική εργασία, βελτιώνει το αποτέλεσμα ανθρώπινης δραστηριότητας που έχει ήδη ολοκληρωθεί, εντοπίζει μοτίβα λήψης αποφάσεων χωρίς να αντικαθιστά την ανθρώπινη αξιολόγηση ή εκτελεί προπαρασκευαστική εργασία - και δεν καταρτίζει προφίλ φυσικών προσώπων.

Για τα chatbot, η προϋπόθεση της κατάρτισης προφίλ είναι συνήθως αυτή που το κρίνει, και είναι απόλυτη. Ένα chatbot που συλλέγει δομημένες πληροφορίες από υποψηφίους και τις παραδίδει αναλλοίωτες σε έναν recruiter μπορεί να κάνει προπαρασκευαστική εργασία. Ένα που συνάγει οτιδήποτε για το πρόσωπο - καταλληλότητα, συναίσθημα, πιθανή απόδοση - καταρτίζει προφίλ, και η εξαίρεση κλείνει. Ο πλήρης έλεγχος του 6(3).

Αυτό που σχεδόν σίγουρα είστε: περιορισμένου κινδύνου

Τα περισσότερα chatbot προσγειώνονται στον περιορισμένο κίνδυνο, όπου ολόκληρη η υποχρέωση είναι η διαφάνεια βάσει του άρθρου 50 - και αυτό είναι το κομμάτι που μετράει, επειδή είναι εκτελεστό από τις 2 Αυγούστου 2026.

50(1) - πείτε στους ανθρώπους ότι μιλούν με ΤΝ

Τα συστήματα που προορίζονται να αλληλεπιδρούν απευθείας με φυσικά πρόσωπα πρέπει να σχεδιάζονται έτσι ώστε τα πρόσωπα αυτά να ενημερώνονται ότι αλληλεπιδρούν με σύστημα ΤΝ, εκτός αν αυτό είναι προφανές για έναν ευλόγως ενημερωμένο άνθρωπο υπό τις περιστάσεις.

Τρία πράγματα που ο κόσμος τα κάνει λάθος:

• Το «προφανές» δεν είναι ασφαλές στοίχημα. Οι σύγχρονοι βοηθοί είναι πειστικοί, παίρνουν ανθρώπινα ονόματα και ανοίγουν με χαιρετισμούς που ακούγονται ανθρώπινοι. Αν δώσατε στον δικό σας ένα μικρό όνομα και μια φωτογραφία, έχετε δουλέψει ενεργά εναντίον της προφάνειας.
• Η πολιτική απορρήτου δεν μετράει. Η γνωστοποίηση πρέπει να φτάνει στο πρόσωπο κατά ή πριν από την αλληλεπίδραση, όχι να κάθεται σε ένα έγγραφο που δεν πρόκειται να ανοίξει ποτέ.
• Πρέπει να επιβιώνει της μεταβίβασης. Αν το bot σας κλιμακώνει σε άνθρωπο, ή αν ένας άνθρωπος αναλαμβάνει σιωπηλά, ο χρήστης πρέπει να μπορεί να καταλάβει με ποιον από τους δύο μιλά.

50(2) και 50(4) - συνθετικό περιεχόμενο

Αν το προϊόν σας παράγει περιεχόμενο, ισχύουν δύο ακόμη διατάξεις, και αξίζει να είμαστε ακριβείς για το ποιος οφείλει τι:

• Το 50(2) απαιτεί από τους παρόχους παραγωγικών συστημάτων να επισημαίνουν το συνθετικό αποτέλεσμα ως τεχνητά παραγόμενο, σε μορφότυπο αναγνώσιμο από μηχανή. Αυτή η υποχρέωση βαρύνει τον πάροχο του παραγωγικού συστήματος. Αν καλείτε το μοντέλο κάποιου άλλου μέσω API, είναι δική του, όχι δική σας.
• Το 50(4) καλύπτει τους φορείς εφαρμογής. Τα deepfake - εικόνα, ήχος ή βίντεο που μοιάζει με πραγματικά πρόσωπα, τόπους ή γεγονότα - πρέπει να γνωστοποιούνται. Το κείμενο που παράγεται από ΤΝ και δημοσιεύεται για την ενημέρωση του κοινού σε θέματα δημοσίου συμφέροντος πρέπει επίσης να γνωστοποιείται, εκτός αν πέρασε από ανθρώπινο έλεγχο και ένα φυσικό ή νομικό πρόσωπο φέρει τη συντακτική ευθύνη για τη δημοσίευσή του.

Αυτή η εξαίρεση είναι η πρακτική για τις περισσότερες εταιρείες. Αν ένας άνθρωπος διαβάζει ό,τι δημοσιεύετε πριν βγει και αναλαμβάνει την ευθύνη γι' αυτό, η υποχρέωση γνωστοποίησης δεν ενεργοποιείται. Δημοσιεύστε παραγόμενο κείμενο χωρίς έλεγχο και ενεργοποιείται.

Άρθρο 4 - γραμματισμός στην ΤΝ, που ισχύει για όλους

Οι πάροχοι και οι φορείς εφαρμογής οφείλουν να διασφαλίζουν επαρκές επίπεδο γραμματισμού στην ΤΝ στο προσωπικό που ασχολείται με το σύστημα, λαμβάνοντας υπόψη τις τεχνικές του γνώσεις και το πλαίσιο χρήσης. Εκτελεστό από τις 2 Αυγούστου 2026.

Για μια μικρή ομάδα αυτό είναι πραγματικά μισή μέρα: τι κάνει το σύστημα, πού αστοχεί, πώς αναγνωρίζεις ένα κακό αποτέλεσμα, σε ποιον κλιμακώνεις. Κρατήστε πρακτικό και φυλάξτε τη λίστα συμμετοχής. Το αρχείο είναι η συμμόρφωση - δεν υπάρχει τίποτα να υποβάλετε και κανείς να ειδοποιήσετε, αλλά αν σας ρωτήσουν, το «το κάναμε αυτή την ημερομηνία και ορίστε ποιοι ήταν παρόντες» είναι ολόκληρη η απάντηση.

Και τα δεδομένα που βλέπει το chatbot;

Συνηθισμένο μπέρδεμα. Αν το chatbot σας επεξεργάζεται δεδομένα προσωπικού χαρακτήρα, αυτό είναι ΓΚΠΔ, όχι Κανονισμός για την ΤΝ. Τα δύο επικαλύπτονται αλλά θέτουν διαφορετικά ερωτήματα: ο ΓΚΠΔ ρωτά αν επιτρέπεται να επεξεργαστείτε αυτά τα δεδομένα και σε ποια βάση, ο Κανονισμός για την ΤΝ ρωτά τι είδους σύστημα είναι αυτό και ποιες υποχρεώσεις το συνοδεύουν.

Απαντώντας στο ένα δεν απαντάτε στο άλλο. Το «είμαστε συμμορφωμένοι με τον ΓΚΠΔ, άρα είμαστε εντάξει» είναι από τις πιο συνηθισμένες παρανοήσεις σε αυτόν τον χώρο, και είναι λάθος και προς τις δύο κατευθύνσεις - η ανάλυση νόμιμης βάσης δεν λέει τίποτα για το άρθρο 50, και η κατάταξη βάσει του Κανονισμού για την ΤΝ δεν λέει τίποτα για τη νόμιμη βάση σας.

Πέντε λεπτά, και θα ξέρετε πού βρίσκεστε

1. Λαμβάνει ή επηρεάζει ουσιωδώς το chatbot σας μια απόφαση για ένα συγκεκριμένο πρόσωπο σχετικά με απασχόληση, εκπαίδευση, πιστώσεις, βασικές υπηρεσίες, επιβολή του νόμου, μετανάστευση ή δικαιοσύνη; Όχι → δεν είναι υψηλού κινδύνου.
2. Αν ναι, καταρτίζει προφίλ προσώπων; Όχι, και η εργασία του είναι στενή ή προπαρασκευαστική → πιθανώς εξαιρείται βάσει του 6(3), αλλά τεκμηριώστε το.
3. Ενημερώνεται ο χρήστης ότι είναι ΤΝ, στην πρώτη επαφή, ορατά; Όχι → διορθώστε το μέσα στην εβδομάδα. Ενεργή υποχρέωση.
4. Παράγει περιεχόμενο που δημοσιεύετε χωρίς έλεγχο; Ναι → επισημάνετέ το, ή βάλτε έλεγχο και αναλάβετε τη συντακτική ευθύνη.
5. Έχετε κάνει και καταγράψει συνεδρία γραμματισμού στην ΤΝ; Όχι → μισή μέρα, με πρακτικό.

Οι περισσότερες εταιρείες που περνούν αυτή τη λίστα διαπιστώνουν ότι είναι περιορισμένου κινδύνου με ένα πραγματικό κενό: τη γνωστοποίηση. Παίρνει ένα απόγευμα, είναι εκτελεστή από τον Αύγουστο, και είναι το πιο συχνά ανεκτέλεστο πράγμα από όλα.