Η υπεύθυνη ΤΝ χρειάζεται σχεδιασμένα όρια, ελέγξιμες πηγές, σαφή εποπτεία και λογοδοσία σε ολόκληρο τον κύκλο ζωής ενός συστήματος.
Η συμμόρφωση δεν είναι ένα τελικό έγγραφο. Πρέπει να ενσωματώνεται στην αρχιτεκτονική, στις ροές έγκρισης, στην καταγραφή και στον τρόπο με τον οποίο παράγεται κάθε συμπέρασμα.
Η χρήση ΤΝ από δημόσιους οργανισμούς πρέπει να ξεκινά από σαφή σκοπό, καθορισμένους χρήστες και γνωστά όρια.
Ποιότητα και προέλευση δεδομένων
Διαφάνεια και εξηγησιμότητα
Ασφάλεια και έλεγχος πρόσβασης
Ανθρώπινη εποπτεία και καταγραφή ενεργειών
Η αρχιτεκτονική ως μηχανισμός διακυβέρνησης
Κανόνες που υπάρχουν μόνο σε πολιτικές μπορούν να παρακαμφθούν. Το DeepCore τοποθετεί κρίσιμους ελέγχους στην ίδια τη ροή γνώσης, συλλογιστικής, έγκρισης και ενέργειας.
Προετοιμασία για τον EU AI Act
Η προσέγγιση πρέπει να υποστηρίζει καταγραφή συστήματος και σκοπού, αξιολόγηση κινδύνου, τεχνική τεκμηρίωση, ανθρώπινη εποπτεία, logging και συνεχή παρακολούθηση, ανάλογα με την εκάστοτε χρήση.
ΠΡΑΚΤΙΚΕΣ ΑΠΑΝΤΗΣΕΙΣ
Συχνές ερωτήσεις
Αρκεί μια δήλωση δεοντολογίας;
Όχι. Η υπεύθυνη ΤΝ απαιτεί τεχνικούς και οργανωτικούς ελέγχους που εφαρμόζονται στην πραγματική λειτουργία του συστήματος.
Τι είναι η ανθρώπινη εποπτεία;
Η δυνατότητα αρμόδιου ανθρώπου να κατανοεί το αποτέλεσμα, να ελέγχει τα τεκμήρια, να απορρίπτει πρόταση και να διατηρεί την τελική ευθύνη.
Πώς συνδέεται με την ασφάλεια;
Μέσω περιορισμού πρόσβασης, ελέγχου εργαλείων και ενεργειών, καταγραφής, ιχνηλασιμότητας και ρητών ορίων εξουσιοδότησης.