Υποχρεωτική η ανθρώπινη εποπτεία, η επιμόρφωση εκπαιδευτικών και η προστασία προσωπικών δεδομένων στη χρήση εφαρμογών ΤΝ στην εκπαιδευτική διαδικασία.
Φρένο στην ανεξέλεγκτη χρήση συστημάτων Τεχνητής Νοημοσύνης (ΤΝ) μέσα στα σχολεία επιχειρεί να βάλει το υπουργείο Παιδείας, με την υπουργική απόφαση που δημοσιεύθηκε σήμερα στην Εφημερίδα της Κυβερνήσεως και καθορίζει για πρώτη φορά αναλυτικό πλαίσιο κανόνων, τεχνικών και οργανωτικών μέτρων, καθώς και συγκεκριμένες προϋποθέσεις αξιοποίησης της ΤΝ στην εκπαιδευτική διαδικασία.
- Πατήστε εδώ για να ανοίξετε το ΦΕΚ
Το νέο πλαίσιο εστιάζει ιδιαίτερα σε ζητήματα ηθικής και υπεύθυνης χρήσης, διαφάνειας, ασφάλειας, προστασίας από επιβλαβές περιεχόμενο, αλλά και στην επιμόρφωση των εκπαιδευτικών και την εκπαίδευση των μαθητών σχετικά με τη χρήση εφαρμογών τεχνητής νοημοσύνης.
Η απόφαση προβλέπει ότι η χρήση εργαλείων ΤΝ επιτρέπεται αποκλειστικά για την υποβοήθηση του έργου των εκπαιδευτικών και την ενίσχυση της μαθησιακής διαδικασίας, ενώ τίθενται αυστηρές δικλείδες ασφαλείας για την προστασία προσωπικών δεδομένων, την αποτροπή παραπληροφόρησης, την αποφυγή αλγοριθμικών διακρίσεων και την προστασία των μαθητών από επιβλαβές περιεχόμενο.
Το νέο θεσμικό πλαίσιο εφαρμόζεται σε όλα τα δημόσια σχολεία δευτεροβάθμιας εκπαίδευσης της χώρας και αφορά τόσο τη δια ζώσης όσο και την εξ αποστάσεως εκπαιδευτική διαδικασία.
Η συμμόρφωση κρίνεται υποχρεωτική για το σύνολο της εκπαιδευτικής κοινότητας, δηλαδή εκπαιδευτικούς, μαθητές, γονείς και παρόχους εφαρμογών τεχνητής νοημοσύνης.
Ιδιαίτερη έμφαση δίνεται στη δεοντολογική και υπεύθυνη χρήση της παραγωγικής τεχνητής νοημοσύνης.
Η υπουργική απόφαση ξεκαθαρίζει ότι τα συστήματα ΤΝ δεν μπορούν να υποκαθιστούν τη μαθησιακή διαδικασία ούτε την προσωπική προσπάθεια των μαθητών.
Παράλληλα, απαγορεύεται ρητά η πλήρως αυτοματοποιημένη αξιολόγηση μαθητών ή εκπαιδευτικών μέσω αλγορίθμων, καθώς και η δημιουργία ατομικών προφίλ (profiling) μαθητών και εκπαιδευτικών.
Στο ίδιο πλαίσιο, απαγορεύεται η χρήση εφαρμογών ΤΝ κατά τη διάρκεια γραπτών εξετάσεων, τεστ και διαγωνισμάτων, εκτός εάν ο εκπαιδευτικός επιτρέψει ρητά ελεγχόμενη χρήση τους για συγκεκριμένο εκπαιδευτικό σκοπό και υπό όρους ισοτιμίας για όλους τους μαθητές.
Επίσης, δεν επιτρέπεται η παραγωγή εργασιών που έχουν δημιουργηθεί εξ ολοκλήρου ή σε σημαντικό βαθμό από σύστημα τεχνητής νοημοσύνης.
Ρητές απαγορεύσεις
Η υπουργική απόφαση περιλαμβάνει ειδικό κεφάλαιο με ρητές απαγορεύσεις για τη χρήση ΤΝ στα σχολεία. Συγκεκριμένα, απαγορεύεται απολύτως η χρήση συστημάτων τεχνητής νοημοσύνης για πράξεις που αντίκεινται στο εθνικό ή ενωσιακό δίκαιο, ενώ τέτοιες πρακτικές επισύρουν τις προβλεπόμενες κυρώσεις.
Παράλληλα, απαγορεύεται:
- η παραγωγή ή διάδοση deepfake υλικού χωρίς ρητή συγκατάθεση,
- η δημιουργία ψευδών βιβλιογραφικών αναφορών, πηγών ή δεδομένων,
- καθώς και η άνευ αδείας ανάπτυξη ή διάθεση συστημάτων ΤΝ.
- Τεχνικά μέτρα και ανθρώπινη εποπτεία
Η απόφαση θεσπίζει συγκεκριμένα τεχνικά και οργανωτικά μέτρα ασφαλείας, όπως η αυθεντικοποίηση χρηστών μέσω του Πανελλήνιου Σχολικού Δικτύου, η ανωνυμοποίηση δεδομένων, ο περιορισμός πρόσβασης μόνο σε εξουσιοδοτημένα πρόσωπα και η καταγραφή όλων των διαδικασιών επεξεργασίας.
Παράλληλα, προβλέπεται υποχρεωτική ανθρώπινη εποπτεία στη λειτουργία των συστημάτων ΤΝ και συνεχής αξιολόγηση κινδύνου, ώστε να διασφαλίζεται η ασφαλής λειτουργία των εφαρμογών.
Συντονιστής ΤΝ σε κάθε σχολείο
Σε κάθε σχολική μονάδα προβλέπεται ο ορισμός εκπαιδευτικού ως «συντονιστή χρήσης εφαρμογής ΤΝ», ο οποίος θα έχει την ευθύνη για την παρακολούθηση της εφαρμογής των σχετικών εργαλείων, τη διαχείριση των προσκλήσεων συμμετοχής και τη δημιουργία ψηφιακών ομάδων συνεργασίας.
Ασφάλεια και διαχείριση περιστατικών
Το υπουργείο Παιδείας προβλέπει ειδικές διαδικασίες διαχείρισης περιστατικών παραβίασης δεδομένων ή έκθεσης μαθητών σε επιβλαβές περιεχόμενο. Η χρήση συστημάτων ΤΝ θα πρέπει να οργανώνεται κατά τρόπο που να μην βλάπτει την ψυχική υγεία, την ασφάλεια ή την κοινωνική ένταξη των μαθητών, ενώ συστήνεται να αποφεύγεται η υπέρμετρη εξάρτηση από αυτοματοποιημένη βοήθεια.
Σε περίπτωση περιστατικού προβλέπεται άμεση ενημέρωση του εκπαιδευτικού και του διευθυντή της σχολικής μονάδας, αξιολόγηση κινδύνου, ενημέρωση γονέων και αρμόδιων αρχών, καθώς και υποχρεωτική γνωστοποίηση εντός 72 ωρών όταν υπάρχει παραβίαση προσωπικών δεδομένων.
Υποχρεωτική επιμόρφωση εκπαιδευτικών
Ιδιαίτερη βαρύτητα δίνεται στην επιμόρφωση. Κάθε σχολική μονάδα θα οργανώνει τουλάχιστον μία δράση ενημέρωσης μαθητών και γονέων ανά σχολικό έτος, καθώς και επιμορφωτικά προγράμματα για τους εκπαιδευτικούς σχετικά με τη λειτουργία της ΤΝ, τους κινδύνους, τις αλγοριθμικές μεροληψίες, τις τεχνικές prompting και τους κανόνες προστασίας προσωπικών δεδομένων και ανηλίκων.
Επιπλέον, οι εκπαιδευτικοί που θα συμμετέχουν σε προγράμματα χρήσης ΤΝ θα λαμβάνουν ειδική επιμόρφωση εγκεκριμένη από το Ινστιτούτο Εκπαιδευτικής Πολιτικής (ΙΕΠ).
Περιορισμοί στη χρήση πληροφοριών
Ξεχωριστό κεφάλαιο αφιερώνεται στην προστασία προσωπικών δεδομένων. Η απόφαση ορίζει ότι στα συστήματα ΤΝ θα εισάγονται μόνο τα απολύτως αναγκαία στοιχεία για την εκπαιδευτική διαδικασία και απαγορεύεται οποιαδήποτε διαφορετική χρήση ή κοινοποίηση των πληροφοριών.
Παράλληλα, απαγορεύεται ρητά η εισαγωγή στοιχείων όπως ονοματεπώνυμα, φωτογραφίες, βίντεο, φωνητικά δείγματα, βαθμολογίες, δεδομένα υγείας ή ειδικών εκπαιδευτικών αναγκών. Επιτρέπεται μόνο η χρήση ανωνυμοποιημένων ή μη ταυτοποιήσιμων δεδομένων.
Η ΑΠΟΦΑΣΗ
Ειδικότερα, η απποφαση έχει ως εξής:
Άρθρο 1 Αντικείμενο
Με την παρούσα απόφαση καθορίζονται ειδικότερα ζητήματα σχετικά με την χρήση συστημάτων Τεχνητής Νοημοσύνης (ΤΝ), τα τεχνικά και οργανωτικά μέτρα, οι όροι και οι προϋποθέσεις για τη χρήση τεχνητής νοημοσύνης στο πλαίσιο της εκπαιδευτικής διαδικασίας, και ιδίως ως προς τα θέματα ηθικής και υπεύθυνης χρήσης, διαφάνειας, ασφάλειας και προστασίας από τυχόν επιβλαβές περιεχόμενο, επιμόρφωσης εκπαιδευτικών και εκπαίδευσης μαθητών/τριών καθώς και κάθε ζήτημα σχετικά με την προστασία δεδομένων προσωπικού χαρακτήρα που συνδέεται με τη χρήση τέτοιων συστημάτων.
Άρθρο 2
Σκοπός και Πεδίο Εφαρμογής
1. Σκοπός της παρούσας είναι η εξασφάλιση της ασφαλούς, διαφανούς και δεοντολογικά υπεύθυνης χρήσης συστημάτων ΤΝ κατά την εκπαιδευτική διαδικασία από εκπαιδευτικούς και μαθητές/τριες, η οποία έχει στόχο την υποβοήθηση του έργου των εκπαιδευτικών και την ενίσχυση της εκπαιδευτικής διαδικασίας και ειδικότερα, α) την πλήρη προστασία των δεδομένων προσωπικού χαρακτήρα, σύμφωνα με τους όρους του Κανονισμού (ΕΕ) 2016/679 και τον ν. 4624/2019 (Α’ 137), β) την πρόληψη κινδύνων παραπληροφόρησης, αλγοριθμικής μεροληψίας, διάχυσης επιβλαβούς περιεχομένου και αθέμιτης υποκατάστασης της προσωπικής προσπάθειας, γ) τη διασφάλιση της ισότητας στην πρόσβαση και χρήση σύγχρονων εργαλείων με υπευθυνότητα και δ) την εξοικείωση εκπαιδευτικών και μαθητών/τριών με τις αναδυόμενες τεχνολογίες.
2. Η παρούσα εφαρμόζεται σε όλα τα σχολεία δευτεροβάθμιας εκπαίδευσης της χώρας, και καταλαμβάνει προγράμματα ή/και δράσεις που υλοποιούνται στο πλαίσιο του προγράμματος σπουδών, είτε εντός των εγκαταστάσεων της σχολικής μονάδας, με χρήση των συσκευών και του δικτύου αυτής, είτε εκτός αυτής, στο πλαίσιο της εξ αποστάσεως εκπαίδευσης. Η συμμόρφωση προς τις προβλέψεις της είναι υποχρεωτική για το σύνολο της εκπαιδευτικής κοινότητας, εκπαιδευτικούς, μαθητές/τριες και γονείς/κηδεμόνες/έχοντες την επιμέλεια μαθητών/τριών, αλλά και κάθε δυνητικό πάροχο συστημάτων τεχνητής νοημοσύνης.
3. Η χρήση συστημάτων ΤΝ από εκπαιδευτικούς και μαθητές/τριες πραγματοποιείται αποκλειστικά σε εθελοντική βάση κατόπιν σχετικής ειδικής εκπαίδευσης και ενημέρωσης του άρθρου 15 της παρούσας, ενώ τυχόν άρνηση συμμετοχής δεν επηρεάζει καθ’οιονδήποτε τρόπο την υπηρεσιακή/μαθητική κατάσταση και
την αξιολόγηση των εκπαιδευτικών και μαθητών/τριών.
Άρθρο 3 Ορισμοί
Για τους σκοπούς της παρούσας, ισχύουν οι ακόλουθοι ορισμοί:
α) «Σύστημα τεχνητής νοημοσύνης (ΤΝ)»: νοείται κάθε σύστημα σύμφωνα με τον ορισμό της παρ. 1 του άρθρου 3 του Κανονισμού (ΕΕ) 2024/1689.
β) «Παραγωγική τεχνητή νοημοσύνη (Generative AI)»: κάθε σύστημα τεχνητής νοημοσύνης που παράγει, δημιουργεί ή μετασχηματίζει περιεχόμενο οποιασδήποτε μορφής, όπως ενδεικτικά κείμενο, εικόνα, ήχο, βίντεο, κώδικα, βάσει πιθανοκρατικών υπολογισμών και εκπαίδευσης σε μεγάλα σύνολα δεδομένων, κατόπιν οδηγιών και προτροπών του χρήστη.
γ) «Προτροπή» η οδηγία ή σύνολο οδηγιών που δίνει ο χρήστης στο σύστημα παραγωγικής ΤΝ για την παραγωγή αποτελέσματος.
δ) «Δεδομένα εξόδου» κάθε αποτέλεσμα που παράγεται κατά τη χρήση συστήματος τεχνητής νοημοσύνης.
Άρθρο 4
Προϋποθέσεις χρήσης Συστημάτων Τεχνητής Νοημοσύνης
1. Η χρήση συστημάτων ΤΝ στο πλαίσιο της εκπαιδευτικής διαδικασίας επιτρέπεται μόνο εφόσον τα εν λόγω συστήματα πληρούν τις εκάστοτε ισχύουσες απαιτήσεις του ενωσιακού και εθνικού δικαίου. Ιδίως, εφόσον αυτό κατά περίπτωση απαιτείται, διασφαλίζεται η προηγούμενη εκπλήρωση των κατά περίπτωση υποχρεώσεων αξιολόγησης κινδύνου ή αντικτύπου, οι οποίες προβλέπονται από το εκάστοτε ισχύον ενωσιακό και εθνικό δίκαιο.
2. Η χρήση συστημάτων ΤΝ κατά την εκπαιδευτική διαδικασία έχει αποκλειστικό σκοπό την υποβοήθηση του έργου των εκπαιδευτικών και την ενίσχυση της εκπαιδευτικής διαδικασίας και ειδικότερα συμβάλλει α) στην αναβάθμιση των ψηφιακών δεξιοτήτων εκπαιδευτικών και μαθητών/τριών, β) στην εξοικείωση εκπαιδευτικών και μαθητών/τριών στη χρήση αναδυόμενων τεχνολογιών, γ) στη δημιουργική και κριτική αξιοποίησή τους, καθώς και δ) στη συναγωγή συμπερασμάτων αναφορικά με τη συμβολή της ΤΝ στη μαθησιακή διαδικασία. Η χρήση τέτοιων συστημάτων, καθώς και τα δεδομένα εξόδου, εποπτεύονται, ελέγχονται και αξιολογούνται, σε κάθε περίπτωση από εκπαιδευτικό προσωπικό, που έχει εκπαιδευτεί στην χρήση τους, σύμφωνα με το άρθρου 15 της παρούσας.
3. Δεν επιτρέπεται η πλήρως αυτοματοποιημένη λήψη αποφάσεων αξιολόγησης των επιδόσεων των μα- θητών/τριών ή/και εκπαιδευτικών μέσω συστημάτων ΤΝ και η οποιαδήποτε επιρροή επί των δικαιωμάτων τους, ως συνέπεια χρήσης συστημάτων ΤΝ.
4. Απαγορεύεται η δημιουργία ατομικών προφίλ (profiling) μαθητών/τριών ή/και εκπαιδευτικών και η οποιαδήποτε αξιοποίηση δεδομένων που αφορούν ή προκύπτουν από την χρήση ΤΝ για τη λήψη αποφάσεων σχετικά με στοιχεία της προσωπικότητας, τη συμπεριφορά ή/και τα δικαιώματα αυτών.
5. Ειδικά για την περίπτωση συστημάτων παραγωγικής ΤΝ, ο εκπαιδευτικός μεριμνά για την τήρηση των ακόλουθων αρχών:
α) Διδασκαλία και μάθηση: η παραγωγική ΤΝ χρησιμοποιείται για να υποστηρίζει, όχι να υποκαθιστά, τη μαθησιακή διαδικασία. Ο/η μαθητής/τρια παραμένει ενεργός δημιουργός γνώσης.
β) Ανθρώπινες, κοινωνικές και περιβαλλοντικές διαστάσεις: κάθε χρήση λαμβάνει υπόψη την ευημερία, την ηλικιακή ωριμότητα, τις κοινωνικές επιπτώσεις και το περιβαλλοντικό αποτύπωμα.
γ) Διαφάνεια: πλήρης ενημέρωση της σχολικής κοινότητας για τους τρόπους χρήσης, τους κινδύνους και τους περιορισμούς, κατά το άρθρο 50 του Κανονισμού (ΕΕ) 2024/1689, τα άρθρα 12 έως 14 του Κανονισμού (ΕΕ) 2016/679 (ΓΚΠΔ) και τις υποχρεώσεις διαφάνειας του άρθρου 6 του ν. 4961/2022.
δ) Δικαιοσύνη και ένταξη: ισοτιμία πρόσβασης, αποφυγή αλγοριθμικών διακρίσεων και στερεοτύπων, ενεργός προσβασιμότητα για μαθητές/τριες με αναπηρία ή μαθησιακές δυσκολίες.
ε) Λογοδοσία και αμφισβητησιμότητα: η ανθρώπινη ευθύνη παραμένει αδιαπραγμάτευτη. Παρέχεται πάντα η δυνατότητα αμφισβήτησης των εξόδων (αποτελεσμάτων) και υποβολής παραπόνων.
στ) Νομιμότητα, ασφάλεια και προστασία: τήρηση επιταγών ΓΚΠΔ, ελαχιστοποίηση εισαγωγής δεδομένων, αποτροπή επιβλαβούς περιεχομένου, σεβασμός πνευματικών δικαιωμάτων, τήρηση νομοθεσίας για την τεχνητή νοημοσύνη.
Άρθρο 5
Χρήση Τεχνητής Νοημοσύνης κατά την εξέταση ή εκπόνηση μαθητικών εργασιών
1. Η αξιοποίηση συστημάτων τεχνητής νοημοσύνης στην εκπαιδευτική διαδικασία αποσκοπεί στην ενίσχυση της μάθησης και της κριτικής σκέψης των μαθητών/τριών και δεν υποκαθιστά την προσωπική τους προσπάθεια. Οι εκπαιδευτικοί καθοδηγούν τους μαθητές/τις μαθήτριες, ώστε να χρησιμοποιούν τα συστήματα ΤΝ με υπευθυνότητα, διαφάνεια και κριτική επίγνωση του τρόπου με τον οποίο αυτά επηρεάζουν το παραγόμενο αποτέλεσμα.
2. Η χρήση οποιουδήποτε συστήματος ΤΝ απαγορεύεται, κατά τη διάρκεια γραπτών εξετάσεων, δοκιμασιών αξιολόγησης (tests) και διαγωνισμάτων, εκτός εάν ο/η εκπαιδευτικός ορίσει ρητώς επιτρεπτή την ελεγχόμενη χρήση συστήματος ΤΝ ως μέρος εκπαιδευτικής διαδικασίας, και εφόσον εξασφαλίζεται η ισοτιμία στην εκάστοτε διαδικασία αξιολόγησης για όλους τους/τις μαθητές/τριες.
3. Ομοίως, η χρήση συστημάτων ΤΝ στο πλαίσιο εκπόνησης εργασιών ή άλλων παραδοτέων των μαθητών/τριών, που ανατίθενται από τον/την εκπαιδευτικό κατά ή στο πλαίσιο της εκπαιδευτικής διαδικασίας θα πρέπει να ακολουθεί τις οδηγίες του/της εκπαιδευτικού.
Δεν επιτρέπεται η παραγωγή εργασιών ή λοιπών παραδοτέων μαθητών/τριών που έχουν δημιουργηθεί εξ ολοκλήρου ή κατά σημαντικό βαθμό από σύστημα ΤΝ. Σε κάθε περίπτωση, θα πρέπει να διασφαλίζεται ότι οι ως άνω μαθητικές εργασίες ή λοιπά παραδοτέα είναι αποτέλεσμα της προσωπικής προσπάθειας του/της μαθητή/τριας, αποτελούν δημιουργία του ίδιου, και εκφράζουν την δική του κατανόηση.
Σε περίπτωση που εκπαιδευτικός διαπιστώνει την χρήση συστήματος ΤΝ από μαθητές/τριες, κατά παράβαση των ως άνω οριζομένων, το λαμβάνει υπόψη ως προς την αξιολόγηση της επίδοσης των εν λόγω μαθητών/ τριών στο πλαίσιο της αντίστοιχης δοκιμασίας, εξέτασης ή άλλης ανατεθειμένης εργασίας, καθώς και μεριμνά για την αποσαφήνιση των ως άνω οριζομένων στους μαθητές/τριες, με στόχο την χρήση των συστημάτων ΤΝ προς όφελός τους.
Άρθρο 6
Ρητές Απαγορεύσεις
1. Απαγορεύεται απολύτως η χρήση συστημάτων TN στο πλαίσιο της εκπαιδευτικής διαδικασίας για τη διενέργεια ή την απόπειρα διενέργειας πράξεων που αντίκεινται στο εθνικό ή ενωσιακό δίκαιο. Τέτοια χρήση συστημάτων ΤΝ θεωρείται μη σύννομη και συνεπάγεται τις προβλεπόμενες κυρώσεις κατά το ισχύον δίκαιο.
2. Απαγορεύονται επίσης οι κάτωθι ενέργειες:
α) Η παραγωγή ή διάδοση απεικονίσεων, ήχων ή βίντεο προσώπων με τεχνικές παραποίησης ή κατασκευής οπτικοακουστικού περιεχομένου που δύναται να παραπλανήσει (deepfake) χωρίς ρητή συγκατάθεση,
β) η δημιουργία ψευδών ή ανύπαρκτων βιβλιογραφικών αναφορών, πηγών, δεδομένων ή παραπομπών και γ) η άνευ αδείας ανάπτυξη, μεταβολή ή διάθεση συστημάτων ΤΝ.
Άρθρο 7
Τεχνικά και Οργανωτικά Μέτρα
1. Η είσοδος και χρήση εφαρμογών συστημάτων τεχνητής νοημοσύνης από εκπαιδευτικούς και μαθητές/ τριες πραγματοποιείται κατόπιν αυθεντικοποίησής τους, μέσω του Πανελλήνιου Σχολικού Δικτύου (ΠΣΔ), εφόσον αυτό υποστηρίζεται από το εκάστοτε σύστημα ΤΝ. Προς τούτο λαμβάνονται τουλάχιστον τα ακόλουθα μέτρα:
α) Εφαρμογή αρχών προστασίας δεδομένων από τον σχεδιασμό και εξ ορισμού, σύμφωνα με τον Κανο- νισμό (ΕΕ) 2016/679.
β) Ανωνυμοποίηση ή ψευδωνυμοποίηση των δεδομένων εκπαιδευτικών και μαθητών/τριών, όπου είναι εφικτό.
γ) Περιορισμός πρόσβασης στα δεδομένα μόνο σε εξουσιοδοτημένα πρόσωπα και ανάλογα με τον ενός ρόλο εκάστου εξ αυτών.
δ) Καταγραφή και τεκμηρίωση όλων των διαδικασιών επεξεργασίας.
ε) Εφαρμογή μηχανισμών ανθρώπινης εποπτείας και δυνατότητας παρέμβασης σε κάθε στάδιο λειτουργίας του συστήματος.
στ) Διασφάλιση της διαφάνειας, ιδίως λαμβανομένης υπόψιν της ανθρώπινης εποπτείας κατ’ άρθρο 14 του Κανονισμού (ΕΕ) 2024/1689, ως προς τη λειτουργία του συστήματος και ενημέρωση των χρηστών για τον τρόπο λειτουργίας και τα όρια του εργαλείου.
ζ) Τακτική αξιολόγηση κινδύνου και επικαιροποίηση των μέτρων ασφαλείας.
η) Εφαρμογή πολιτικής ασφάλειας πληροφοριών σύμφωνα με διεθνή πρότυπα (π.χ. ISO/IEC 27001).
2. Δικαίωμα πρόσβασης σε εφαρμογές συστημάτων τεχνητής νοημοσύνης που χρησιμοποιούνται στο
πλαίσιο της εκπαιδευτικής διαδικασίας έχουν οι μαθητές/τριες και εκπαιδευτικοί δημοσίων σχολικών μονάδων δευτεροβάθμιας εκπαίδευσης, τους οποίους αφορά το εκάστοτε πρόγραμμα.
3. Η αυθεντικοποίηση των μαθητών/τριών και εκπαιδευτικών δύναται να πραγματοποιείται μέσω των διαπιστευτηρίων που διαθέτουν στον κατάλογο μελών του Πανελλήνιου Σχολικού Δικτύου (Π.Σ.Δ.), εφόσον αυτό υποστηρίζεται από το εκάστοτε σύστημα ΤΝ.
Άρθρο 8
Ρόλοι και Ευθύνες
1. Για τους σκοπούς εφαρμογής της παρούσας, το Υπουργείο Παιδείας, Θρησκευμάτων και Αθλητισμού ενεργεί υπό την ιδιότητα του Υπευθύνου Επεξεργασίας, σύμφωνα με τις διατάξεις του Κανονισμού (ΕΕ) 2016/679 και του ν. 4624/2019 (Α’ 137). Εκτελούντες την Επεξεργασία, κατ’ άρθρον 4 του Κανονισμού (ΕΕ) 2016/679, ορίζονται: (α) το Ινστιτούτο Τεχνολογίας Υπολογιστών και Εκδόσεων «Διόφαντος» (Ι.Τ.Υ.Ε.) από κοινού με (β) τον εκάστοτε φορέα ή ο ανάδοχο που παρέχει ή υποστηρίζει τεχνικά το σύστημα τεχνητής νοημοσύνης. Για τους φορείς της περ. (β) του προηγουμένου εδαφίου, το Υπουργείο προχωρεί στη σύναψη σύμβασης επεξεργασίας δεδομένων (DPA), κατ’ άρθρο 28 του Κανονισμού (ΕΕ) 2016/679.
2. Η νομική βάση επεξεργασίας δεδομένων προσωπικού χαρακτήρα, κατ’ άρθρο 6 του ΓΚΠΔ, για τους σκοπούς της παρούσας είναι η εκπλήρωση καθήκοντος που εκτελείται προς το δημόσιο συμφέρον ή κατά την άσκηση δημόσιας εξουσίας (άρθρο 6 παρ. 1 εδάφιο ε’ ΓΚΠΔ), σε συνδυασμό με τις διατάξεις του άρθρου 26Α του ν. 4368/2016 (Α’ 21). Για κατηγορίες επεξεργασίας που δεν καλύπτονται από τη νομική βάση του προηγούμενου εδαφίου, απαιτείται ρητή συγκατάθεση κατά το εδάφιο α’ παρ. 1 του άρθρου 6 και του άρθρου 7 του ΓΚΠΔ.
3. Η επεξεργασία δεδομένων μαθητών/τριών, γονέων/κηδεμόνων/εχόντων την επιμέλεια και εκπαιδευτικών στο πλαίσιο χρήσης συστημάτων ΤΝ πραγματοποιείται για τους ακόλουθους κύριους σκοπούς: α) τη βελτίωση της εκπαιδευτικής διαδικασίας, β) την υποστήριξη καινοτόμων παιδαγωγικών προσεγγίσεων, γ) την ενίσχυση της μαθητοκεντρικής εκπαιδευτικής διαδικασίας, δ) τη βελτίωση της συνολικής μαθησιακής εμπειρίας. Η επεξεργασία δεδομένων προσωπικού χαρακτήρα δύναται επίσης να λαμβάνει χώρα για επιμέρους, τεχνικούς και οργανωτικούς σκοπούς, οι οποίοι είναι αναγκαίοι για την υλοποίηση των ανωτέρω, και ιδίως για: α) τη διασφάλιση της ασφαλούς πρόσβασης στις εφαρμογές, β) τη δημιουργία και ενεργοποίηση λογαριασμών χρηστών, γ) την ταυτοποίηση και αυθεντικοποίηση των χρηστών που δικαιούνται πρόσβαση, σύμφωνα με την παρ. 2 του άρθρου 4.
Άρθρο 9
Συντονιστής χρήσης Εφαρμογής ΤΝ
1. Σε κάθε σχολική μονάδα, στην οποία τυχόν αξιοποιείται σύστημα ΤΝ, ορίζεται με απόφαση του Διευθυντή ή Προϊσταμένου ή του νόμιμου αναπληρωτή του ή, για την περίπτωση των σχολικών μονάδων που λειτουργούν ως Πρότυπα Σχολεία (Π.Σ.) ή Πειραματικά Σχολεία (ΠΕΙ.Σ.) ή Δημόσια Ωνάσεια Σχολεία (ΔΗΜ.Ω.Σ.), του οικείου Επιστημονικού Εποπτικού Συμβουλίου (ΕΠ.Ε.Σ.), και κατόπιν σχετικής εκδήλωσης ενδιαφέροντος του εκπαιδευτικού, ένας εκπαιδευτικός ως υπεύθυνος για τον συντονισμό και την παρακολούθηση της εφαρμογής και αξιοποίησης εκάστοτε συστήματος ΤΝ, κατά τα οριζόμενα στην παρούσα.
2. Ο υπεύθυνος εκπαιδευτικός της παρ. 1 του παρόντος έχει την ευθύνη για την α) συλλογή και τήρηση κατά περίπτωση των σχετικών δηλώσεων ενδιαφέροντος ή συναίνεσης και ενημέρωσης, β) την αποστολή της πρόσκλησης της παρ. 1 του άρθρου 12, εφόσον αυτό απαιτείται, στους μαθητές/στις μαθήτριες και στους εκπαιδευτικούς της σχολικής μονάδας ευθύνης του, οι οποίοι έχουν εκδηλώσει σχετικό ενδιαφέρον και για τους οποίους πληρούται η προϋπόθεση προηγούμενης δήλωσης ενδιαφέροντος ή συναίνεσης και ενημέρωσης, γ) τη δημιουργία εικονικών ομάδων συνεργατικών ψηφιακών χώρων με συμμετέχοντες εκπαιδευτικούς και μαθητές/τριες, εφόσον αυτό απαιτείται, δ) τη διαγραφή, όποτε απαιτείται, οποιουδήποτε υποκειμένου από τις ομάδες της περ. γ) της παρούσας.
3. Ο υπεύθυνος εκπαιδευτικός, κατά περίπτωση, δύναται να αποκτά πρόσβαση στα τηρούμενα στο Π.Σ.Δ. ονόματα χρηστών των εκπαιδευτικών και μαθητών/τριών της σχολικής μονάδας ευθύνης του, με σκοπό τη διαχείριση της ιδιότητάς τους ως εχόντων πρόσβαση στην εκάστοτε εφαρμογή συστήματος ΤΝ, εφόσον η ως άνω διαχείριση καθίσταται αναγκαία για την ομαλή και ασφαλή χρήση του εκάστοτε συστήματος ΤΝ από εκπαιδευτικούς και μαθητές/τριες υπό αυτήν την ιδιότητά τους.
Άρθρο 10 Ενημέρωση
Οι μαθητές/τριες, οι γονείς/κηδεμόνες/έχοντες την επιμέλεια και οι εκπαιδευτικοί ενημερώνονται με σαφή και κατανοητό τρόπο, λαμβανομένης υπόψιν της ηλικίας των μαθητών/-τριών, για τον τρόπο λειτουργίας του συστήματος ΤΝ, και ειδικά α) τον/τους σκοπό/σκοπούς και τη νομική βάση της επεξεργασίας, β) τα δεδομένα που επεξεργάζεται το σύστημα τεχνητής νοημοσύνης, γ) τους αποδέκτες ή κατηγορίες αποδεκτών των δεδομένων, δ) τον χρόνο διατήρησης, ε) τα δικαιώματα πρόσβασης, διόρθωσης, διαγραφής, περιορισμού και εναντίωσης, στ) τον τρόπο λειτουργίας, τις δυνατότητες αξιοποίησης και τους περιορισμούς χρήσης του εργαλείου, κατά τα άρθρα 12 έως 14 του ΓΚΠΔ, και ζ) τα στοιχεία επικοινωνίας του υπευθύνου επεξεργασίας και του Υπευθύνου Προστασίας Δεδομένων του Υπουργείου. Τα δικαιώματα των ως άνω υποκειμένων ασκούνται μέσω του Υπευθύνου Προστασίας Δεδομένων του Υπουργείου Παιδείας, Θρησκευμάτων και Αθλητισμού ([email protected]).
Άρθρο 11
Επεξεργασία Δεδομένων
1. Τα δεδομένα προσωπικού χαρακτήρα τα οποία τυγχάνουν επεξεργασίας περιορίζονται στα απολύτως απαραίτητα, προκειμένου να επιτυγχάνεται η σύννομη χρήση εφαρμογών συστημάτων τεχνητής νοημοσύνης και αφορούν στις ακόλουθες κατηγορίες υποκειμένων: α) στους μαθητές/στις μαθήτριες δημοσίων σχολείων δευτεροβάθμιας εκπαίδευσης, που εκδηλώνουν ενδιαφέρον συμμετοχής, β) στους γονείς/κηδεμόνες/έχοντες την επιμέλεια του/της ανήλικου/ης μαθητή/τριας, και γ) τους εκπαιδευτικούς που έχουν εκδηλώσει ενδιαφέρον συμμετοχής.
2. Οι κατηγορίες των προσωπικών δεδομένων που υπόκεινται σε επεξεργασία είναι οι ακόλουθες: α) όνο- μα, β) επώνυμο, γ) διεύθυνση ηλεκτρονικού ταχυδρομείου (email), η οποία έχει καταχωριστεί στο Π.Σ.Δ., δ) πιθανά δεδομένα ή μεταδεδομένα που προκύπτουν συστημικά κατά τη διαδικασία αυθεντικοποίησης για την είσοδο στην εκάστοτε εφαρμογή συστήματος ΤΝ, ε) πιθανά δεδομένα που περιλαμβάνονται σε αρχεία που υποβάλλονται στο σύστημα, και στ) πιθανά δεδομένα που περιλαμβάνονται σε εντολές (prompts) κατά τη χρήση του συστήματος.
Άρθρο 12
Είσοδος σε εφαρμογές συστημάτων Τεχνητής Νοημοσύνης
1. Η είσοδος στο εκάστοτε περιβάλλον εφαρμογής ΤΝ, εφόσον πραγματοποείται με αυθεντικοποίηση μέσω του ΠΣΔ, δύναται να πραγματοποιείται κατόπιν αποστολής πρόσκλησης με χρήση της διεύθυνσης ηλεκτρονικής αλληλογραφίας που έχει καταχωρισθεί στο Π.Σ.Δ. για κάθε ενδιαφερόμενο/η μαθητή/τρια και εκπαιδευτικό και στο οποίο ο χρήστης έχει πρόσβαση μέσω της ιστοσελίδας https://webmail.sch.gr. Η πρόσκληση του προηγουμένου εδαφίου αφορά την ενεργοποίηση του λογαριασμού χρήστη στο εκάστοτε περιβάλλον εφαρμογής ΤΝ και είναι απαραίτητη μόνο κατά την πραγματοποίηση της πρώτης εισόδου. Η πρόσκληση αποστέλλεται μόνο στους μαθητές/στις μαθήτριες και στους εκπαιδευτικούς, οι οποίοι συμμετέχουν στο πρόγραμμα, με ευθύνη του συντονιστή χρήσης της εκάστοτε εφαρμογής ΤΝ, του άρθρου 9.
2. Για την ενεργοποίηση του λογαριασμού χρήστη, σύμφωνα με την παρ. 1 του παρόντος, απαιτείται αποδοχή της πρόσκλησης από τον εκάστοτε μαθητή/τρια ή εκπαιδευτικό. Κατά το στάδιο αυτό ο χρήστης κατευθύνεται μέσω του ειδικού συνδέσμου που περιλαμβάνεται στην πρόσκληση, στο περιβάλλον του εκάστοτε συστήματος ΤΝ και ανακατευθύνεται αυτομάτως στην ιστοσελίδα www.sso.sch.gr του Π.Σ.Δ., προκειμένου να πραγματοποιηθεί ταυτοποίηση της ιδιότητας αυτού μέσω αυθεντικοποίησης και χρήση των διαπιστευτηρίων του στο Π.Σ.Δ.
3. Κατά το στάδιο της παρ. 2 του παρόντος διαβιβάζονται στο σύστημα ΤΝ μόνο τα απολύτως αναγκαία στοιχεία ταυτοποίησης του χρήστη, και συγκεκριμένα α) η τηρούμενη στο Π.Σ.Δ. διεύθυνση ηλεκτρονικού ταχυδρομείου, β) το όνομα και γ) επώνυμο εκάστου εκπαιδευτικού ή μαθητή/τρια.
4. Μετά την ολοκλήρωση της ενεργοποίησης λογαριασμού χρήστη κατά τα οριζόμενα στις παρ. 1, 3 και 4 του παρόντος, ο χρήστης εισέρχεται απευθείας στην εκάστοτε εφαρμογή συστήματος ΤΝ με τη χρήση των στοιχείων αυθεντικοποίησής του στο Π.Σ.Δ.
Άρθρο 13
Αξιολόγηση Αντικτύπου και Εποπτεία
1. Πριν από την έναρξη της χρήσης συστήματος τεχνητής νοημοσύνης κατά την εκπαιδευτική διαδικασία, το Υπουργείο Παιδείας, Θρησκευμάτων και Αθλητισμού (Υ.ΠΑΙ.Θ.Α.), ως Υπεύθυνος Επεξεργασίας, διενεργεί τουλάχιστον αξιολόγηση αντικτύπου σχετικά με την προστασία δεδομένων (DPIA), κατ’ άρθρο 35 του ΓΚΠΔ.
2. Πέραν της υποχρέωσης της παρ. 1, το Υ.ΠΑΙ.Θ.Α. εκπληρώνει κάθε άλλη υποχρέωση αξιολόγησης ή εκτίμησης αντικτύπου που τυχόν απορρέει, κατά περίπτωση, από το εκάστοτε ισχύον ενωσιακό και εθνικό δίκαιο. 3. Η εκάστοτε αξιολόγηση ή εκτίμηση επικαιροποιείται σε κάθε ουσιώδη τροποποίηση του συστήματος
ή του τρόπου χρήσης του.
Άρθρο 14
Ασφάλεια και διαχείριση περιστατικών
1. Η χρήση συστημάτων τεχνητής νοημοσύνης οργανώνεται κατά τρόπο που δεν βλάπτει την ψυχική υγεία, την ασφάλεια ή την κοινωνική ένταξη των μαθητών/τριών. Συνιστάται η αποφυγή υπέρμετρης εξάρτησης από αυτοματοποιημένη βοήθεια.
2. Σε κάθε περίπτωση ακούσιας ή μη εξουσιοδοτημένης κοινοποίησης δεδομένων ή έκθεσης σε επιβλαβές περιεχόμενο, εφαρμόζεται αμελλητί η διαδικασία διαχείρισης περιστατικών, η οποία περιλαμβάνει τουλάχιστον: α) άμεση ενημέρωση εκπαιδευτικού και του Διευθυντή (ή νόμιμου αναπληρωτή του) της οικείας σχολικής μονάδας, οι οποίοι διερευνούν το περιστατικό και λαμβάνουν τα άμεσα αναγκαία μέτρα προστασίας, β) καταγραφή βασικών στοιχείων με ελάχιστη αναγκαία πληροφορία, γ) αξιολόγηση κινδύνου και λήψη μέτρων προστασίας, δ) ενημέρωση γονέων/κηδεμόνων/εχόντων την επιμέλεια, ε) ενημέρωση της αρμόδιας Διεύθυνσης Εκπαίδευσης, και στ) ενημέρωση των κατά περίπτωση αρμοδίων αρχών εντός εβδομήντα δύο (72) ωρών σε περίπτωση παραβίασης δεδομένων. Σε περίπτωση που το περιστατικό εμπίπτει στην περίπτωση περιστατικών ενδοσχολικής βίας εφαρμόζονται τα σχετικά ειδικώς οριζόμενα.
Άρθρο 15
Επιμόρφωση σε θέματα ΤΝ
1. Κάθε σχολική μονάδα οργανώνει τουλάχιστον μία (1) δράση ενημέρωσης μαθητών/τριών ή/και γονέων/ κηδεμόνων/εχόντων την επιμέλεια ανά σχολικό έτος, καθώς και επιμόρφωση εκπαιδευτικών ανά γνωστικό αντικείμενο σύμφωνα με τα οριζόμενα στο άρθρο 87 του ν. 4823/2021 (Α’ 136), με αντικείμενο τη χρήση συστημάτων ΤΝ.
2. Η επιμόρφωση καλύπτει κατ’ ελάχιστον: α) Βασικές αρχές λειτουργίας ΤΝ και παραγωγικής ΤΝ, β) κινδύνους που σχετίζονται με την φύση της ΤΝ και τρόπους αποτροπής τους, γ) περιορισμούς και αλγοριθμικές μεροληψίες, δ) τεχνικές προτροπής (prompting) και επαλήθευσης, ε) κανόνες ΓΚΠΔ και προστασίας ανηλίκων, στ) κανόνες χρήσης, ζ) διαδικασία αναφοράς περιστατικών.
3. Οι εκπαιδευτικοί που συμμετέχουν σε δράσεις ή άλλα προγράμματα, συνιστάμενα στην χρήση συστημάτων ΤΝ, λαμβάνουν ειδική επιμόρφωση πάνω στα ως άνω ζητήματα, η οποία εγκρίνεται από το Ινστιτούτο Εκπαιδευτικής Πολιτικής (Ι.Ε.Π.).
Άρθρο 16
Περιορισμός στη χρήση πληροφοριών
1. Οι πληροφορίες που εισάγονται στα συστήματα τεχνητής νοημοσύνης από τους εξουσιοδοτημένους χρήστες αυτού, θα πρέπει να είναι μόνο όσες είναι αναγκαίες για την εκπλήρωση του επιδιωκόμενου σκοπού που ορίζεται στη παρούσα και στο πλαίσιο της εκπαιδευτικής διαδικασίας. Οι εν λόγω πληροφορίες, είτε συνιστούν δεδομένα προσωπικού χαρακτήρα ή όχι, θα παραμένουν εντός του περιβάλλοντος που ελέγχεται από τον εκάστοτε πάροχο ή φορέα που διαχειρίζεται και υποστηρίζει την λειτουργία του συστήματος.
2. Οποιεσδήποτε πληροφορίες εισάγονται σε σύστημα τεχνητής νοημοσύνης, ανεξάρτητα από τη φύση τους, συμπεριλαμβανομένων των προσωπικών δεδομένων και οποιουδήποτε άλλου τύπου δεδομένων, απαγορεύεται να κοινοποιηθούν ή άλλως να χρησιμοποιηθούν και εν γένει να τύχουν οποιασδήποτε άλλης επεξεργασίας τόσο από τους εξουσιοδοτημένους χρήστες ή/και διαχειριστές όσο και από οιονδήποτε τρίτο για άλλο σκοπό πέραν των όσων προβλέπονται από την παρούσα και τον ν. 4368/2016 (Α’ 21).
3. Σε κάθε περίπτωση κατά την χρήση συστημάτων ΤΝ από μαθητές/τριες και εκπαιδευτικούς δεν επιτρέπεται η εισαγωγή των εξής πληροφοριών: Ονοματεπωνύμου, φωτογραφίας, βίντεο, φωνητικών δειγμάτων, στοιχείων επικοινωνίας, αριθμών μητρώου, βαθμολογιών, εκθέσεων προόδου, πειθαρχικών δεδομένων, δεδομένων υγείας ή ειδικών εκπαιδευτικών αναγκών, ή πληροφοριών τρίτων χωρίς νόμιμη βάση. Επιτρέπεται μόνο η χρήση ουδέτερων, μη ταυτοποιητικών περιγραφών και συνθετικών ή ανωνυμοποιημένων δεδομένων.
Άρθρο 17
Διατήρηση και Διαγραφή Δεδομένων
Τα δεδομένα που καταχωρίζονται και συλλέγονται μέσω συστήματος τεχνητής νοημοσύνης τηρούνται για όσο διάστημα είναι απολύτως αναγκαίο για την επίτευξη των σκοπών της παρούσας και σε κάθε περίπτωση διαγράφονται με ασφαλή τρόπο μετά την πάροδο τριών (3) ετών. Η επεξεργασία τυχόν μεταδεδομένων επιτρέπεται αποκλειστικά για σκοπούς ερευνητικούς ή στατιστικούς, υπό τον όρο της πλήρους ανωνυμοποίησης αυτών κατά τον ΓΚΠΔ.
Πηγή: esos.gr
