διαΝΕΟσις: Μελέτη χαρτογραφεί τις νομικές, ηθικές και κοινωνικές προκλήσεις της Τεχνητής Νοημοσύνης

Κίνδυνοι
Η έρευνα της διαΝΕΟσις τούς χωρίζει σε τρεις βασικές κατηγορίες:

• Κινδύνους από ανθρώπινες χρήσεις που βλάπτουν δικαιώματα ή το δημόσιο συμφέρον.
• Κινδύνους που προκύπτουν τυχαία ή ακούσια ή ως αποτέλεσμα ατυχήματος.
• Κινδύνους απώλειας ελέγχου, όταν τα συστήματα αναπτύσσουν ή επιδιώκουν στόχους που αποκλίνουν από τις ανθρώπινες προθέσεις.

Σταθμοί στη ρύθμιση της ΑΙ

Πράξη για την Τεχνητή Νοημοσύνη – AI Act (Κανονισμός ΕΕ 2024/1689)
Ίσως η πιο φιλόδοξη απόπειρα ρύθμισης κάποιων όψεων της ΑΙ παγκοσμίως μέχρι σήμερα προέρχεται από την ΕΕ. Η Πράξη τέθηκε σε ισχύ την 1η Αυγούστου 2024 και εφαρμόζεται σταδιακά, με ορισμένες διατάξεις, όπως οι απαγορεύσεις συγκεκριμένων πρακτικών και οι υποχρεώσεις γραμματισμού στην AI, να εφαρμόζονται ήδη. Το μεγαλύτερο μέρος της τίθεται σε εφαρμογή πολύ σύντομα, από τις 2 Αυγούστου 2026.

Digital Omnibus για την AI 
Πρωτοβουλία της Ευρωπαϊκής Επιτροπής (19 Νοεμβρίου 2025). Πρόκειται για ένα πακέτο τροποποιήσεων που επιχειρεί να μειώσει το διοικητικό βάρος συμμόρφωσης με την ΑΙ Act και να κάνει πιο ευέλικτη την εφαρμογή των ευρωπαϊκών κανόνων.

Κατευθυντήριες Γραμμές Δεοντολογίας για την Αξιόπιστη AI (HLEG)
Εκπονήθηκαν το 2019 από την Ομάδα Εμπειρογνωμόνων Υψηλού Επιπέδου για την AI (High Level Expert Group – HLEG) της Ευρωπαϊκής Επιτροπής, και αποτέλεσαν το πρώτο ολοκληρωμένο ευρωπαϊκό δεοντολογικό πλαίσιο για τη χρήση της ΑΙ. Έθεσαν τις τέσσερις θεμελιώδεις αρχές της:
α) Αρχή του σεβασμού της ανθρώπινης αυτονομίας.
β) Αρχή της πρόληψης βλάβης.
γ) Αρχή της δικαιοσύνης.
δ) Αρχή της επεξηγησιμότητας.

Ν. 4961/2022 
Ο πρώτος ελληνικός νόμος που ρυθμίζει την AI. Προβλέπει, μεταξύ άλλων, την υποχρεωτική Αξιολόγηση Επιπτώσεων Αλγορίθμων, τη δημιουργία Μητρώου Συστημάτων AΙ και τη σύσταση εθνικού Παρατηρητηρίου Τεχνητής Νοημοσύνης.

Θεμελιώδη δικαιώματα, δημοκρατία και παραπληροφόρηση

Πάνω από 10 φορές αυξήθηκαν οι ιστοσελίδες που φιλοξενούσαν παραγόμενα από ΑΙ fake news μέσα σε 7-8 μήνες από την κυκλοφορία του ChatGPT.

550% αύξηση σημείωσαν τα deepfake βίντεο την περίοδο 2019-2023.

Η Τεχνητή Νοημοσύνη μπορεί να συμβάλει:

• στον καλύτερο σχεδιασμό υπηρεσιών.
• στην ανάλυση μεγάλου όγκου δεδομένων.
• στον εντοπισμό αποκλίσεων.
• στην υποστήριξη κοινωνικών υπηρεσιών.
• στον έλεγχο φαινομένων απάτης.

Πρέπει να συμβαδίζει με τις αρχές:

• της χρηστής διοίκησης.
• της νομιμότητας.
• της ισότητας.
• της αμεροληψίας.
• της διαφάνειας.
• της αιτιολογίας.

Κράτος δικαίου και χρήση AI

Η αξιοποίηση της AI συνδέεται με:

• την προβλεψιμότητα της διοίκησης.
• τη συνεκτικότητα της διοίκησης.

Ο πολίτης πρέπει να γνωρίζει:

• τους κανόνες.
• τα κριτήρια.
• τη διαδικασία λήψης της απόφασης που τον αφορά.

O κίνδυνος της «μεροληψίας αυτοματισμού» (automation bias)

Ακόμα και όταν υπάρχει ανθρώπινος έλεγχος, υφίσταται ο κίνδυνος οι χρήστες να εμπιστεύονται άκριτα τη σύσταση του συστήματος επειδή θεωρούν ότι «η μηχανή ξέρει καλύτερα» ή επειδή δεν έχουν τον χρόνο και τα μέσα για να την ελέγξουν ουσιαστικά.

Δικαιοσύνη

Με ένα εκτενές κεφάλαιο, η μελέτη υπογραμμίζει ότι η επιδίωξη μιας ηθικής AI στο πεδίο της Δικαιοσύνης δεν μπορεί να περιορίζεται σε γενικές αρχές δεοντολογίας. Από τον Δεκέμβριο του 2018, η Ευρωπαϊκή Επιτροπή για την Αποτελεσματικότητα της Δικαιοσύνης (CEPEJ) του Συμβουλίου της Ευρώπης, έχει διατυπώσει τις παρακάτω αρχές:

1. Αρχή του σεβασμού των θεμελιωδών δικαιωμάτων.
2. Αρχή της μη διακριτικής μεταχείρισης.
3. Αρχή της ποιότητας και της ασφάλειας.
4. Αρχή της διαφάνειας, της αμεροληψίας και της δίκαιης μεταχείρισης.
5. Αρχή του «ελέγχου από τον χρήστη».

46% των ερωτηθέντων σε διεθνή έρευνα της CEPEJ (2025) επιβεβαίωσαν τη χρήση εργαλείων AI σε δικαστήρια.

Εργασία

• Έως και το 40% των θέσεων εργασίας παγκοσμίως αναμένεται να επηρεαστούν από την ΑΙ.
• 1/3 των δεξιοτήτων που απαιτούνται για μια θέση εργασίας άλλαξε μέσα στην τριετία 2021-2024.
• 75% των δεξιοτήτων αλλάζουν στο 25% των επαγγελμάτων που υφίστανται τη μεγαλύτερη «αναστάτωση» από την ΑΙ.
• 88% των νέων Ελλήνων 16-24 ετών κατέχουν βασικές ψηφιακές δεξιότητες (μ.ό. ΕΕ: 71%).
• 80% όσων εγκατέλειψαν το εργατικό δυναμικό στις ΗΠΑ μετά το 2020 ήταν άνω των 55 ετών.
• 80% των ενηλίκων να διαθέτουν βασικές ψηφιακές δεξιότητες έως το 2030 είναι ο βασικός στόχος της Ελλάδας στο πλαίσιο της «Ψηφιακής Δεκαετίας 2030».

«Διαμεσολαβητές AI»: Πρόκειται για επαγγελματίες που λειτουργούν ως «γέφυρα» ανάμεσα στα αποτελέσματα που παράγουν οι αλγόριθμοι και στις πρακτικές ανάγκες μιας επιχείρησης ή ενός οργανισμού. Παράλληλα, αυξάνεται η ζήτηση για εργασίες όπως η επισημείωση δεδομένων (data labeling), ο έλεγχος ηθικής και συμμόρφωσης των αλγορίθμων (AI ethics auditing) και η κυβερνοασφάλεια (cybersecurity).

Παρά τα μεγάλα της οφέλη, η χρήση της νέας τεχνολογίας στην επιστήμη και την έρευνα εγείρει σημαντικά δεοντολογικά ζητήματα, καθώς και ανάγκες ρύθμισης. Πέρα από την επιστήμη, η AI φαίνεται ότι αλλάζει ευρύτερα την ανθρώπινη δημιουργία.

+
Η χρήση AI μπορεί να διευκολύνει πολλές πτυχές της έρευνας, για παράδειγμα την ανασκόπηση βιβλιογραφίας, την ανάλυση δεδομένων ή τη συγγραφή περιλήψεων.

– 
Οι «παραισθήσεις» (hallucinations) ή η αλγοριθμική προκατάληψη (algorithmic bias) μπορούν να οδηγήσουν σε στρεβλή επιστημονική κατανόηση, π.χ., παρατηρείται, πλέον, συχνά το λεγόμενο «zombie citation», «ghost reference», «phantom paper» ή και «Frankencitation», δηλαδή παραπομπές σε φανταστικούς συγγραφείς ή σε ανύπαρκτα κείμενα.

Ένα άλλο πρόβλημα που έρχεται στο προσκήνιο είναι ο κίνδυνος της επιστημικής μετατόπισης (epistemic drift), δηλαδή η συνδημιουργία γνώσης με τις μηχανές και τελικά η ριζική μεταβολή του τι θεωρείται έγκυρη επιστημονική γνώση.

Τέλος, η μελέτη εστιάζει στην πολύ σημαντική περιβαλλοντική διάσταση της AI.

• 31% αύξηση της ζήτησης για «πράσινες» δεξιότητες έχει προκαλέσει η μετάβαση στην καθαρή ενέργεια.
• 70-80% των περιβαλλοντικών επιπτώσεων ενός προϊόντος προκαθορίζονται ήδη από το στάδιο του σχεδιασμού του, γεγονός που συνιστά τον «οικολογικό σχεδιασμό» βασικό μοχλό της Κυκλικής Οικονομίας στην εποχή της ΑΙ.