Τεχνητή νοημοσύνη στην αστυνομία: Ο κίνδυνος να στοχοποιούνται ξανά οι ίδιες περιοχές
Η χρήση της τεχνητής νοημοσύνης για την πρόβλεψη της εγκληματικότητας μπορεί να οδηγήσει σε περισσότερους αστυνομικούς ελέγχους στις ίδιες γειτονιές, ακόμη και όταν τα διαθέσιμα στοιχεία δεν αποτυπώνουν με ακρίβεια την πραγματική εικόνα. Ερευνητές ζητούν αυστηρότερο έλεγχο των δεδομένων και ουσιαστική ανθρώπινη εποπτεία.
Η τεχνητή νοημοσύνη χρησιμοποιείται όλο και περισσότερο για να βοηθά την αστυνομία να εντοπίζει περιοχές όπου είναι πιθανό να σημειωθούν εγκλήματα. Ωστόσο, ο τρόπος με τον οποίο λειτουργούν αυτά τα συστήματα προκαλεί ανησυχία, καθώς μπορεί να οδηγήσει τις αρχές να εστιάζουν επανειλημμένα στις ίδιες γειτονιές και να ενισχύουν τις ανισότητες εις βάρος συγκεκριμένων κοινωνικών ομάδων.
Όπως αναφέρει το BBC, το πρόβλημα βρίσκεται στα στοιχεία του παρελθόντος στα οποία βασίζονται οι προβλέψεις. Αν η αστυνομία πραγματοποιούσε συχνότερους ελέγχους σε ορισμένες περιοχές, είναι πιθανό να έχει καταγράψει εκεί περισσότερα περιστατικά. Όταν η τεχνητή νοημοσύνη αναλύει αυτά τα δεδομένα, μπορεί να καταλήξει στο συμπέρασμα ότι οι συγκεκριμένες περιοχές παρουσιάζουν μεγαλύτερη εγκληματικότητα.
Έτσι, οι αστυνομικές αρχές ενδέχεται να στέλνουν ξανά περισσότερες περιπολίες στα ίδια σημεία, με αποτέλεσμα να καταγράφονται ακόμη περισσότερα περιστατικά και οι περιοχές αυτές να θεωρούνται εκ νέου υψηλού κινδύνου.
Όταν οι παλιές καταγραφές επηρεάζουν τις νέες αποφάσεις
Το πρόβλημα είναι ότι τα στοιχεία που χρησιμοποιούνται από την τεχνητή νοημοσύνη δεν αποτυπώνουν πάντα ολόκληρη την εικόνα. Μπορεί να δείχνουν πού πραγματοποιούνταν συχνότερα αστυνομικοί έλεγχοι και όχι απαραίτητα πού σημειώνονταν τα περισσότερα εγκλήματα.
Έρευνα που εξέτασε δεδομένα από 13 περιοχές των ΗΠΑ διαπίστωσε ότι σε εννέα από αυτές υπήρχαν διαθέσιμα για την εκπαίδευση συστημάτων τεχνητής νοημοσύνης αστυνομικά αρχεία από περιόδους κατά τις οποίες είχαν εφαρμοστεί παράνομες ή μεροληπτικές πρακτικές. Σύμφωνα με τους ερευνητές, τέτοια στοιχεία μπορεί να περιλαμβάνουν ακόμη και αλλοιωμένες καταγραφές εγκληματικότητας ή συλλήψεις αθώων ανθρώπων.
Όταν τα δεδομένα αυτά χρησιμοποιούνται χωρίς επαρκή έλεγχο, υπάρχει ο κίνδυνος παλαιότερες αδικίες να επηρεάζουν και τις σημερινές αποφάσεις. Οι συνέπειες μπορεί να είναι ιδιαίτερα σοβαρές για μειονοτικές ομάδες και κοινότητες που βρίσκονται ήδη αντιμέτωπες με αυξημένη αστυνομική παρουσία.
Μπορεί η τεχνητή νοημοσύνη να αποφύγει αυτά τα λάθη;
Οι κίνδυνοι δεν σημαίνουν ότι όλα τα συστήματα τεχνητής νοημοσύνης οδηγούν αναγκαστικά σε άδικα αποτελέσματα. Η ποιότητα των δεδομένων, ο τρόπος σχεδιασμού των συστημάτων και οι έλεγχοι που εφαρμόζονται παίζουν καθοριστικό ρόλο.
Ερευνητές επισημαίνουν ότι χρειάζεται να εξετάζεται όχι μόνο η λειτουργία της τεχνολογίας, αλλά και ο τρόπος με τον οποίο συγκεντρώθηκαν τα στοιχεία που χρησιμοποιεί. Παράλληλα, προτείνουν ανεξάρτητους ελέγχους, βελτίωση των δεδομένων και μέτρα που θα περιορίζουν τον κίνδυνο άδικων αποτελεσμάτων.
Η ανθρώπινη εποπτεία παραμένει επίσης απαραίτητη. Οι προβλέψεις ενός συστήματος δεν θα πρέπει να αντιμετωπίζονται ως βέβαια συμπεράσματα, χωρίς να εξετάζεται αν στηρίζονται σε αξιόπιστα στοιχεία.
Το βασικό ερώτημα είναι αν η τεχνητή νοημοσύνη θα βοηθήσει τις αστυνομικές αρχές να εντοπίζουν καλύτερα τα προβλήματα ή αν, χωρίς τους κατάλληλους ελέγχους, θα συνεχίσει να αναπαράγει τα λάθη του παρελθόντος.
