Αποκαλύψεις στο βιβλίο «Οπλα μαθηματικής καταστροφής» για αυτοματοποιημένα συστήματα που έχουν προσωπικά στοιχεία
Αποκαλύψεις στο βιβλίο «Οπλα μαθηματικής καταστροφής» για αυτοματοποιημένα συστήματα που έχουν προσωπικά στοιχεία
Πάνω από 200 δάσκαλοι στις ΗΠΑ, ανάμεσά τους και αρκετοί που έχαιραν της εκτίμησης των μαθητών και των γονιών τους, έχασαν τη δουλειά τους εξαιτίας ενός αλγόριθμου που αξιολογούσε την απόδοσή τους.
ΑΠΟ ΤΟΝ ΒΑΣΙΛΗ ΧΟΝΔΡΟΓΙΑΝΝΗ
Αυτό είναι μόνο ένα από τα περιστατικά τα οποία δείχνουν πόσο επικίνδυνη μπορεί να γίνει η εκτεταμένη χρήση αλγορίθμων, σύμφωνα με τους ειδικούς, οι οποίοι πηγαίνουν ακόμη πιο πέρα προειδοποιώντας ότι μπορεί να γίνουν εργαλείο ελέγχου της ζωής μας.
Οπως επισημαίνει η αναλύτρια δεδομένων Κάθι Ο’ Νιλ, είναι επικίνδυνο να δείχνει κάποιος «τυφλή εμπιστοσύνη» στους αλγορίθμους, εξηγώντας ότι εξαρτάται από αυτόν που τους δημιουργεί αν θα λειτουργούν με δίκαιο τρόπο. Στο βιβλίο της «Οπλα μαθηματικής καταστροφής» παρουσιάζει μια σειρά από περιστατικά στα οποία η χρήση των αλγορίθμων είχε καταστροφικά αποτελέσματα.
Εκτός από τους δασκάλους, αναφέρεται στην περίπτωση άντρα που διαγνώστηκε με διπολική διαταραχή. Η αίτηση για πρόσληψη που κατέθεσε σε εφτά μεγάλες εταιρίες απορρίφθηκε, όταν αυτοματοποιημένο τεστ που βασιζόταν σε αλγορίθμους τον έκρινε επικίνδυνο. Η επιστήμονας αναφέρει ότι αρκετά δικαστήρια των ΗΠΑ χρησιμοποιούν αλγορίθμους για να καθορίσουν το είδος καταδίκης ή τους όρους αποφυλάκισης, με κίνδυνο να υπάρχει προκατάληψη για τα άτομα που ζουν σε υποβαθμισμένες περιοχές ή έχουν οικογενειακά προβλήματα. Αποκαλύπτει, δε, ότι κάποια χρηματοπιστωτικά ιδρύματα και ασφαλιστικές εταιρίες χρησιμοποιούν αλγορίθμους για να αποφασίσουν σε ποιον θα δώσουν δάνειο και τους όρους ασφάλισης αντίστοιχα.
Υπολογιστές
Η καθηγήτρια του πανεπιστημίου της Βόρειας Καρολίνας Ζέινεπ Τουφέκτσι αναδεικνύει μια πιο επικίνδυνη πλευρά στα ευρήματα της Ο’ Νιλ. Προειδοποιεί ότι τα αυτοματοποιημένα συστήματα που βασίζονται στους αλγορίθμους συλλέγουν προσωπικά στοιχεία των ανθρώπων χωρίς εκείνοι να το γνωρίζουν, ανοίγοντας τον δρόμο για τον έλεγχο της ζωής τους. «Από τα ψηφιακά αποτυπώματα που αφήνει κανείς τα συγκεκριμένα προγράμματα υπολογιστών μπορούν να συμπεράνουν ένα σωρό πράγματα για εκείνον, όπως ο σεξουαλικός προσανατολισμός, χαρακτηριστικά της προσωπικότητάς του και οι πολιτικές πεποιθήσεις του» εξηγεί και προσθέτει ότι έτσι τα προγράμματα αποκτούν την ικανότητα να προβλέπουν συμπεριφορές με μεγάλη ακρίβεια.
