Θάβει η τεχνητή νοημοσύνη το βιογραφικό σου;

Μεγάλες εταιρείες χρησιμοποιούν εδώ και χρόνια λογισμικά ATS (Applicant Tracking Systems), όπως Workday, Greenhouse και Lever, για να οργανώνουν και να διαχειρίζονται αιτήσεις εργασίας. Εδώ όμως χρειάζεται μια σημαντική διάκριση: ATS δεν σημαίνει απαραίτητα τεχνητή νοημοσύνη. Πολλά από αυτά τα συστήματα λειτουργούν απλώς ως ψηφιακά αρχεία που αποθηκεύουν και ταξινομούν βιογραφικά. Η τεχνητή νοημοσύνη μπαίνει στην εξίσωση όταν το σύστημα αρχίζει να κάνει πιο σύνθετες λειτουργίες, όπως κατατάξεις υποψηφίων, αντιστοίχιση δεξιοτήτων ή ακόμη και αυτοματοποιημένες προτάσεις απόρριψης. Με απλά λόγια, το λογισμικό μπορεί να καταλήγει σε συμπεράσματα όπως: «Αυτός ο υποψήφιος μοιάζει 82% κατάλληλος για τη θέση, ο άλλος 41%». Και αυτό, προφανώς, έχει συνέπειες.

Οι αλγόριθμοι μπορούν να αναπαράγουν διακρίσεις

Αυτό είναι ίσως το πιο ανησυχητικό κομμάτι της συζήτησης. Αν ένα μοντέλο εκπαιδευτεί πάνω σε ιστορικά δεδομένα προσλήψεων μιας εταιρείας, τότε δεν μαθαίνει μόνο ποιοι προσλήφθηκαν στο παρελθόν. Μαθαίνει και τις προκαταλήψεις που ενδέχεται να υπήρχαν σε αυτές τις αποφάσεις. Αν, για παράδειγμα, μια εταιρεία προσλάμβανε επί χρόνια κυρίως άνδρες μηχανικούς, το σύστημα μπορεί να αρχίσει να θεωρεί ότι αυτό είναι το «επιτυχημένο» πρότυπο. Το πιο γνωστό παράδειγμα είναι εκείνο της Amazon, η οποία εγκατέλειψε εργαλείο προσλήψεων τεχνητής νοημοσύνης όταν διαπιστώθηκε ότι υποβάθμιζε βιογραφικά γυναικών για τεχνικούς ρόλους.

Διαβάστε περισσότερα: newmoney.gr