Επικίνδυνα ιατρικά λάθη από όλες τις «έξυπνες» πλατφόρμες AI – Γιατί συμβαίνει αυτό

Καθώς οι πλατφόρμες τεχνητής νοημοσύνης έχουν γίνει αναπόσπαστο μέρος της καθημερινότητας, ολοένα και περισσότεροι άνθρωποι στρέφονται σε αυτές για ιατρικές συμβουλές. Η διαθεσιμότητα 24 ώρες το 24ωρο και η επίφαση «παντογνωσίας» τις καθιστούν ιδιαίτερα ελκυστικές. Ωστόσο, αυτή η τάση αναδεικνύει σημαντικούς περιορισμούς και κινδύνους. Ένας γιατρός δεν θα συνταγογραφούσε ποτέ θαλιδομίδη σε έγκυο γυναίκα. Μία εφαρμογή, αντίθετα, ενδέχεται να οδηγηθεί σε μια τέτοια σύσταση, εάν «πειστεί» -ή χειραγωγηθεί -ότι αυτή είναι η σωστή επιλογή.

Παρότι τα λάθη των μοντέλων συνήθως μειώνονται με τις νεότερες εκδόσεις, ενώ αρκετές πλατφόρμες παραθέτουν και πηγές (οι οποίες, σε κάθε περίπτωση, πρέπει να επαληθεύονται), τα συστήματα δεν είναι πλήρως «θωρακισμένα» απέναντι σε κακόβουλες επιθέσεις. Με άλλα λόγια, ένας δράστης μπορεί να επιχειρήσει να αλλοιώσει τη συμπεριφορά του μοντέλου, με αποτέλεσμα να παρέχονται (άθελά το) εσφαλμένες ή επικίνδυνες ιατρικές συμβουλές. Αυτό ακριβώς υπογραμμίζει πρόσφατη έρευνα που δημοσιεύθηκε στο JAMA Network Open.

Διαβάστε περισσότερα στο ygeiamou.gr