Καθηγητής του ΟΠΑ ανακάλυψε «επιστημονικό» άρθρο με την υπογραφή του που ήταν προϊόν Τεχνητής Νοημοσύνης

Ο Διομήδης Σπινέλλης, Καθηγητής στο Τμήμα Διοικητικής Επιστήμης και Τεχνολογίας στο Οικονομικό Πανεπιστήμιο Αθηνών (ΟΠΑ), δεν έμεινε άπραγος όταν ανακάλυψε ένα ψεύτικο επιστημονικό άρθρο γραμμένο από Τεχνητή Νοημοσύνη, να έχει αποδοθεί ψευδώς στον ίδιο, με τον τίτλο «Global Business Strategies in the Digital Age: A Comparative Analysis of Multinational Corporations» και να έχει δημοσιευθεί στο περιοδικό «Global International Journal of Innovative Research».

«Δεν ήμουν το μόνο θύμα αυτής της απάτης. Η μελέτη μου, που μόλις δημοσιεύτηκε στο περιοδικό «Research Integrity and Peer Review», αναλύει τι συνέβη και ποιοι επωφελήθηκαν από τη μαζική δημοσίευση άρθρων που γράφτηκαν από AI», εξηγεί ο ίδιος.

Όπως σημειώνει στο protothema.gr, ο καθηγητής Σπινέλλης «όλα ξεκίνησαν όταν ο διευθυντής του μεταπτυχιακού μας προγράμματος με παρακάλεσε να γράψω ένα άρθρο για το newsletter, βασιζόμενος σε δουλειά, που έχουμε ήδη κάνει. Μου πρότεινε τότε να αξιοποιήσω ένα άρθρο, που ‘είχα γράψει’. Βλέποντάς το, δεν μου φάνηκε γνωστό. Με μία πιο προσεκτική ματιά, διαπιστώνω ότι επρόκειτο για μία συρραφή άρθρων, ξεκάθαρα γραμμένη από Τεχνητή Νοημοσύνη, χωρίς ούτε δεδομένα, ούτε βιβλιογραφικές παραπομπές. Παραξενεύτηκα! Στην προσπάθειά μου να καταλάβω τί έχει συμβεί, άρχισα να κοιτάζω το συγκεκριμένο ‘επιστημονικό’ – υποτίθεται – περιοδικό, όπου είχε δημοσιευθεί το ‘άρθρο μου’ και ανακάλυψα κι άλλα άρθρα αυτού του τύπου, οπότε αποφάσισα να το ερευνήσω σε βάθος».

Fake τα περισσότερα «επιστημονικά άρθρα» του συγκεκριμένου περιοδικού

Προκειμένου να ελέγξει την αξιοπιστία του συνόλου του περιεχομένου του περιοδικού, όπου ανακάλυψε το ‘άρθρο του’, ο Καθηγητής Σπινέλλης κατέβασε όλα τα άρθρα και τα ανέλυσε, ιεραρχώντας τα με βάση ‘ύποπτες’ ενδείξεις, όπως η απουσία βιβλιογραφίας ή παραπομπών. «Μελέτησα με προσοχή τα άρθρα, με προσωπική εργασία. Παράλληλα, χρησιμοποίησα την τεχνική ανίχνευσης τεχνητής νοημοσύνης ‘Turnitin’. Από τα 53 άρθρα που εξέτασα με τις λιγότερες παραπομπές, τουλάχιστον 48, προέκυψε πως ήταν προϊόντα Τεχνητής Νοημοσύνης, ενώ στα υπόλοιπα πέντε είχε γίνει και ανθρώπινη παρέμβαση. Όπως προέκυψε από τη διαδικασία ανίχνευσης του Turnitin, το 100% των εξετασθέντων άρθρων ήταν ‘κατασκευασμένα’ από τεχνητή νοημοσύνη», επισημαίνει.

Εκτός της ‘δημιουργίας’ των άρθρων, σύμφωνα με την έρευνα του Καθηγητή Σπινέλλη, πολλά αποδίδονταν σε επιστήμονες γνωστών πανεπιστημίων, όπως το University of California, το Berckeley, το University of Montreal ή το Harvard University. «Κατά την αναζήτησή μου, διαπίστωσα ακόμη ότι δύο από τους συγγραφείς δεν βρίσκονταν καν εν ζωή όταν ‘γράφτηκαν’ τα άρθρα», προσθέτει.

Τα συμπεράσματα

Τα ευρήματα της έρευνας του Καθηγητή Σπινέλλη αναδεικνύουν τους κινδύνους, που θέτει η παραγωγή άρθρων από την τεχνητή νοημοσύνη και η ψευδής απόδοσή τους σε επιστήμονες ή πανεπιστήμια, καθώς με τον τρόπο αυτό, πλήττεται σοβαρά η αξιοπιστία των επιστημονικών δημοσιεύσεων.

Στο συγκεκριμένο ‘επιστημονικό’ περιοδικό, ήταν πάγια τακτική η δημοσίευση ψευδούς περιεχομένου, το οποίο είχε εξ ολοκλήρου παραχθεί από τεχνητή νοημοσύνη.

Γιατί υιοθετούνται αυτές οι μέθοδοι; «Υπάρχουν δεκάδες χιλιάδες επιστημονικά περιοδικά σήμερα. Με τη βοήθεια του διαδικτύου, μπορεί ο καθένας να δημιουργήσει ένα ‘επιστημονικό’ περιοδικό – ούτε δύσκολο είναι, ούτε ακολουθείς πολύπλοκες διαδικασίες. Ούτε καν γραφείο δεν χρειάζεται. Την ίδια στιγμή, υπάρχουν φυσικά τα κορυφαία επιστημονικά περιοδικά, το Science και το Nature.

Κατεβαίνοντας στην ιεραρχία των επιστημονικών περιοδικών, στις πιο χαμηλές θέσεις, βρίσκονται τα λεγόμενα ‘αρπακτικά περιοδικά, τα ‘predator’ περιοδικά. Εκεί, σου ζητούν να πληρώσεις για να δημοσιεύσεις, χωρίς φυσικά να έχει καμία αξία ό,τι δημοσιεύεται.

Υιοθετούν εντελώς άκριτα τα άρθρα, τα δημοσιεύουν χωρίς να τα περνούν από κανένα φίλτρο - όποιος θέλει, γράφει ό,τι θέλει.
Το συγκεκριμένο περιοδικό είναι από την Ινδονησία. Όλα τα άρθρα γραμμένα από τεχνητή νοημοσύνη, μάλλον με πραγματικά ονόματα συγγραφέων, κυρίως Ινδονήσιους. Εκείνοι τα δημοσιεύουν στο περιοδικό για να ‘φουσκώσουν’ το βιογραφικό τους και ταυτόχρονα, το περιοδικό κερδίζει, εισπράττοντας χρήματα από αυτούς. Παράλληλα, όμως, χρησιμοποιεί και άλλα άρθρα, γνωστών επιστημόνων, για δόλωμα», αναλύει την κατάσταση ο Καθηγητής Σπινέλλης ενώ συνεχίζει: «Υπάρχει μεγάλη πίεση, ειδικά σε αναπτυσσόμενες χώρες να ανέβει το επίπεδο των πανεπιστημίων τους. Αντί να μετρούν το τί πραγματικά δουλειά κάνεις, σου λένε ‘πόσες δημοσιεύσεις έχεις’».

Επίσης, τα πανεπιστήμια όπου υπηρετούν οι συγκεκριμένοι επιστήμονες, αντίστοιχα ανεβαίνουν στις διεθνείς κατατάξεις, αφού ένας από τους δείκτες αξιολόγησης, είναι το πόσες επιστημονικές δημοσιεύσεις έχουν οι καθηγητές τους. «Αξίζει να σημειωθεί, όμως, ότι πολλές από τις διεθνείς κατατάξεις των πανεπιστημίων εξαιρούν τα ‘αρπακτικά’ περιοδικά», τονίζει ο Καθηγητής.

Υπάρχει προστασία από το ψευδές περιεχόμενο που παράγει η ΑΙ;

Συγκεντρώνοντας τα δεδομένα, ο κ. Σπινέλλης συνέγραψε ένα επιστημονικό άρθρο, στο οποίο ανέλυσε τις παρατηρήσεις του καθώς και το τί μπορεί να γίνει για να αποφευχθούν αυτού του είδους οι ‘κακοτοπιές’ του διαδικτύου. Επιπλέον, ανέδειξε τον κίνδυνο απαξίωσης της επιστημονικής έρευνας – «πώς θα αποφύγουμε να γεμίσουμε ‘σκουπίδια’», όπως αναφέρει χαρακτηριστικά.

Τα προβλήματα υπήρχαν πάντα στο χώρο - Ο τρόπος έχει αλλάξει σήμερα

«Δεν είναι νέο φαινόμενο το να δημοσιεύεται κάτι ‘επιστημονικό’ με ανήθικο τρόπο. Αυτό που γινόταν παλιά, ήταν να παίρνουν ξένα επιστημονικά άρθρα, να αλλάζουν το όνομα του συγγραφέα με το δικό τους και να τα δημοσιεύουν - copy paste ολόκληρο το άρθρο, ούτε καν το τέλος, που μπορεί να έλεγε ‘Ευχαριστούμε το αμερικανικό ίδρυμα έρευνας για τη χρηματοδότηση’! Στο παρελθόν, μπορεί δηλαδή να αντέγραφαν εξ' ολοκλήρου μία επιστημονική εργασία. Ή υπήρχαν και τα λεγόμενα ‘εργοστάσια δημοσιεύσεων’, που είναι το αντίστοιχο με αυτό που γίνεται με τις φοιτητικές εργασίες – σου έγραφαν μία ερευνητική εργασία, την έβαζες στο βιογραφικό σου, την έστελνες σε ένα επιστημονικό περιοδικό για δημοσίευση - απλώς τώρα δεν χρειάζεται να πληρώσεις για να στη φτιάξουν, το κάνει η τεχνητή νοημοσύνη, οπότε έχει γίνει πιο εύκολο».

Το πρόβλημα εντείνεται από το γεγονός ότι δεν υπάρχει κατοχύρωση πνευματικής ιδιοκτησίας, όταν πρόκειται για προϊόν τεχνητής νοημοσύνης: «Ό,τι δεν είναι αποτέλεσμα διανοητικής επεξεργασίας, δεν προστατεύεται ως πνευματική ιδιοκτησία. Επομένως, αν ζητήσεις από το ChatGPT να σου γράψει ένα άρθρο κι αυτό μπει σε ένα έντυπο, αυτό μπορεί να το πάρει και να το αναδημοσιεύσει ελεύθερα ο καθένας», υπογραμμίζει ο κ. Σπινέλλης και προσθέτει πως εγείρονται πλέον θέματα ηθικής αλλά και των τεχνικών αντίμετρων, προκειμένου να αποφύγουμε τους κινδύνους.

Για την αντιμετώπιση του φαινομένου, ο Διομήδης Σπινέλλης προτείνει να υιοθετηθούν μέθοδοι επαλήθευσης ταυτότητας του γράφοντος, μέσω μηχανισμών όπως το DOIs ή το ORCIDs. Επίσης, εισηγείται την βελτίωση των μεθόδων ανίχνευσης τεχνητής νοημοσύνης αλλά και την αναμόρφωση των πρακτικών αξιολόγησης της επιστημονικής έρευνας. Χωρίς ασφαλιστικές δικλείδες, η ανάπτυξη περιεχομένου από την τεχνητή νοημοσύνη ελλοχεύει τον κίνδυνο να υπονομευθεί το σύνολο των δημοσιεύσεων επιστημονικών άρθρων, γεγονός που θα έπληττε ανεπανόρθωτα την εμπιστοσύνη στους κόλπους της διεθνούς ακαδημαϊκής κοινότητας.

Τί συμβουλεύει ο Καθηγητής Σπινέλλης τους φοιτητές του

«Θεωρώ ιδιαίτερα σημαντικό να εκπαιδεύω τους φοιτητές μου στην ορθή χρήση της τεχνητής νοημοσύνης, τόσο στις εργασίες τους όσο και στις ηθικές της προεκτάσεις. Αναφορικά με το πρώτο, δεν πρέπει να γίνεται κατάχρηση ενώ όταν χρησιμοποιείται σωστά, αναπτύσσονται και οι ίδιοι. Στις ανθρωπιστικές επιστήμες, είχε δημοσιευθεί πρόσφατα ένα άρθρο γιατί όλες οι εργασίες που δίνουν οι φοιτητές, είναι προϊόν ChatGPT και οι καθηγητές καταλήγουν να διορθώνουν το ChatGPT αντί για τους φοιτητές τους. Πολλοί μάλιστα λένε ‘θέλω να παραιτηθώ, δεν είναι αυτό που ήθελα να κάνω στη ζωή μου’. Οι φοιτητές, είναι καλό να μάθουν και τα δύο: Δηλαδή, αφενός να μην την χρησιμοποιούν για να ‘κόψουν δρόμο’ και να γλυτώσουν ασκήσεις, γιατί έτσι δεν θα μάθουν. Αφετέρου, σε ορισμένες εργασίες τους παροτρύνω να χρησιμοποιήσουν το ΑΙ ώστε να προχωρήσουν πιο γρήγορα. Οι σημερινές εργασίες είναι πολύ πιο απαιτητικές σε σχέση με λίγα χρόνια πριν. Κι αφού μπορούν να έχουν ένα πολύ καλό ‘βοηθό’, θα πρέπει να μάθουν να συνεργάζονται μαζί του».

Ο κόσμος μας αλλάζει…

«Σήμερα, βλέπουμε καινούρια πράγματα. Πράγματα, που πριν ένα χρόνο ήταν αδιανόητα κι αυτό θα έχει επιπτώσεις παντού, όχι μόνο στον επιστημονικό χώρο, να δει κάποιος ένα άρθρο γραμμένο ψεύτικα. Όλοι μας θα έρθουμε αντιμέτωποι με κάποιο βίντεο, που έχει φτιαχτεί με τεχνητή νοημοσύνη, θα γίνουμε δέκτες παραπληροφόρησης ή ψεύτικων ειδήσεων. Νομίζω πως ακόμη δεν έχει γίνει ξεκάθαρο σε όλους ότι ο κόσμος μας αλλάζει. Και παρόλο που δεν είμαστε εντελώς ανοχύρωτοι, εξακολουθούμε να ψάχνουμε για να βρούμε τα πατήματά μας», καταλήγει.


Ειδήσεις σήμερα:

Μητσοτάκης για νέο ΚΟΚ: Το 40% των νεκρών στα τροχαία είναι κυρίως νέοι σε μηχανή, ενώ το 25% δεν φορούσε ζώνη

Τουλάχιστον 10 νεκροί και δεκάδες τραυματίες από την επίθεση σε σχολείο στην Αυστρία: «Είναι μία τρομερή τραγωδία»

Γιατί η αρκούδα επιτέθηκε στον ορειβάτη στη Δράμα - «Ο σκύλος και το σπρέι πιπεριού την αναστάτωσαν»