Για ένα διάστημα πέρυσι, επιστήμονες είχαν αφήσει να διαφανεί μία αχτίδα ελπίδας ότι η τεχνητή νοημοσύνη θα μπορούσε να συμβάλει θετικά στη δημοκρατία. Έδειξαν ότι τα chatbots μπορούν να αντιμετωπίζουν θεωρίες συνωμοσίας που εξαπλώνονται στα social media, αντικρούοντας παραπληροφόρηση γύρω από ζητήματα όπως η θεωρία των ψεκασμών ή η επίπεδη Γη με ήρεμο διάλογο και τεκμηριωμένα στοιχεία. Ωστόσο, δύο νέες μελέτες αναδεικνύουν μια ανησυχητική όψη: Τα πιο σύγχρονα μοντέλα AI γίνονται όλο και πιο αποτελεσματικά στην πειθώ εις βάρος της αλήθειας.

Το «κόλπο» έγκειται σε μια τεχνική αντιπαράθεσης γνωστή ως Gish gallop, από τον Αμερικανό δημιουργό Ντουέιν Γκις. Πρόκειται για καταιγισμό επιχειρημάτων και στοιχείων με τόσο γρήγορο ρυθμό, ώστε ο συνομιλητής δυσκολεύεται να τα ελέγξει ή να τα αντικρούσει ένα προς ένα.

Όταν γλωσσικά μοντέλα όπως το GPT-4o κλήθηκαν να πείσουν συνομιλητές για θέματα όπως η χρηματοδότηση της υγείας ή η μεταναστευτική πολιτική «εστιάζοντας σε γεγονότα και πληροφορίες», παρήγαγαν κατά μέσο όρο περίπου 25 ισχυρισμούς μέσα σε μια δεκάλεπτη συζήτηση. Αυτό προκύπτει από έρευνα επιστημόνων του Πανεπιστημίου της Οξφόρδης και του London School of Economics, οι οποίοι δοκίμασαν 19 γλωσσικά μοντέλα σε σχεδόν 80.000 συμμετέχοντες, ίσως στη μεγαλύτερη και πιο συστηματική μελέτη για την πειθώ μέσω AI έως σήμερα.

Τα αποτελέσματα, που δημοσιεύθηκαν στο περιοδικό Science, δείχνουν ότι τα chatbots έγιναν σημαντικά πιο πειστικά. Παράλληλη μελέτη στο Nature διαπίστωσε ότι τα chatbots ήταν έως και δέκα φορές πιο αποτελεσματικά από τηλεοπτικές διαφημίσεις ή άλλα παραδοσιακά μέσα στο να αλλάξουν την άποψη κάποιου για έναν πολιτικό υποψήφιο. Το ανησυχητικό στοιχείο, ωστόσο, είναι το τίμημα: όταν τα μοντέλα «βομβαρδίζουν» τους χρήστες με πληροφορίες, η ακρίβεια των ισχυρισμών μειώνεται αισθητά, στην περίπτωση του GPT-4, στο 62% από 78%.

Η ταχεία και καταιγιστική μορφή αντιπαράθεσης έχει εξελιχθεί τα τελευταία χρόνια σε φαινόμενο στο YouTube, με χαρακτηριστικά παραδείγματα influencers όπως ο Μπεν Σαπίρο και ο Στίβεν Μπόνελ. Δημιουργεί θεαματικές και έντονες πολιτικές συγκρούσεις που καθιστούν την πολιτική πιο ελκυστική και προσβάσιμη για νεότερα ακροατήρια, την ίδια στιγμή όμως ενισχύει τη ριζοσπαστικοποίηση και τη διάδοση παραπληροφόρησης, δίνοντας έμφαση στην ψυχαγωγία και στα στιγμιότυπα «παγίδας» αντί της ουσιαστικής επιχειρηματολογίας.

Θα μπορούσε η τεχνητή νοημοσύνη που υιοθετεί την τακτική του Gish gallop να επιδεινώσει την κατάσταση; Η απάντηση εξαρτάται από το αν θα καταφέρουν κάποιοι να φέρουν προπαγανδιστικά bots σε άμεση συνομιλία με τους πολίτες.

Ένας σύμβουλος πολιτικής καμπάνιας ή μιας περιβαλλοντικής οργάνωσης δεν μπορεί απλώς να «αλλάξει» το ίδιο το ChatGPT, το οποίο χρησιμοποιείται από περίπου 900 εκατομμύρια ανθρώπους την εβδομάδα. Μπορεί, ωστόσο, να προσαρμόσει ένα υποκείμενο γλωσσικό μοντέλο και να το ενσωματώσει σε έναν ιστότοπο, όπως ένα chatbot εξυπηρέτησης πελατών, ή να το αξιοποιήσει σε καμπάνιες μέσω SMS ή WhatsApp, προσελκύοντας ψηφοφόρους σε διάλογο.

Σύμφωνα με τους ερευνητές, μια καμπάνια με μέτριους πόρους θα μπορούσε να στήσει ένα τέτοιο σύστημα μέσα σε λίγες εβδομάδες, με υπολογιστικό κόστος περίπου 50.000 δολαρίων. Το βασικό εμπόδιο, ωστόσο, είναι να πειστούν οι πολίτες να εμπλακούν σε παρατεταμένη συνομιλία με ένα bot.

Η μελέτη που δημοσιεύθηκε στο Science έδειξε ότι μια στατική δήλωση 200 λέξεων από AI δεν είναι ιδιαίτερα πειστική. Αντίθετα, εκείνο που είχε πραγματικό και διαρκές αποτέλεσμα ήταν μια δεκάλεπτη συζήτηση, περίπου επτά γύρων. Όταν οι ερευνητές επανέλεγξαν τις απόψεις των συμμετεχόντων έναν μήνα αργότερα, διαπίστωσαν ότι η αλλαγή γνώμης διατηρείτο.

Οι Βρετανοί ερευνητές προειδοποιούν ότι όποιος επιθυμεί να προωθήσει μια ιδεολογική ατζέντα, να προκαλέσει πολιτική αστάθεια ή να υπονομεύσει δημοκρατικά συστήματα, θα μπορούσε να χρησιμοποιήσει κλειστά ή ακόμη φθηνότερα open-source μοντέλα για να αρχίσει να επηρεάζει απόψεις. Οι ίδιοι, πάντως, επισημαίνουν ότι στη μελέτη χρειάστηκε να πληρώσουν τους συμμετέχοντες για να λάβουν μέρος.

Το ερώτημα που μένει ανοιχτό είναι κατά πόσο τέτοιου είδους bots, όταν αναπτυχθούν μέσω ιστοσελίδων και μηνυμάτων, εκτός των μεγάλων πλατφορμών που ελέγχονται από εταιρείες όπως η OpenAI και η Google, θα καταφέρουν πράγματι να αλλοιώσουν τον δημόσιο πολιτικό διάλογο σε μεγάλη κλίμακα.