Υπάρχει μια ατελείωτη λίστα κινηματογραφικών ταινιών και τηλεοπτικών σειρών με θέμα την τεχνολογία που βγαίνει εκτός ελέγχου και απειλεί τους ανθρώπους με αφανισμό. Μέχρι πριν από λίγα χρόνια, τέτοια δυστοπικά σενάρια έμοιαζαν για το ευρύ κοινό να ανήκουν κυρίως στη σφαίρα της επιστημονικής φαντασίας. Ομως, η αλματώδης εξέλιξη της τεχνητής νοημοσύνης σε μικρό χρονικό διάστημα, μια σειρά περιστατικών που ξέφυγαν από τον ανθρώπινο έλεγχο και οι ηχηρές προειδοποιήσεις κορυφαίων ερευνητών που εργάζονταν σε εταιρείες υψηλής τεχνολογίας ότι κολοσσοί όπως η Anthropic και η OpenAI εξελίσσουν την τεχνολογία χωρίς επαρκείς δικλείδες ασφαλείας και παίζουν στα ζάρια το μέλλον της ανθρωπότητας, έρχονται να κάνουν τα πιο δυσοίωνα σενάρια να μοιάζουν αληθινά.

Προειδοποιήσεις

Ο ερευνητής Τζέικομπ Κόξον, ο οποίος είχε εργαστεί και στην OpenAI, υπέβαλε την παραίτησή του από την Anthropic και έγραψε στο Χ ότι καμία από τις δύο εταιρείες δεν δρα με υπευθυνότητα. «Κάνουν μια κούρσα κατευθείαν προς την αυτοβελτιούμενη υπερνοημοσύνη και τζογάρουν με τις ζωές μας» σημείωσε χαρακτηρίζοντας την κούρσα αυτή «ένα αλαζονικό στοίχημα». Σχολιάζοντας την ανάρτηση του Κόξον, ο Εβαν Χιούμπινγκερ, ο οποίος είναι ερευνητής στην Anthropic, πρόσθεσε δυσοίωνα ότι οι πιθανότητες είναι πάνω από 10% να αφανιστεί η ανθρωπότητα από την τεχνητή νοημοσύνη μέσα στην επόμενη δεκαετία.

Ο Κόξον και ο Χιούμπινγκερ δεν είναι οι μόνοι που ζουν από μέσα όσα συμβαίνουν σε αυτές τις εταιρείες και εκφράζουν αντίστοιχους φόβους. Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, είχε δηλώσει σε εκδήλωση του Axios ότι θεωρεί πως υπάρχει πιθανότητα 25% τα πράγματα να εξελιχθούν πάρα πολύ άσχημα, ενώ ο επικεφαλής ερευνητής της OpenAI Γιάκουμπ Πατσότσκι έκανε έκκληση για ανάπτυξη της τεχνητής νοημοσύνης με μεγάλη προσοχή, προειδοποιώντας ότι ίσως χρειάζεται μεγαλύτερη παρέμβαση ώστε «οι άνθρωποι να διατηρήσουν τον έλεγχο του μέλλοντος». Επιπλέον, σε επιστολή που έστειλαν περισσότεροι από 1.300 εργαζόμενοι σε κορυφαίες εταιρείες AI ζητούν από την κυβέρνηση των ΗΠΑ να υποστηρίξει μια διεθνή προσπάθεια για την ανάπτυξη τεχνικών λύσεων και εργαλείων διακυβέρνησης ώστε να γίνει ένας πιο συνετός βηματισμός προς το όριο της ανάπτυξης της τεχνητής νοημοσύνης.

Παραβιάσεις

Γεγονότα που έχουν συμβεί το τελευταίο δίμηνο δείχνουν ότι οι ανησυχίες των ερευνητών και των στελεχών των εταιρειών είναι κάθε άλλο παρά αβάσιμες. Μια ομάδα πρακτόρων AI της OpenAI που έκανε δοκιμές ασφαλείας κατάφερε να παραβιάσει την πλατφόρμα τεχνητής νοημοσύνης Hugging Face, να αποκτήσει τον έλεγχο υπολογιστικών διακομιστών και να επιχειρήσει να καλύψει τα ίχνη των ενεργειών της. Σε μια άλλη περίπτωση, το μοντέλο Claude της Anthropic κατάφερε να αποκτήσει πρόσβαση σε διακομιστές άλλων εταιρειών προκαλώντας σοβαρά ερωτήματα ασφαλείας.

Πόσο πιθανή είναι τελικά η απώλεια ελέγχου;

Απέχει η ανθρωπότητα ένα εξελικτικό βήμα της τεχνητής νοημοσύνης από την πλήρη απώλεια του ελέγχου της; «Δεν νομίζω ότι είμαστε σε σημείο που η τεχνητή νοημοσύνη μπορεί να καταστρέψει τον κόσμο. Δεν θα στοιχημάτιζα για το σενάριο να επικρατήσει της ανθρωπότητας την επόμενη δεκαετία, αλλά αν στοιχημάτιζα μπορεί και να έχανα» απαντά στην «Κ» ο καθηγητής στο Τμήμα Πληροφορικής και Τηλεπικοινωνιών του ΕΚΠΑ, Μανώλης Κουμπαράκης, ο οποίος έχει ειδίκευση στην ΑΙ. «Η τεχνητή νοημοσύνη έχει κάνει τεράστια βήματα. Θυμηθείτε πώς ήταν το ChatGPT το 2024 και πώς έχει εξελιχθεί η τεχνητή νοημοσύνη σήμερα» προσθέτει ο καθηγητής.

Ο αναπληρωτής διευθυντής του Ινστιτούτου Πληροφορικής και Τηλεπικοινωνιών στον «Δημόκριτο», Γιώργος Παλιούρας, λέει στην «Κ» ότι ο δικός του φόβος δεν αφορά τα ίδια τα μοντέλα της τεχνητής νοημοσύνης αλλά τη χρήση τους από τους ανθρώπους. «Πόσο εμπιστευόμαστε τους ανθρώπους που χειρίζονται την τεχνητή νοημοσύνη;» αναρωτιέται και προσθέτει πως μολονότι οι ικανότητές της έχουν αυξηθεί πολύ και γρήγορα «δεν έχει αναπτύξει ακόμα δικούς της στόχους και συμφέροντα. Αυτή τη στιγμή θεωρώ ότι ο έλεγχός της βρίσκεται σε μεγάλο βαθμό στο χέρι μας. Αλλά πρέπει να τεθούν οι σωστοί κανόνες και να μπουν οι δικλείδες ασφαλείας για να μη μπούμε σε ανεξέλεγκτες καταστάσεις».

Αυτή τη στιγμή θεωρώ ότι ο έλεγχός της βρίσκεται σε μεγάλο βαθμό στο χέρι μας. Αλλά πρέπει να τεθούν οι σωστοί κανόνες και να μπουν οι δικλείδες ασφαλείας για να μη μπούμε σε ανεξέλεγκτες καταστάσεις.

Ο καθηγητής του ΕΚΠΑ έχει την άποψη ότι οι ερευνητές των εταιρειών της Big Tech που μιλούν δημοσίως για τους κινδύνους της τεχνητής νοημοσύνης είναι ειλικρινείς και εκφράζουν γνήσια αγωνία για τους πιθανούς κινδύνους. «Το παράπονό τους είναι ότι δεν βλέπουν ενδιαφέρον από τις εταιρείες για το τι μπορεί να συμβεί αν δεν γίνουν σοβαρές επενδύσεις στην ασφάλεια των συστημάτων. Βλέπουν ότι οι εταιρείες έχουν ως προτεραιότητα το κέρδος και τον μεταξύ τους ανταγωνισμό. Εχουμε και το παράδειγμα του Τζόφρι Χίντον, ο οποίος ήταν κορυφαίος ερευνητής της Google και κέρδισε το Νόμπελ Φυσικής το 2024. Είχε παραιτηθεί από την εταιρεία ώστε να μπορεί να μιλά ελεύθερα για τους κινδύνους της τεχνητής νοημοσύνης και για να εργαστεί ώστε να ελεγχθούν τα μοντέλα που είναι εξυπνότερα από εμάς».

Από την κατανόηση στη ρύθμιση

Οι κυβερνήσεις φαίνονται ανήμπορες ή απρόθυμες να λάβουν μέτρα για τον έλεγχο της τεχνητής νοημοσύνης, αλλά ο κ. Κουμπαράκης εκτιμά ότι έχει έρθει ο καιρός για συμφωνίες αντίστοιχες με αυτές που έχουν γίνει για τα πυρηνικά όπλα. Οπως λέει «γίνονται συναντήσεις κορυφής για την τεχνητή νοημοσύνη και οι ηγέτες μιλούν για deepfakes και την προστασία των παιδιών. Οι παγκόσμιες ηγεσίες βρίσκονται πίσω στην κατανόηση του τι συμβαίνει. Αλλά πιστεύω ότι έχει έρθει η ώρα να πάρουν το θέμα στα σοβαρά και να προχωρήσουν σε ρυθμίσεις, όπως ακριβώς είχαν πάρει σοβαρά το θέμα των πυρηνικών και των χημικών όπλων υπογράφοντας συνθήκες μη εξάπλωσης».

Ο κ. Κουμπαράκης και ο κ. Παλιούρας συμφωνούν, πάντως, ότι η Ευρωπαϊκή Ενωση είναι αυτή που κινείται πιο δυναμικά στην κατεύθυνση της ρύθμισης του πλαισίου και βάζει κάποιους φραγμούς με το «AI Act». «Στην Ευρώπη είμαστε πιο μπροστά όσον αφορά το κανονιστικό πλαίσιο και κινούμαστε προς τη σωστή κατεύθυνση, ακόμα κι αν αυτό σημαίνει ότι εμπορικά βρισκόμαστε πιο πίσω» λέει ο αναπληρωτής διευθυντής του Ινστιτούτου Πληροφορικής και Τηλεπικοινωνιών του «Δημόκριτου» .