Την πρόσβαση στην εφαρμογή τεχνητής νοημοσύνης Grok της πλατφόρμας Χ, ιδιοκτησίας του μεγιστάνα Ελον Μασκ, απέκλεισε την Κυριακή η Μαλαισία, μία ημέρα μετά την Ινδονησία. Την απόφαση αυτή πήραν οι δύο συντηρητικές ισλαμικές χώρες της Νότιας Ασίας μετά την πληθώρα πλαστών φωτογραφιών γυμνών γυναικών που κυκλοφόρησαν στο Διαδίκτυο χάρη στο εργαλείο «ψηφιακής απογύμνωσης» Grok.

Η διεθνής πίεση αυξάνεται πάνω στον Μασκ προκειμένου να θέσει υπό έλεγχο την εφαρμογή Grok, αφού χρήστες διαπίστωσαν ότι ήταν δυνατόν να ζητήσει κάποιος από την εφαρμογή τη δημιουργία ακραίου πορνογραφικού υλικού βασισμένου σε φωτογραφίες υπαρκτών προσώπων. Την περασμένη εβδομάδα, η εταιρεία του Μασκ ανακοίνωσε ότι η δυνατότητα ψηφιακής επεξεργασίας φωτογραφιών θα περιοριζόταν εφεξής μόνο σε χρήστες της πλατφόρμας Χ, οι οποίοι πληρώνουν συνδρομή και έχουν καταθέσει τα στοιχεία τους ώστε να αποκτήσουν το «μπλε τσεκ» στο προφίλ τους.

Η υπουργός Ψηφιακής Διακυβέρνησης της Ινδονησίας, Μέιτα Χαφίντ, ανέφερε το Σάββατο ότι η απαγόρευση «αφορά την προστασία των γυναικών, των παιδιών και του ευρύτερου κοινού από τους κινδύνους πλαστού πορνογραφικού περιεχομένου που δημιουργήθηκε από την τεχνολογία τεχνητής νοημοσύνης». Την Κυριακή, η Μαλαισία ανακοίνωσε τη δική της προσωρινή απαγόρευση, μετά «τα επανειλημμένα κρούσματα παράνομης χρήσης του Grok για την παραγωγή άσεμνων και βαθιά προσβλητικών εικόνων, χωρίς τη συναίνεση των θυμάτων, γυναικών και παιδιών μεταξύ τους», σύμφωνα με το υπουργείο Επικοινωνιών της Κουάλα Λουμπούρ. Και οι δύο χώρες διαθέτουν αυστηρή νομοθεσία κατά της πορνογραφίας.

Ανησυχίες για ανάλογα κρούσματα από την εφαρμογή Grok έχουν εκφράσει οι Αρχές της Βρετανίας, της Ευρωπαϊκής Ενωσης και της Ινδίας. Ο Μασκ και η εταιρεία xAI, που δημιούργησε το Grok, είχαν διαβεβαιώσει τη διεθνή κοινότητα ότι αντιμετώπιζαν το πρόβλημα αποκλείοντας διά βίου παραβατικούς χρήστες, εκφράζοντας μάλιστα την προθυμία τους για πλήρη συνεργασία με τοπικές κυβερνήσεις και διωκτικές αρχές. Η εφαρμογή Grok συνέχισε, όμως, να αποδέχεται αιτήματα χρηστών που ζητούσαν πορνογραφικό υλικό από φωτογραφίες υπαρκτών προσώπων, κυρίως γυναικών.

Το Grok έχει αποκτήσει φήμη ακραίου συστήματος, στα πρότυπα του εκκεντρικού ιδιοκτήτη του, προβάλλοντας –και σε ορισμένες περιπτώσεις προωθώντας ενεργά– πορνογραφικό υλικό. Η πρόσφατη τάση της ψηφιακής απογύμνωσης άρχισε στα τέλη του 2025, όταν πολλοί χρήστες του Grok ανακάλυψαν ότι μπορούσαν να ζητήσουν από την εφαρμογή την αλλοίωση φωτογραφιών. Πολλοί χρήστες ζήτησαν έτσι από το Chatbot να δημιουργήσει εικόνες γυναικών με μαγιό μπικίνι σε προκλητικές στάσεις, προκαλώντας ψυχική οδύνη σε εκατοντάδες χιλιάδες γυναίκες σε όλο τον κόσμο.

Ερευνα του ευρωπαϊκού μη κερδοσκοπικού ινστιτούτου AI Forensics, που ερευνά αλγορίθμους, ανέλυσε περισσότερες από 20.000 εικόνες που παρήγαγε η εφαρμογή Grok και 50.000 αιτήματα χρηστών σε αυτή, μεταξύ 25 Δεκεμβρίου και 1 Ιανουαρίου. Οι ερευνητές διαπίστωσαν μεγάλη συχνότητα των αιτημάτων «βγάλε/αφαίρεσε» και «μπικίνι», ενώ περισσότερες από τις μισές εικόνες ανθρώπων που δημιούργησε το Grok αφορούσαν άτομα «με ελάχιστη ενδυμασία, όπως εσώρουχα ή μπικίνι».

Ο Μασκ έχει καταδικάσει επανειλημμένως τις εφαρμογές τεχνητής νοημοσύνης τις οποίες θεωρεί «αφυπνισμένες» (woke), εκτιμώντας ότι αποτελούν εργαλεία λογοκρισίας. Την ίδια στιγμή, ο Νοτιοαφρικανός κροίσος απέλυσε τα περισσότερα μέλη τής –ήδη υποστελεχωμένης– ομάδας ψηφιακής ασφάλειας του Grok τον Νοέμβριο. Παρότι ο Μασκ έχει δηλώσει ότι όποιος χρησιμοποιεί το Grok για τη δημιουργία παράνομου υλικού θα υποστεί κυρώσεις, απορρίπτει συστηματικά τις ανησυχίες για την αφθονία πορνογραφικού υλικού στην πλατφόρμα Χ, υποστηρίζοντας ότι οι κυβερνήσεις «επιδιώκουν να φιμώσουν τον ελεύθερο λόγο» και απαντώντας σε επικρίσεις στην πλατφόρμα Χ με ειρωνικά εικονίδια «εμότζι».

Χθες το μεσημέρι, η ρυθμιστική αρχή τηλεπικοινωνιών της Βρετανίας εγκαινίασε έρευνα για να διαπιστωθεί εάν η πλατφόρμα Χ τήρησε τις συμβατικές υποχρεώσεις της σε ό,τι αφορά την προστασία των Βρετανών πολιτών από παράνομο υλικό. Σε ανακοίνωσή της, η ρυθμιστική αρχή Ofcom αναφέρει ότι η παραγωγή και η διακίνηση τέτοιων πλαστών εικόνων ενηλίκων μπορεί να στοιχειοθετούν ποινικά αδικήματα, όπως μη συναινετική πορνογραφία και σεξουαλική κακοποίηση ανηλίκων, εφόσον πρόκειται για εικόνες παιδιών. Εάν η Ofcom αποφασίσει ότι η πλατφόρμα Χ παραβίασε τον νόμο, μπορεί να επιβάλει πρόστιμο μέχρι και 10% των παγκόσμιων εσόδων της εταιρείας.