Η Κίνα σχεδιάζει να εισάγει περιορισμούς στις προδιαγραφές των chatbot τεχνητής νοημοσύνης σχετικά με τη δυνατότητά τους να επηρεάζουν τους χρήστες με τρόπους που θα μπορούσαν να οδηγήσουν σε αυτοκτονία ή αυτοτραυματισμό, σύμφωνα με σχέδιο που επικαλείται το CNBC.

Τα μέτρα, μόλις οριστικοποιηθούν, θα ισχύουν για προϊόντα ή υπηρεσίες τεχνητής νοημοσύνης που προσφέρονται σε χρήστες στην Κίνα, και «τους επηρεάζουν συναισθηματικά μέσω κειμένου, εικόνων, ήχου ή βίντεο». 

Οι προτεινόμενοι κανόνες του Πεκίνου θα αποτελέσουν την πρώτη προσπάθεια στον κόσμο να ρυθμιστεί η τεχνητή νοημοσύνη με ανθρώπινα ή ανθρωπομορφικά χαρακτηριστικά, δήλωσε ο Γουίνστον Μα, αναπληρωτής καθηγητής στη Νομική Σχολή του Πανεπιστημίου της Νέας Υόρκης. Οι τελευταίες προτάσεις έρχονται σε μια περίοδο που οι κινεζικές εταιρείες έχουν αναπτύξει ραγδαία ΑΙ συντρόφους και ψηφιακές διασημότητες.

Σε σύγκριση με τη ρύθμιση της γενικής τεχνητής νοημοσύνης που εισήγαγε η Κίνα το 2023, ο Μα σημείωσε ότι η νέα εκδοχή «υπογραμμίζει τη μετάβαση από την ασφάλεια περιεχομένου στην ασφάλεια των ανθρώπινων συναισθημάτων».

Το σχέδιο κανονισμών προβλέπει ότι:

• Τα chatbot τεχνητής νοημοσύνης δεν θα μπορούν να παράγουν περιεχόμενο που ενθαρρύνει την αυτοκτονία ή τον αυτοτραυματισμό, ούτε να εμπλέκονται σε λεκτική βία ή συναισθηματική χειραγώγηση που βλάπτει την ψυχική υγεία των χρηστών.
• Εάν ένας χρήστης εκφράσει ρητά πρόθεση αυτοκτονίας, οι πάροχοι τεχνολογίας θα πρέπει να αναθέτουν άμεσα τη συνομιλία σε άνθρωπο και να ειδοποιούν τον κηδεμόνα του χρήστη ή άλλο κοντινό του πρόσωπο.
• Τα chatbot δεν θα πρέπει να παράγουν περιεχόμενο σχετικό με τζόγο, πορνογραφία ή βία.
• Οι ανήλικοι θα πρέπει να έχουν τη συγκατάθεση κηδεμόνα για τη χρήση τεχνητής νοημοσύνης για συναισθηματική συντροφιά, με χρονικά όρια στη χρήση.
• Οι πλατφόρμες θα πρέπει να μπορούν να διαπιστώνουν αν ένας χρήστης είναι ανήλικος ακόμη και αν δεν δηλώνει την ηλικία του και, σε περίπτωση αμφιβολίας, να εφαρμόζουν ρυθμίσεις για ανηλίκους, με δυνατότητα ένστασης.
• Επιπλέον διατάξεις προβλέπουν ότι οι πάροχοι θα υπενθυμίζουν στους χρήστες μετά από δύο ώρες συνεχούς αλληλεπίδρασης με τεχνητή νοημοσύνη, καθώς και την υποχρέωση διενέργειας ελέγχων ασφάλειας για chatbot με περισσότερους από 1 εκατ. εγγεγραμμένους χρήστες ή άνω των 100.000 μηνιαίων ενεργών χρηστών.

Ωστόσο, στο έγγραφο ενθαρρύνεται η χρήση ανθρωπόμορφης τεχνητής νοημοσύνης στη «διάδοση του πολιτισμού και τη συντροφιά ηλικιωμένων».

Με πληροφορίες από CNBC