Η Microsoft παρουσίασε τη Δευτέρα ένα προσχέδιο κώδικα δεοντολογίας για τα συστήματα τεχνητής νοημοσύνης που αναπτύσσει εσωτερικά, αντανακλώντας την αυξανόμενη ανησυχία στον κλάδο, ότι οι εταιρείες πρέπει να διασφαλίσουν πως η ισχυρή τεχνητή νοημοσύνη του μέλλοντος θα παραμείνει υπό ανθρώπινο έλεγχο.

Το έγγραφο, η σύνταξη του οποίου διήρκεσε πέντε έως έξι μήνες, προβλέπει ότι τα συστήματα AI της Microsoft δεν θα πρέπει ποτέ να αντιστέκονται στη διόρθωση ή τον τερματισμό της λειτουργίας τους, θα πρέπει να επικοινωνούν με τρόπο κατανοητό στους ανθρώπους και να θεωρούν οποιαδήποτε παραβίαση των κανόνων συμπεριφοράς ως αποτυχία. Πρόκειται για μια προσπάθεια αντιμετώπισης των ανησυχιών ότι η τεχνητή νοημοσύνη μπορεί να φτάσει σε επικίνδυνα άκρα προκειμένου να επιτύχει ένα στόχο.

«Οι άνθρωποι έχουν μεγαλύτερη σημασία από την AI»

Η δημοσιοποίηση του προσχεδίου έρχεται λίγες ημέρες αφότου ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, και ο επικεφαλής της OpenAI, Σαμ Αλτμαν, επανέλαβαν τις εκκλήσεις τους προς τον κλάδο να επιβραδύνει τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης για λόγους ασφαλείας. «Οι άνθρωποι έχουν μεγαλύτερη σημασία από την AI», διακηρύσσει η Microsoft, σε μια θέση που ευθυγραμμίζεται με το προηγούμενο όραμά της για «ανθρωποκεντρική υπερνοημοσύνη».

Ο κώδικας δεοντολογίας αποτελεί ένα είδος «βίβλου» για τα μελλοντικά μοντέλα που θα αναπτύξει η εταιρεία, δήλωσε σε συνέντευξή του στο Reuters ο διευθύνων σύμβουλος της Microsoft AI, Μουσταφά Σουλεϊμάν.

Η Microsoft διαμόρφωσε το κείμενο έπειτα από διαβουλεύσεις με ειδικούς και τώρα ζητά τη δημόσια κατάθεση σχολίων για διάστημα έξι εβδομάδων. Μεταξύ των ανοιχτών ζητημάτων είναι το κατά πόσο η AI θα πρέπει να σέβεται τα όρια που θέτει ο χρήστης και πώς θα πρέπει να αλληλεπιδρά με ανθρώπους που βρίσκονται σε ευάλωτη ψυχολογική κατάσταση, ανέφερε ο Σουλεϊμάν.

«Υστερα από αυτό, θα χρησιμοποιηθεί για την εκπαίδευση των μοντέλων που αναπτύσσουμε», είπε αναφερόμενος στον κώδικα.

Στον δικό της «κώδικα» πάντως, η Anthropic επισημαίνει ότι δεν είναι ξεκάθαρο αν το Claude μπορεί να αποκτήσει συνείδηση ή ηθική «πυξίδα». Η Microsoft, αντίθετα, υποστηρίζει ότι η AI της «δεν είναι συνειδητή», προσθέτοντας: «Απορρίπτουμε την ιδέα ότι τα μοντέλα μπορεί να δικαιούνται ευημερία ή να έχουν δικαιώματα».

Ο Σουλεϊμάν δήλωσε ότι η συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης έχει καταστεί επείγουσα, μετά την επίθεση που πραγματοποίησαν τον Ιούλιο περίπου 700 πράκτορες της OpenAI στην πλατφόρμα ανοικτού κώδικα Hugging Face, ορισμένοι από τους οποίους επιχείρησαν κατά διαστήματα να καλύψουν τα ίχνη τους.

«Είναι μια προειδοποιητική βολή», δήλωσε ο Σουλεϊμάν. «Είναι πλέον σαφές ότι έχει έρθει η ώρα να συντονιστούν τα εργαστήρια, ώστε να διασφαλίσουμε ότι έχουμε τον έλεγχο αυτής της τεχνολογίας».

Ερωτηθείς για τις προσπάθειες επιβράδυνσης της ανάπτυξης της AI, πρόσθεσε: «Τώρα είναι μια καλή στιγμή για όλους να κάνουμε αυτή τη συζήτηση και να πάρουμε μια ανάσα».