Επίσημη προειδοποίηση προς τους επενδυτές, ότι η τεχνολογία που αναπτύσσει ενδέχεται να δημιουργήσει «υπαρξιακούς κινδύνους για την ανθρωπότητα» απηύθυνε η εταιρεία Τεχνητής Νοημοσύνης Αnthropic, σύμφωνα με το ενημερωτικό δελτίο για την πολυαναμενόμενη αρχική δημόσια προσφορά μετοχών (IPO), ενόψει της εισόδου της στο Χρηματιστήριο.

To πρακτορείο Reuters, σε σχετικό δημοσίευμά του, κάνει λόγο για «μια ασυνήθιστη προειδοποίηση από μια εταιρεία που επιδιώκει να αποκομίσει κέρδος από την ίδια τεχνολογία».

Η εταιρεία που αναπτύσσει το μοντέλο Claude και η αποτίμησή της πλησιάζει το 1 τρισ. δολάρια, αφιέρωσε σχεδόν το ένα τρίτο του εκτενούς εγγράφου στην ανάλυση των «παραγόντων κινδύνου». Πρόκειται για ακόμη ένα ηχηρό «καμπανάκι» στην ευρύτερη συζήτηση που έχει ανοίξει τους τελευταίους μήνες και έχει βρεθεί στο επίκεντρο του πλανήτη.

Μεταξύ αυτών, συγκαταλέγει την πιθανότητα τα μοντέλα ΑΙ να είναι σε θέση να χειραγωγούν ανθρώπους, να εκβιάζουν ή να παρουσιάζουν άλλες απρόβλεπτες συμπεριφορές.

«Η ανάπτυξη εξαιρετικά προηγμένων μοντέλων, πλατφορμών και εφαρμογών μας και η επέκταση των περιπτώσεων χρήσης θα μπορούσαν να αυξήσουν περαιτέρω τον κίνδυνο τα μοντέλα αυτά να βλάψουν», δήλωσε η Anthropic.

Οπως σχολιάζει το Reuters, ενώ οι εισηγμένες εταιρείες περιγράφουν συστηματικά τους κινδύνους των προϊόντων στους επενδυτές, λίγες, αν όχι καμία, έχουν εκδώσει προειδοποιήσεις που υποδηλώνουν ότι η τεχνολογία τους θα μπορούσε να προκαλέσει πιθανή εξαφάνιση της ανθρώπινης ζωής.

Η εταιρεία παρομοιάζει τη δυναμική της AI με σημαντικά ορόσημα της Ιστορίας, όπως η εκβιομηχάνιση και η εφεύρεση του ηλεκτρισμού, ωστόσο υπογραμμίζει ότι θα μπορούσε να προκαλέσει ανεπανόρθωτες βλάβες αν δεν χρησιμοποιηθεί σωστά.

Η είσοδος της Anthropic στο χρηματιστήριο είναι πιθανό να μετατεθεί για μετά τις ενδιάμεσες εκλογές στις ΗΠΑ τον Νοέμβριο, είχε μεταδώσει προηγουμένως το Reuters, επικαλούμενο πηγές. Η πώληση μετοχών θα έφερνε για πρώτη φορά δημόσιους επενδυτές σε μια κούρσα AI που μέχρι σήμερα χρηματοδοτείται από εταιρείες venture capital, κρατικά επενδυτικά ταμεία και μεγάλες εταιρείες τεχνολογίας.

Η Open ΑΙ ακυρώνει το νέο μοντέλο

Την ίδια ώρα, η OpenAI, ο μεγάλος ανταγωνιστής της Anthropic ανακοίνωσε ότι δεν θα κυκλοφορήσει το GPT-6.1 Astra, το νέο μοντέλο τεχνητής νοημοσύνης της, εν μέσω ανησυχιών για την ασφάλεια.

Το σύστημα «δεν πληρούσε πλήρως τα κριτήρια» των προτύπων της εταιρείας, δήλωσε στο BBC ο Saachi Jain, επικεφαλής των συστημάτων ασφάλειας της OpenAI

Η απόφαση της OpenAI, η οποία έγινε γνωστή για πρώτη φορά από την εφημερίδα Wall Street Journal, αποτελεί επίσης μια σπάνια περίπτωση κατά την οποία ένας μεγάλος προγραμματιστής τεχνητής νοημοσύνης ανακαλεί μια νέα έκδοση λόγω ανησυχιών ασφαλείας.

Οπως δήλωσε χθες, Δευτέρα ο Saachi Jain, στη WSJ, το Astra δεν ανταποκρίθηκε στα πρότυπα της εταιρείας κατά τις δοκιμές, στις οποίες αξιολογείται το κατά πόσον ένα σύστημα ακολουθεί την ανθρώπινη πρόθεση.