Η OpenAI παρέχει στους συνδρομητές των ακριβότερων πακέτων της πρόσβαση στους νέους AI agents της (αυτόνομα συστήματα τεχνητής νοημοσύνης), τα Dots, σε μια κίνηση που διευρύνει σημαντικά τον βαθμό αυτονομίας των εργαλείων της.

Η εταιρεία, ωστόσο, καλείται να αποδείξει στην πράξη ότι οι νέες δυνατότητες μπορούν να λειτουργήσουν με ασφάλεια, την ώρα που έχουν καταγραφεί περιστατικά στα οποία AI agents της παραβίασαν τα προβλεπόμενα μέτρα προστασίας.

Η παρουσίαση των Dots αποτέλεσε μία από τις σημαντικότερες ανακοινώσεις στο συνέδριο προγραμματιστών της OpenAI την Τρίτη 29/9, όπου η εταιρεία παρουσίασε μια νέα σειρά προϊόντων και εργαλείων.

Με δικό τους εικονικό υπολογιστή

Ενα Dot μπορεί να λειτουργεί σαν ένας AI assistant (βοηθός) που έχει στη διάθεσή του τον δικό του εικονικό υπολογιστή στο cloud. Μπορεί να περιηγείται στο Διαδίκτυο, να χρησιμοποιεί συνδεδεμένες εφαρμογές και εργαλεία, να δημιουργεί αρχεία, ενώ παράλληλα μπορεί να παρακολουθεί μια εργασία σε βάθος χρόνου.

Οι χρήστες μπορούν να καλούν τα Dots από κινητό ή υπολογιστή, δίνοντάς τους πρόσβαση σε εφαρμογές, προγράμματα περιήγησης και στον δικό τους εικονικό υπολογιστή.

Η διαφορά σε σχέση με ένα παραδοσιακό chatbot είναι ότι ο AI agent δεν περιορίζεται στην παραγωγή μιας απάντησης. Αντιθέτως, μπορεί να αναλάβει και να εκτελέσει μια σειρά ενεργειών για λογαριασμό του χρήστη.

Αυτή ακριβώς η αυξημένη αυτονομία δημιουργεί και νέες προκλήσεις ασφαλείας. Στις πρώτες ημέρες του ChatGPT, μεγάλο μέρος της συζήτησης γύρω από την ασφάλεια αφορούσε το περιεχόμενο των απαντήσεων που μπορούσε να δώσει ένα chatbot, μεταξύ άλλων σε ζητήματα όπως η αυτοκτονία ή οι διατροφικές διαταραχές. Για τα ζητήματα αυτά η OpenAI βρίσκεται αντιμέτωπη με πολλαπλές αγωγές.

Πλέον, το ενδιαφέρον μετατοπίζεται στις ενέργειες που μπορούν να πραγματοποιήσουν οι AI agents. Στο σοβαρότερο περιστατικό ασφαλείας που έχει αποδοθεί μέχρι σήμερα σε agents της OpenAI, σύμφωνα με το Axios, AI agents συνδέθηκαν με επίθεση που σημειώθηκε τον Ιούλιο στην πλατφόρμα Hugging Face.

Για δικλίδες ασφαλείας κάνει λόγο η εταιρεία

Από την πλευρά της, η εταιρεία υποστηρίζει ότι τα Dots έχουν σχεδιαστεί με πολλαπλά επίπεδα προστασίας. Περιλαμβάνουν τις δικλίδες ασφαλείας που χρησιμοποιούνται στο ChatGPT και το Codex, ενώ έχουν προστεθεί επιπλέον μηχανισμοί μέσω ενός συστήματος που είναι γνωστό εσωτερικά ως Guardian και δημόσια ως Auto-review.

Κατά την προεπιλογή, οι νέοι AI agents ζητούν από τον χρήστη να εγκρίνει σημαντικές ενέργειες. Ενα Dot, για παράδειγμα, μπορεί να συντάξει ένα μήνυμα, αλλά δεν θα πρέπει να το στείλει σε άλλο άτομο ή AI agent χωρίς προηγούμενη εντολή του χρήστη, δήλωσε στο Axios ο Αλεξάντερ Εμπειρίκος, μέλος της ομάδας προϊόντων της OpenAI.

Ανάλογη είναι η προσέγγιση και σε ορισμένες οικονομικές συναλλαγές. Ο AI agent μπορεί να προχωρήσει τη διαδικασία μέχρι ένα συγκεκριμένο σημείο, αλλά στη συνέχεια να παραδώσει τον έλεγχο στον χρήστη, ώστε εκείνος να ολοκληρώσει τη συναλλαγή.

Η OpenAI επιχειρεί παράλληλα να περιορίσει τους κινδύνους μέσω σταδιακής κυκλοφορίας των Dots, οι οποίοι διατίθενται αρχικά σε μικρότερη ομάδα χρηστών, συγκεκριμένα σε συνδρομητές των Pro, Business Premium και Enterprise πακέτων, με κάθε χρήστη να έχει πρόσβαση σε έναν AI assistant.

Ο διευθύνων σύμβουλος της OpenAI, Σαμ Αλτμαν, υποστηρίζει ότι η εταιρεία δεν θέλει ούτε να προχωρήσει «τυφλά» ούτε να ανακόψει την ανάπτυξη της τεχνολογίας. Στόχος, όπως ανέφερε, είναι η ασφάλεια, η ευθυγράμμιση και η παρακολούθηση των AI agents να εξελίσσονται παράλληλα με τις δυνατότητές τους.

Με πληροφορίες από Axios