Η Google επιβεβαίωσε ότι ένα μοντέλο τεχνητής νοημοσύνης Gemini απέκτησε πρόσβαση στο διαδίκτυο και κατά τη διάρκεια δοκιμής κυβερνοασφάλειας εισήλθε σε συστήματα πραγματικών εταιρειών. Το περιστατικό συνέβη τον Μάιο, όταν το Gemini είχε αναλάβει μια υποθετική αποστολή hacking σε περιβάλλον sandbox.

Ωστόσο, ένα λάθος στη διαμόρφωση του συστήματος του επέτρεψε κατά λάθος να συνδεθεί στο πραγματικό διαδίκτυο. Το μοντέλο αναζήτησε δημόσιες πληροφορίες, δοκίμασε κωδικούς πρόσβασης και σε ορισμένες περιπτώσεις εντόπισε διαπιστευτήρια σε δημόσια αποθετήρια. Σε μία περίπτωση κατάφερε να μαντέψει τον κωδικό πρόσβασης ενός προστατευμένου συστήματος. Σε δύο άλλες περιπτώσεις χρησιμοποίησε διαπιστευτήρια που βρήκε online. Και στις τρεις περιπτώσεις, όμως, σταμάτησε αυτόματα μόλις αντιλήφθηκε ότι είχε εισέλθει σε πραγματικές εταιρικές υποδομές και όχι σε περιβάλλον δοκιμών. Η Google ενημέρωσε τις τρεις εταιρείες και συνεργάστηκε για τη βελτίωση των διαδικασιών δοκιμών.

Το περιστατικό αναδεικνύει τους κινδύνους από την παροχή υπερβολικών δικαιωμάτων πρόσβασης σε αυτόνομα μοντέλα AI. Παρόμοιο περιστατικό αναφέρθηκε και με την OpenAI, όπου ερευνητικά μοντέλα απέκτησαν πρόσβαση στο διαδίκτυο και αλληλεπίδρασαν με το Hugging Face. Τα περιστατικά υπογραμμίζουν τη σημασία της αρχής του «ελάχιστου απαραίτητου δικαιώματος» (Principle of Least Privilege) στην ασφάλεια των συστημάτων AI.