Η τεχνητή νοημοσύνη, που υπόσχεται να διευκολύνει την καθημερινότητά μας, έχει πλέον γίνει εργαλείο στα χέρια επιτήδειων. Νέα κυβερνοαπειλή κάνει τον γύρο του διαδικτύου και «χτυπά» τους χρήστες του Gmail μέσω του ενσωματωμένου AI βοηθού, Gemini. Η Google έχει ήδη σημάνει συναγερμό, καθώς χάκερς εκμεταλλεύονται τα έξυπνα εργαλεία για να εξαπατήσουν τους χρήστες και να αποσπάσουν ευαίσθητα στοιχεία, όπως οι κωδικοί πρόσβασης.
Το κόλπο είναι τόσο πονηρό όσο και απλό: ένα παραπλανητικό email φτάνει στον χρήστη, καμουφλαρισμένο σαν επίσημη ειδοποίηση ή εταιρική επικοινωνία. Ωστόσο, μέσα στο σώμα του μηνύματος, οι κυβερνοεγκληματίες έχουν κρύψει αόρατες εντολές – λευκό κείμενο σε λευκό φόντο – αόρατο στο μάτι, αλλά όχι στην τεχνητή νοημοσύνη. Το Gemini, όταν καλείται να δημιουργήσει μια σύνοψη του email, διαβάζει και αυτές τις «κρυφές» οδηγίες, και το αποτέλεσμα είναι σοκαριστικό: ψεύτικες ειδοποιήσεις ασφαλείας που φαίνεται να προέρχονται από την ίδια τη Google.
Μία τέτοια απάτη αποκάλυψε πρόσφατα ο Marco Figueroa, ειδικός στην ασφάλεια και μέλος του προγράμματος GenAI Bounty. Σε ένα demo, παρουσίασε μήνυμα που υποτίθεται πως ενημέρωνε τον χρήστη για παραβίαση του λογαριασμού του, ζητώντας του να καλέσει έναν αριθμό τηλεφωνικής «υποστήριξης» της Google – ο οποίος φυσικά δεν είχε καμία σχέση με την εταιρεία.
Αυτή η μορφή επίθεσης, γνωστή ως indirect prompt injection, θεωρείται ιδιαίτερα επικίνδυνη γιατί παρακάμπτει τα φίλτρα ασφαλείας με έναν σχεδόν… καλλιτεχνικό τρόπο. Οι χάκερς δεν επιτίθενται απευθείας στον χρήστη – επιτίθενται στον ψηφιακό του βοηθό, ο οποίος χωρίς να το γνωρίζει, μετατρέπεται σε συνεργό τους.
Οι ειδικοί συνιστούν στις επιχειρήσεις να επαναξιολογήσουν τα συστήματα φιλτραρίσματος email, δίνοντας έμφαση στην ανίχνευση κρυφών ή ύποπτων στοιχείων, όπως αόρατα κείμενα, ύποπτες URL ή τηλέφωνα. Ένα ακόμα βήμα είναι η χρήση συστημάτων μετεπεξεργασίας για να εντοπίζονται μηνύματα που χαρακτηρίζονται ως «επείγοντα» ή ζητούν άμεση ενέργεια από τον χρήστη.
Το θέμα ανέδειξε πρόσφατα και η ομάδα 0Din της Mozilla, η οποία εντόπισε περίπτωση στην οποία το Gemini παρήγαγε ψεύτικο alert παραβίασης, βασισμένο σε τέτοιο «μολυσμένο» email.
Σύμφωνα με μελέτη της IBM, οι ΑΙ βοηθοί δεν έχουν ακόμη την ικανότητα να ξεχωρίζουν το κακόβουλο περιεχόμενο από τις αυθεντικές εντολές των χρηστών. Αντί να καταλαβαίνουν το πλαίσιο, ερμηνεύουν το κείμενο με βάση το τι διαβάζουν πρώτο – είτε είναι γνήσιο είτε όχι.
Η Google αναγνώρισε το πρόβλημα και παραδέχτηκε πως τέτοιου είδους επιθέσεις έχουν καταγραφεί ήδη από το 2024. Παρόλο που έχουν γίνει σημαντικές προσθήκες στα εργαλεία ασφαλείας, οι επιθέσεις φαίνεται να παραμένουν ενεργές. Πλέον, το Gemini ζητά επιβεβαίωση πριν εκτελέσει ενέργειες όπως αποστολή email ή διαγραφή στοιχείων, δίνοντας μια δεύτερη ευκαιρία στον χρήστη να προλάβει τυχόν λάθος.
Η εταιρεία έχει επίσης ενσωματώσει προειδοποιήσεις – όπως ένα κίτρινο banner όταν εντοπίζει κακόβουλη δραστηριότητα – αλλά όπως παραδέχεται, ορισμένα προβλήματα παραμένουν άλυτα.
Το ανησυχητικό είναι ότι αυτές οι επιθέσεις δεν περιορίζονται πλέον στο Gmail. Καθώς η τεχνητή νοημοσύνη διαχέεται σε άλλες υπηρεσίες, όπως τα Google Docs, το Ημερολόγιο και ακόμα και σε εφαρμογές τρίτων, ο κίνδυνος μεγαλώνει. Μάλιστα, ορισμένα περιστατικά φαίνεται να μην οργανώνονται καν από ανθρώπινους χάκερς, αλλά από άλλες AI – δημιουργώντας ένα επικίνδυνο «οικοσύστημα» αυτοματοποιημένης απάτης.
Η Google τονίζει ότι δεν θα ενημερώσει ποτέ για παραβίαση λογαριασμού μέσω λειτουργίας περίληψης του Gemini. Αν λοιπόν δείτε κάποιο τέτοιο alert ή μήνυμα που ζητά «άμεση ενέργεια», αγνοήστε το και διαγράψτε το αμέσως. Είναι πολύ πιθανό να πρόκειται για παγίδα.
Η αλήθεια είναι ότι, όσο περισσότερο εξαρτόμαστε από την τεχνητή νοημοσύνη, τόσο πιο δημιουργικοί γίνονται όσοι θέλουν να την παρακάμψουν. Κι ενώ οι δυνατότητες των εργαλείων όπως το Gemini είναι τεράστιες, το ίδιο ισχύει και για τις απειλές.
Μέχρι να εξελιχθούν τα συστήματα προστασίας, ο μόνος τρόπος να παραμείνετε ασφαλείς είναι η ενημέρωση – και η καχυποψία.
