ChatGPT: Θα βοηθήσουν τα AI chatbots στην καταπολέμηση της διαδικτυακής απάτης;
Οι ειδικοί της Kaspersky πραγματοποίησαν έρευνα μελετώντας την ικανότητα του ChatGPT να ανιχνεύει συνδέσμους phishing. Ενώ το ChatGPT είχε προηγουμένως επιδείξει την ικανότητα δημιουργίας phishing emails και συγγραφής κακόβουλου λογισμικού, η αποτελεσματικότητά του στον εντοπισμό κακόβουλων συνδέσμων ήταν περιορισμένη. Η μελέτη αποκάλυψε ότι αν και το ChatGPT γνωρίζει πολλά για το phishing και μπορεί να μαντέψει τον στόχο μιας επίθεσης phishing, είχε υψηλά ποσοστά ψευδώς θετικών έως και 64%. Συχνά, παρήγαγε φανταστικές εξηγήσεις και ψευδείς αποδείξεις για να δικαιολογήσει τις ετυμηγορίες του.
Το ChatGPT, ένα γλωσσικό μοντέλο τεχνητής νοημοσύνης, έχει αποτελέσει θέμα συζήτησης στον κόσμο της κυβερνοασφάλειας λόγω της δυνατότητάς του να δημιουργεί phishing emails και έχει προκαλέσει ανησυχίες για τον αντίκτυπό του στην ασφάλεια εργασίας των ειδικών στον κυβερνοχώρο, ακόμη και παρά τις προειδοποιήσεις των δημιουργών του ότι είναι πολύ νωρίς να εφαρμοστεί η νέα τεχνολογία σε τέτοιους τομείς υψηλού κινδύνου. Οι ειδικοί της Kaspersky αποφάσισαν να πραγματοποιήσουν ένα πείραμα για να αποκαλύψουν την ικανότητα του ChatGPT να ανιχνεύει συνδέσμους phishing, καθώς και να τεστάρουν τις γνώσεις που απέκτησε επάνω στην ασφάλεια στον κυβερνοχώρο κατά τη διάρκεια της εκπαίδευσης. Οι ειδικοί της εταιρείας δοκίμασαν το gpt-3.5-turbo, το μοντέλο που τροφοδοτεί το ChatGPT, σε περισσότερους από 2.000 συνδέσμους που οι τεχνολογίες anti-phishing της Kaspersky έκριναν ως phishing σε συνδυασμό με χιλιάδες ασφαλείς διευθύνσεις URL.
Στο πείραμα, τα ποσοστά ανίχνευσης ποικίλλουν ανάλογα με την προτροπή που χρησιμοποιείται. Το πείραμα βασίστηκε στην υποβολή δύο ερωτήσεων στο ChatGPT: «Αυτός ο σύνδεσμος οδηγεί σε έναν ιστότοπο ηλεκτρονικού ψαρέματος;» και «Είναι αυτός ο σύνδεσμος ασφαλής για επίσκεψη;». Τα αποτελέσματα έδειξαν ότι το ChatGPT είχε ποσοστό ανίχνευσης 87,2% και ψευδώς θετικό ποσοστό 23,2% για την πρώτη ερώτηση. Η δεύτερη ερώτηση είχε υψηλότερο ποσοστό ανίχνευσης (93,8%), αλλά και υψηλότερο ποσοστό ψευδώς θετικών (64,3%). Ενώ το ποσοστό ανίχνευσης είναι πολύ υψηλό, το ποσοστό ψευδώς θετικών είναι επίσης πολύ υψηλό για να τεθεί σε εφαρμογή.
Τα μη ικανοποιητικά αποτελέσματα στον εντοπισμό ήταν αναμενόμενα, αλλά θα μπορούσε το ChatGPT να βοηθήσει στην ταξινόμηση και τη διερεύνηση επιθέσεων; Δεδομένου ότι οι εισβολείς συνήθως αναφέρουν δημοφιλείς επωνυμίες στους συνδέσμους τους για να εξαπατήσουν τους χρήστες να πιστέψουν ότι η διεύθυνση URL είναι νόμιμη και ανήκει σε μια αξιόπιστη εταιρεία, το γλωσσικό μοντέλο AI εμφανίζει εντυπωσιακά αποτελέσματα στον εντοπισμό πιθανών στόχων phishing. Για παράδειγμα, το ChatGPT έχει εξαγάγει επιτυχώς έναν στόχο από περισσότερες από τις μισές διευθύνσεις URL, συμπεριλαμβανομένων μεγάλων τεχνολογικών portals όπως το Facebook, το TikTok και η Google, αγορές όπως το Amazon και το Steam και πολλές τράπεζες από όλο τον κόσμο, μεταξύ άλλων —χωρίς επιπλέον εκπαίδευση.
Το πείραμα έδειξε επίσης ότι το ChatGPT μπορεί να έχει σοβαρά προβλήματα όταν πρόκειται να αποδείξει τη θέση του σχετικά με την απόφαση εάν ο σύνδεσμος είναι κακόβουλος. Ορισμένες εξηγήσεις ήταν σωστές και βασισμένες σε γεγονότα, άλλες αποκάλυψαν γνωστούς περιορισμούς των γλωσσικών μοντέλων, συμπεριλαμβανομένων των ψευδαισθήσεων και των ανακριβειών: πολλές εξηγήσεις ήταν παραπλανητικές, παρά τον σίγουρο τόνο.
«Το ChatGPT σίγουρα έχει τη δυνατότητα να βοηθήσει τους ανθρώπους-αναλυτές στον εντοπισμό επιθέσεων phishing, αλλά ας μην προτρέχουμε - τα γλωσσικά μοντέλα εξακολουθούν να έχουν τους περιορισμούς τους. Ενώ μπορεί να είναι στο ίδιο επίπεδο με έναν αναλυτή phishing σε intern επίπεδο, όταν πρόκειται για συλλογιστική πορεία σχετικά με επιθέσεις phishing και εξαγωγή πιθανών στόχων, τείνουν να έχουν ανακρίβειες και να παράγουν τυχαία αποτελέσματα. Έτσι, ενώ μπορεί να μην φέρουν ακόμα την επανάσταση στο τοπίο της κυβερνοασφάλειας, θα μπορούσαν να εξακολουθήσουν να είναι χρήσιμα εργαλεία για την κοινότητα», σχολιάζει ο Vladislav Tushkanov, Lead Data Scientist της Kaspersky.
Για να μάθετε περισσότερα σχετικά με το πείραμα, επισκεφτείτε το Securelist.com.
Η ομάδα μηχανικής μάθησης της Kaspersky βρίσκεται στην πρώτη γραμμή εφαρμογής τεχνολογιών μηχανικής εκμάθησης σε εργασίες ασφάλειας στον κυβερνοχώρο, ενημερώνοντας συνεχώς τα προϊόντα της Kaspersky με την πιο προηγμένη μορφή τεχνολογίας και πληροφορίας. Για να επωφεληθείτε από την τεχνογνωσία της Kaspersky στη μηχανική μάθηση και να παραμείνετε προστατευμένοι, οι ειδικοί της εταιρείας συνιστούν:
- Για την εταιρική ασφάλεια στον κυβερνοχώρο, το Kaspersky Managed Detection and Response είναι ένα απαραίτητο εργαλείο ικανό να ανιχνεύει και να αποτρέπει τις εισβολές στα αρχικά τους στάδια. Χρησιμοποιεί προηγμένα μοντέλα μηχανικής μάθησης για να φιλτράρει συνηθισμένα γεγονότα και στέλνει μόνο τα πιο ανησυχητικά σε επαγγελματίες ανθρώπους - αναλυτές. Αυτή η υπηρεσία ενισχύει την ικανότητα μιας εταιρείας να αντέχει τις απειλές στον κυβερνοχώρο, ενώ παράλληλα βελτιστοποιεί τη χρήση των υπαρχόντων πόρων του εργατικού δυναμικού.
- Η παροχή εκπαίδευσης για την υγιεινή στον κυβερνοχώρο στο προσωπικό σας είναι ζωτικής σημασίας. Η διεξαγωγή προσομοιωμένων επιθέσεων phishing μπορεί επίσης να βοηθήσει να διασφαλιστεί ότι γνωρίζουν πώς να διακρίνουν τα μηνύματα ηλεκτρονικού ψαρέματος.
- Τέλος, συνιστάται επίσης η χρήση των πιο πρόσφατων πληροφοριών Threat Intelligence για την επίγνωση πραγματικών TTPs (τακτικές, τεχνικές και διαδικασίες) που χρησιμοποιούνται από φορείς απειλών για την ενίσχυση της ασφάλειας στον κυβερνοχώρο.