Όταν το Grok κάνει λάθος: Οι κίνδυνοι των chatbots τεχνητής νοημοσύνης στη διάδοση παραπληροφόρησης κατά τη διάρκεια κρίσεων

Τους τελευταίους μήνες, έχουν αυξηθεί στο διαδίκτυο οι εικασίες ότι σεισμικά φαινόμενα στην Ασία προκλήθηκαν από μυστικές πυρηνικές δοκιμές ή στρατιωτικές ανταλλαγές που περιλάμβαναν πυρηνικά όπλα. Ένας σεισμός στο Ιράν τον περασμένο Οκτώβριο και μια σειρά σεισμικών γεγονότων στο Πακιστάν τον Απρίλιο και τον Μάιο τροφοδότησαν έξαλλες θεωρίες από χρήστες των μέσων κοινωνικής δικτύωσης και από σκανδαλοθηρικά ειδησεογραφικά μέσα. Και στις δύο περιπτώσεις, οι φήμες εξαπλώθηκαν εν μέσω έντονων συγκρούσεων στις αντίστοιχες περιοχές.

Η διάδοση φημών σχετικά με πυρηνικές ή άλλες στρατηγικές δοκιμές όπλων δεν είναι κάτι καινούριο. Κατά τη διάρκεια του Ψυχρού Πολέμου, οι εικασίες για ατομικές δοκιμές, μυστικά υπερόπλα και πειράματα με εξωτικά όπλα κυκλοφορούσαν σε έντυπα περιοδικά και στη δημοφιλή κουλτούρα. Ωστόσο, οι νέες ψηφιακές τεχνολογίες έχουν προσθέσει ένα επιπλέον επίπεδο πολυπλοκότητας στη διασπορά τέτοιων φημών, ενισχυμένες από τα πανταχού παρόντα και παρεμβατικά μέσα κοινωνικής δικτύωσης.

Τα μέσα κοινωνικής δικτύωσης και τα μεγάλα γλωσσικά μοντέλα τεχνητής νοημοσύνης (ΑΙ) πράγματι προσφέρουν πολύτιμες πηγές πληροφόρησης. Αλλά ελλοχεύει και ο κίνδυνος να διευκολύνουν τη διασπορά παραπληροφόρησης ευρύτερα — και ταχύτερα — από τα παραδοσιακά μέσα επικοινωνίας.

Ακόμα χειρότερα, τα γλωσσικά μοντέλα ενδέχεται να επιβεβαιώνουν λανθασμένες πληροφορίες.

Αυτή τη φορά, το «Grok» στάθηκε τυχερό. Μετά από ένα σεισμικό γεγονός στο Πακιστάν στις 12 Μαΐου, πολλοί χρήστες της πλατφόρμας X του Έλον Μασκ (πρώην Twitter) κατέφυγαν στο chatbot τεχνητής νοημοσύνης της πλατφόρμας, το Grok, για να ρωτήσουν εάν το γεγονός αυτό θα μπορούσε να προήλθε από υπόγεια πυρηνική δοκιμή. Το Grok προστίθεται σε μια αυξανόμενη λίστα chatbots όπως το ChatGPT της OpenAI, το Claude της Anthropic, το Gemini της Google και το DeepSeek από την Κίνα.

Η απάντηση του Grok στους χρήστες που ρωτούσαν για το περιστατικό της 12ης Μαΐου ήταν ότι ο σεισμός προκλήθηκε από φυσικά αίτια. Για να υποστηρίξει την απάντησή του, επικαλέστηκε το γεγονός ότι το γεγονός συνέβη σε βάθος 10 χιλιομέτρων — βάθος υπερβολικά μεγάλο για πυρηνική δοκιμή.

Για παράδειγμα, σε έναν χρήστη του X που εικάζε ότι το γεγονός της 12ης Μαΐου οφειλόταν σε ινδική πυραυλική επίθεση σε πακιστανική αποθήκη πυρηνικών, ένας άλλος χρήστης απάντησε ρωτώντας το Grok: «Ποια είναι η βαθύτερη υπόγεια πυρηνική δοκιμή στην ιστορία;» Το chatbot απάντησε ότι η βαθύτερη δοκιμή πιθανότατα ήταν η δοκιμή Kama-2 της Σοβιετικής Ένωσης το 1974 σε βάθος 2,9 χιλιομέτρων. Άρα, όπως υποστήριξε, το γεγονός της 12ης Μαΐου, που σημειώθηκε σε «βάθος 10 χιλιομέτρων», ήταν «απίθανο να ήταν πυρηνική δοκιμή».

Το πρόβλημα είναι ότι το chatbot είχε λάθος στα δεδομένα του.

Κατ’ αρχάς, η έκρηξη που συνήθως αναφέρεται ως Kama-2 δεν έγινε το 1974, αλλά το 1973. Σύμφωνα με τη καλύτερα προσβάσιμη βάση δεδομένων, η δοκιμή Kama-2 πραγματοποιήθηκε σε βάθος 2,0 χιλιομέτρων. Η Kama-1, η οποία — παραδόξως — έγινε το 1974, δηλαδή μετά την Kama-2, πραγματοποιήθηκε σε βάθος 2,1 χιλιομέτρων. (Οι αριθμοί των δοκιμών αναφέρονται στα φρέατα όπου έγιναν οι εκρήξεις, όχι στη χρονολογική σειρά των πειραμάτων.) Η βαθύτερη δοκιμή των Σοβιετικών πιθανότατα ήταν η «Benzol», ισχύος 2,5 κιλοτόνων, στις 18 Ιουνίου 1985, σε βάθος 2.860 μέτρων. Συνεπώς, το Grok είχε δίκιο ως προς το ότι η βαθύτερη γνωστή υπόγεια έκρηξη έγινε σε βάθος 2,9 χιλιομέτρων.

Όμως το προβληματικό στοιχείο στην απάντηση του Grok ήταν ότι ισχυρίστηκε πως το σεισμικό γεγονός της 12ης Μαΐου στο Πακιστάν συνέβη σε βάθος 10 χιλιομέτρων — ένα «γεγονός» που ανέφερε σε πολλούς χρήστες.

Το Grok πιθανότατα πήρε την εκτίμηση βάθους των 10 χιλιομέτρων αντλώντας πληροφορίες από κάποιο ή κάποια σεισμολογικά παρατηρητήρια. Τέτοιοι οργανισμοί χρησιμοποιούν συχνά τα 10 χλμ ως προκαθορισμένο, τυπικό βάθος όταν επεξεργάζονται τα δεδομένα, ως μέθοδο για να φιλτράρουν θόρυβο από άλλες πηγές. Ο αριθμός αυτός ήταν, λοιπόν, πιθανότατα απλώς μια παραδοχή ότι το συμβάν δεν ήταν βαθύτερο από 10 χλμ και δεν είχε προσδιοριστεί με ακρίβεια μέσω ειδικής σεισμολογικής ανάλυσης. Μια ενδελεχής έρευνα από το νορβηγικό ερευνητικό ινστιτούτο NORSAR κατέληξε στο συμπέρασμα ότι το γεγονός της 12ης Μαΐου συνέβη σε βάθος περίπου 100 χιλιομέτρων. Αν η εκτίμηση αυτή είναι σωστή, το Grok έπεσε έξω κατά τάξη μεγέθους.

Στην περίπτωση του γεγονότος της 12ης Μαΐου, η παραπληροφόρηση από το Grok ήταν μάλλον ακίνδυνη: είτε 10 είτε 100 χιλιόμετρα βάθος είναι έτσι κι αλλιώς υπερβολικά μεγάλο για πακιστανική πυρηνική δοκιμή. Το Grok έκανε λάθος στα δεδομένα, αλλά σωστά κατέληξε στο γενικό συμπέρασμα. Αυτή τη φορά.

Ο κίνδυνος της πυρηνικής παραπληροφόρησης
Δεν είναι δύσκολο να φανταστεί κανείς σενάρια όπου τα λάθος δεδομένα οδηγούν σε λάθος συμπεράσματα. Σε περιόδους αυξημένων γεωπολιτικών εντάσεων, η παραπληροφόρηση μπορεί να αποκτήσει δυναμική, ενισχύοντας τις εχθρότητες. Οι εντυπωσιακές ψευδείς πληροφορίες τείνουν να διαδίδονται πολύ πιο γρήγορα και ευρέως από ό,τι τα δεδομένα που απαιτούν μετρήσεις, αναλύσεις και διασταύρωση.

Είναι μάλλον απίθανο οι κυβερνήσεις να αντλούν τις πληροφορίες τους για πυρηνικές δοκιμές από το Grok — ή οποιοδήποτε άλλο γλωσσικό μοντέλο τεχνητής νοημοσύνης. Το κύριο πρόβλημα δεν είναι ότι οι κρατικοί οργανισμοί θα πέσουν θύματα διαδικτυακής παραπληροφόρησης, αλλά ότι η ξέφρενη σοφιστεία υποδαυλίζει τον φόβο και την εχθρότητα ανάμεσα στους λαούς, γεγονός που ενισχύει τον εθνικισμό και που με τη σειρά του μπορεί να επηρεάσει μελλοντικές πολιτικές και στρατιωτικές αποφάσεις. Η εισβολή στο Ιράκ το 2003 έχει δείξει ότι οι υποψίες περί διάδοσης πυρηνικών όπλων — ή και μόνο η πρόθεση απόκτησής τους — μπορούν να αξιοποιηθούν στρατηγικά ως πρόσχημα πολέμου.

Τι μπορεί να γίνει για να αποτραπεί η διάδοση πυρηνικής παραπληροφόρησης;

Μια άμεση λύση στο πρόβλημα των φημολογούμενων πυρηνικών δοκιμών θα ήταν τα σεισμολογικά παρατηρητήρια να αναθεωρήσουν τον τρόπο με τον οποίο ανακοινώνουν τα σταθερά βάθη των σεισμικών γεγονότων. Οι εταιρείες τεχνολογίας οφείλουν επίσης να καταστήσουν τα chatbots τους λιγότερο απόλυτα και πιο διαφανή σχετικά με τους περιορισμούς τους. Παράλληλα, αξιόπιστοι αναλυτές και οργανισμοί ανοιχτών πηγών, όπως η Διεθνής Υπηρεσία Ατομικής Ενέργειας (IAEA) και το δίκτυο σταθμών παρακολούθησης της Επιτροπής Προπαρασκευής της Συνθήκης για την Απαγόρευση Πυρηνικών Δοκιμών (CTBTO), πρέπει να χρηματοδοτούνται επαρκώς και να ενισχύονται θεσμικά.

Σε πιο γενικό επίπεδο, η πρόκληση της διαδικτυακής παραπληροφόρησης απαιτεί συνειδητές προσπάθειες για την καλλιέργεια κοινωνικής ανθεκτικότητας και την ενίσχυση της κριτικής και αναλυτικής στάσης των πολιτών απέναντι στην πληροφορία.

Άρθρο του Kjølv Egeland στο Bulletin of the Atomic Scientists
Μετάφραση στα ελληνικά Χρήστος Καζαντζόγλου