BBC: Γιατί υπουργοί Οικονομικών, κεντρικοί τραπεζίτες και επενδυτές φοβούνται το μοντέλο AI Mythos

Οι υπουργοί Οικονομικών, οι κεντρικοί τραπεζίτες και οι επενδυτές έχουν εκφράσει σοβαρές ανησυχίες σχετικά με ένα ισχυρό νέο μοντέλο τεχνητής νοημοσύνης, το οποίο φοβούνται ότι θα μπορούσε να υπονομεύσει την ασφάλεια των χρηματοπιστωτικών συστημάτων.

Η ανάπτυξη του μοντέλου Claude Mythos από την Anthropic οδήγησε σε συναντήσεις κρίσης, αφού εντόπισε τρωτά σημεία σε πολλά μεγάλα λειτουργικά συστήματα.

Όπως αναφέρει σε άρθρο του το BBC, οι ειδικοί λένε ότι έχει ενδεχομένως μια άνευ προηγουμένου ικανότητα να εντοπίζει και να εκμεταλλεύεται τις αδυναμίες της κυβερνοασφάλειας – αν και άλλοι προειδοποιούν ότι απαιτούνται περαιτέρω δοκιμές για την σωστή κατανόηση των δυνατοτήτων του.

Ο Καναδός υπουργός Οικονομικών, Φρανσουά-Φιλίπ Σαμπάν, δήλωσε στο BBC ότι το Mythos συζητήθηκε εκτενώς στη συνεδρίαση του Διεθνούς Νομισματικού Ταμείου (ΔΝΤ) στην Ουάσινγκτον αυτή την εβδομάδα.

«Σίγουρα είναι αρκετά σοβαρό για να απαιτήσει την προσοχή όλων των υπουργών Οικονομικών», είπε.

«Η διαφορά είναι ότι το Στενό του Ορμούζ – ξέρουμε πού βρίσκεται και ξέρουμε πόσο μεγάλο είναι… το πρόβλημα που αντιμετωπίζουμε με το Anthropic είναι ότι είναι το άγνωστο, άγνωστο».

«Αυτό απαιτεί μεγάλη προσοχή, ώστε να έχουμε δικλείδες ασφαλείας και να έχουμε θεσπίσει διαδικασίες για να διασφαλίσουμε την ανθεκτικότητα των χρηματοπιστωτικών μας συστημάτων», πρόσθεσε.

Τι είναι το Claude Mythos

Το Mythos είναι ένα από τα τελευταία μοντέλα της Anthropic που αναπτύχθηκε στο πλαίσιο του ευρύτερου συστήματος τεχνητής νοημοσύνης της που ονομάζεται Claude, ανταγωνιστή του ChatGPT της OpenAI και του Gemini της Google.

Αποκαλύφθηκε από την Anthropic νωρίτερα αυτόν τον μήνα, όταν οι προγραμματιστές που ήταν υπεύθυνοι για τον έλεγχο μοντέλων τεχνητής νοημοσύνης και την εκτέλεση των λεγόμενων «μη ευθυγραμμισμένων» εργασιών – οι οποίες αντιβαίνουν στις ανθρώπινες αξίες, τους στόχους και τη συμπεριφορά – δήλωσαν ότι ήταν «εντυπωσιακά ικανό σε εργασίες ασφάλειας υπολογιστών».

Επικαλούμενη ανησυχίες ότι θα μπορούσε να φέρει στο φως παλιά σφάλματα λογισμικού ή να βρει τρόπους για να εκμεταλλευτεί εύκολα τα τρωτά σημεία του συστήματος, η Anthropic δεν έχει κυκλοφορήσει το μοντέλο.

Αντ’ αυτού, έχει διαθέσει το Mythos σε τεχνολογικούς κολοσσούς όπως οι Amazon Web Services, CrowdStrike , Microsoft και Nvidia, στο πλαίσιο μιας πρωτοβουλίας που ονομάζεται Project Glasswing – την οποία αποκαλεί «προσπάθεια για την ασφάλεια του πιο κρίσιμου λογισμικού στον κόσμο».

Την Πέμπτη, η Anthropic κυκλοφόρησε μια νέα έκδοση ενός υπάρχοντος μοντέλου, του Claude Opus, λέγοντας ότι θα επέτρεπε τη δοκιμή των κυβερνοδυναμικών δυνατοτήτων του Mythos σε λιγότερο ισχυρά συστήματα.

Οι ανησυχίες που έχουν εκφραστεί σχετικά με το Mythos μπορεί να υπερβαίνουν τις φλυαρίες γύρω από προηγούμενα μοντέλα τεχνητής νοημοσύνης, αλλά ορισμένοι ειδικοί στον τομέα της κυβερνοασφάλειας έχουν αμφισβητήσει το πόσο δικαιολογημένες είναι – ειδικά δεδομένου ότι το μοντέλο δεν έχει δοκιμαστεί από τον ευρύτερο κλάδο για να διαπιστωθεί πόσο ικανό είναι στην πραγματικότητα.

Το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου απέκτησε πρόσβαση σε μια προεπισκόπηση του μοντέλου και δημοσίευσε τη μόνη ανεξάρτητη έκθεση σχετικά με τις δεξιότητες κυβερνοασφάλειας του μοντέλου.

Οι ερευνητές του σημείωσαν ότι ήταν ένα ισχυρό εργαλείο ικανό να εντοπίσει πολλά κενά ασφαλείας σε μη προστατευμένα περιβάλλοντα, αλλά υπέδειξαν ότι το Mythos δεν ήταν δραματικά καλύτερο από τον προκάτοχο του Claude, το Opus 4.

«Οι δοκιμές μας δείχνουν ότι το Mythos Preview μπορεί να εκμεταλλευτεί συστήματα με αδύναμη ασφάλεια και είναι πιθανό να αναπτυχθούν περισσότερα μοντέλα με αυτές τις δυνατότητες», ανέφεραν οι συντάκτες της έκθεσης.

Δεν είναι επίσης η πρώτη φορά που ένας προγραμματιστής τεχνητής νοημοσύνης ισχυρίζεται ότι οι δυνατότητες των μοντέλων του σημαίνουν ότι δεν θα έπρεπε να κυκλοφορήσουν – κάτι που οι επικριτές υποστηρίζουν ότι είναι μια τακτική για να δημιουργηθεί δημοσιότητα.

Τον Φεβρουάριο του 2019, η OpenAI ανέφερε παρόμοιους φόβους όταν επέλεξε να αναβάλει την κυκλοφορία του GPT-2, μιας παλαιότερης έκδοσης των μοντέλων της που τώρα τροφοδοτούν το μεγαλύτερο εργαλείο της, το ChatGPT.

«Κατανοήστε τα τρωτά σημεία»

Οι κορυφαίοι τραπεζίτες θα έχουν πρόσβαση στο μοντέλο εκ των προτέρων για να δοκιμάσουν τα συστήματά τους.

Ο διευθύνων σύμβουλος της Barclays, CS Venkatakrishnan, δήλωσε στο BBC: «Είναι αρκετά σοβαρό που ο κόσμος πρέπει να ανησυχεί».

«Πρέπει να το κατανοήσουμε καλύτερα και να κατανοήσουμε τα τρωτά σημεία που αποκαλύπτονται και να τα διορθώσουμε γρήγορα».

Πρόσθεσε ότι «αυτός θα είναι ο νέος κόσμος» – αναφερόμενος σε ένα πολύ πιο συνδεδεμένο χρηματοπιστωτικό σύστημα, με ευκαιρίες αλλά και ευπάθειες.

Ενώ ο προγραμματιστής Anthropic έχει δηλώσει ότι το μοντέλο έχει ήδη αποκαλύψει πολλαπλά τρωτά σημεία ασφαλείας σε ορισμένα κρίσιμα λειτουργικά συστήματα, χρηματοοικονομικά συστήματα και προγράμματα περιήγησης ιστού, οι κυβερνήσεις και οι τράπεζες έχουν πρόσβαση πριν από την δημόσια κυκλοφορία του για να βοηθήσουν στην προστασία των δικών τους συστημάτων.

Ο διοικητής της Τράπεζας της Αγγλίας, Άντριου Μπέιλι, δήλωσε στο BBC ότι η εξέλιξη έπρεπε να ληφθεί πολύ σοβαρά υπόψη: «Πρέπει να εξετάσουμε πολύ προσεκτικά τώρα τι θα μπορούσε να σημαίνει αυτή η τελευταία εξέλιξη της τεχνητής νοημοσύνης για τον κίνδυνο του κυβερνοεγκλήματος».

Πρόσθεσε: «Η συνέπεια θα μπορούσε να είναι η ανάπτυξη της Τεχνητής Νοημοσύνης, της μοντελοποίησης, η οποία διευκολύνει την ανίχνευση υπαρχόντων τρωτών σημείων σε βασικά συστήματα πληροφορικής, και στη συνέχεια προφανώς οι εγκληματίες του κυβερνοχώρου – οι κακοί δράστες – θα μπορούσαν να επιδιώξουν να τα εκμεταλλευτούν».

Το Υπουργείο Οικονομικών των ΗΠΑ επιβεβαίωσε ότι είχε θέσει το ζήτημα στις μεγάλες τράπεζές του, ενθαρρύνοντάς τες να δοκιμάσουν τα συστήματά τους, πριν από οποιαδήποτε δημόσια κυκλοφορία του Mythos από την Anthropic.

Πηγές του χρηματοπιστωτικού κλάδου ανέφεραν ότι μια άλλη εξέχουσα αμερικανική εταιρεία τεχνητής νοημοσύνης θα μπορούσε σύντομα να κυκλοφορήσει ένα παρόμοια ισχυρό μοντέλο, αλλά χωρίς τις ίδιες διασφαλίσεις.

Ο James Wise, εταίρος στην Balderton Capital, είναι πρόεδρος της μονάδας Sovereign AI, ενός ταμείου επιχειρηματικών κεφαλαίων που θα επενδύει σε βρετανικές εταιρείες τεχνητής νοημοσύνης, με την υποστήριξη κυβερνητικής χρηματοδότησης 500 εκατομμυρίων λιρών.

Είπε ότι το Mythos είναι «το πρώτο από τα πολλά πιο ισχυρά μοντέλα που θα είναι» και θα μπορούν να αποκαλύψουν τα τρωτά σημεία των συστημάτων.

Η μονάδα του «επενδύει σε βρετανικές εταιρείες τεχνητής νοημοσύνης που αντιμετωπίζουν αυτό το θέμα – εταιρείες που εργάζονται στον τομέα της ασφάλειας και προστασίας της τεχνητής νοημοσύνης», δήλωσε στο πρόγραμμα Today του BBC.

«Ελπίζουμε ότι τα μοντέλα που εκθέτουν τρωτά σημεία είναι επίσης τα μοντέλα που θα τα διορθώσουν».

Σχετικά άρθρα:

InflueScope: Η πρώτη AI-powered πλατφόρμα influencer marketing στην Ελλάδα Κρίσιμη η κατάσταση του Γιώργου Μυλωνάκη με το επόμενο 48ωρο να είναι καθοριστικό – Financial Report Parcel2go: Ο νέος παίκτης στον τομέα των ταχυμεταφορών στην Ελλάδα έρχεται από το Μάντσεστερ Coffee Connection: Διευρύνει τη σύνθεση του διοικητικού της συμβουλίου – Financial Report