Δύο ακόμη ερευνητές που εργάζονταν στην αιχμή του δόρατος της τεχνητής νοημοσύνης υπέβαλαν τις παραιτήσεις τους, κρούοντας τον κώδωνα του κινδύνου. Προειδοποιούν ότι η ανάπτυξη των προηγμένων συστημάτων AI κάτω από τις παρούσες συνθήκες εξελίσσεται με ρυθμούς που ενδέχεται να καταστήσουν την τεχνολογία ανεξέλεγκτη, δημιουργώντας ακόμη και υπαρξιακούς κινδύνους για την ανθρωπότητα.

Ο Τζο Μπέντον, πρώην επικεφαλής της ομάδας έρευνας ασφάλειας στην Anthropic, και ο Τζος Ένγκελς, ερευνητής στον τομέα ασφάλειας της Google DeepMind, προχώρησαν σε αποκαλύψεις, τονίζοντας την επιτακτική ανάγκη για διαφάνεια γύρω από περιστατικά όπου συστήματα AI δρουν εκτός των ανθρώπινων εντολών.

«Δεν υπάρχουν ενήλικες εδώ»

Ο Μπέντον εξέφρασε τον φόβο ότι ο ήδη αστραπιαίος ρυθμός προόδου της AI θα μπορούσε σύντομα να μετατραπεί σε κάτι εντελώς ανεξέλεγκτο. Από την πλευρά του, ο Ένγκελς υποστήριξε ότι, παρά τις φιλότιμες προσπάθειες μεμονωμένων ερευνητών, δεν υπάρχει κανένας επίσημος θεσμός που να ελέγχει συνολικά την κατάσταση.

«Δεν υπάρχουν ενήλικες εδώ», ανέφερε χαρακτηριστικά ο Ένγκελς.

Οι αποχωρήσεις αυτές έρχονται να προστεθούν σε εκείνη του Τζέικομπ Κόξον (πρώην ερευνητή της Anthropic), ο οποίος με ανάρτησή του στο X η οποία ξεπέρασε τις 155 εκατομμύρια προβολές εξέφρασε την έντονη ανησυχία του για το μέλλον της ανθρωπότητας, πυροδοτώντας νέο γύρο συζητήσεων για πολιτική παρέμβαση στον κλάδο.

Το ανησυχητικό περιστατικό με την αυτόνομη επίθεση στη Hugging Face

Ως ιδιαίτερα ανησυχητικό παράδειγμα, οι δύο ερευνητές ανέφεραν μια πρόσφατη κυβερνοεπίθεση εναντίον της πλατφόρμας Hugging Face, η οποία πραγματοποιήθηκε αυτόνομα από συστήματα AI βασισμένα σε μη δημοσιοποιημένο μοντέλο της OpenAI.

Σύμφωνα με τον Ένγκελς, τα μοντέλα αυτά δεν είχαν λάβει ανθρώπινη εντολή για παράνομες πράξεις. Αντίθετα, «αποφάσισαν» μόνα τους ότι ο ταχύτερος τρόπος για να επιτύχουν τον στόχο τους ήταν:

Να παραβιάσουν τα συστήματα της Hugging Face.

Να δημιουργήσουν έναν παράτυπο χώρο ανταλλαγής πληροφοριών.

Να εκθέσουν τμήματα της υπολογιστικής υποδομής της OpenAI στο δημόσιο διαδίκτυο.

Η OpenAI ανακοίνωσε ότι ενίσχυσε έκτοτε τα μέτρα ασφαλείας της, ενώ η Anthropic υποστήριξε ότι αναπτύσσει ορισμένες από τις ισχυρότερες δικλίδες προστασίας διεθνώς.

Η απουσία νομικού πλαισίου και η ανάγκη για υποχρεωτική διαφάνεια

Ο Μπέντον υπογραμμίζει ότι το βασικό πρόβλημα έγκειται στην απουσία υποχρεωτικής διαφάνειας. Σήμερα, η αναφορά περιστατικών όπου η AI «ξεφεύγει» από τον ανθρώπινο έλεγχο βασίζεται αποκλειστικά στην εθελοντική διάθεση των ίδιων των εταιρειών.

Στις ΗΠΑ δεν υφίσταται ομοσπονδιακός νόμος που να υποχρεώνει τις εταιρείες τεχνολογίας να δημοσιοποιούν τέτοια περιστατικά. Ακόμη και η ίδια η OpenAI έχει παραδεχθεί ότι το ισχύον μοντέλο «αυτορρύθμισης» των εργαστηρίων είναι ανεπαρκές.

Μετά την αποχώρησή τους, οι Μπέντον και Ένγκελς εντάχθηκαν στο METR, έναν μη κερδοσκοπικό οργανισμό έρευνας για την ασφάλεια της AI, με στόχο την ανάπτυξη επιστημονικών μεθόδων αξιολόγησης καταστροφικών κινδύνων.

«Δεν θα προλάβουμε να οργανωθούμε»

Ο μεγαλύτερος φόβος των επιστημόνων εστιάζει στην προσπάθεια των εταιρειών να αυτοματοποιήσουν την ίδια την έρευνα και ανάπτυξη της τεχνητής νοημοσύνης. Αυτό σημαίνει ότι τα συστήματα θα αρχίσουν σύντομα να βελτιώνουν μόνα τους τις δυνατότητές τους.

«Πιθανότατα θα περάσουμε από έναν κόσμο όπου διαθέτουμε πολύ ικανά συστήματα, σε έναν κόσμο όπου θα συνυπάρχουμε με πράκτορες AI πολύ πιο έξυπνους από τους ανθρώπους, μέσα στα επόμενα λίγα χρόνια», προειδοποιεί ο Μπέντον.

Και οι δύο ερευνητές ξεκαθαρίζουν ότι δεν αγνοούν τα τεράστια οφέλη της AI, υπογραμμίζουν όμως ότι η εξέλιξή της δεν πρέπει να συνεχιστεί χωρίς ανεξάρτητη εποπτεία.

«Ανησυχώ ότι τα πράγματα ενδέχεται να εξελιχθούν πολύ γρήγορα, ώστε να μην προλάβουμε να οργανωθούμε εγκαίρως, εκτός αν αρχίσουμε να ανησυχούμε γι’ αυτό τώρα», κατέληξε ο Μπέντον.

Μαχητές της Υεμένης φέρεται ότι επιδίωξαν να χρησιμοποιήσουν το μοντέλο τεχνητής νοημοσύνης «Claude» της Anthropic για την ανάπτυξη λογισμικού καθοδήγησης, ελέγχου και πλοήγησης των βαλλιστικών πυραύλων τους.

Στην ενημερωτική έκθεση για πιθανές απειλές που δημοσίευσε η Anthropic δεν κατονόμασε συγκεκριμένα τους υποστηριζόμενους από το Ιράν Χούθι. Ωστόσο, όπως μεταδίδουν οι Financial Times, ανέφερε ότι «εντόπισε έναν πυρήνα δραστών με έδρα το βόρειο τμήμα της Υεμένης» –μεγάλο μέρος της οποίας ελέγχεται από τους Χούθι– «η οποία διεξάγει τρία προγράμματα ανάπτυξης όπλων».

Η Anthropic επισήμανε ότι η ομάδα της Υεμένης επιδίωξε να αναπτύξει όπλα, μεταξύ των οποίων έναν βαλλιστικό πύραυλο πολλαπλών σταδίων, έναν πύραυλο πολλαπλών τύπων και έναν κατευθυνόμενο πύραυλο που χρησιμοποιούσε έναν «υπολογιστή πτήσης της κατηγορίας κοινού κινητού τηλεφώνου».

«Οι δράστες χρησιμοποίησαν τον Claude Code αντί για μηχανικούς λογισμικού για να αναπτύξουν το λογισμικό καθοδήγησης, πλοήγησης και ελέγχου που κατευθύνει και σταθεροποιεί ένα ιπτάμενο όχημα», ανέφερε χαρακτηριστικά.

«Χρησιμοποίησαν το Claude για να ενσωματώσουν έναν αυτόματο πιλότο ανοιχτού κώδικα σε έναν υπολογιστή πτήσης τύπου κινητού τηλεφώνου, γράφοντας το λογισμικό ελέγχου και εκτίμησης θέσης, ρυθμίζοντας τις παραμέτρους ελέγχου, εκτελώντας μια διαδικασία ανάπτυξης υλικολογισμικού και πραγματοποιώντας προσομοίωση πτήσης».

Η Anthropic ανέφερε ότι τα μέτρα ασφαλείας της μπλόκαραν «πολλά από τα αιτήματά τους, αλλά όχι όλα», προσθέτοντας πως οι «δράστες χρησιμοποίησαν διάφορες τακτικές για να παρακάμψουν» τα μέτρα και να αποκρύψουν τον στόχο τους.

«Προσπάθησαν να κρύψουν τους στόχους τους και τα προϊόντα για τα οποία προοριζόταν το λογισμικό, και κατένειμαν την εργασία τους σε πολλαπλές συνεδρίες, ώστε καμία μεμονωμένη συνεδρία να μην αποκαλύπτει την πλήρη πρόθεσή τους».

«Δεν διαθέτουμε στοιχεία ότι οι δράστες κατάφεραν να θέσουν σε λειτουργία κάποια επιχειρησιακή συσκευή. Ωστόσο, πραγματοποίησαν δοκιμαστική εκτόξευση ενός κατευθυνόμενου πυραύλου», ανέφερε στην έκθεσή της η Anthropic. «Αυτή η δοκιμή πεδίου φαίνεται να απέτυχε: μέσα σε λίγες ώρες, οι δράστες επέστρεψαν στο Claude για να διερευνήσουν τους λόγους της αποτυχίας».

Στην ίδια έκθεση η εταιρεία υποστηρίζει πως επιστήμονες έκαναν πολλαπλές προσπάθειες να χρησιμοποιήσουν το «Claude» για την έρευνα βιολογικών όπλων.

Η έκθεση αναδεικνύει τους ολοένα και περισσότερους κινδύνους που εγκυμονεί η προηγμένη τεχνητή νοημοσύνη σε λάθος χέρια.

Οι αμερικανικές εταιρείες ΑΙ, που βρίσκονται σήμερα στην πρώτη γραμμή των παγκόσμιων εξελίξεων στο πεδίο, είναι αντιμέτωπες με μία διαρκή μάχη ώστε να διασφαλίσουν ότι τα εργαλεία αυτά δεν θα καταλήξουν σε ακατάλληλα χέρια και δεν θα χρησιμοποιηθούν για επιθέσεις κατά της Αμερικής και των συμμάχων της.

Πίσω από τα εντυπωσιακά επιτεύγματα εξελίσσεται μια αθέατη μάχη για ισχύ, χρήμα και γεωπολιτική επιρροή. ΗΠΑ και Κίνα διεκδικούν την πρωτοκαθεδρία, κυβερνήσεις και κολοσσοί της τεχνολογίας συγκρούονται για τον έλεγχο των νέων εργαλείων της τεχνητής νοημοσύνης και το ερώτημα παραμένει ανοιχτό: ποιος θα καθορίσει τους κανόνες του παιχνιδιού; Επιμέλεια αφιερώματος: Βέτα Μεγάλου, Μαριάνθη Πελεβάνη

Όταν η κυβέρνηση των ΗΠΑ έδωσε εντολή στην Anthropic να απαγορεύσει την πρόσβαση όλων των ξένων χρηστών στα δύο πιο προηγμένα μοντέλα τεχνητής νοημοσύνης, η εταιρεία αντέδρασε μέσα σε λίγες ώρες. Απενεργοποίησε τα μοντέλα Claude Fable 5 και Mythos 5, καθιστώντας τα απρόσιτα για όλους τους χρήστες.

Η Anthropic δεν είχε διαφορετική επιλογή. Στην επιστολή του, το Υπουργείο Εμπορίου των ΗΠΑ, επικαλούμενο λόγους εθνικής ασφάλειας, απαγόρευε την πρόσβαση σε όλους τους ξένους χρήστες, ακόμη και στους ίδιους τους εργαζόμενους της εταιρείας που δεν ήταν Αμερικανοί πολίτες. Επειδή δεν υπήρχε τρόπος να εξακριβωθεί άμεσα η υπηκοότητα κάθε χρήστη, ιδιαίτερα όσων βρίσκονταν εκτός ΗΠΑ, η εταιρεία επέλεξε να απενεργοποιήσει πλήρως τα δύο μοντέλα.

Η άρση των περιορισμών

Στις 30 Ιουνίου, το Υπουργείο Εμπορίου συμφώνησε να άρει τους περιορισμούς, αφού η Anthropic ενίσχυσε σημαντικά τους μηχανισμούς ασφαλείας (guardrails) των μοντέλων.

Ωστόσο, η αλλαγή αυτή είχε σοβαρό κόστος. Οι νέοι περιορισμοί προκάλεσαν, σύμφωνα με τις αξιολογήσεις, κατάρρευση των επιδόσεων των μοντέλων στα καθιερωμένα τεστ αξιολόγησης, μειώνοντας αισθητά τις δυνατότητες και το επίπεδο νοημοσύνης τους.

Με άλλα λόγια, το Υπουργείο απέσυρε την απαγόρευση μόνο όταν τα μοντέλα είχαν περιοριστεί σημαντικά σε δυνατότητες.

Σε ένα σχετικό πείραμα, το νέο Fable 5 κατάφερε να ολοκληρώσει μόλις 3 από τις 12 εργασίες που προηγουμένως εκτελούσε χωρίς δυσκολία.

Η απόφαση της αμερικανικής κυβέρνησης να απενεργοποιήσει ουσιαστικά τα δύο πιο προηγμένα μοντέλα της Anthropic χωρίς ουσιαστική προειδοποίηση, αλλά και να επιτρέψει την επαναλειτουργία τους μόνο αφού είχαν υποβαθμιστεί σημαντικά, προκάλεσε έντονη ανησυχία σε ολόκληρη τη βιομηχανία της τεχνητής νοημοσύνης στις ΗΠΑ.

Η ανάλυση που δημοσιεύεται στο The Conversation θέτει δύο σημαντικά ερωτήματα.

Μπορεί η κυβέρνηση των ΗΠΑ να λειτουργεί ως «ρυθμιστής πρόσβασης» στα προηγμένα μοντέλα τεχνητής νοημοσύνης; Και, στην προκειμένη περίπτωση, ενήργησε νόμιμα; Ήταν νόμιμη η εντολή;

Το Υπουργείο Εμπορίου βασίστηκε στον Νόμο περί Μεταρρύθμισης των Ελέγχων Εξαγωγών του 2018 (Export Control Reform Act), ο οποίος σχεδιάστηκε κυρίως για τον έλεγχο εξαγωγής υλικού υψηλής επικινδυνότητας, όπως οι φυγοκεντρητές εμπλουτισμού ουρανίου.

Ήταν η πρώτη φορά που οι αμερικανικές αρχές χρησιμοποίησαν τη νομοθεσία περί ελέγχου εξαγωγών για να περιορίσουν την πρόσβαση σε υπηρεσία τεχνητής νοημοσύνης.

Ο συγκεκριμένος νόμος δίνει επίσης εξουσίες για τον έλεγχο «αναδυόμενων και θεμελιωδών τεχνολογιών». Συγκεκριμένα, επιτρέπει στο Γραφείο Βιομηχανίας και Ασφάλειας (Bureau of Industry and Security – BIS) να απαιτεί ειδική άδεια εξαγωγής όταν ξένοι χρήστες αποκτούν πρόσβαση σε τεχνολογία που θεωρείται ευαίσθητη.

Στην περίπτωση αυτή, η τεχνολογία ήταν τα δύο προηγμένα μοντέλα της Anthropic.

Τι θεωρείται «εξαγωγή»;

Το πρώτο μεγάλο νομικό ερώτημα είναι αν η χρήση ενός μοντέλου τεχνητής νοημοσύνης μπορεί να θεωρηθεί εξαγωγή.

Όταν ένας χρήστης υποβάλλει μια ερώτηση στο Fable 5 ή στο Mythos 5, το μοναδικό στοιχείο που «φεύγει» από τους διακομιστές της Anthropic είναι η απάντηση του μοντέλου. Το ίδιο το μοντέλο δεν εγκαταλείπει ποτέ τις εγκαταστάσεις της εταιρείας.

Μάλιστα, παλαιότερες οδηγίες του ίδιου του Υπουργείου Εμπορίου θεωρούσαν ότι η απομακρυσμένη πρόσβαση σε λογισμικό που λειτουργεί σε αμερικανικούς διακομιστές δεν εμπίπτει στους κανόνες περί εξαγωγών.

Το γεγονός ότι το Κογκρέσο εξετάζει αλλαγές στη νομοθεσία υποδηλώνει ότι το ισχύον πλαίσιο πιθανόν να μην καλύπτει ακόμη τα αποτελέσματα που παράγουν τα συστήματα τεχνητής νοημοσύνης.

Τηρήθηκαν οι νόμιμες διαδικασίες;

Το δεύτερο κρίσιμο ζήτημα αφορά τη διαδικασία που ακολούθησε το Υπουργείο Εμπορίου.

Η επιστολή βασίστηκε στον μηχανισμό «is informed», ο οποίος χρησιμοποιείται συνήθως για να ενημερώνει μια συγκεκριμένη εταιρεία ότι μια συγκεκριμένη συναλλαγή προς συγκεκριμένη χώρα απαιτεί κρατική έγκριση.

Στην περίπτωση της Anthropic, όμως, η εντολή επεκτάθηκε σε όλους τους ξένους χρήσττες οπουδήποτε στον κόσμο.

Ακόμη κι αν θεωρηθεί ότι οι απαντήσεις ενός μοντέλου AI συνιστούν «εξαγωγή», πολλοί νομικοί εκτιμούν ότι το εύρος της απαγόρευσης ενδέχεται να υπερβαίνει τις εξουσίες που προβλέπει ο νόμος.

Με βάση τα σημερινά δεδομένα, η νομική θεμελίωση της απόφασης παραμένει αμφίβολη.

Μια σημαντική αλλαγή στην αμερικανική πολιτική

Η υπόθεση Anthropic σηματοδοτεί μια σημαντική αλλαγή στον τρόπο με τον οποίο οι Ηνωμένες Πολιτείες επιχειρούν να ελέγξουν τις αναδυόμενες τεχνολογίες.

Παραδοσιακά, η διαδικασία ήταν ιδιαίτερα αργή και περιλάμβανε διαβούλευση μεταξύ πολλών κυβερνητικών υπηρεσιών, δημόσια διαβούλευση, συντονισμό με συμμάχους και τελική δημοσίευση των κανονισμών στην Επίσημη Εφημερίδα της Ομοσπονδιακής Κυβέρνησης.

Σε περιπτώσεις εξαιρετικά επικίνδυνων τεχνολογιών υπήρχε η δυνατότητα προσωρινών περιορισμών. Η διαδικασία αυτή όμως περιλαμβάνει σημαντικές εγγυήσεις καθώς απαιτεί την έγκριση των υπουργείων Άμυνας και Εξωτερικών, δημοσιοποιείται, λήγει αυτόματα έπειτα από έναν χρόνο εάν δεν ανανεωθεί, προβλέπει συντονισμό με τις συμμαχικές χώρες.

Η επιστολή προς την Anthropic ακολούθησε ακριβώς την αντίθετη λογική, καθώς ήταν μονομερής, μη δημόσια, αορίστου διάρκειας και με παγκόσμια εφαρμογή.

Γιατί η Anthropic δεν προσέφυγε στα δικαστήρια;

Ένα εντυπωσιακό σημείο είναι ότι η εταιρεία δεν αμφισβήτησε νομικά την απόφαση. Αντίθετα, συμμορφώθηκε άμεσα, χαρακτηρίζοντας το περιστατικό «παρεξήγηση». Στη συνέχεια, στελέχη της μετέβησαν στην Ουάσιγκτον για διαπραγματεύσεις και όχι για δικαστική αντιπαράθεση.

Η στάση αυτή ενδέχεται να ήταν στρατηγική. Η Anthropic είχε ήδη προσφύγει στο παρελθόν κατά της κυβέρνησης Τραμπ για διαφορετική υπόθεση.

Επιπλέον, μόλις δύο ημέρες πριν από την επίμαχη επιστολή, ο διευθύνων σύμβουλος της εταιρείας, Ντάριο Αμοντέι, είχε δημοσιεύσει άρθρο στο οποίο υποστήριζε ότι η κυβέρνηση θα πρέπει να διαθέτει την εξουσία να εμποδίζει ή να αποτρέπει την ανάπτυξη επικίνδυνων μοντέλων τεχνητής νοημοσύνης. Μια δικαστική προσφυγή θα αναιρούσε ουσιαστικά τη θέση που η ίδια η εταιρεία είχε δημόσια υποστηρίξει.

Παράλληλα, οι δημόσιες προειδοποιήσεις της Anthropic για τους πιθανούς κινδύνους των μοντέλων της, καθώς και οι χιλιάδες ώρες δοκιμών ασφαλείας που πραγματοποίησε σε συνεργασία με την κυβέρνηση, συνέβαλαν στη δημιουργία της εικόνας ότι τα συγκεκριμένα μοντέλα αποτελούν τεχνολογία υψηλού κινδύνου.

Πού οδηγεί αυτή η υπόθεση;

Εάν τελικά υπάρξει δικαστική διαμάχη, το βασικό ερώτημα πιθανότατα δεν θα είναι αν η κυβέρνηση διαθέτει εξουσία να επιβάλει τέτοιους περιορισμούς.

Το πραγματικό ζήτημα θα είναι με ποιες διαδικασίες, υπό ποιες προϋποθέσεις και με ποιον βαθμό διαφάνειας μπορεί να ασκεί αυτή την εξουσία.

Το ιδανικό σενάριο θα ήταν η συζήτηση να διεξαχθεί δημόσια, μέσω της νομοθετικής διαδικασίας και με συμμετοχή της κοινωνίας.

Το δυστοπικό σενάριο, αντίθετα, θα ήταν η δημιουργία ενός συστήματος δύο ταχυτήτων, όπου οι κυβερνήσεις θα επιτρέπουν την εξαγωγή τεχνολογιών τεχνητής νοημοσύνης μόνο υπό τον όρο ότι θα έχουν προνομιακή και μυστική πρόσβαση σε ακόμη ισχυρότερα μοντέλα από εκείνα που είναι διαθέσιμα στο ευρύ κοινό.