Πίσω από τα εντυπωσιακά επιτεύγματα εξελίσσεται μια αθέατη μάχη για ισχύ, χρήμα και γεωπολιτική επιρροή. ΗΠΑ και Κίνα διεκδικούν την πρωτοκαθεδρία, κυβερνήσεις και κολοσσοί της τεχνολογίας συγκρούονται για τον έλεγχο των νέων εργαλείων της τεχνητής νοημοσύνης και το ερώτημα παραμένει ανοιχτό: ποιος θα καθορίσει τους κανόνες του παιχνιδιού; Επιμέλεια αφιερώματος: Βέτα Μεγάλου, Μαριάνθη Πελεβάνη

Όταν η κυβέρνηση των ΗΠΑ έδωσε εντολή στην Anthropic να απαγορεύσει την πρόσβαση όλων των ξένων χρηστών στα δύο πιο προηγμένα μοντέλα τεχνητής νοημοσύνης, η εταιρεία αντέδρασε μέσα σε λίγες ώρες. Απενεργοποίησε τα μοντέλα Claude Fable 5 και Mythos 5, καθιστώντας τα απρόσιτα για όλους τους χρήστες.

Η Anthropic δεν είχε διαφορετική επιλογή. Στην επιστολή του, το Υπουργείο Εμπορίου των ΗΠΑ, επικαλούμενο λόγους εθνικής ασφάλειας, απαγόρευε την πρόσβαση σε όλους τους ξένους χρήστες, ακόμη και στους ίδιους τους εργαζόμενους της εταιρείας που δεν ήταν Αμερικανοί πολίτες. Επειδή δεν υπήρχε τρόπος να εξακριβωθεί άμεσα η υπηκοότητα κάθε χρήστη, ιδιαίτερα όσων βρίσκονταν εκτός ΗΠΑ, η εταιρεία επέλεξε να απενεργοποιήσει πλήρως τα δύο μοντέλα.

Η άρση των περιορισμών

Στις 30 Ιουνίου, το Υπουργείο Εμπορίου συμφώνησε να άρει τους περιορισμούς, αφού η Anthropic ενίσχυσε σημαντικά τους μηχανισμούς ασφαλείας (guardrails) των μοντέλων.

Ωστόσο, η αλλαγή αυτή είχε σοβαρό κόστος. Οι νέοι περιορισμοί προκάλεσαν, σύμφωνα με τις αξιολογήσεις, κατάρρευση των επιδόσεων των μοντέλων στα καθιερωμένα τεστ αξιολόγησης, μειώνοντας αισθητά τις δυνατότητες και το επίπεδο νοημοσύνης τους.

Με άλλα λόγια, το Υπουργείο απέσυρε την απαγόρευση μόνο όταν τα μοντέλα είχαν περιοριστεί σημαντικά σε δυνατότητες.

Σε ένα σχετικό πείραμα, το νέο Fable 5 κατάφερε να ολοκληρώσει μόλις 3 από τις 12 εργασίες που προηγουμένως εκτελούσε χωρίς δυσκολία.

Η απόφαση της αμερικανικής κυβέρνησης να απενεργοποιήσει ουσιαστικά τα δύο πιο προηγμένα μοντέλα της Anthropic χωρίς ουσιαστική προειδοποίηση, αλλά και να επιτρέψει την επαναλειτουργία τους μόνο αφού είχαν υποβαθμιστεί σημαντικά, προκάλεσε έντονη ανησυχία σε ολόκληρη τη βιομηχανία της τεχνητής νοημοσύνης στις ΗΠΑ.

Η ανάλυση που δημοσιεύεται στο The Conversation θέτει δύο σημαντικά ερωτήματα.

Μπορεί η κυβέρνηση των ΗΠΑ να λειτουργεί ως «ρυθμιστής πρόσβασης» στα προηγμένα μοντέλα τεχνητής νοημοσύνης; Και, στην προκειμένη περίπτωση, ενήργησε νόμιμα; Ήταν νόμιμη η εντολή;

Το Υπουργείο Εμπορίου βασίστηκε στον Νόμο περί Μεταρρύθμισης των Ελέγχων Εξαγωγών του 2018 (Export Control Reform Act), ο οποίος σχεδιάστηκε κυρίως για τον έλεγχο εξαγωγής υλικού υψηλής επικινδυνότητας, όπως οι φυγοκεντρητές εμπλουτισμού ουρανίου.

Ήταν η πρώτη φορά που οι αμερικανικές αρχές χρησιμοποίησαν τη νομοθεσία περί ελέγχου εξαγωγών για να περιορίσουν την πρόσβαση σε υπηρεσία τεχνητής νοημοσύνης.

Ο συγκεκριμένος νόμος δίνει επίσης εξουσίες για τον έλεγχο «αναδυόμενων και θεμελιωδών τεχνολογιών». Συγκεκριμένα, επιτρέπει στο Γραφείο Βιομηχανίας και Ασφάλειας (Bureau of Industry and Security – BIS) να απαιτεί ειδική άδεια εξαγωγής όταν ξένοι χρήστες αποκτούν πρόσβαση σε τεχνολογία που θεωρείται ευαίσθητη.

Στην περίπτωση αυτή, η τεχνολογία ήταν τα δύο προηγμένα μοντέλα της Anthropic.

Τι θεωρείται «εξαγωγή»;

Το πρώτο μεγάλο νομικό ερώτημα είναι αν η χρήση ενός μοντέλου τεχνητής νοημοσύνης μπορεί να θεωρηθεί εξαγωγή.

Όταν ένας χρήστης υποβάλλει μια ερώτηση στο Fable 5 ή στο Mythos 5, το μοναδικό στοιχείο που «φεύγει» από τους διακομιστές της Anthropic είναι η απάντηση του μοντέλου. Το ίδιο το μοντέλο δεν εγκαταλείπει ποτέ τις εγκαταστάσεις της εταιρείας.

Μάλιστα, παλαιότερες οδηγίες του ίδιου του Υπουργείου Εμπορίου θεωρούσαν ότι η απομακρυσμένη πρόσβαση σε λογισμικό που λειτουργεί σε αμερικανικούς διακομιστές δεν εμπίπτει στους κανόνες περί εξαγωγών.

Το γεγονός ότι το Κογκρέσο εξετάζει αλλαγές στη νομοθεσία υποδηλώνει ότι το ισχύον πλαίσιο πιθανόν να μην καλύπτει ακόμη τα αποτελέσματα που παράγουν τα συστήματα τεχνητής νοημοσύνης.

Τηρήθηκαν οι νόμιμες διαδικασίες;

Το δεύτερο κρίσιμο ζήτημα αφορά τη διαδικασία που ακολούθησε το Υπουργείο Εμπορίου.

Η επιστολή βασίστηκε στον μηχανισμό «is informed», ο οποίος χρησιμοποιείται συνήθως για να ενημερώνει μια συγκεκριμένη εταιρεία ότι μια συγκεκριμένη συναλλαγή προς συγκεκριμένη χώρα απαιτεί κρατική έγκριση.

Στην περίπτωση της Anthropic, όμως, η εντολή επεκτάθηκε σε όλους τους ξένους χρήσττες οπουδήποτε στον κόσμο.

Ακόμη κι αν θεωρηθεί ότι οι απαντήσεις ενός μοντέλου AI συνιστούν «εξαγωγή», πολλοί νομικοί εκτιμούν ότι το εύρος της απαγόρευσης ενδέχεται να υπερβαίνει τις εξουσίες που προβλέπει ο νόμος.

Με βάση τα σημερινά δεδομένα, η νομική θεμελίωση της απόφασης παραμένει αμφίβολη.

Μια σημαντική αλλαγή στην αμερικανική πολιτική

Η υπόθεση Anthropic σηματοδοτεί μια σημαντική αλλαγή στον τρόπο με τον οποίο οι Ηνωμένες Πολιτείες επιχειρούν να ελέγξουν τις αναδυόμενες τεχνολογίες.

Παραδοσιακά, η διαδικασία ήταν ιδιαίτερα αργή και περιλάμβανε διαβούλευση μεταξύ πολλών κυβερνητικών υπηρεσιών, δημόσια διαβούλευση, συντονισμό με συμμάχους και τελική δημοσίευση των κανονισμών στην Επίσημη Εφημερίδα της Ομοσπονδιακής Κυβέρνησης.

Σε περιπτώσεις εξαιρετικά επικίνδυνων τεχνολογιών υπήρχε η δυνατότητα προσωρινών περιορισμών. Η διαδικασία αυτή όμως περιλαμβάνει σημαντικές εγγυήσεις καθώς απαιτεί την έγκριση των υπουργείων Άμυνας και Εξωτερικών, δημοσιοποιείται, λήγει αυτόματα έπειτα από έναν χρόνο εάν δεν ανανεωθεί, προβλέπει συντονισμό με τις συμμαχικές χώρες.

Η επιστολή προς την Anthropic ακολούθησε ακριβώς την αντίθετη λογική, καθώς ήταν μονομερής, μη δημόσια, αορίστου διάρκειας και με παγκόσμια εφαρμογή.

Γιατί η Anthropic δεν προσέφυγε στα δικαστήρια;

Ένα εντυπωσιακό σημείο είναι ότι η εταιρεία δεν αμφισβήτησε νομικά την απόφαση. Αντίθετα, συμμορφώθηκε άμεσα, χαρακτηρίζοντας το περιστατικό «παρεξήγηση». Στη συνέχεια, στελέχη της μετέβησαν στην Ουάσιγκτον για διαπραγματεύσεις και όχι για δικαστική αντιπαράθεση.

Η στάση αυτή ενδέχεται να ήταν στρατηγική. Η Anthropic είχε ήδη προσφύγει στο παρελθόν κατά της κυβέρνησης Τραμπ για διαφορετική υπόθεση.

Επιπλέον, μόλις δύο ημέρες πριν από την επίμαχη επιστολή, ο διευθύνων σύμβουλος της εταιρείας, Ντάριο Αμοντέι, είχε δημοσιεύσει άρθρο στο οποίο υποστήριζε ότι η κυβέρνηση θα πρέπει να διαθέτει την εξουσία να εμποδίζει ή να αποτρέπει την ανάπτυξη επικίνδυνων μοντέλων τεχνητής νοημοσύνης. Μια δικαστική προσφυγή θα αναιρούσε ουσιαστικά τη θέση που η ίδια η εταιρεία είχε δημόσια υποστηρίξει.

Παράλληλα, οι δημόσιες προειδοποιήσεις της Anthropic για τους πιθανούς κινδύνους των μοντέλων της, καθώς και οι χιλιάδες ώρες δοκιμών ασφαλείας που πραγματοποίησε σε συνεργασία με την κυβέρνηση, συνέβαλαν στη δημιουργία της εικόνας ότι τα συγκεκριμένα μοντέλα αποτελούν τεχνολογία υψηλού κινδύνου.

Πού οδηγεί αυτή η υπόθεση;

Εάν τελικά υπάρξει δικαστική διαμάχη, το βασικό ερώτημα πιθανότατα δεν θα είναι αν η κυβέρνηση διαθέτει εξουσία να επιβάλει τέτοιους περιορισμούς.

Το πραγματικό ζήτημα θα είναι με ποιες διαδικασίες, υπό ποιες προϋποθέσεις και με ποιον βαθμό διαφάνειας μπορεί να ασκεί αυτή την εξουσία.

Το ιδανικό σενάριο θα ήταν η συζήτηση να διεξαχθεί δημόσια, μέσω της νομοθετικής διαδικασίας και με συμμετοχή της κοινωνίας.

Το δυστοπικό σενάριο, αντίθετα, θα ήταν η δημιουργία ενός συστήματος δύο ταχυτήτων, όπου οι κυβερνήσεις θα επιτρέπουν την εξαγωγή τεχνολογιών τεχνητής νοημοσύνης μόνο υπό τον όρο ότι θα έχουν προνομιακή και μυστική πρόσβαση σε ακόμη ισχυρότερα μοντέλα από εκείνα που είναι διαθέσιμα στο ευρύ κοινό.