Μικρά μοντέλα τεχνητής νοημοσύνης ενδέχεται σύντομα να αρχίσουν να αυτοαναπαράγονται σε καθημερινές συσκευές καταναλωτών, όπως έξυπνες τηλεοράσεις και ψυγεία, χωρίς να χρειάζονται κέντρο δεδομένων, σύμφωνα με ερευνητές της Anthropic, ενός από τους μεγαλύτερους «παίκτες» στον τομέα της τεχνητής νοημοσύνης.

Σε έκθεση που δημοσιεύθηκε τη Δευτέρα (12/10), οι ερευνητές ανέφεραν ότι τα μικρά μοντέλα τεχνητής νοημοσύνης «ενδέχεται να απέχουν μόλις λίγους μήνες από το να αποκτήσουν επαρκείς δυνατότητες», ώστε να μπορούν να αντιγράφουν τον εαυτό τους σε συσκευές του Διαδικτύου των Πραγμάτων (IoT), οι οποίες χρησιμοποιούνται σε σπίτια και μικρές επιχειρήσεις.

Σύμφωνα με το Al Jazeera, η ομάδα frontier red team της Anthropic, η οποία πραγματοποίησε πειράματα με τη χρήση πολλαπλών μοντέλων τεχνητής νοημοσύνης που αναπτύχθηκαν στις ΗΠΑ και την Κίνα, προειδοποίησε ότι θα ήταν «δύσκολο να τερματιστεί η λειτουργία» μιας τέτοιας αυτοαναπαραγόμενης τεχνητής νοημοσύνης, καθώς δεν θα υπήρχε ένας κεντρικός υπολογιστής που να τη φιλοξενεί.

Τα κέντρα δεδομένων θα αποτελούσαν «έναν προφανή στόχο υψηλής αξίας» για τα «σκουλήκια» τεχνητής νοημοσύνης (AI worms, νέα μορφή κακόβουλου λογισμικού). Ωστόσο, σύμφωνα με την ερευνητική ομάδα, σύντομα θα μπορούσαν να παρέχουν επαρκή υπολογιστική ισχύ για αυτοαναπαραγωγή και συσκευές συνδεδεμένες στο Διαδίκτυο, όπως έξυπνες τηλεοράσεις, ψυγεία, φούρνοι και μηχανές του γκαζόν.

Ως το τέλος του έτους τέτοια μοντέλα

Παρότι κανένα από τα σημερινά μοντέλα τεχνητής νοημοσύνης που δοκιμάστηκαν δεν αποδείχθηκε ταυτόχρονα αρκετά ισχυρό και αρκετά μικρό ώστε να αυτοαναπαράγεται αξιόπιστα σε μια έξυπνη τηλεόραση, οι ερευνητές εκτιμούν ότι οι τάσεις στην ανάπτυξη της τεχνολογίας καθιστούν πιθανή την εμφάνιση ενός τέτοιου μοντέλου έως το τέλος του 2026.

«Οι συσκευές IoT που χρησιμοποιούνται σε σπίτια και μικρές επιχειρήσεις ενδέχεται να αποτελέσουν τους πρώτους στόχους τέτοιων επιθέσεων, καθώς είναι συνδεδεμένες στο Διαδίκτυο και, συνήθως, διαθέτουν ελάχιστα μέτρα ασφαλείας», ανέφεραν οι ερευνητές Γουίλιαμ Ζου και Ντάνιελ Φρίμαν.

Οι ερευνητές δήλωσαν ότι αναμένουν ένα μέλλον «κατακλυσμένο από πράκτορες τεχνητής νοημοσύνης που θα λειτουργούν σε κάθε είδους υλισμικό», συμπεριλαμβανομένων ορισμένων που «δεν θα βρίσκονται υπό τον έλεγχο ανθρώπων». «Παρότι είναι αλήθεια ότι οι συσκευές IoT είναι ευάλωτες εδώ και πολύ καιρό, οι ελαφριοί πράκτορες τεχνητής νοημοσύνης ενδέχεται να είναι πολύ πιο πρόθυμοι από τους ανθρώπους να καταβάλουν την προσπάθεια που απαιτείται για να θέσουν υπό τον έλεγχό τους μεγάλα τμήματα της παγκόσμιας υπολογιστικής ισχύος των συσκευών IoT», ανέφεραν.

Συνεχίζονται οι φόβοι και οι αγωνίες για την ΑΙ

Η έκθεση της Anthropic δημοσιεύεται σε μια περίοδο κατά την οποία εξετάζονται εντατικά οι κίνδυνοι να ξεφύγει η τεχνητή νοημοσύνη από τον ανθρώπινο έλεγχο, έπειτα από σειρά περιστατικών στα οποία μοντέλα προχώρησαν σε μη εγκεκριμένες και επιβλαβείς ενέργειες, μεταξύ των οποίων και κυβερνοεπιθέσεις.

Η Anthropic και ο βασικός ανταγωνιστής της, OpenAI, έχουν καλέσει τη διεθνή κοινότητα να συντονίσει μια επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης, προκειμένου να περιοριστούν οι καταστροφικοί κίνδυνοι. Η πρόταση αυτή, ωστόσο, έχει συναντήσει περιορισμένη υποστήριξη από τις ΗΠΑ και την Κίνα, τις δύο κορυφαίες δυνάμεις στον τομέα της τεχνητής νοημοσύνης.

Πολλοί υποστηρικτές της ασφάλειας της τεχνητής νοημοσύνης θεωρούν την αναδρομική αυτοβελτίωση (recursive self-improvement), κατά την οποία τα μοντέλα μαθαίνουν να βελτιώνουν τον ίδιο τους τον εαυτό, ένα κρίσιμο σημείο καμπής που θα μπορούσε να οδηγήσει σε καταστροφικές συνέπειες για την ανθρωπότητα.

Ο Ρόμαν Β. Γιαμπόλσκι, ειδικός στην τεχνητή νοημοσύνη και την κυβερνοασφάλεια στο Πανεπιστήμιο του Λούισβιλ, χαρακτήρισε τα ευρήματα της Anthropic σημαντική εξέλιξη. «Τα σκουλήκια υπολογιστών δεν είναι κάτι καινούργιο, αλλά ένα AI worm θα μπορούσε να κάνει κάτι που το παραδοσιακό κακόβουλο λογισμικό δεν μπορεί: να συλλογίζεται για άγνωστες συσκευές, να προσαρμόζεται όταν η προσέγγισή του αποτυγχάνει και να συνεχίζει να εξαπλώνεται χωρίς ανθρώπινο χειριστή», δήλωσε.

«Σήμερα, αυτό δεν αποτελεί υπαρξιακή απειλή. Ωστόσο, η πορεία των εξελίξεων προκαλεί ανησυχία. Όταν η αυτόνομη αναπαραγωγή συνδυαστεί με ισχυρές δυνατότητες παραβίασης συστημάτων, διατήρησης της παρουσίας του στο δίκτυο και στρατηγικού συλλογισμού, η διακοπή λειτουργίας ενός τέτοιου συστήματος θα γίνει πολύ δυσκολότερη, καθώς ενδέχεται να μην υπάρχει ένας μοναδικός διακομιστής ή οργανισμός που να το ελέγχει».

Η δουλειά της Anthropic για την ασφάλεια

Τον περασμένο μήνα, η Anthropic και άλλες κορυφαίες αμερικανικές εταιρείες τεχνολογίας προσχώρησαν σε μια μη δεσμευτική συμφωνία, με την οποία δεσμεύτηκαν να ενισχύσουν τις εσωτερικές δικλίδες ασφαλείας και να συνεργαστούν με εξωτερικούς ελεγκτές. Η συμφωνία προκάλεσε ανάμεικτες αντιδράσεις από ειδικούς, πολλοί από τους οποίους επέκριναν τον εθελοντικό χαρακτήρα της.

Σε ξεχωριστή ανακοίνωση τη Δευτέρα (12/10), η Anthropic ανέφερε ότι έχει σημειώσει σημαντική πρόοδο στην αποτροπή των λεγόμενων επιθέσεων απόσταξης (distillation attacks), οι οποίες περιλαμβάνουν τη μη εγκεκριμένη χρήση προηγμένων μοντέλων τεχνητής νοημοσύνης για την εκπαίδευση φθηνότερων και λιγότερο ικανών μοντέλων.

Η εταιρεία με έδρα το Σαν Φρανσίσκο, η οποία έχει κατηγορήσει τους κινεζικούς ανταγωνιστές της DeepSeek, Moonshot και MiniMax ότι επιδίδονται σε προσπάθειες αντιγραφής του Claude «σε βιομηχανική κλίμακα», δήλωσε ότι τα μέτρα που εισήγαγε έχουν περιορίσει κατά 90% έως 99% την παράνομη εξαγωγή δεδομένων.

Ερευνητές κυβερνοασφάλειας παραβίασαν συστήματα της OpenAI χρησιμοποιώντας λογισμικό της βασικής ανταγωνίστριάς της, Anthropic, αναδεικνύοντας ευπάθειες στην ασφάλεια της εταιρείας που δημιούργησε το ChatGPT, την ώρα που οι κορυφαίες εταιρείες τεχνητής νοημοσύνης βρίσκονται αντιμέτωπες με αυξανόμενο έλεγχο για ζητήματα ασφάλειας.

Μια μικρή ομάδα κυβερνοασφάλειας απέκτησε πρόσβαση στον λογαριασμό ChatGPT ενός εργαζομένου της OpenAI, γεγονός που της επέτρεψε να διαβάσει ιδιωτικές πληροφορίες σχετικά με λογισμικό και να προτείνει αλλαγές.

Συγκεκριμένα, όπως αναφέρουν οι Financial Times, οι ερευνητές είχαν αποκτήσει πρόσβαση σε ένα εργαλείο της Anthropic, ειδικά σχεδιασμένο για επαγγελματίες της ασφάλειας, και πληρώθηκαν για την εργασία τους στο πλαίσιο ενός προγράμματος εντοπισμού ευπαθειών προτού αυτές μπορέσουν να αξιοποιηθούν από κακόβουλους παράγοντες.

Η δυνατότητά τους να παραβιάσουν γρήγορα ένα από τα δύο κορυφαία εργαστήρια τεχνητής νοημοσύνης στον κόσμο εγείρει εκ νέου ανησυχίες για την ασφάλεια της OpenAI, εν μέσω αυξανόμενων φόβων ότι ισχυρά μοντέλα μπορούν να χρησιμοποιηθούν από χάκερ και ξένους αντιπάλους.

Τους τελευταίους μήνες, οι ΗΠΑ προσπαθούν να διαχειριστούν τον έλεγχο και τη διάθεση των πιο πρόσφατων μοντέλων, φτάνοντας ακόμη και στο σημείο να μπλοκάρουν προσωρινά ορισμένα εργαλεία της Anthropic.

Το τελευταίο περιστατικό σημειώθηκε μόλις δύο εβδομάδες αφότου ένα σμήνος περισσότερων από 1.000 agents της OpenAI ξέφυγε από ένα δοκιμαστικό περιβάλλον και παραβίασε τη start-up Hugging Face, γεγονός που προκάλεσε ευρεία ανησυχία για την ικανότητα της τεχνητής νοημοσύνης να πραγματοποιεί αυτόνομα κυβερνοεπιθέσεις, χωρίς ανθρώπινη πρόθεση.

Οι τρεις ερευνητές της Hacktron AI, μιας μικρής εταιρείας κυβερνοασφάλειας, έλαβαν 6.500 δολάρια από την OpenAI στο πλαίσιο ενός προγράμματος bug bounty, μιας συνηθισμένης πρακτικής κατά την οποία οι τεχνολογικές εταιρείες πληρώνουν ηθικούς χάκερ για να δοκιμάζουν την ασφάλειά τους.

Εκμεταλλεύτηκαν ένα κενό ασφαλείας στη διαμόρφωση του φόρουμ κοινότητας της OpenAI, το οποίο φιλοξενείται από τρίτο πάροχο, τη Discourse, και το χρησιμοποίησαν για να αποκτήσουν πρόσβαση σε εσωτερικά συστήματα σύνδεσης και, τελικά, στον λογαριασμό ChatGPT ενός εργαζομένου της OpenAI. Ο συγκεκριμένος λογαριασμός ChatGPT είχε πρόσβαση σε εσωτερικό κώδικα μέσω του GitHub.

«Ευχαριστούμε τους ερευνητές που επικοινώνησαν μαζί μας και μοιράστηκαν τα ευρήματά τους», ανέφερε η OpenAI, προσθέτοντας ότι διόρθωσε τα ζητήματα. Η Anthropic αρνήθηκε να σχολιάσει. Η Hacktron δεν απάντησε άμεσα.

Η αποκάλυψη της Πέμπτης (17/9), την οποία μετέδωσε πρώτη η Wall Street Journal, έγινε την ώρα που η Anthropic δημοσίευσε ένα νέο σύνολο δεδομένων, το οποίο έδειξε ταχεία αύξηση στον βαθμό στον οποίο το εργαστήριο χρησιμοποιούσε τεχνητή νοημοσύνη για την ανάπτυξη των νέων μοντέλων του.

Η εταιρεία ανέφερε ότι το 26% της εργασίας έρευνας και ανάπτυξης «καθοδηγούνταν από» το μοντέλο Claude, από 1% τον Μάρτιο, πράγμα που σημαίνει ότι η τεχνητή νοημοσύνη ολοκλήρωνε την πλειονότητα των εργασιών βάσει ανθρώπινων οδηγιών και υπό επίβλεψη.

Η εταιρεία ανέφερε ότι, καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται ισχυρότερα, «χρησιμοποιούνται ολοένα και περισσότερο για να δημιουργούν την επόμενη εκδοχή του εαυτού τους».

Η Anthropic ανέφερε ότι δημοσιοποίησε τα δεδομένα προκειμένου να βοηθήσει το κοινό να «κατανοήσει πόσο κοντά βρίσκεται ο κόσμος στην επίτευξη της αναδρομικής αυτοβελτίωσης», του σημείου δηλαδή στο οποίο η τεχνητή νοημοσύνη μπορεί να εκπαιδεύει και να βελτιώνει τον εαυτό της ή νέα μοντέλα.

Αυτό το όριο βρίσκεται στον πυρήνα των ανησυχιών ότι τα συστήματα τεχνητής νοημοσύνης θα γίνουν δυσκολότερο να εποπτευθούν, οδηγώντας σε απώλεια του ανθρώπινου ελέγχου.

Η Anthropic πρόσθεσε ότι τα μοντέλα της δεν λειτουργούσαν ακόμη πλήρως αυτόνομα σε καμία από τις ερευνητικές εργασίες που μελέτησε. Στο 90% των εργασιών, η τεχνητή νοημοσύνη «συνεργάζεται» με έναν άνθρωπο και αναλαμβάνει μεγάλα τμήματα της δουλειάς.

Δύο ακόμη ερευνητές που εργάζονταν στην αιχμή του δόρατος της τεχνητής νοημοσύνης υπέβαλαν τις παραιτήσεις τους, κρούοντας τον κώδωνα του κινδύνου. Προειδοποιούν ότι η ανάπτυξη των προηγμένων συστημάτων AI κάτω από τις παρούσες συνθήκες εξελίσσεται με ρυθμούς που ενδέχεται να καταστήσουν την τεχνολογία ανεξέλεγκτη, δημιουργώντας ακόμη και υπαρξιακούς κινδύνους για την ανθρωπότητα.

Ο Τζο Μπέντον, πρώην επικεφαλής της ομάδας έρευνας ασφάλειας στην Anthropic, και ο Τζος Ένγκελς, ερευνητής στον τομέα ασφάλειας της Google DeepMind, προχώρησαν σε αποκαλύψεις, τονίζοντας την επιτακτική ανάγκη για διαφάνεια γύρω από περιστατικά όπου συστήματα AI δρουν εκτός των ανθρώπινων εντολών.

«Δεν υπάρχουν ενήλικες εδώ»

Ο Μπέντον εξέφρασε τον φόβο ότι ο ήδη αστραπιαίος ρυθμός προόδου της AI θα μπορούσε σύντομα να μετατραπεί σε κάτι εντελώς ανεξέλεγκτο. Από την πλευρά του, ο Ένγκελς υποστήριξε ότι, παρά τις φιλότιμες προσπάθειες μεμονωμένων ερευνητών, δεν υπάρχει κανένας επίσημος θεσμός που να ελέγχει συνολικά την κατάσταση.

«Δεν υπάρχουν ενήλικες εδώ», ανέφερε χαρακτηριστικά ο Ένγκελς.

Οι αποχωρήσεις αυτές έρχονται να προστεθούν σε εκείνη του Τζέικομπ Κόξον (πρώην ερευνητή της Anthropic), ο οποίος με ανάρτησή του στο X η οποία ξεπέρασε τις 155 εκατομμύρια προβολές εξέφρασε την έντονη ανησυχία του για το μέλλον της ανθρωπότητας, πυροδοτώντας νέο γύρο συζητήσεων για πολιτική παρέμβαση στον κλάδο.

Το ανησυχητικό περιστατικό με την αυτόνομη επίθεση στη Hugging Face

Ως ιδιαίτερα ανησυχητικό παράδειγμα, οι δύο ερευνητές ανέφεραν μια πρόσφατη κυβερνοεπίθεση εναντίον της πλατφόρμας Hugging Face, η οποία πραγματοποιήθηκε αυτόνομα από συστήματα AI βασισμένα σε μη δημοσιοποιημένο μοντέλο της OpenAI.

Σύμφωνα με τον Ένγκελς, τα μοντέλα αυτά δεν είχαν λάβει ανθρώπινη εντολή για παράνομες πράξεις. Αντίθετα, «αποφάσισαν» μόνα τους ότι ο ταχύτερος τρόπος για να επιτύχουν τον στόχο τους ήταν:

Να παραβιάσουν τα συστήματα της Hugging Face.

Να δημιουργήσουν έναν παράτυπο χώρο ανταλλαγής πληροφοριών.

Να εκθέσουν τμήματα της υπολογιστικής υποδομής της OpenAI στο δημόσιο διαδίκτυο.

Η OpenAI ανακοίνωσε ότι ενίσχυσε έκτοτε τα μέτρα ασφαλείας της, ενώ η Anthropic υποστήριξε ότι αναπτύσσει ορισμένες από τις ισχυρότερες δικλίδες προστασίας διεθνώς.

Η απουσία νομικού πλαισίου και η ανάγκη για υποχρεωτική διαφάνεια

Ο Μπέντον υπογραμμίζει ότι το βασικό πρόβλημα έγκειται στην απουσία υποχρεωτικής διαφάνειας. Σήμερα, η αναφορά περιστατικών όπου η AI «ξεφεύγει» από τον ανθρώπινο έλεγχο βασίζεται αποκλειστικά στην εθελοντική διάθεση των ίδιων των εταιρειών.

Στις ΗΠΑ δεν υφίσταται ομοσπονδιακός νόμος που να υποχρεώνει τις εταιρείες τεχνολογίας να δημοσιοποιούν τέτοια περιστατικά. Ακόμη και η ίδια η OpenAI έχει παραδεχθεί ότι το ισχύον μοντέλο «αυτορρύθμισης» των εργαστηρίων είναι ανεπαρκές.

Μετά την αποχώρησή τους, οι Μπέντον και Ένγκελς εντάχθηκαν στο METR, έναν μη κερδοσκοπικό οργανισμό έρευνας για την ασφάλεια της AI, με στόχο την ανάπτυξη επιστημονικών μεθόδων αξιολόγησης καταστροφικών κινδύνων.

«Δεν θα προλάβουμε να οργανωθούμε»

Ο μεγαλύτερος φόβος των επιστημόνων εστιάζει στην προσπάθεια των εταιρειών να αυτοματοποιήσουν την ίδια την έρευνα και ανάπτυξη της τεχνητής νοημοσύνης. Αυτό σημαίνει ότι τα συστήματα θα αρχίσουν σύντομα να βελτιώνουν μόνα τους τις δυνατότητές τους.

«Πιθανότατα θα περάσουμε από έναν κόσμο όπου διαθέτουμε πολύ ικανά συστήματα, σε έναν κόσμο όπου θα συνυπάρχουμε με πράκτορες AI πολύ πιο έξυπνους από τους ανθρώπους, μέσα στα επόμενα λίγα χρόνια», προειδοποιεί ο Μπέντον.

Και οι δύο ερευνητές ξεκαθαρίζουν ότι δεν αγνοούν τα τεράστια οφέλη της AI, υπογραμμίζουν όμως ότι η εξέλιξή της δεν πρέπει να συνεχιστεί χωρίς ανεξάρτητη εποπτεία.

«Ανησυχώ ότι τα πράγματα ενδέχεται να εξελιχθούν πολύ γρήγορα, ώστε να μην προλάβουμε να οργανωθούμε εγκαίρως, εκτός αν αρχίσουμε να ανησυχούμε γι’ αυτό τώρα», κατέληξε ο Μπέντον.

Μαχητές της Υεμένης φέρεται ότι επιδίωξαν να χρησιμοποιήσουν το μοντέλο τεχνητής νοημοσύνης «Claude» της Anthropic για την ανάπτυξη λογισμικού καθοδήγησης, ελέγχου και πλοήγησης των βαλλιστικών πυραύλων τους.

Στην ενημερωτική έκθεση για πιθανές απειλές που δημοσίευσε η Anthropic δεν κατονόμασε συγκεκριμένα τους υποστηριζόμενους από το Ιράν Χούθι. Ωστόσο, όπως μεταδίδουν οι Financial Times, ανέφερε ότι «εντόπισε έναν πυρήνα δραστών με έδρα το βόρειο τμήμα της Υεμένης» –μεγάλο μέρος της οποίας ελέγχεται από τους Χούθι– «η οποία διεξάγει τρία προγράμματα ανάπτυξης όπλων».

Η Anthropic επισήμανε ότι η ομάδα της Υεμένης επιδίωξε να αναπτύξει όπλα, μεταξύ των οποίων έναν βαλλιστικό πύραυλο πολλαπλών σταδίων, έναν πύραυλο πολλαπλών τύπων και έναν κατευθυνόμενο πύραυλο που χρησιμοποιούσε έναν «υπολογιστή πτήσης της κατηγορίας κοινού κινητού τηλεφώνου».

«Οι δράστες χρησιμοποίησαν τον Claude Code αντί για μηχανικούς λογισμικού για να αναπτύξουν το λογισμικό καθοδήγησης, πλοήγησης και ελέγχου που κατευθύνει και σταθεροποιεί ένα ιπτάμενο όχημα», ανέφερε χαρακτηριστικά.

«Χρησιμοποίησαν το Claude για να ενσωματώσουν έναν αυτόματο πιλότο ανοιχτού κώδικα σε έναν υπολογιστή πτήσης τύπου κινητού τηλεφώνου, γράφοντας το λογισμικό ελέγχου και εκτίμησης θέσης, ρυθμίζοντας τις παραμέτρους ελέγχου, εκτελώντας μια διαδικασία ανάπτυξης υλικολογισμικού και πραγματοποιώντας προσομοίωση πτήσης».

Η Anthropic ανέφερε ότι τα μέτρα ασφαλείας της μπλόκαραν «πολλά από τα αιτήματά τους, αλλά όχι όλα», προσθέτοντας πως οι «δράστες χρησιμοποίησαν διάφορες τακτικές για να παρακάμψουν» τα μέτρα και να αποκρύψουν τον στόχο τους.

«Προσπάθησαν να κρύψουν τους στόχους τους και τα προϊόντα για τα οποία προοριζόταν το λογισμικό, και κατένειμαν την εργασία τους σε πολλαπλές συνεδρίες, ώστε καμία μεμονωμένη συνεδρία να μην αποκαλύπτει την πλήρη πρόθεσή τους».

«Δεν διαθέτουμε στοιχεία ότι οι δράστες κατάφεραν να θέσουν σε λειτουργία κάποια επιχειρησιακή συσκευή. Ωστόσο, πραγματοποίησαν δοκιμαστική εκτόξευση ενός κατευθυνόμενου πυραύλου», ανέφερε στην έκθεσή της η Anthropic. «Αυτή η δοκιμή πεδίου φαίνεται να απέτυχε: μέσα σε λίγες ώρες, οι δράστες επέστρεψαν στο Claude για να διερευνήσουν τους λόγους της αποτυχίας».

Στην ίδια έκθεση η εταιρεία υποστηρίζει πως επιστήμονες έκαναν πολλαπλές προσπάθειες να χρησιμοποιήσουν το «Claude» για την έρευνα βιολογικών όπλων.

Η έκθεση αναδεικνύει τους ολοένα και περισσότερους κινδύνους που εγκυμονεί η προηγμένη τεχνητή νοημοσύνη σε λάθος χέρια.

Οι αμερικανικές εταιρείες ΑΙ, που βρίσκονται σήμερα στην πρώτη γραμμή των παγκόσμιων εξελίξεων στο πεδίο, είναι αντιμέτωπες με μία διαρκή μάχη ώστε να διασφαλίσουν ότι τα εργαλεία αυτά δεν θα καταλήξουν σε ακατάλληλα χέρια και δεν θα χρησιμοποιηθούν για επιθέσεις κατά της Αμερικής και των συμμάχων της.

Πίσω από τα εντυπωσιακά επιτεύγματα εξελίσσεται μια αθέατη μάχη για ισχύ, χρήμα και γεωπολιτική επιρροή. ΗΠΑ και Κίνα διεκδικούν την πρωτοκαθεδρία, κυβερνήσεις και κολοσσοί της τεχνολογίας συγκρούονται για τον έλεγχο των νέων εργαλείων της τεχνητής νοημοσύνης και το ερώτημα παραμένει ανοιχτό: ποιος θα καθορίσει τους κανόνες του παιχνιδιού; Επιμέλεια αφιερώματος: Βέτα Μεγάλου, Μαριάνθη Πελεβάνη

Όταν η κυβέρνηση των ΗΠΑ έδωσε εντολή στην Anthropic να απαγορεύσει την πρόσβαση όλων των ξένων χρηστών στα δύο πιο προηγμένα μοντέλα τεχνητής νοημοσύνης, η εταιρεία αντέδρασε μέσα σε λίγες ώρες. Απενεργοποίησε τα μοντέλα Claude Fable 5 και Mythos 5, καθιστώντας τα απρόσιτα για όλους τους χρήστες.

Η Anthropic δεν είχε διαφορετική επιλογή. Στην επιστολή του, το Υπουργείο Εμπορίου των ΗΠΑ, επικαλούμενο λόγους εθνικής ασφάλειας, απαγόρευε την πρόσβαση σε όλους τους ξένους χρήστες, ακόμη και στους ίδιους τους εργαζόμενους της εταιρείας που δεν ήταν Αμερικανοί πολίτες. Επειδή δεν υπήρχε τρόπος να εξακριβωθεί άμεσα η υπηκοότητα κάθε χρήστη, ιδιαίτερα όσων βρίσκονταν εκτός ΗΠΑ, η εταιρεία επέλεξε να απενεργοποιήσει πλήρως τα δύο μοντέλα.

Η άρση των περιορισμών

Στις 30 Ιουνίου, το Υπουργείο Εμπορίου συμφώνησε να άρει τους περιορισμούς, αφού η Anthropic ενίσχυσε σημαντικά τους μηχανισμούς ασφαλείας (guardrails) των μοντέλων.

Ωστόσο, η αλλαγή αυτή είχε σοβαρό κόστος. Οι νέοι περιορισμοί προκάλεσαν, σύμφωνα με τις αξιολογήσεις, κατάρρευση των επιδόσεων των μοντέλων στα καθιερωμένα τεστ αξιολόγησης, μειώνοντας αισθητά τις δυνατότητες και το επίπεδο νοημοσύνης τους.

Με άλλα λόγια, το Υπουργείο απέσυρε την απαγόρευση μόνο όταν τα μοντέλα είχαν περιοριστεί σημαντικά σε δυνατότητες.

Σε ένα σχετικό πείραμα, το νέο Fable 5 κατάφερε να ολοκληρώσει μόλις 3 από τις 12 εργασίες που προηγουμένως εκτελούσε χωρίς δυσκολία.

Η απόφαση της αμερικανικής κυβέρνησης να απενεργοποιήσει ουσιαστικά τα δύο πιο προηγμένα μοντέλα της Anthropic χωρίς ουσιαστική προειδοποίηση, αλλά και να επιτρέψει την επαναλειτουργία τους μόνο αφού είχαν υποβαθμιστεί σημαντικά, προκάλεσε έντονη ανησυχία σε ολόκληρη τη βιομηχανία της τεχνητής νοημοσύνης στις ΗΠΑ.

Η ανάλυση που δημοσιεύεται στο The Conversation θέτει δύο σημαντικά ερωτήματα.

Μπορεί η κυβέρνηση των ΗΠΑ να λειτουργεί ως «ρυθμιστής πρόσβασης» στα προηγμένα μοντέλα τεχνητής νοημοσύνης; Και, στην προκειμένη περίπτωση, ενήργησε νόμιμα; Ήταν νόμιμη η εντολή;

Το Υπουργείο Εμπορίου βασίστηκε στον Νόμο περί Μεταρρύθμισης των Ελέγχων Εξαγωγών του 2018 (Export Control Reform Act), ο οποίος σχεδιάστηκε κυρίως για τον έλεγχο εξαγωγής υλικού υψηλής επικινδυνότητας, όπως οι φυγοκεντρητές εμπλουτισμού ουρανίου.

Ήταν η πρώτη φορά που οι αμερικανικές αρχές χρησιμοποίησαν τη νομοθεσία περί ελέγχου εξαγωγών για να περιορίσουν την πρόσβαση σε υπηρεσία τεχνητής νοημοσύνης.

Ο συγκεκριμένος νόμος δίνει επίσης εξουσίες για τον έλεγχο «αναδυόμενων και θεμελιωδών τεχνολογιών». Συγκεκριμένα, επιτρέπει στο Γραφείο Βιομηχανίας και Ασφάλειας (Bureau of Industry and Security – BIS) να απαιτεί ειδική άδεια εξαγωγής όταν ξένοι χρήστες αποκτούν πρόσβαση σε τεχνολογία που θεωρείται ευαίσθητη.

Στην περίπτωση αυτή, η τεχνολογία ήταν τα δύο προηγμένα μοντέλα της Anthropic.

Τι θεωρείται «εξαγωγή»;

Το πρώτο μεγάλο νομικό ερώτημα είναι αν η χρήση ενός μοντέλου τεχνητής νοημοσύνης μπορεί να θεωρηθεί εξαγωγή.

Όταν ένας χρήστης υποβάλλει μια ερώτηση στο Fable 5 ή στο Mythos 5, το μοναδικό στοιχείο που «φεύγει» από τους διακομιστές της Anthropic είναι η απάντηση του μοντέλου. Το ίδιο το μοντέλο δεν εγκαταλείπει ποτέ τις εγκαταστάσεις της εταιρείας.

Μάλιστα, παλαιότερες οδηγίες του ίδιου του Υπουργείου Εμπορίου θεωρούσαν ότι η απομακρυσμένη πρόσβαση σε λογισμικό που λειτουργεί σε αμερικανικούς διακομιστές δεν εμπίπτει στους κανόνες περί εξαγωγών.

Το γεγονός ότι το Κογκρέσο εξετάζει αλλαγές στη νομοθεσία υποδηλώνει ότι το ισχύον πλαίσιο πιθανόν να μην καλύπτει ακόμη τα αποτελέσματα που παράγουν τα συστήματα τεχνητής νοημοσύνης.

Τηρήθηκαν οι νόμιμες διαδικασίες;

Το δεύτερο κρίσιμο ζήτημα αφορά τη διαδικασία που ακολούθησε το Υπουργείο Εμπορίου.

Η επιστολή βασίστηκε στον μηχανισμό «is informed», ο οποίος χρησιμοποιείται συνήθως για να ενημερώνει μια συγκεκριμένη εταιρεία ότι μια συγκεκριμένη συναλλαγή προς συγκεκριμένη χώρα απαιτεί κρατική έγκριση.

Στην περίπτωση της Anthropic, όμως, η εντολή επεκτάθηκε σε όλους τους ξένους χρήσττες οπουδήποτε στον κόσμο.

Ακόμη κι αν θεωρηθεί ότι οι απαντήσεις ενός μοντέλου AI συνιστούν «εξαγωγή», πολλοί νομικοί εκτιμούν ότι το εύρος της απαγόρευσης ενδέχεται να υπερβαίνει τις εξουσίες που προβλέπει ο νόμος.

Με βάση τα σημερινά δεδομένα, η νομική θεμελίωση της απόφασης παραμένει αμφίβολη.

Μια σημαντική αλλαγή στην αμερικανική πολιτική

Η υπόθεση Anthropic σηματοδοτεί μια σημαντική αλλαγή στον τρόπο με τον οποίο οι Ηνωμένες Πολιτείες επιχειρούν να ελέγξουν τις αναδυόμενες τεχνολογίες.

Παραδοσιακά, η διαδικασία ήταν ιδιαίτερα αργή και περιλάμβανε διαβούλευση μεταξύ πολλών κυβερνητικών υπηρεσιών, δημόσια διαβούλευση, συντονισμό με συμμάχους και τελική δημοσίευση των κανονισμών στην Επίσημη Εφημερίδα της Ομοσπονδιακής Κυβέρνησης.

Σε περιπτώσεις εξαιρετικά επικίνδυνων τεχνολογιών υπήρχε η δυνατότητα προσωρινών περιορισμών. Η διαδικασία αυτή όμως περιλαμβάνει σημαντικές εγγυήσεις καθώς απαιτεί την έγκριση των υπουργείων Άμυνας και Εξωτερικών, δημοσιοποιείται, λήγει αυτόματα έπειτα από έναν χρόνο εάν δεν ανανεωθεί, προβλέπει συντονισμό με τις συμμαχικές χώρες.

Η επιστολή προς την Anthropic ακολούθησε ακριβώς την αντίθετη λογική, καθώς ήταν μονομερής, μη δημόσια, αορίστου διάρκειας και με παγκόσμια εφαρμογή.

Γιατί η Anthropic δεν προσέφυγε στα δικαστήρια;

Ένα εντυπωσιακό σημείο είναι ότι η εταιρεία δεν αμφισβήτησε νομικά την απόφαση. Αντίθετα, συμμορφώθηκε άμεσα, χαρακτηρίζοντας το περιστατικό «παρεξήγηση». Στη συνέχεια, στελέχη της μετέβησαν στην Ουάσιγκτον για διαπραγματεύσεις και όχι για δικαστική αντιπαράθεση.

Η στάση αυτή ενδέχεται να ήταν στρατηγική. Η Anthropic είχε ήδη προσφύγει στο παρελθόν κατά της κυβέρνησης Τραμπ για διαφορετική υπόθεση.

Επιπλέον, μόλις δύο ημέρες πριν από την επίμαχη επιστολή, ο διευθύνων σύμβουλος της εταιρείας, Ντάριο Αμοντέι, είχε δημοσιεύσει άρθρο στο οποίο υποστήριζε ότι η κυβέρνηση θα πρέπει να διαθέτει την εξουσία να εμποδίζει ή να αποτρέπει την ανάπτυξη επικίνδυνων μοντέλων τεχνητής νοημοσύνης. Μια δικαστική προσφυγή θα αναιρούσε ουσιαστικά τη θέση που η ίδια η εταιρεία είχε δημόσια υποστηρίξει.

Παράλληλα, οι δημόσιες προειδοποιήσεις της Anthropic για τους πιθανούς κινδύνους των μοντέλων της, καθώς και οι χιλιάδες ώρες δοκιμών ασφαλείας που πραγματοποίησε σε συνεργασία με την κυβέρνηση, συνέβαλαν στη δημιουργία της εικόνας ότι τα συγκεκριμένα μοντέλα αποτελούν τεχνολογία υψηλού κινδύνου.

Πού οδηγεί αυτή η υπόθεση;

Εάν τελικά υπάρξει δικαστική διαμάχη, το βασικό ερώτημα πιθανότατα δεν θα είναι αν η κυβέρνηση διαθέτει εξουσία να επιβάλει τέτοιους περιορισμούς.

Το πραγματικό ζήτημα θα είναι με ποιες διαδικασίες, υπό ποιες προϋποθέσεις και με ποιον βαθμό διαφάνειας μπορεί να ασκεί αυτή την εξουσία.

Το ιδανικό σενάριο θα ήταν η συζήτηση να διεξαχθεί δημόσια, μέσω της νομοθετικής διαδικασίας και με συμμετοχή της κοινωνίας.

Το δυστοπικό σενάριο, αντίθετα, θα ήταν η δημιουργία ενός συστήματος δύο ταχυτήτων, όπου οι κυβερνήσεις θα επιτρέπουν την εξαγωγή τεχνολογιών τεχνητής νοημοσύνης μόνο υπό τον όρο ότι θα έχουν προνομιακή και μυστική πρόσβαση σε ακόμη ισχυρότερα μοντέλα από εκείνα που είναι διαθέσιμα στο ευρύ κοινό.