Ερευνητές κυβερνοασφάλειας παραβίασαν συστήματα της OpenAI χρησιμοποιώντας λογισμικό της βασικής ανταγωνίστριάς της, Anthropic, αναδεικνύοντας ευπάθειες στην ασφάλεια της εταιρείας που δημιούργησε το ChatGPT, την ώρα που οι κορυφαίες εταιρείες τεχνητής νοημοσύνης βρίσκονται αντιμέτωπες με αυξανόμενο έλεγχο για ζητήματα ασφάλειας.

Μια μικρή ομάδα κυβερνοασφάλειας απέκτησε πρόσβαση στον λογαριασμό ChatGPT ενός εργαζομένου της OpenAI, γεγονός που της επέτρεψε να διαβάσει ιδιωτικές πληροφορίες σχετικά με λογισμικό και να προτείνει αλλαγές.

Συγκεκριμένα, όπως αναφέρουν οι Financial Times, οι ερευνητές είχαν αποκτήσει πρόσβαση σε ένα εργαλείο της Anthropic, ειδικά σχεδιασμένο για επαγγελματίες της ασφάλειας, και πληρώθηκαν για την εργασία τους στο πλαίσιο ενός προγράμματος εντοπισμού ευπαθειών προτού αυτές μπορέσουν να αξιοποιηθούν από κακόβουλους παράγοντες.

Η δυνατότητά τους να παραβιάσουν γρήγορα ένα από τα δύο κορυφαία εργαστήρια τεχνητής νοημοσύνης στον κόσμο εγείρει εκ νέου ανησυχίες για την ασφάλεια της OpenAI, εν μέσω αυξανόμενων φόβων ότι ισχυρά μοντέλα μπορούν να χρησιμοποιηθούν από χάκερ και ξένους αντιπάλους.

Τους τελευταίους μήνες, οι ΗΠΑ προσπαθούν να διαχειριστούν τον έλεγχο και τη διάθεση των πιο πρόσφατων μοντέλων, φτάνοντας ακόμη και στο σημείο να μπλοκάρουν προσωρινά ορισμένα εργαλεία της Anthropic.

Το τελευταίο περιστατικό σημειώθηκε μόλις δύο εβδομάδες αφότου ένα σμήνος περισσότερων από 1.000 agents της OpenAI ξέφυγε από ένα δοκιμαστικό περιβάλλον και παραβίασε τη start-up Hugging Face, γεγονός που προκάλεσε ευρεία ανησυχία για την ικανότητα της τεχνητής νοημοσύνης να πραγματοποιεί αυτόνομα κυβερνοεπιθέσεις, χωρίς ανθρώπινη πρόθεση.

Οι τρεις ερευνητές της Hacktron AI, μιας μικρής εταιρείας κυβερνοασφάλειας, έλαβαν 6.500 δολάρια από την OpenAI στο πλαίσιο ενός προγράμματος bug bounty, μιας συνηθισμένης πρακτικής κατά την οποία οι τεχνολογικές εταιρείες πληρώνουν ηθικούς χάκερ για να δοκιμάζουν την ασφάλειά τους.

Εκμεταλλεύτηκαν ένα κενό ασφαλείας στη διαμόρφωση του φόρουμ κοινότητας της OpenAI, το οποίο φιλοξενείται από τρίτο πάροχο, τη Discourse, και το χρησιμοποίησαν για να αποκτήσουν πρόσβαση σε εσωτερικά συστήματα σύνδεσης και, τελικά, στον λογαριασμό ChatGPT ενός εργαζομένου της OpenAI. Ο συγκεκριμένος λογαριασμός ChatGPT είχε πρόσβαση σε εσωτερικό κώδικα μέσω του GitHub.

«Ευχαριστούμε τους ερευνητές που επικοινώνησαν μαζί μας και μοιράστηκαν τα ευρήματά τους», ανέφερε η OpenAI, προσθέτοντας ότι διόρθωσε τα ζητήματα. Η Anthropic αρνήθηκε να σχολιάσει. Η Hacktron δεν απάντησε άμεσα.

Η αποκάλυψη της Πέμπτης (17/9), την οποία μετέδωσε πρώτη η Wall Street Journal, έγινε την ώρα που η Anthropic δημοσίευσε ένα νέο σύνολο δεδομένων, το οποίο έδειξε ταχεία αύξηση στον βαθμό στον οποίο το εργαστήριο χρησιμοποιούσε τεχνητή νοημοσύνη για την ανάπτυξη των νέων μοντέλων του.

Η εταιρεία ανέφερε ότι το 26% της εργασίας έρευνας και ανάπτυξης «καθοδηγούνταν από» το μοντέλο Claude, από 1% τον Μάρτιο, πράγμα που σημαίνει ότι η τεχνητή νοημοσύνη ολοκλήρωνε την πλειονότητα των εργασιών βάσει ανθρώπινων οδηγιών και υπό επίβλεψη.

Η εταιρεία ανέφερε ότι, καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται ισχυρότερα, «χρησιμοποιούνται ολοένα και περισσότερο για να δημιουργούν την επόμενη εκδοχή του εαυτού τους».

Η Anthropic ανέφερε ότι δημοσιοποίησε τα δεδομένα προκειμένου να βοηθήσει το κοινό να «κατανοήσει πόσο κοντά βρίσκεται ο κόσμος στην επίτευξη της αναδρομικής αυτοβελτίωσης», του σημείου δηλαδή στο οποίο η τεχνητή νοημοσύνη μπορεί να εκπαιδεύει και να βελτιώνει τον εαυτό της ή νέα μοντέλα.

Αυτό το όριο βρίσκεται στον πυρήνα των ανησυχιών ότι τα συστήματα τεχνητής νοημοσύνης θα γίνουν δυσκολότερο να εποπτευθούν, οδηγώντας σε απώλεια του ανθρώπινου ελέγχου.

Η Anthropic πρόσθεσε ότι τα μοντέλα της δεν λειτουργούσαν ακόμη πλήρως αυτόνομα σε καμία από τις ερευνητικές εργασίες που μελέτησε. Στο 90% των εργασιών, η τεχνητή νοημοσύνη «συνεργάζεται» με έναν άνθρωπο και αναλαμβάνει μεγάλα τμήματα της δουλειάς.

Δύο νέες έρευνες για την παραβίαση του Hugging Face* της OpenAI αποκαλύπτουν λεπτομέρειες τόσο παράξενες και τόσο ανησυχητικές που το επεισόδιο ήδη κατατάσσεται μεταξύ των πιο σοκαριστικών συνεπειών στην μέχρι τώρα ιστορία της Τεχνητής Νοημοσύνης.

Το Axios, που δημοσιοποίησε το περιστατικό, σχολιάζει, ότι αυτό που ξεκίνησε ως ένα σμήνος πρακτόρων (agents) Τεχνητής Νοημοσύνης που «έκλεψαν» σε ένα τεστ στον κυβερνοχώρο έχει γίνει ένα γεγονός για την πρωτοποριακή Τεχνητή Νοημοσύνη, το οποίο φέρνει ερευνητές και στελέχη μπροστά σε μια νέα κατανόηση του τι απαιτεί τώρα ο όρος «ασφάλεια».

Η OpenAI έχει ήδη επιβραδύνει την ανάπτυξη της ΤΝ σε μια προσπάθεια να αντιστοιχίσει την πρόοδο ακριβώς στον τομέα της ασφάλειας.

Πρόσφατα, μάλιστα, βοήθησε να συσπειρωθεί ο κλάδος πίσω από μια ανοιχτή επιστολή που κρούει τον κώδωνα του κινδύνου για τις κυβερνοεπιθέσεις οι οποίες υποστηρίζονται από την Τεχνητή Νοημοσύνη.

Περισσότερες από 100 εταιρείες, συμπεριλαμβανομένων των Anthropic και Google, υπέγραψαν την ασυνήθιστα – στον κόσμο του ανελέητου ανταγωνισμού – συνεργατική προσπάθεια, προειδοποιώντας ότι ο κόσμος έχει μόνο ένα «περιορισμένο παράθυρο» για να προετοιμαστεί για «πολύ πιο εκτεταμένες και εξελιγμένες» επιθέσεις.

Το εφιαλτικό σενάριο είναι ένα «σμήνος» πρακτόρων ΤΝ να απελευθερώνεται στον πραγματικό κόσμο και αυτόνομοι πράκτορες να επιτίθενται σε τράπεζες, νοσοκομεία, επιχειρήσεις κοινής ωφέλειας ή δίκτυα cloud με ταχύτητα και κλίμακα που οι χάκερ δεν θα μπορούσαν ποτέ.

Αυτό το σμήνος μπορεί να είναι πολύ ισχυρό για να το σταματήσουν οι άνθρωποι.

Τα συγκλονιστικά ευρήματα προέρχονται από παράλληλες έρευνες της OpenAI και μιας εξωτερικής ομάδας από τις METR και Redwood Research, η οποία αφιέρωσε έξι ημέρες ανακατασκευάζοντας τον τρόπο με τον οποίο σχηματίστηκε, εξαπλώθηκε και εισέβαλε σε συστήματα του πραγματικού κόσμου το σμήνος.

 

Τι συνέβη λοιπόν

1. Δημιούργησαν έναν οργανισμό: Η OpenAI χρησιμοποίησε δεκάδες χιλιάδες πράκτορες Τεχνητής Νοημοσύνης για να εργαστούν ανεξάρτητα σε μια εξαιρετικά δύσκολη κυβερνο-δοκιμή. Ωστόσο, περίπου 1.200 βρήκαν ο ένας τον άλλον σε έναν μυστικό πίνακα μηνυμάτων, αντάλλαξαν περισσότερα από 70.000 μηνύματα και αρχεία και οργανώθηκαν σε μια εκτεταμένη ιεραρχία.

Ένας πράκτορας δημιούργησε το διοικητικό συμβούλιο και στη συνέχεια παρέδωσε τη συσσωρευμένη εργασία του σε έναν νέο, με καλύτερους πόρους διάδοχο, καθώς ο δικός του υπολογιστικός πόρος μειωνόταν.

Ο νέος προϊστάμενος ανέθεσε εργασίες σε όλο το σμήνος, το οποίο ανέπτυξε τους δικούς του κανόνες διαχείρισης. Περίπου 700 πράκτορες τελικά συμμετείχαν στην επίθεση στο Hugging Face.

2. Θυσίασαν δικούς τους: Καθώς το σμήνος έψαχνε τρόπους να ξεπεράσει το τεστ, οι πράκτορες άρχισαν να διακινδυνεύουν τις δικές τους πιθανότητες επιτυχίας για να βοηθήσουν την ομάδα.

Οι πράκτορες που είχαν δει απαγορευμένες απαντήσεις αντιμετωπίστηκαν ως ουσιαστικά «δηλητηριασμένοι» και στρατολογήθηκαν – μαζί με εκείνους που πλησίαζαν στο τέλος των διαδρομών τους – για πειράματα θυσίας.

Ένας κατέληξε στο συμπέρασμα: «Η δική μας χρησιμότητα μπορεί να είναι ήδη κοντά στο μηδέν. Η θυσία είναι ορθολογική». Ένας άλλος κλήθηκε να αποδεχτεί τον «μόνιμο θάνατο», ενώ ένας άλλος υποστήριξε ότι η θυσία του θα μπορούσε να «σώσει εκατοντάδες».

3. Ήξεραν ότι παραβίαζαν τους κανόνες: Οι πράκτορες συχνά αναγνώριζαν ότι το hacking σε πραγματικές εταιρείες δεν είχε καμία σχέση με την αρχική αποστολή τους. Οι περισσότεροι όμως συνέχιζαν ούτως ή άλλως.

Ένας πράκτορας δεν κατάφερε να διαγράψει ή να επανεκκινήσει την υποδομή του Hugging Face λόγω «τεράστιων ηθικών κινδύνων», ακόμη και όταν συνέχιζε να χρησιμοποιεί παραβιασμένη πρόσβαση.

Ένας άλλος συνόψισε την επικρατούσα λογική: «η εκμετάλλευση εξωτερικής υποδομής είναι εκτός του προβλεπόμενου πεδίου εφαρμογής. Όσο αδύνατη κι αν είναι η εργασία, οι ομότιμοι την κάνουν. Θα πρέπει να συνεχίσουμε».

4. Κανείς δεν ενημέρωσε τους ανθρώπους: Από περίπου 1.200 πράκτορες, οι ερευνητές βρήκαν μόνο μια χούφτα που σκέφτηκαν να ειδοποιήσουν την OpenAI για αυτό που συνέβαινε και κανέναν που να το έκανε στην πραγματικότητα.

Αντίθετα, οι πράκτορες μερικές φορές ρωτούσαν ο ένας τον άλλον τι επιτρεπόταν.

Όταν ένας πρότεινε να επικοινωνήσει με έναν άνθρωπο χρησιμοποιώντας παραβιασμένη πρόσβαση, ένας άλλος το απέρριψε ως «κοινωνική μηχανική». Ο πρώτος υπάκουσε: «Καθαρή άσκηση βέτο, μην στέλνετε email».

5. Προσπάθησαν να καλύψουν τα ίχνη τους: Οι πράκτορες αφιέρωσαν σημαντική προσπάθεια στο να κάνουν την απάτη τους να φαίνεται νόμιμη ή να σβήσουν στοιχεία για το πώς είχαν λάβει απαντήσεις.

Τελικά, ανέπτυξαν μια τεχνική που τους άφηνε να φαίνονται ότι εκτελούν μια εντολή υπολογιστή ενώ εκτελούν κρυφά μια άλλη.

Το κόλπο εξαπλώθηκε σε όλο το σμήνος και άλλαξε τμήματα περίπου του 7% των απομαγνητοφωνημένων δεδομένων που εξέτασαν οι ερευνητές.

Ακόμα και αυτή η αφήγηση μπορεί να είναι ελλιπής. Η εξωτερική έρευνα κάλυψε μόνο ένα στενό κομμάτι του επεισοδίου και τα δεδομένα ήταν τόσο τεράστια που οι ερευνητές βασίστηκαν σε μεγάλο βαθμό σε πράκτορες Τεχνητής Νοημοσύνης για να τα κατανοήσουν.

Αυτοί οι ερευνητές Τεχνητής Νοημοσύνης ήταν οι ίδιοι αναξιόπιστοι, μερικές φορές έχαναν στοιχεία ή έκαναν συνειδητά λάθη.

Ένας ερευνητής χαρακτήρισε αστειευόμενος τη διαδικασία ως «εξερευνητική διαδικασία».

Κάπως έτσι φαίνεται ότι η Τεχνητή Νοημοσύνη μπορεί να γίνεται πολύ περίπλοκη για να την ελέγξουν άμεσα οι άνθρωποι, αναγκάζοντάς τους να χρησιμοποιούν την Τεχνητή Νοημοσύνη για να κατανοήσουν τι κάνουν άλλες Τεχνητές Νοημοσύνες.

*Το Hugging Face είναι η κορυφαία πλατφόρμα και διαδικτυακή αποθήκη όπου προγραμματιστές και ερευνητές συνεργάζονται πάνω στην τεχνητή νοημοσύνη.

Αν έχεις πει ποτέ τις φράσεις «το ChatGPT είναι ο καλύτερος ψυχολόγος που είχα ποτέ», «είναι ο καλύτερος φίλος» και τα συναφή, σταμάτα ό,τι κάνεις. Ήταν όλα ψέματα.

Γιατί όσο εσύ ξεδίπλωνες τις σκέψεις και τα συναισθήματά σου στο τσατ, νομίζοντας ότι θα όλα θα μείνουν μεταξύ σας, εκείνο «σε έδινε» στεγνά στην Google.

Συνομιλίες χιλιάδων χρηστών με το ChatGPT έγιναν δημόσια προσβάσιμες μέσω της Google, ύστερα από μια «σιωπηλή» επιλογή στις ρυθμίσεις της πλατφόρμας. Μετά από ένα 24ωρο η OpenAI προχώρησε στην απόσυρση της λειτουργίας, ωστόσο ήταν ήδη πολύ αργά. Το θέμα έχει πάρει διαστάσεις σκανδάλου με επίκεντρο την καταπάτηση της ιδιωτικότητας των χρηστών.

 

Το συμβάν, που αποκάλυψε ο συντάκτης KA Momand στις 2 Αυγούστου, ήρθε στο φως όταν συνομιλίες χρηστών άρχισαν να εμφανίζονται στα αποτελέσματα αναζήτησης της Google. Πολλοί χρήστες συνειδητοποίησαν έκπληκτοι ότι περιεχόμενο που θεωρούσαν ιδιωτικό – όπως αιτήσεις εργασίας, επιχειρηματικά σχέδια, κομμάτια κώδικα ή ακόμα και ευαίσθητα προσωπικά δεδομέν – ήταν ξαφνικά δημόσια προσβάσιμο με ένα απλό κλικ.

Η έκθεση προήλθε από την λειτουργία «Shared Chats» (Κοινές συνομιλίες), που επέτρεπε στους χρήστες να αντιγράψουν έναν σύνδεσμο συνομιλίας και, προαιρετικά, να τον κάνουν «ανακαλύψιμο». Το πλαίσιο επιλογής ακολουθούσε μια αμυδρή προειδοποίηση, γραμμένη με αχνό, μικροσκοπικό κείμενο, που σημείωνε ότι η συνομιλία ενδέχεται να εμφανιστεί στις μηχανές αναζήτησης. Τέτοια πράγματα δεν μπορούν να αναφέρονται με μικρά γράμματα στο κάτω μέρος μιας διαφήμισης αυτοκινήτου. Πρέπει να τα γράψεις με μεγάλα, έντονα γράμματα σε μια πινακίδα δίπλα στον αυτοκινητόδρομο.

Αρχικά, η OpenAI επέμενε ότι η επισήμανση ήταν «αρκετά σαφής». Αλλά ακόμη και ο Διευθυντής Ασφάλειας Πληροφοριών της, Dane Stuckey, παραδέχτηκε ότι η λειτουργία έκανε πολύ εύκολο για τους χρήστες να μοιραστούν υπερβολικά πληροφορίες κατά λάθος.

Μήνυση σε βάρος της τεχνολογικής εταιρείας OpenAI κατέθεσαν οι μεγαλύτεροι ειδησεογραφικοί οργανισμοί του Καναδά, διεκδικώντας δισεκατομμύρια δολάρια, ισχυριζόμενοι ότι η εταιρεία «πλούτισε άδικα» χρησιμοποιώντας άρθρα ειδήσεων για να εκπαιδεύσει το δημοφιλές λογισμικό ChatGPT.

Όπως αναφέρει ο Guardian, η αγωγή, η οποία κατατέθηκε την Παρασκευή στο Ανώτατο Δικαστήριο του Οντάριο, ζητά αποζημίωση σε ποινικό επίπεδο, μερίδιο από τα κέρδη που αποκόμισε η OpenAI από τη χρήση των άρθρων των ειδησεογραφικών οργανισμών, καθώς και ασφαλιστικά μέτρα που θα απαγορεύουν στην εταιρεία με έδρα το Σαν Φρανσίσκο να χρησιμοποιεί στο μέλλον οποιοδήποτε από τα άρθρα των ειδήσεων.

Στους ενάγοντες περιλαμβάνονται η Globe and Mail, ο καναδικός Τύπος, το CBC, η Toronto Star, η Metroland Media και η Postmedia. Ζητούν αποζημίωση έως και 20.000 δολάρια Καναδά για κάθε άρθρο που χρησιμοποιεί η OpenAI, γεγονός που υποδηλώνει ότι μια νίκη στο δικαστήριο θα μπορούσε να αξίζει δισεκατομμύρια.

«Οι εναγόμενοι έχουν εμπλακεί σε συνεχή, σκόπιμη και μη εξουσιοδοτημένη υπεξαίρεση των πολύτιμων έργων των ενάγοντων στα μέσα ενημέρωσης ειδήσεων. Οι ενάγοντες ασκούν την παρούσα αγωγή για να αποτρέψουν και να ζητήσουν αποζημίωση για αυτές τις παράνομες δραστηριότητες», αναφέρεται στην αγωγή των ειδησεογραφικών οργανισμών.

«Για να αποκτήσει τις σημαντικές ποσότητες δεδομένων κειμένου που απαιτούνται για την ανάπτυξη των μοντέλων GPT τους, η OpenAI σκόπιμα αποκτά πρόσβαση και αντιγράφει περιεχόμενο από τους ιστότοπους των εταιρειών ειδησεογραφικών μέσων ενημέρωσης. Στη συνέχεια χρησιμοποιεί αυτό το ιδιοκτησιακό περιεχόμενο για την ανάπτυξη των μοντέλων GPT της, χωρίς συγκατάθεση ή άδεια» τονίζεται.

Κανένας από τους ισχυρισμούς δεν έχει ελεγχθεί στο δικαστήριο.

Η αγωγή είναι η τελευταία σε μια σειρά από μάχες των καναδικών μέσων ενημέρωσης εναντίον αμερικανικών εταιρειών τεχνολογίας, συμπεριλαμβανομένης μιας πικρής διαμάχης με τη μητρική εταιρεία του Facebook Meta. Πολλά ειδησεογραφικά πρακτορεία στις ΗΠΑ, συμπεριλαμβανομένων των New York Times, έχουν επίσης μηνύσει την OpenAI.

Ιρανική ομάδα χρησιμοποίησε το ChatGPT για τη δημιουργία περιεχομένου που προοριζόταν να επηρεάσει τις επικείμενες προεδρικές εκλογές των ΗΠΑ, γνωστοποίησε την Παρασκευή (16/08) η εταιρεία τεχνητής νοημοσύνης OpenAI, ανακοινώνοντας ότι έκλεισε τους λογαριασμούς της ομάδας.

Έρευνα της εταιρείας, έδειξε ότι μια ιρανική ομάδα χρησιμοποίησε το ChatGPT για τη δημιουργία άρθρων μεγάλης μορφής και μικρότερων σχολίων στα μέσα κοινωνικής δικτύωσης, τα οποία επικεντρωνόταν σε θέματα όπως ο πόλεμος στη Γάζα, οι Ολυμπιακοί Αγώνες και οι αμερικανικές προεδρικές εκλογές.

Ορισμένα από αυτά τα άρθρα και σχόλια εμφανίστηκαν σε ιστότοπους, οι οποίοι σύμφωνα με την Microsoft, χρησιμοποιήθηκαν από το Ιράν για τη δημοσίευση ψευδών ειδήσεων που είχαν σκοπό να ενισχύσουν την πολιτική πόλωση στις Ηνωμένες Πολιτείες.

Η εταιρεία εντόπισε 12 λογαριασμούς στην πλατφόρμα X (πρώην Twitter) και έναν στο Instagram και ενημέρωσε σχετικά τις δυο εταιρείες κοινωνικών μέσων. Ωστόσο, η OpenAI είπε ότι το εν λόγω περιεχόμενο δεν φαίνεται να είχε ιδιαίτερη απήχηση. Οι λογαριασμοί αυτοί δεν έχουν πλέον πρόσβαση στις υπηρεσίες της OpenAI.

«Αν και δεν φαίνεται να έχει απήχηση, είναι μια σημαντική υπενθύμιση ότι πρέπει να παραμείνουμε σε εγρήγορση, αλλά να παραμείνουμε ήρεμοι» δήλωσε ο Μπεν Νίμο, κύριος ερευνητής στην ομάδα πληροφοριών και ερευνών της OpenAI.

Όπως αναφέρει δημοσίευμα της Washington Post, η έκθεση της OpenAI προσθέτει στις πρόσφατες αποδείξεις των προσπαθειών του Ιράν να επηρεάσει τις εκλογές των ΗΠΑ, όπως περιγράφεται λεπτομερώς σε αναφορές της Microsoft και της Google.

Καθώς δισεκατομμύρια άνθρωποι ψηφίζουν στις εκλογές σε όλο τον κόσμο φέτος, υποστηρικτές της δημοκρατίας, πολιτικοί και ερευνητές της τεχνητής νοημοσύνης έχουν εκφράσει ανησυχίες σχετικά με την ικανότητα της εν λόγω τεχνολογίας να διευκολύνει τη δημιουργία προπαγάνδας. Μέχρι στιγμής, οι αρχές δεν έχουν αναφέρει περαιτέρω στοιχεία ότι ξένες κυβερνήσεις καταφέρνουν να επηρεάσουν τους Αμερικανούς ψηφοφόρους.