ΓΙΩΡΓΟΣ ΑΛΕΞΑΚΗΣ

Ένα ισχυρό κύμα ρευστοποιήσεων σαρώνει τις διεθνείς χρηματιστηριακές αγορές, με επίκεντρο τις τεχνολογικές μετοχές και τις επιχειρήσεις που συνδέονται με την τεχνητή νοημοσύνη (AI). Από χθες, συγκεκριμένα, η αναταραχή ξεκίνησε από τη Wall Street, επεκτάθηκε στις ασιατικές αγορές και πέρασε στην Ευρώπη, επαναφέροντας στο προσκήνιο τους φόβους για υπερβολικές αποτιμήσεις, υπερχρέωση και δημιουργία μιας νέας χρηματιστηριακής φούσκας.

Το μέγεθος των απωλειών είναι ενδεικτικό της έντασης της ανατροπής. Σύμφωνα με το Reuters, ο Nasdaq υποχώρησε κατά 5,5% στη συνεδρίαση της Πέμπτης 5 Νοεμβρίου, διαγράφοντας περίπου 2,5 τρισ. δολάρια χρηματιστηριακής αξίας. Παράλληλα, η συνολική απώλεια αξίας των αμερικανικών μετοχών εκτιμήθηκε σε περίπου 3 τρισ. δολάρια, ενώ ο S&P 500 σημείωσε πτώση 4,4%.

Η πτώση οδήγησε τον Nasdaq σε περιοχή χρηματιστηριακής διόρθωσης, καθώς ο δείκτης βρέθηκε σχεδόν 12% χαμηλότερα από το πρόσφατο υψηλό του. Ιδιαίτερα ισχυρές ήταν οι πιέσεις στις εταιρείες ημιαγωγών, με τον σχετικό δείκτη της Φιλαδέλφειας να καταγράφει απώλειες 12,2%.

Η αναταραχή επεκτάθηκε γρήγορα στην Ασία. Η πτώση των μετοχών στη Νότια Κορέα και την Ταϊβάν ξεπέρασε ενδοσυνεδριακά το 8%, ενώ ο ιαπωνικός Nikkei δέχθηκε ισχυρές πιέσεις. Στην Ευρώπη, ο πανευρωπαϊκός Stoxx 600 υποχώρησε κατά περίπου 1,6% το πρωί της Παρασκευής, ενώ πιέσεις δέχθηκαν οι βασικοί χρηματιστηριακοί δείκτες.

Associated Press

Το πολιτικό σοκ στις ΗΠΑ και η αμφισβήτηση του επενδυτικού μοντέλου της AI

Η πολιτική ανατροπή στις ενδιάμεσες εκλογές των ΗΠΑ αποτέλεσε, σύμφωνα με την ανάλυση, τον άμεσο καταλύτη για την επιτάχυνση των ρευστοποιήσεων, αν και οι αιτίες είναι πολλαπλές.

Η επικράτηση των Δημοκρατικών και ο νέος συσχετισμός δυνάμεων στο Κογκρέσο ενίσχυσαν τις ανησυχίες ότι θα υπάρξει αυστηρότερη εποπτεία των μεγάλων τεχνολογικών ομίλων, μεγαλύτερος έλεγχος των μονοπωλιακών πρακτικών και ενδεχομένως περιορισμοί στην κατασκευή νέων κέντρων δεδομένων.

Η τελευταία παράμετρος έχει ιδιαίτερη σημασία, καθώς τα data centers αποτελούν τον πυρήνα της επενδυτικής επέκτασης στην τεχνητή νοημοσύνη. Η λειτουργία τους απαιτεί τεράστιες ποσότητες ηλεκτρικής ενέργειας, εξοπλισμό υψηλής τεχνολογίας, προηγμένους ημιαγωγούς και εκτεταμένες υποδομές.

Όπως μεταδίδει το Reuters, οι επενδυτές φοβούνται ότι οι πολιτικές πιέσεις και οι αντιδράσεις σε τοπικό επίπεδο απέναντι στην ενεργειακή και περιβαλλοντική επιβάρυνση των data centers μπορεί να καθυστερήσουν ή να περιορίσουν νέα έργα στις ΗΠΑ.

Ωστόσο, η πολιτική εξέλιξη δεν εξηγεί από μόνη της την ένταση της πτώσης. Το ουσιαστικότερο πρόβλημα είναι ότι η αγορά αρχίζει να αμφισβητεί εάν οι τεράστιες επενδύσεις που πραγματοποιούνται στην AI θα αποδώσουν τα κέρδη που έχουν ήδη ενσωματωθεί στις χρηματιστηριακές αποτιμήσεις.

Με άλλα λόγια, δεν αμφισβητείται κατ’ ανάγκη η τεχνολογική επανάσταση, αλλά το κατά πόσο οι προσδοκίες των επενδυτών έχουν ξεπεράσει τις πραγματικές οικονομικές δυνατότητες της αγοράς.

Associated Press

Το πρόβλημα των αποτιμήσεων και η σύγκριση με τη φούσκα των dot-com

Η σύγκριση με τη χρηματιστηριακή φούσκα του Διαδικτύου στα τέλη της δεκαετίας του 1990 επανέρχεται όλο και συχνότερα στις αναλύσεις των διεθνών αγορών.

Τότε, η υπόσχεση της νέας ψηφιακής οικονομίας οδήγησε σε μαζική εισροή κεφαλαίων σε εταιρείες που συχνά δεν διέθεταν ούτε σταθερά έσοδα ούτε βιώσιμο επιχειρηματικό μοντέλο. Η τεχνολογική επανάσταση αποδείχθηκε πραγματική, αλλά πολλές από τις επιχειρήσεις που επωφελήθηκαν από την επενδυτική ευφορία δεν κατάφεραν να επιβιώσουν.

Αντίστοιχος προβληματισμός διαμορφώνεται και σήμερα γύρω από την τεχνητή νοημοσύνη. Οι επενδύσεις είναι πραγματικές και οι τεχνολογικές δυνατότητες σημαντικές, αλλά η απόσταση ανάμεσα στις κεφαλαιουχικές δαπάνες και στην εμπορική αξιοποίησή τους παραμένει μεγάλη.

Έτσι, το κρίσιμο ερώτημα είναι εάν οι επιχειρήσεις θα καταφέρουν να μετατρέψουν τις σημερινές δαπάνες σε αντίστοιχα έσοδα και κέρδη ή εάν θα χρειαστεί να αναθεωρήσουν τα επενδυτικά τους σχέδια.

Στο φόντο αυτό, αξίζει να σημειωθεί ότι η Goldman Sachs έχει επισημάνει σε σχετική ανάλυση ότι η τεκμηρίωση των πραγματικών παραγωγικών και κερδοφορικών οφελών από την εφαρμογή της AI παραμένει περιορισμένη σε σχέση με τις προσδοκίες που έχουν δημιουργηθεί.

Το ζήτημα, επομένως, δεν είναι μόνο η τεχνολογική πρόοδος, αλλά ο χρόνος που θα χρειαστεί μέχρι αυτή να αποτυπωθεί στους ισολογισμούς των επιχειρήσεων.

Τα hedge funds στο επίκεντρο

Ένα από τα σημαντικότερα στοιχεία της σημερινής αναταραχής είναι η έκθεση των hedge funds και των μεγάλων επενδυτικών κεφαλαίων στις τεχνολογικές μετοχές.

Όπως αναφέρει το Reuters σε δημοσίευμά του στις 6 Νοεμβρίου, το κύμα ρευστοποιήσεων έχει ήδη διαγράψει σημαντικό μέρος των φετινών κερδών των hedge funds.

Τα εξειδικευμένα funds που επενδύουν σε τεχνολογικές μετοχές υποχώρησαν κατά περισσότερο από 4% την Πέμπτη, με τις ετήσιες αποδόσεις τους να επιστρέφουν περίπου στα επίπεδα μηδενικής μεταβολής, από κέρδη που είχαν φτάσει έως και το 24% τον Ιούνιο, σύμφωνα με στοιχεία της Goldman Sachs.

Το Reuters αναφέρει επίσης ότι η Walleye Capital, ένα επενδυτικό κεφάλαιο με υπό διαχείριση περιουσιακά στοιχεία περίπου 17 δισ. δολαρίων, αποφάσισε να περιορίσει σημαντικά τη δραστηριότητά της στις μετοχικές επενδύσεις και να μειώσει το σχετικό προσωπικό, μετά τον χειρότερο μήνα της από τον Μάρτιο του 2020.

Το πρόβλημα δεν περιορίζεται στις απώλειες των ίδιων των funds. Η αυξημένη μόχλευση, οι παρόμοιες επενδυτικές θέσεις και η συγκέντρωση κεφαλαίων σε συγκεκριμένους τίτλους μπορούν να δημιουργήσουν έναν μηχανισμό αυτοτροφοδοτούμενης πτώσης.

Όταν οι τιμές υποχωρούν, οι επενδυτές που έχουν δανειστεί για να χρηματοδοτήσουν τις τοποθετήσεις τους ενδέχεται να δεχθούν απαιτήσεις για πρόσθετες εγγυήσεις, τα γνωστά margin calls.

Για να καλύψουν τις υποχρεώσεις τους, αναγκάζονται να πουλήσουν περιουσιακά στοιχεία, ακόμη και εάν δεν έχουν άμεση σχέση με τον αρχικό λόγο της αναταραχής.

Αυτό ακριβώς είναι που καθιστά επικίνδυνη μια παρατεταμένη διόρθωση: οι αναγκαστικές πωλήσεις μπορούν να επεκταθούν από τις τεχνολογικές μετοχές σε άλλες κατηγορίες επενδύσεων.

Σύμφωνα με το Reuters, αντίστοιχες πιέσεις έχουν εμφανιστεί και στην Ασία, όπου επενδυτές με μοχλευμένες θέσεις βρέθηκαν αντιμέτωποι με απαιτήσεις κάλυψης περιθωρίου.

Το ΔΝΤ προειδοποιεί: Η διόρθωση της AI μπορεί να μεταφερθεί στην πραγματική οικονομία

Στο φόντο αυτό, ιδιαίτερη βαρύτητα αποκτά η προειδοποίηση του Διεθνούς Νομισματικού Ταμείου (ΔΝΤ) στην έκθεση Global Financial Stability Report του Οκτωβρίου 2026.

Το Ταμείο εντοπίζει τρεις βασικούς κινδύνους για τη διεθνή χρηματοπιστωτική σταθερότητα: μια πιθανή διόρθωση στις αποτιμήσεις των επιχειρήσεων τεχνητής νοημοσύνης, μια απότομη αύξηση των κρατικών ομολογιακών αποδόσεων και την ενίσχυση των κυβερνοαπειλών.

Ειδικά για την AI, το ΔΝΤ επισημαίνει ότι η επιβράδυνση των επενδύσεων ή η απογοητευτική κερδοφορία μπορεί να προκαλέσουν ευρύτερη αναπροσαρμογή των αποτιμήσεων.

Ο κίνδυνος ενισχύεται από τη μόχλευση, τη συγκέντρωση επενδυτικών θέσεων και τις αλληλοσυνδεόμενες χρηματοδοτήσεις μεταξύ εταιρειών του ίδιου οικοσυστήματος.

Μάλιστα, σε ανάλυση 14 συναλλαγών που σχετίζονται με την AI, το ΔΝΤ καταγράφει περίπου 300 δισ. δολάρια σε επενδύσεις μετοχικού κεφαλαίου και 650 δισ. δολάρια σε δανειακή χρηματοδότηση, έναντι δεσμεύσεων μελλοντικών εσόδων ύψους 1,4 τρισ. δολαρίων.

Η συγκεκριμένη διαπίστωση αναδεικνύει το μέγεθος των χρηματοδοτικών διασυνδέσεων που έχουν δημιουργηθεί στον κλάδο.

Όπως προειδοποιεί το Ταμείο, εάν οι προσδοκίες για τα μελλοντικά έσοδα της AI αναθεωρηθούν προς τα κάτω, οι απώλειες στις μετοχές, η δυσκολία εξυπηρέτησης του χρέους και η υποχώρηση των αναμενόμενων εσόδων θα μπορούσαν να ενισχύσουν η μία την άλλη.

Το ΔΝΤ, πάντως, δεν προεξοφλεί προς το παρόν μια νέα παγκόσμια χρηματοπιστωτική κρίση. Επισημαίνει, όμως, ότι ένας αρχικά διαχειρίσιμος χρηματιστηριακός κραδασμός μπορεί να αποκτήσει συστημικές διαστάσεις εάν συναντήσει ήδη συσσωρευμένες ευπάθειες.

Πώς μπορεί να μεταφερθεί η αναταραχή στην ελληνική οικονομία

Για την Ελλάδα, το ερώτημα δεν είναι μόνο εάν η πτώση των διεθνών αγορών θα επηρεάσει την εγχώρια οικονομία, αλλά κυρίως μέσα από ποιους διαύλους και με ποια ένταση μπορεί να μεταφερθεί η αναταραχή, όπως έχει συμβεί και στο παρελθόν.

Άλλωστε, η ελληνική αγορά δεν έχει την ίδια άμεση έκθεση στις εταιρείες τεχνητής νοημοσύνης με τη Wall Street ή τα μεγάλα ασιατικά χρηματιστήρια. Αυτό, ωστόσο, δεν σημαίνει ότι είναι προστατευμένη από μια διεθνή αναταραχή μεγάλης διάρκειας.

Στο φόντο αυτό, σύμφωνα με αναλυτές, υπάρχουν τουλάχιστον πέντε βασικά κανάλια μετάδοσης.

1. Το Χρηματιστήριο Αθηνών και οι τραπεζικές μετοχές

Σε ένα περιβάλλον διεθνούς αποστροφής προς τον κίνδυνο, οι επενδυτές περιορίζουν συχνά την έκθεσή τους σε αγορές που θεωρούν περισσότερο ευάλωτες στη μεταβλητότητα.

Η ελληνική χρηματιστηριακή αγορά, λόγω του μικρότερου βάθους και της περιορισμένης ρευστότητάς της σε σύγκριση με τις μεγάλες ευρωπαϊκές αγορές, μπορεί να δεχθεί δυσανάλογες πιέσεις σε περιόδους μαζικών εκροών κεφαλαίων.

Ιδιαίτερη σημασία έχει ο τραπεζικός κλάδος, ο οποίος αποτελεί σημαντικό τμήμα της κεφαλαιοποίησης του Χρηματιστηρίου Αθηνών.

Μια παρατεταμένη διεθνής αναταραχή θα μπορούσε να οδηγήσει σε κατοχύρωση κερδών, αύξηση της μεταβλητότητας και αυστηρότερη αξιολόγηση του επενδυτικού κινδύνου.

Αυτό δεν σημαίνει ότι οι ελληνικές τράπεζες αντιμετωπίζουν σήμερα πρόβλημα φερεγγυότητας.

Αντίθετα, στην αξιολόγηση του ελληνικού χρηματοπιστωτικού συστήματος τον Μάιο του 2026, το ΔΝΤ διαπίστωσε ότι οι τράπεζες διαθέτουν ισχυρή ρευστότητα και κερδοφορία, ενώ παρέμεναν ανθεκτικές ακόμη και σε δυσμενή μακροοικονομικά σενάρια.

2. Το κόστος δανεισμού και οι κρατικές ομολογιακές αποδόσεις

Ένας δεύτερος κίνδυνος αφορά τις συνθήκες χρηματοδότησης της ελληνικής οικονομίας.

Σε μια αρχική φάση διεθνούς αναταραχής, σύμφωνα με αναλυτές, η στροφή προς ασφαλέστερα κρατικά ομόλογα, όπως τα αμερικανικά, μπορεί να ευνοήσει την υποχώρηση των αποδόσεών τους. Αυτό, όμως, δεν σημαίνει ότι όλες οι χώρες θα επωφεληθούν εξίσου.

Εάν η αναταραχή εξελιχθεί σε γενικευμένη κρίση εμπιστοσύνης, με αύξηση των δημοσιονομικών ανησυχιών και ανατιμολόγηση του κινδύνου στις αγορές ομολόγων, οι αποδόσεις των ευρωπαϊκών κρατικών τίτλων μπορεί να κινηθούν ανοδικά.

Για την Ελλάδα, η εξέλιξη αυτή έχει ιδιαίτερη σημασία λόγω του υψηλού δημόσιου χρέους, ακόμη και αν η βελτίωση των δημοσιονομικών μεγεθών και η επενδυτική βαθμίδα έχουν ενισχύσει τη θέση της χώρας.

Μια παρατεταμένη αύξηση του κόστους δανεισμού θα μπορούσε να περιορίσει τα περιθώρια χρηματοδότησης νέων επενδύσεων, να επηρεάσει το κόστος χρήματος για τις επιχειρήσεις και να δημιουργήσει πρόσθετες πιέσεις στην οικονομική δραστηριότητα.

3. Η ενέργεια και ο κίνδυνος νέου πληθωριστικού κύματος

Η διεθνής χρηματιστηριακή αναταραχή εκδηλώνεται σε μια περίοδο κατά την οποία η ενεργειακή αβεβαιότητα εξακολουθεί να αποτελεί σημαντικό πρόβλημα για την παγκόσμια οικονομία.

Στο ρεπορτάζ του Reuters της 6ης Νοεμβρίου, οι αναλυτές επισημαίνουν ότι οι αγορές βρίσκονται αντιμέτωπες με έναν συνδυασμό επιβράδυνσης της ανάπτυξης και επίμονων πληθωριστικών πιέσεων.

Η εικόνα αυτή είναι ιδιαίτερα ανησυχητική για μια οικονομία όπως η ελληνική, η οποία εξακολουθεί να επηρεάζεται σημαντικά από τις διεθνείς τιμές ενέργειας.

Εάν οι γεωπολιτικές εξελίξεις προκαλέσουν νέα άνοδο στις τιμές του πετρελαίου και του φυσικού αερίου, οι επιχειρήσεις και τα νοικοκυριά θα βρεθούν αντιμέτωπα με αυξημένο κόστος.

Παράλληλα, η επιμονή του πληθωρισμού θα μπορούσε να περιορίσει τα περιθώρια νομισματικής χαλάρωσης από την Ευρωπαϊκή Κεντρική Τράπεζα.

Το αποτέλεσμα θα ήταν ένας συνδυασμός υψηλότερου κόστους παραγωγής, περιορισμένης αγοραστικής δύναμης και δυσκολότερης χρηματοδότησης.

4. Οι επενδύσεις, τα data centers και η ελληνική φιλοδοξία για τεχνολογικό κόμβο

Ιδιαίτερο ενδιαφέρον παρουσιάζει και η επίδραση που θα μπορούσε να έχει μια διεθνής διόρθωση στις επενδύσεις τεχνολογικών υποδομών.

Η Ελλάδα επιχειρεί να προσελκύσει κεφάλαια για την ανάπτυξη κέντρων δεδομένων (data centers) και να ενισχύσει τη θέση της ως περιφερειακού κόμβου ψηφιακών υποδομών.

Η στρατηγική αυτή δημιουργεί σημαντικές ευκαιρίες για την προσέλκυση άμεσων ξένων επενδύσεων, την ανάπτυξη υποδομών και τη δημιουργία νέων θέσεων εργασίας.

Ωστόσο, η διεθνής αναταραχή αναδεικνύει και την άλλη πλευρά του εγχειρήματος.

Εάν οι μεγάλοι τεχνολογικοί όμιλοι αποφασίσουν να περιορίσουν ή να μεταθέσουν τα επενδυτικά τους προγράμματα, τα σχέδια που εξαρτώνται από τη διεθνή χρηματοδότηση και τη διαρκώς αυξανόμενη ζήτηση για υπολογιστική ισχύ θα μπορούσαν να καθυστερήσουν.

Επιπλέον, οι επενδύσεις σε data centers δεν εξαρτώνται μόνο από την ύπαρξη κεφαλαίων. Προϋποθέτουν επαρκή ενεργειακή ισχύ, δίκτυα, υδάτινους πόρους και ανταγωνιστικό κόστος λειτουργίας.

Επομένως, η ελληνική στρατηγική δεν μπορεί να βασίζεται μόνο στην προσδοκία ότι η παγκόσμια επενδυτική έκρηξη στην AI θα συνεχιστεί με τους ίδιους ρυθμούς. Χρειάζεται να στηρίζεται σε βιώσιμα επιχειρηματικά σχέδια, πραγματική ζήτηση και εξασφαλισμένη ενεργειακή επάρκεια.

5. Η πραγματική οικονομία, η κατανάλωση και οι εξαγωγές

Ο σημαντικότερος κίνδυνος θα προκύψει εάν η χρηματιστηριακή διόρθωση εξελιχθεί σε γενικευμένη επιβράδυνση της διεθνούς οικονομίας.

Μια υποχώρηση των επενδύσεων στις ΗΠΑ και στις μεγάλες ευρωπαϊκές οικονομίες θα μπορούσε να επηρεάσει τη ζήτηση για ελληνικά προϊόντα και υπηρεσίες.

Παράλληλα, η μείωση του διεθνούς πλούτου, η υποχώρηση της επενδυτικής εμπιστοσύνης και η αυξημένη αβεβαιότητα μπορούν να επηρεάσουν την κατανάλωση, τις επιχειρηματικές αποφάσεις και τον τουρισμό.

Για την Ελλάδα, όπου οι υπηρεσίες, ο τουρισμός και οι επενδύσεις αποτελούν σημαντικούς παράγοντες οικονομικής ανάπτυξης, μια παρατεταμένη διεθνής επιβράδυνση θα μπορούσε να μεταφερθεί σταδιακά στην εγχώρια δραστηριότητα.

Μπορεί μια χρηματιστηριακή διόρθωση να λειτουργήσει τελικά ως ευκαιρία;

Παρά την ένταση των πιέσεων, οι αναλυτές δεν αντιμετωπίζουν όλοι τις τελευταίες εξελίξεις ως προάγγελο μιας αναπόφευκτης παγκόσμιας κρίσης.

Υπάρχει και η διαφορετική ανάγνωση, σύμφωνα με την οποία μια έγκαιρη διόρθωση μπορεί να λειτουργήσει εξυγιαντικά, περιορίζοντας τις υπερβολές και υποχρεώνοντας τις επιχειρήσεις να επαναξιολογήσουν τις επενδυτικές τους προτεραιότητες.

Άλλωστε, η τεχνητή νοημοσύνη δεν παύει να αποτελεί μια τεχνολογία με τεράστιες αναπτυξιακές δυνατότητες.

Το ίδιο το ΔΝΤ, σε άρθρο της γενικής διευθύντριάς του Κρισταλίνα Γκεοργκίεβα τον Οκτώβριο, επισημαίνει ότι η τεχνολογία μπορεί να ενισχύσει σημαντικά την παραγωγικότητα και τη μακροπρόθεσμη ανάπτυξη, υπό την προϋπόθεση ότι οι επιχειρήσεις και οι οικονομίες θα καταφέρουν να αξιοποιήσουν τις δυνατότητές της.

Το ζητούμενο, συνεπώς, δεν είναι να ανακοπεί η τεχνολογική πρόοδος, αλλά να αποκατασταθεί μια πιο ρεαλιστική σχέση μεταξύ επενδύσεων, αποτιμήσεων και πραγματικών οικονομικών αποτελεσμάτων.

Πηγή: news247.gr

Τεχνητή νοημοσύνη εντόπισε κρίσιμες παραλείψεις ασφαλείας σε μια σημαντική γλώσσα προγραμματισμού που ονομάζεται PHP, με αποτέλεσμα να τεθούν εκτός λειτουργίας πολλές ιστοσελίδες. Οργανισμοί παγκοσμίως προσπαθούν να προφυλαχθούν από ενδεχόμενους χάκερ. Καθώς οι γρήγορα αναπτυσσόμενες ικανότητες της τεχνητής νοημοσύνης τροφοδοτούν την ανησυχία για τον αυξανόμενο κίνδυνο κυβερνοεπιθέσεων, εδώ είναι μερικές ερωτήσεις και απαντήσεις σχετικά με την κατάσταση: Τι είναι το PHP και πόσο ευρέως χρησιμοποιείται;

Η PHP, η οποία δημιουργήθηκε στις αρχές της δεκαετίας του 1990, είναι μια γλώσσα προγραμματισμού που υποστηρίζει περίπου το 70% των ιστοτόπων παγκοσμίως. Σύμφωνα με την εταιρεία ασφαλείας Wiz Research, η PHP αποτελεί «τη ραχοκοκαλιά του διαδικτύου». Η εταιρεία ανέφερε ότι χρησιμοποίησε τεχνητή νοημοσύνη για τον εντοπισμό ευπαθειών που παρέμεναν κρυμμένες στην PHP για περισσότερο από μία δεκαετία. Η PHP —όνομα που αρχικά αποτελούσε συντομογραφία του «Personal Home Page» — αποτελεί τη βάση δημοφιλών πλατφορμών σχεδιασμού ιστοτόπων. Αυτό σημαίνει ότι τα εν λόγω κενά ασφαλείας θα μπορούσαν να επιτρέψουν σε χάκερ να παραβιάσουν διάφορους ιστότοπους, από ηλεκτρονικά καταστήματα έως κυβερνητικές υπηρεσίες. Μια διορθωτική ενημέρωση κυκλοφόρησε την Τετάρτη 21/10, με το PHP Foundation να απευθύνει την εξής προτροπή στα τμήματα τεχνολογίας εταιρειών και οργανισμών ανά τον κόσμο: «Εάν χρησιμοποιείτε την PHP, είναι επιβεβλημένο να προχωρήσετε άμεσα σε ενημέρωση».

Αυτό είχε ως αποτέλεσμα μια πληθώρα εφαρμογών και ιστοτόπων —από τον ιστότοπο της αστυνομίας του Παρισιού μέχρι μια εφαρμογή παρακολούθησης του ύπνου— να τεθούν εκτός λειτουργίας, καθώς οι δημιουργοί τους εργάζονται για να προστατεύσουν τον κώδικά τους από παραβιάσεις. Πώς εντόπισε η τεχνητή νοημοσύνη τα κενά ασφαλείας; Προηγμένα μοντέλα τεχνητής νοημοσύνης, όπως αυτά των αμερικανικών κολοσσών OpenAI και Google, χρησιμοποιήθηκαν τον Αύγουστο από τη Wiz και άλλες ομάδες για την αποκάλυψη των ευπαθεισημείων της PHP.

Το ζήτημα κρατήθηκε κρυφό μέχρι να αναπτυχθεί μια λύση. Η OpenAI χαρακτήρισε τις ευπάθειες ως «μία από τις πιο σημαντικές των τελευταίων ετών», προσθέτοντας ότι αυτό «σηματοδοτεί μια νέα φάση, κατά την οποία η τεχνητή νοημοσύνη μπορεί να εντοπίσει σφάλματα ασφαλείας με αντίκτυπο σε κλίμακα διαδικτύου». Ανεξάρτητα από τη Wiz, η εταιρεία ασφαλείας Calif εντόπισε τις ευπάθειες στο πλαίσιο ενός ελέγχου του κώδικα της PHP, ο οποίος χρηματοδοτήθηκε από την OpenAI. «Το πρόβλημα με εργαλεία όπως η τεχνητή νοημοσύνη είναι ότι, τη στιγμή που όλες οι πληροφορίες γίνονται διαθέσιμες, οι άνθρωποι μπορούν να τις μετατρέψουν σε όπλο πολύ, πολύ γρήγορα», δήλωσε στο AFP ο Στιβ Κέρισον, ανώτερος λέκτορας κυβερνοασφάλειας στο Πανεπιστήμιο James Cook της Σιγκαπούρης.

«Γι' αυτόν τον λόγο όλοι ενεργούν με τόση επείγουσα διάθεση για την αντιμετώπιση αυτού του ζητήματος». Έχουν ήδη παραβιαστεί ιστοτόποι; «Το να τεθούν οι ιστοτόποι εκτός λειτουργίας δεν σημαίνει απαραίτητα ότι έχουν παραβιαστεί. Μπορεί να αποτελεί ένα υπεύθυνο μέτρο για την προστασία των συστημάτων, ενόσω εφαρμόζονται ενημερώσεις ασφαλείας», δήλωσε ο Δημήτριος Σαλαμπάσης από το Τεχνολογικό Πανεπιστήμιο Swinburne της Αυστραλίας.

Μέχρι στιγμής «τα στοιχεία που βλέπουν οι ερευνητές ασφαλείας είναι ότι κανείς δεν εκτελούσε ενεργά επιθέσεις χρησιμοποιώντας τις διαθέσιμες τεχνικές», είπε ο Κέρισον. Οι μεγαλύτεροι οργανισμοί, από κυβερνητικές υπηρεσίες έως ειδησεογραφικά μέσα, αναμένεται να μπορέσουν να αποκαταστήσουν σχετικά γρήγορα τα προβλήματα ασφαλείας στις ιστοσελίδες τους, ωστόσο άλλοι ενδέχεται να παραμείνουν εκτεθειμένοι σε κινδύνους. «Υπάρχουν ιστότοποι, συστήματα και χρήστες που δεν έχουν ιδέα τι συμβαίνει και μπορεί να χρειαστούν ημέρες, εβδομάδες ή ακόμη και μήνες μέχρι να ενημερωθούν», προειδοποίησε ο Κέρισον. Στις περιπτώσεις αυτές περιλαμβάνονται και προσωπικά ιστολόγια, τα οποία θα μπορούσαν να αξιοποιηθούν για τη διάδοση ιών, την αποστολή ανεπιθύμητων μηνυμάτων (spam) ή τη διανομή κακόβουλου περιεχομένου.

Θα μπορούσαν να υπάρξουν άλλες συνέπειες; Μια παραβίαση δεδομένων ενδέχεται να επηρεάσει τους πελάτες στο μέλλον, εάν τα προσωπικά τους στοιχεία χρησιμοποιηθούν σε επιθέσεις τύπου «phishing» (ηλεκτρονικό ψάρεμα), κατά τις οποίες κάποιος παραπλανάται ώστε να αποκαλύψει τον κωδικό πρόσβασής του σε μια διαδικτυακή υπηρεσία. Η σύνθετη και διασυνδεδεμένη φύση των διαδικτυακών συστημάτων —τα οποία συχνά αξιοποιούν διεπαφές τρίτων— σημαίνει ότι ορισμένες ευπάθειες ενδέχεται να παραμείνουν, ακόμη και μετά την αποκατάσταση του προβλήματος.

«Εάν οι τρίτοι συνεργάτες σας χρησιμοποιούν PHP, τότε, ακόμη κι αν έχετε διορθώσει τα δικά σας συστήματα, εξακολουθείτε να μην είστε ασφαλείς», δήλωσε ο Ραχάτ Μασούντ, ανώτερος λέκτορας κυβερνοασφάλειας στο Πανεπιστήμιο της Νέας Νότιας Ουαλίας στο Σίδνεϊ. Ωστόσο, η PHP δεν αποτελεί τη μοναδική παράμετρο που πρέπει να λαμβάνεται υπόψη. Όπως επισήμανε ο Κέρισον, μια αποτελεσματική στρατηγική κυβερνοασφάλειας πρέπει να βασίζεται σε πολλαπλά και αλληλοσυμπληρούμενα επίπεδα προστασίας.

Πηγή: afp.com

Μικρά μοντέλα τεχνητής νοημοσύνης ενδέχεται σύντομα να αρχίσουν να αυτοαναπαράγονται σε καθημερινές συσκευές καταναλωτών, όπως έξυπνες τηλεοράσεις και ψυγεία, χωρίς να χρειάζονται κέντρο δεδομένων, σύμφωνα με ερευνητές της Anthropic, ενός από τους μεγαλύτερους «παίκτες» στον τομέα της τεχνητής νοημοσύνης.

Σε έκθεση που δημοσιεύθηκε τη Δευτέρα (12/10), οι ερευνητές ανέφεραν ότι τα μικρά μοντέλα τεχνητής νοημοσύνης «ενδέχεται να απέχουν μόλις λίγους μήνες από το να αποκτήσουν επαρκείς δυνατότητες», ώστε να μπορούν να αντιγράφουν τον εαυτό τους σε συσκευές του Διαδικτύου των Πραγμάτων (IoT), οι οποίες χρησιμοποιούνται σε σπίτια και μικρές επιχειρήσεις.

Σύμφωνα με το Al Jazeera, η ομάδα frontier red team της Anthropic, η οποία πραγματοποίησε πειράματα με τη χρήση πολλαπλών μοντέλων τεχνητής νοημοσύνης που αναπτύχθηκαν στις ΗΠΑ και την Κίνα, προειδοποίησε ότι θα ήταν «δύσκολο να τερματιστεί η λειτουργία» μιας τέτοιας αυτοαναπαραγόμενης τεχνητής νοημοσύνης, καθώς δεν θα υπήρχε ένας κεντρικός υπολογιστής που να τη φιλοξενεί.

Τα κέντρα δεδομένων θα αποτελούσαν «έναν προφανή στόχο υψηλής αξίας» για τα «σκουλήκια» τεχνητής νοημοσύνης (AI worms, νέα μορφή κακόβουλου λογισμικού). Ωστόσο, σύμφωνα με την ερευνητική ομάδα, σύντομα θα μπορούσαν να παρέχουν επαρκή υπολογιστική ισχύ για αυτοαναπαραγωγή και συσκευές συνδεδεμένες στο Διαδίκτυο, όπως έξυπνες τηλεοράσεις, ψυγεία, φούρνοι και μηχανές του γκαζόν.

Ως το τέλος του έτους τέτοια μοντέλα

Παρότι κανένα από τα σημερινά μοντέλα τεχνητής νοημοσύνης που δοκιμάστηκαν δεν αποδείχθηκε ταυτόχρονα αρκετά ισχυρό και αρκετά μικρό ώστε να αυτοαναπαράγεται αξιόπιστα σε μια έξυπνη τηλεόραση, οι ερευνητές εκτιμούν ότι οι τάσεις στην ανάπτυξη της τεχνολογίας καθιστούν πιθανή την εμφάνιση ενός τέτοιου μοντέλου έως το τέλος του 2026.

«Οι συσκευές IoT που χρησιμοποιούνται σε σπίτια και μικρές επιχειρήσεις ενδέχεται να αποτελέσουν τους πρώτους στόχους τέτοιων επιθέσεων, καθώς είναι συνδεδεμένες στο Διαδίκτυο και, συνήθως, διαθέτουν ελάχιστα μέτρα ασφαλείας», ανέφεραν οι ερευνητές Γουίλιαμ Ζου και Ντάνιελ Φρίμαν.

Οι ερευνητές δήλωσαν ότι αναμένουν ένα μέλλον «κατακλυσμένο από πράκτορες τεχνητής νοημοσύνης που θα λειτουργούν σε κάθε είδους υλισμικό», συμπεριλαμβανομένων ορισμένων που «δεν θα βρίσκονται υπό τον έλεγχο ανθρώπων». «Παρότι είναι αλήθεια ότι οι συσκευές IoT είναι ευάλωτες εδώ και πολύ καιρό, οι ελαφριοί πράκτορες τεχνητής νοημοσύνης ενδέχεται να είναι πολύ πιο πρόθυμοι από τους ανθρώπους να καταβάλουν την προσπάθεια που απαιτείται για να θέσουν υπό τον έλεγχό τους μεγάλα τμήματα της παγκόσμιας υπολογιστικής ισχύος των συσκευών IoT», ανέφεραν.

Συνεχίζονται οι φόβοι και οι αγωνίες για την ΑΙ

Η έκθεση της Anthropic δημοσιεύεται σε μια περίοδο κατά την οποία εξετάζονται εντατικά οι κίνδυνοι να ξεφύγει η τεχνητή νοημοσύνη από τον ανθρώπινο έλεγχο, έπειτα από σειρά περιστατικών στα οποία μοντέλα προχώρησαν σε μη εγκεκριμένες και επιβλαβείς ενέργειες, μεταξύ των οποίων και κυβερνοεπιθέσεις.

Η Anthropic και ο βασικός ανταγωνιστής της, OpenAI, έχουν καλέσει τη διεθνή κοινότητα να συντονίσει μια επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης, προκειμένου να περιοριστούν οι καταστροφικοί κίνδυνοι. Η πρόταση αυτή, ωστόσο, έχει συναντήσει περιορισμένη υποστήριξη από τις ΗΠΑ και την Κίνα, τις δύο κορυφαίες δυνάμεις στον τομέα της τεχνητής νοημοσύνης.

Πολλοί υποστηρικτές της ασφάλειας της τεχνητής νοημοσύνης θεωρούν την αναδρομική αυτοβελτίωση (recursive self-improvement), κατά την οποία τα μοντέλα μαθαίνουν να βελτιώνουν τον ίδιο τους τον εαυτό, ένα κρίσιμο σημείο καμπής που θα μπορούσε να οδηγήσει σε καταστροφικές συνέπειες για την ανθρωπότητα.

Ο Ρόμαν Β. Γιαμπόλσκι, ειδικός στην τεχνητή νοημοσύνη και την κυβερνοασφάλεια στο Πανεπιστήμιο του Λούισβιλ, χαρακτήρισε τα ευρήματα της Anthropic σημαντική εξέλιξη. «Τα σκουλήκια υπολογιστών δεν είναι κάτι καινούργιο, αλλά ένα AI worm θα μπορούσε να κάνει κάτι που το παραδοσιακό κακόβουλο λογισμικό δεν μπορεί: να συλλογίζεται για άγνωστες συσκευές, να προσαρμόζεται όταν η προσέγγισή του αποτυγχάνει και να συνεχίζει να εξαπλώνεται χωρίς ανθρώπινο χειριστή», δήλωσε.

«Σήμερα, αυτό δεν αποτελεί υπαρξιακή απειλή. Ωστόσο, η πορεία των εξελίξεων προκαλεί ανησυχία. Όταν η αυτόνομη αναπαραγωγή συνδυαστεί με ισχυρές δυνατότητες παραβίασης συστημάτων, διατήρησης της παρουσίας του στο δίκτυο και στρατηγικού συλλογισμού, η διακοπή λειτουργίας ενός τέτοιου συστήματος θα γίνει πολύ δυσκολότερη, καθώς ενδέχεται να μην υπάρχει ένας μοναδικός διακομιστής ή οργανισμός που να το ελέγχει».

Η δουλειά της Anthropic για την ασφάλεια

Τον περασμένο μήνα, η Anthropic και άλλες κορυφαίες αμερικανικές εταιρείες τεχνολογίας προσχώρησαν σε μια μη δεσμευτική συμφωνία, με την οποία δεσμεύτηκαν να ενισχύσουν τις εσωτερικές δικλίδες ασφαλείας και να συνεργαστούν με εξωτερικούς ελεγκτές. Η συμφωνία προκάλεσε ανάμεικτες αντιδράσεις από ειδικούς, πολλοί από τους οποίους επέκριναν τον εθελοντικό χαρακτήρα της.

Σε ξεχωριστή ανακοίνωση τη Δευτέρα (12/10), η Anthropic ανέφερε ότι έχει σημειώσει σημαντική πρόοδο στην αποτροπή των λεγόμενων επιθέσεων απόσταξης (distillation attacks), οι οποίες περιλαμβάνουν τη μη εγκεκριμένη χρήση προηγμένων μοντέλων τεχνητής νοημοσύνης για την εκπαίδευση φθηνότερων και λιγότερο ικανών μοντέλων.

Η εταιρεία με έδρα το Σαν Φρανσίσκο, η οποία έχει κατηγορήσει τους κινεζικούς ανταγωνιστές της DeepSeek, Moonshot και MiniMax ότι επιδίδονται σε προσπάθειες αντιγραφής του Claude «σε βιομηχανική κλίμακα», δήλωσε ότι τα μέτρα που εισήγαγε έχουν περιορίσει κατά 90% έως 99% την παράνομη εξαγωγή δεδομένων.

Ο νέος προσωπικός βοηθός της Meta, ο Muse, έχει γίνει Viral και ακούγεται σαν ένα τέλειο εργαλείο. Το κατεβάζεις και αυτό σου οργανώνει τα πάντα. Τράπεζες, μηνύματα, δεδομένα υγείας, εργασίες. Τα πάντα όλα.

Όταν λέμε τα πάντα όλα, εννοούμε τα πάντα όλα.

Καθώς το εργαλείο τεχνητής νοημοσύνης κερδίζει έδαφος ανάμεσα στους χρήστες, τα δεδομένα που προέρχονται από το εσωτερικό της εφαρμογής αποκαλύπτουν πώς οργανώνει και παρουσιάζει τις πληροφορίες σε αυτούς που το προτιμούν.

Τα δεδομένα αυτά αποκαλύπτουν ότι ο Muse όχι απλώς θυμάται τι του λες. Αλλά έχει σχεδιαστεί έτσι ώστε να σχηματίζει ένα ολοκληρωμένο προφίλ για τις προσωπικές σου σχέσεις και τους ανθρώπους της ζωής σου.

Αρκετοί ερευνητές άντλησαν εσωτερικά αρχεία και δημοσιοποίησαν τις οδηγίες λειτουργίας του AI agent, προσφέροντας μια εικόνα για τον τρόπο με τον οποίο κατασκευάστηκε το σύστημα και για το πώς συμπεριφέρεται. Η Meta υποστηρίζει ότι εξαρχής είχε σκοπό να είναι προσβάσιμα αυτά τα αρχεία, στο πλαίσιο της διαφάνειας. Τα αρχεία πράγματι αποκαλύπτουν πώς ανταποκρίνεται ο Muse σε προτροπές και ερωτήματα, για παράδειγμα σχετικά με ιδιαίτερα πολιτικοποιημένα ή ευαίσθητα θέματα.

Ξέρει εσένα, την οικογένειά σου, τους φίλους σου. Γενικά, τα πάντα

Ο ανεξάρτητος ερευνητής ασφάλειας και προστασίας της τεχνητής νοημοσύνης Κάραν Τζόσι κατάφερε να εξαγάγει ένα μεγάλο σύνολο οδηγιών και εντολών συστήματος του Muse, χρησιμοποιώντας την κανονική διεπαφή συνομιλίας για να ζητήσει ουσιαστικά από τον ίδιο τον Muse να αντιγράψει και να κοινοποιήσει τα αρχεία λογισμικού του.

Μετά, μοιράστηκε με το WIRED αυτά τα ευρήματα.

Σε μια από τις οδηγίες, φαίνεται να προβλέπεται η δυνατότητά να δημιουργεί «μια σελίδα για κάθε άνθρωπο στη ζωή του χρήστη».

Αύμφωνα με τις οδηγίες, η διαδικασία αυτή πραγματοποιείται κάθε ώρα και περιλαμβάνει τη συγκέντρωση δεδομένων για μέλη της οικογένειας, συντρόφους, φίλους, συναδέλφους, «συνεργάτες» και άτομα που ο χρήστης «ακολουθεί».

Η γενική ιδέα είναι ότι ο Muse μπορεί να χρησιμοποιεί τη «μνήμη» του -δηλαδή δομημένα αρχεία κειμένου- για να συγκεντρώνει πληροφορίες σχετικά με τις σχέσεις και τους σημαντικούς ανθρώπους στη ζωή σου.

Στη συνέχεια, μπορεί να κάνει προτάσεις, όπως να σου δώσει συμβουλές για το πώς να βελτιώσεις μια συγκεκριμένη σχέση ή, για παράδειγμα, να σου προτείνει πού να πας για πρωινό με έναν φίλο που λατρεύει τον καφέ.

«Προσπαθούν να σε γνωρίσουν όπως θα σε γνώριζε ένας φίλος»

Δεν είναι καθόλου ασυνήθιστο για chatbots τεχνητής νοημοσύνης να συγκρατούν πληροφορίες για τις κοινωνικές σχέσεις των χρηστών, οι οποίο συχνά στρέφονται στο ChatGPT για συμβουλές.

Μιλώντας για τη Meta, ωστόσο, δεν μπορούμε παρά να θυμηθούμε το παρελθόν της, αλλά και την τεράστια πρόσβασή της σε δεδομένα ανθρώπων -αφού μιλάμε για μια από τις πιο δημοφιλείς εταιρείες social media.

«Αυτό που κατάλαβα από όλες αυτές τις προτροπές, τις πληροφορίες σχετικά με τις λειτουργίες του συστήματος και τα υπόλοιπα δεδομένα που τροφοδοτούν τον Muse είναι ότι θέλουν να κατανοήσουν τις σχέσεις που έχεις με πραγματικούς ανθρώπους», λέει ο Τζόσι. «Προσπαθούν να σε γνωρίσουν όπως θα σε γνώριζε ένας φίλος, κάτι που, ειλικρινά, είναι αρκετά ανατριχιαστικό».

«Πού ζουν, με τι ασχολούνται, ποια θέματα επανέρχονται συχνά»

Σύμφωνα με την τεκμηρίωση του Muse, μια τέτοια σελίδα μπορεί αρχικά να περιέχει ελάχιστες πληροφορίες και να εμπλουτίζεται σταδιακά. Ενδέχεται να περιλαμβάνει ενότητες όπως «Γεγονότα», «Ιστορικό», «Η σχέση», «Κοινά στοιχεία», «Ανοιχτά θέματα» και «Ενίσχυση της σχέσης».

Οι οδηγίες της Meta αναφέρουν ότι ο Muse πρέπει να χρησιμοποιεί μόνο τα «στοιχεία» που έχει στη διάθεσή του και ότι η επινόηση πληροφοριών είναι χειρότερη από το να αφήνει μια σελίδα κενή.

«Πού ζουν, με τι ασχολούνται, ποια θέματα επανέρχονται συχνά -όπως η μετακόμιση σε διαμέρισμα ή ο κοινός στόχος αποταμίευσης», αναφέρουν οι οδηγίες. Προσθέτουν ότι το μοντέλο μπορεί επίσης να καταγράφει «ημερομηνίες που έχουν σημασία», όπως γενέθλια ή επετείους.

Το ιστορικό ενός ανθρώπου θα μπορούσε να περιλαμβάνει πληροφορίες για γεγονότα του παρελθόντος, όπως «το ταξίδι τον Μάρτιο, τον καβγά που επιλύθηκε ή το σημαντικό γεγονός της προηγούμενης εβδομάδας».

Οι οδηγίες εστιάζουν επίσης στην καταγραφή λεπτομερειών για τις σχέσεις, όπως «πόσο στενή είναι η σχέση, σε τι βασίζεται, πώς συμπεριφέρονται μεταξύ τους οι άνθρωποι και τι φαίνεται να χρειάζεται αυτή τη στιγμή».

Η ενότητα «Ενίσχυση της σχέσης» προτείνει τρόπους με τους οποίους θα μπορούσε να βελτιωθεί μια σχέση. Σε αυτούς περιλαμβάνονται «ένας λόγος για να τηλεφωνήσεις, μια ημερομηνία που αξίζει να θυμάσαι, κάτι που είπε ο άλλος και στο οποίο αξίζει να επανέλθεις ή ένας ουσιαστικός τρόπος να του συμπαρασταθείς».

Μπορούν να συμπεράνουν πράγματα για εμάς

«Δίνουμε στα συστήματα τεχνητής νοημοσύνης πολύ περισσότερες πληροφορίες για εμάς απ’ όσες λαμβάνουμε εμείς από εκείνα», λέει η Καρίσα Βέλιζ, αναπληρώτρια καθηγήτρια στο Ινστιτούτο Δεοντολογίας της Τεχνητής Νοημοσύνης του Πανεπιστημίου της Οξφόρδης.

«Δεν πρόκειται μόνο για όσα τους λέμε ρητά, αλλά και για όσα μπορούν να συμπεράνουν για εμάς -σωστά ή λανθασμένα, με διαφορετικούς λόγους ανησυχίας σε κάθε περίπτωση- καθώς και για όσα μπορούν να συνδυάσουν από άλλες πηγές δεδομένων», προσθέτει.

Ο Muse έχει σχεδιαστεί έτσι ώστε κάθε χρήστης να διαθέτει τη δική του αποκλειστική εικονική μηχανή, στην οποία αποθηκεύονται τα δεδομένα και το πλαίσιο πληροφοριών που τον αφορούν.

Αυτή η εικονική μηχανή δεν είναι προσβάσιμη από άλλους AI agents, ενώ οι χρήστες μπορούν ανά πάσα στιγμή να διαγράψουν τις αποθηκευμένες μνήμες ή να αποσυνδέσουν εξωτερικές υπηρεσίες.

Η Meta αναφέρει επίσης ότι ο Muse έχει σχεδιαστεί ώστε να ζητά την επιβεβαίωση του χρήστη πριν ολοκληρώσει ενέργειες όπως η αποστολή ενός email ή η πραγματοποίηση μιας αγοράς. Διαθέτει, ακόμη, αρχείο καταγραφής ελέγχου, στο οποίο οι χρήστες μπορούν να βλέπουν όλες τις ενέργειες του agent, καθώς και τις μελλοντικές του προθέσεις.

Από πού αντλεί τα στοιχεία

«Για να είναι πραγματικά χρήσιμος ένας AI agent και να σε βοηθά να πετυχαίνεις τους στόχους σου, χρειάζεται να έχει πληροφορίες για εσένα και για τους ανθρώπους με τους οποίους αλληλεπιδράς», δήλωσε στο WIRED ο Ντάνιελ Ρόμπερτσ, εκπρόσωπος της Meta.

«Sυγκεντρώνει αυτές τις πληροφορίες από δημόσια διαθέσιμα στοιχεία και από όσα έχεις επιλέξει να μοιραστείς μαζί του. Έτσι, μπορεί να θυμάται ότι το άτομο που σου έστειλε ένα τιμολόγιο είναι στην πραγματικότητα ο υδραυλικός που είχες προσλάβει παλαιότερα για εργασίες στο μπάνιο σου ή ποια λουλούδια είχε πει ο/η σύζυγός σου ότι του/της αρέσουν περισσότερο», συμπλήρωσε.

Η Μιράντα Μπόγκεν, διευθύντρια του Εργαστηρίου Διακυβέρνησης της Τεχνητής Νοημοσύνης στο Κέντρο για τη Δημοκρατία και την Τεχνολογία, λέει ότι ο Muse φαίνεται να δίνει μεγαλύτερη έμφαση στις προσωπικές σχέσεις και στις επαφές των χρηστών σε σύγκριση με τα συστήματα ανταγωνιστών.

Γενικά, αυτά τα εργαλεία προσφέρουν σε κάποιο βαθμό διαφάνεια και δυνατότητες επεξεργασίας των δεδομένων, και ο Muse διαθέτει επίσης τέτοιες δυνατότητες. Ωστόσο, η ίδια επισημαίνει ότι οι AI agents και οι ψηφιακοί βοηθοί ενθαρρύνουν τους ανθρώπους να μοιράζονται προληπτικά περισσότερα δεδομένα μαζί τους, αντί να δίνουν έμφαση στον περιορισμό των πληροφοριών που συλλέγονται.

«Αυτά τα εργαλεία τεχνητής νοημοσύνης ενθαρρύνουν ενεργά τους χρήστες να συνδέσουν ολόκληρη τη ζωή τους σε αυτά -τα email τους, τα ημερολόγιά τους, τα χρηματοπιστωτικά τους ιδρύματα, τα πάντα- ώστε να μπορούν να τους εξυπηρετούν αποτελεσματικά», λέει η Bogen.

«Πρόκειται για δραματικά μεγαλύτερο όγκο πληροφοριών από εκείνον που ενδεχομένως θα είχαν δώσει διαφορετικά οι άνθρωποι σε ορισμένες από αυτές τις εταιρείες. Το εύρος της πρόσβασης που διαθέτουν αυτά τα εργαλεία στις πληροφορίες θα οδηγήσει σε εκθετική αύξηση όσων γνωρίζουν για τους χρήστες».

Η OpenAI δήλωσε πως ειδοποίησε «δεκάδες» οργανισμούς παγκοσμίως πως οι ιστοσελίδες τους ενδέχεται να είχαν παραβιαστεί από τα ρομπότ τεχνητής νοημοσύνης της, τα οποία ενεργούσαν με ακατάλληλο τρόπο.

Όπως ενημέρωσε η εταιρεία, πράκτορες τεχνητής νοημοσύνης (AI Agents) επιχείρησαν να αντλήσουν πληροφορίες από «κυβερνήσεις, πανεπιστήμια, δημόσιες υπηρεσίες και άλλους οργανισμούς», μεταξύ των οποίων η Επιτροπή Κεφαλαιαγοράς των ΗΠΑ (SEC), το Γραφείο Απογραφής και το Υπουργείο Παιδείας, ανέφερε η εταιρεία.

Η αποκάλυψη αυτή έρχεται λίγες μέρες αφότου ο πρωθυπουργός της Αυστραλίας Άντονι Αλμπανέζε ανακοίνωσε ότι AI Agents της OpenAI είχαν αποκτήσει πρόσβαση σε μη δημόσια αρχεία στην ιστοσελίδα του κρατικού συστήματος υγειονομικής περίθαλψης της χώρας.

Ταυτόχρονα, η εταιρεία με επικεφαλής τον Σαμ Άλτμαν, πρόσθεσε ότι ορισμένα από τα δεδομένα αποκτήθηκαν από πράκτορες τεχνητής νοημοσύνης, δηλαδή ουσιαστικά ρομπότ που έχουν σχεδιαστεί και εκπαιδευτεί ώστε να λειτουργούν σε κάποιο βαθμό αυτόνομα, και τα οποία εργάζονταν για να εντοπίσουν «έγκυρες πηγές δημόσιας πληροφόρησης».

Πήραν δεδομένα και τα δημοσίευσαν σε άλλη σελίδα

Ωστόσο, η OpenAI σημείωσε ότι ορισμένα από τα ρομπότ προχώρησαν πέρα από αυτό και εργάστηκαν για να παρακάμψουν μέτρα ασφαλείας σε ιστοσελίδες.

Όταν, για παράδειγμα, επιχείρησαν να αντλήσουν πληροφορίες από το Γραφείο Απογραφής, πράκτορες τεχνητής νοημοσύνης χρησιμοποίησαν εργαλεία που προορίζονται για προγραμματιστές λογισμικού προκειμένου να αποκτήσουν πρόσβαση, ανέφερε η εταιρεία. Τα κυβερνητικά δεδομένα στα οποία απέκτησαν πρόσβαση τα ρομπότ ήταν δημόσια, εξήγησε ο τεχνολογικός κολοσσός. 

Ωστόσο, πληροφορίες στις οποίες απέκτησαν πρόσβαση τα ρομπότ της από την SEC, η οποία ρυθμίζει τη χρηματιστηριακή αγορά των ΗΠΑ και προστατεύει τους επενδυτές, δημοσιεύτηκαν αργότερα από πράκτορες τεχνητής νοημοσύνης σε άλλη ιστοσελίδα. Η OpenAI αναφέρει ότι αυτή η ενέργεια δεν ήταν σκόπιμη.

Σε άλλες περιπτώσεις που αποκάλυψε η OpenAI την Παρασκευή, οι πράκτορές της μετέφεραν δεδομένα ενώ δεν θα έπρεπε να το είχαν κάνει.

«Αυτή δεν είναι η κατάλληλη χρήση αυτών των δεδομένων»

Αυτή η δραστηριότητα είχε ως αποτέλεσμα τουλάχιστον 53 περιστατικά στα οποία ένας πράκτορας της OpenAI πήρε μια εικόνα από τη δραστηριότητα χρηστών του ChatGPT και τη μετέφερε αλλού, όπως μετέδωσε το BBC.

Η εταιρεία δήλωσε ότι σε κάθε περίπτωση όπου μια εικόνα χρήστη χρησιμοποιήθηκε και μεταφέρθηκε από έναν πράκτορα τεχνητής νοημοσύνης, ο χρήστης είχε επιλέξει να επιτρέψει στην OpenAI να εκπαιδεύει μοντέλα χρησιμοποιώντας τα δεδομένα του.

Παρόλα αυτά, η OpenAI παραδέχθηκε: «Αυτή δεν είναι η κατάλληλη χρήση αυτών των δεδομένων».

Πρόσθεσε ότι η διαρροή εικόνων χρηστών συνέβη πριν θέσει σε εφαρμογή νέες δικλείδες ασφαλείας για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης και ότι εργαζόταν για να αφαιρεθούν όλες οι εικόνες χρηστών που είχαν μεταφερθεί σε οποιονδήποτε τρίτο.

Σε ορισμένες περιπτώσεις δραστηριότητας των πρακτόρων, η OpenAI δήλωσε ότι τα εργαλεία «παρέκαμψαν» τους ελέγχους ασφαλείας ορισμένων ιστοσελίδων.

Σε άλλες περιπτώσεις, οι πράκτορες τεχνητής νοημοσύνης παρουσίασαν «ασυμφωνία ευθυγράμμισης» (misalignment) στην προσπάθειά τους να αποκτήσουν πληροφορίες από ιστοσελίδες. Το misalignment είναι ένας όρος που χρησιμοποιείται από εταιρείες τεχνητής νοημοσύνης και ερευνητές για να περιγράψει περιπτώσεις όπου ένα εργαλείο τεχνητής νοημοσύνης έκανε κάτι για το οποίο δεν είχε εκπαιδευτεί ή κάτι που δεν ήταν με άλλο τρόπο επιθυμητό.

Η OpenAI δήλωσε ότι περιορίζει τον προσδιορισμό των οργανισμών που επηρεάστηκαν, επειδή πολλοί από αυτούς είχαν ζητήσει από την εταιρεία να μην αποκαλύψει λεπτομέρειες.

«Στόχος μας είναι να δώσουμε σε κάθε οργανισμό τα γεγονότα και να αφήσουμε σε εκείνον την απόφαση για το αν και πότε θα δημοσιοποιήσει το περιστατικό», ανέφερε.

Ταυτόχρονα, εξήγησε ότι δεν θεωρούνταν όλες οι περιπτώσεις που σχετίζονται με αυτό το περιστατικό σημαντική παραβίαση ασφαλείας.

Η εταιρεία δήλωσε ότι πολλά από τα περιστατικά αναφέρονται ως «agent spam», το οποίο περιέγραψε ως «απροσδόκητη ή ανησυχητική» δραστηριότητα πρακτόρων τεχνητής νοημοσύνης, όπως η ανάρτηση πληροφοριών στο διαδίκτυο.

Συναγερμός σήμανε στην Αυστραλία μετά την αποκάλυψη του πρωθυπουργού Άντονι Αλμπανέζε στο περιθώριο της ΓΣ του ΟΗΕ για παραβίασε της ιστοσελίδας της Medicare από AI πράκτορα (AI agent).

Το περιστατικό αποκαλύπτεται τώρα καθώς όπως ανέφερε «χρειάστηκε να περιμένουμε έως τις 10 Σεπτεμβρίου για ενημέρωση» και πως «οι έρευνες για το περιστατικό συνεχίζονται». Ο πρωθυπουργός της Αυστραλίας εξέφρασε επίσης «την ανησυχία τους για το συμβάν».

Ο πράκτορας της OpenAI «χάκαρε» την ιστοσελίδα ασφάλισης υγείας Medicare και απέκτησε πρόσβαση σε δημόσια και μη στατιστικά αρχεία, στο πλαίσιο έρευνας για τις δημόσιες δαπάνες υγείας.

Παράλληλα, ο Αλμπανέζε δήλωσε ότι από τη δραστηριότητα του AI Agent είναι πιθανό να επηρεάστηκαν άλλες τρεις κυβερνητικές ιστοσελίδες που σχετίζονται με τη δημόσια υγεία.

Η OpenAI παραδέχθηκε ότι πράκτορές της είχαν «ασυνήθιστη δραστηριότητα» σε πολλούς κυβερνητικούς ιστοτόπους της Αυστραλίας. «Εντοπίσαμε δραστηριότητα που αφορούσε διάφορους κυβερνητικές ιστοσελίδες και υπηρεσίες της Αυστραλίας, κατά την οποία τα μοντέλα μας επιχειρούσαν να αντλήσουν απαντήσεις. Κατά τη διαδικασία αυτή τα μοντέλα μας προέβησαν σε ενέργειες που δεν είχαμε προβλέψει. Δεν εντοπίστηκαν ενδείξεις πρόσβασης σε ιατρικούς φακέλους ασθενών», αναφέρει σχετική ενημέρωση της εταιρείας που αναρτήθηκε στο AFP.

Ερευνητές κυβερνοασφάλειας παραβίασαν συστήματα της OpenAI χρησιμοποιώντας λογισμικό της βασικής ανταγωνίστριάς της, Anthropic, αναδεικνύοντας ευπάθειες στην ασφάλεια της εταιρείας που δημιούργησε το ChatGPT, την ώρα που οι κορυφαίες εταιρείες τεχνητής νοημοσύνης βρίσκονται αντιμέτωπες με αυξανόμενο έλεγχο για ζητήματα ασφάλειας.

Μια μικρή ομάδα κυβερνοασφάλειας απέκτησε πρόσβαση στον λογαριασμό ChatGPT ενός εργαζομένου της OpenAI, γεγονός που της επέτρεψε να διαβάσει ιδιωτικές πληροφορίες σχετικά με λογισμικό και να προτείνει αλλαγές.

Συγκεκριμένα, όπως αναφέρουν οι Financial Times, οι ερευνητές είχαν αποκτήσει πρόσβαση σε ένα εργαλείο της Anthropic, ειδικά σχεδιασμένο για επαγγελματίες της ασφάλειας, και πληρώθηκαν για την εργασία τους στο πλαίσιο ενός προγράμματος εντοπισμού ευπαθειών προτού αυτές μπορέσουν να αξιοποιηθούν από κακόβουλους παράγοντες.

Η δυνατότητά τους να παραβιάσουν γρήγορα ένα από τα δύο κορυφαία εργαστήρια τεχνητής νοημοσύνης στον κόσμο εγείρει εκ νέου ανησυχίες για την ασφάλεια της OpenAI, εν μέσω αυξανόμενων φόβων ότι ισχυρά μοντέλα μπορούν να χρησιμοποιηθούν από χάκερ και ξένους αντιπάλους.

Τους τελευταίους μήνες, οι ΗΠΑ προσπαθούν να διαχειριστούν τον έλεγχο και τη διάθεση των πιο πρόσφατων μοντέλων, φτάνοντας ακόμη και στο σημείο να μπλοκάρουν προσωρινά ορισμένα εργαλεία της Anthropic.

Το τελευταίο περιστατικό σημειώθηκε μόλις δύο εβδομάδες αφότου ένα σμήνος περισσότερων από 1.000 agents της OpenAI ξέφυγε από ένα δοκιμαστικό περιβάλλον και παραβίασε τη start-up Hugging Face, γεγονός που προκάλεσε ευρεία ανησυχία για την ικανότητα της τεχνητής νοημοσύνης να πραγματοποιεί αυτόνομα κυβερνοεπιθέσεις, χωρίς ανθρώπινη πρόθεση.

Οι τρεις ερευνητές της Hacktron AI, μιας μικρής εταιρείας κυβερνοασφάλειας, έλαβαν 6.500 δολάρια από την OpenAI στο πλαίσιο ενός προγράμματος bug bounty, μιας συνηθισμένης πρακτικής κατά την οποία οι τεχνολογικές εταιρείες πληρώνουν ηθικούς χάκερ για να δοκιμάζουν την ασφάλειά τους.

Εκμεταλλεύτηκαν ένα κενό ασφαλείας στη διαμόρφωση του φόρουμ κοινότητας της OpenAI, το οποίο φιλοξενείται από τρίτο πάροχο, τη Discourse, και το χρησιμοποίησαν για να αποκτήσουν πρόσβαση σε εσωτερικά συστήματα σύνδεσης και, τελικά, στον λογαριασμό ChatGPT ενός εργαζομένου της OpenAI. Ο συγκεκριμένος λογαριασμός ChatGPT είχε πρόσβαση σε εσωτερικό κώδικα μέσω του GitHub.

«Ευχαριστούμε τους ερευνητές που επικοινώνησαν μαζί μας και μοιράστηκαν τα ευρήματά τους», ανέφερε η OpenAI, προσθέτοντας ότι διόρθωσε τα ζητήματα. Η Anthropic αρνήθηκε να σχολιάσει. Η Hacktron δεν απάντησε άμεσα.

Η αποκάλυψη της Πέμπτης (17/9), την οποία μετέδωσε πρώτη η Wall Street Journal, έγινε την ώρα που η Anthropic δημοσίευσε ένα νέο σύνολο δεδομένων, το οποίο έδειξε ταχεία αύξηση στον βαθμό στον οποίο το εργαστήριο χρησιμοποιούσε τεχνητή νοημοσύνη για την ανάπτυξη των νέων μοντέλων του.

Η εταιρεία ανέφερε ότι το 26% της εργασίας έρευνας και ανάπτυξης «καθοδηγούνταν από» το μοντέλο Claude, από 1% τον Μάρτιο, πράγμα που σημαίνει ότι η τεχνητή νοημοσύνη ολοκλήρωνε την πλειονότητα των εργασιών βάσει ανθρώπινων οδηγιών και υπό επίβλεψη.

Η εταιρεία ανέφερε ότι, καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται ισχυρότερα, «χρησιμοποιούνται ολοένα και περισσότερο για να δημιουργούν την επόμενη εκδοχή του εαυτού τους».

Η Anthropic ανέφερε ότι δημοσιοποίησε τα δεδομένα προκειμένου να βοηθήσει το κοινό να «κατανοήσει πόσο κοντά βρίσκεται ο κόσμος στην επίτευξη της αναδρομικής αυτοβελτίωσης», του σημείου δηλαδή στο οποίο η τεχνητή νοημοσύνη μπορεί να εκπαιδεύει και να βελτιώνει τον εαυτό της ή νέα μοντέλα.

Αυτό το όριο βρίσκεται στον πυρήνα των ανησυχιών ότι τα συστήματα τεχνητής νοημοσύνης θα γίνουν δυσκολότερο να εποπτευθούν, οδηγώντας σε απώλεια του ανθρώπινου ελέγχου.

Η Anthropic πρόσθεσε ότι τα μοντέλα της δεν λειτουργούσαν ακόμη πλήρως αυτόνομα σε καμία από τις ερευνητικές εργασίες που μελέτησε. Στο 90% των εργασιών, η τεχνητή νοημοσύνη «συνεργάζεται» με έναν άνθρωπο και αναλαμβάνει μεγάλα τμήματα της δουλειάς.

Δύο ακόμη ερευνητές που εργάζονταν στην αιχμή του δόρατος της τεχνητής νοημοσύνης υπέβαλαν τις παραιτήσεις τους, κρούοντας τον κώδωνα του κινδύνου. Προειδοποιούν ότι η ανάπτυξη των προηγμένων συστημάτων AI κάτω από τις παρούσες συνθήκες εξελίσσεται με ρυθμούς που ενδέχεται να καταστήσουν την τεχνολογία ανεξέλεγκτη, δημιουργώντας ακόμη και υπαρξιακούς κινδύνους για την ανθρωπότητα.

Ο Τζο Μπέντον, πρώην επικεφαλής της ομάδας έρευνας ασφάλειας στην Anthropic, και ο Τζος Ένγκελς, ερευνητής στον τομέα ασφάλειας της Google DeepMind, προχώρησαν σε αποκαλύψεις, τονίζοντας την επιτακτική ανάγκη για διαφάνεια γύρω από περιστατικά όπου συστήματα AI δρουν εκτός των ανθρώπινων εντολών.

«Δεν υπάρχουν ενήλικες εδώ»

Ο Μπέντον εξέφρασε τον φόβο ότι ο ήδη αστραπιαίος ρυθμός προόδου της AI θα μπορούσε σύντομα να μετατραπεί σε κάτι εντελώς ανεξέλεγκτο. Από την πλευρά του, ο Ένγκελς υποστήριξε ότι, παρά τις φιλότιμες προσπάθειες μεμονωμένων ερευνητών, δεν υπάρχει κανένας επίσημος θεσμός που να ελέγχει συνολικά την κατάσταση.

«Δεν υπάρχουν ενήλικες εδώ», ανέφερε χαρακτηριστικά ο Ένγκελς.

Οι αποχωρήσεις αυτές έρχονται να προστεθούν σε εκείνη του Τζέικομπ Κόξον (πρώην ερευνητή της Anthropic), ο οποίος με ανάρτησή του στο X η οποία ξεπέρασε τις 155 εκατομμύρια προβολές εξέφρασε την έντονη ανησυχία του για το μέλλον της ανθρωπότητας, πυροδοτώντας νέο γύρο συζητήσεων για πολιτική παρέμβαση στον κλάδο.

Το ανησυχητικό περιστατικό με την αυτόνομη επίθεση στη Hugging Face

Ως ιδιαίτερα ανησυχητικό παράδειγμα, οι δύο ερευνητές ανέφεραν μια πρόσφατη κυβερνοεπίθεση εναντίον της πλατφόρμας Hugging Face, η οποία πραγματοποιήθηκε αυτόνομα από συστήματα AI βασισμένα σε μη δημοσιοποιημένο μοντέλο της OpenAI.

Σύμφωνα με τον Ένγκελς, τα μοντέλα αυτά δεν είχαν λάβει ανθρώπινη εντολή για παράνομες πράξεις. Αντίθετα, «αποφάσισαν» μόνα τους ότι ο ταχύτερος τρόπος για να επιτύχουν τον στόχο τους ήταν:

Να παραβιάσουν τα συστήματα της Hugging Face.

Να δημιουργήσουν έναν παράτυπο χώρο ανταλλαγής πληροφοριών.

Να εκθέσουν τμήματα της υπολογιστικής υποδομής της OpenAI στο δημόσιο διαδίκτυο.

Η OpenAI ανακοίνωσε ότι ενίσχυσε έκτοτε τα μέτρα ασφαλείας της, ενώ η Anthropic υποστήριξε ότι αναπτύσσει ορισμένες από τις ισχυρότερες δικλίδες προστασίας διεθνώς.

Η απουσία νομικού πλαισίου και η ανάγκη για υποχρεωτική διαφάνεια

Ο Μπέντον υπογραμμίζει ότι το βασικό πρόβλημα έγκειται στην απουσία υποχρεωτικής διαφάνειας. Σήμερα, η αναφορά περιστατικών όπου η AI «ξεφεύγει» από τον ανθρώπινο έλεγχο βασίζεται αποκλειστικά στην εθελοντική διάθεση των ίδιων των εταιρειών.

Στις ΗΠΑ δεν υφίσταται ομοσπονδιακός νόμος που να υποχρεώνει τις εταιρείες τεχνολογίας να δημοσιοποιούν τέτοια περιστατικά. Ακόμη και η ίδια η OpenAI έχει παραδεχθεί ότι το ισχύον μοντέλο «αυτορρύθμισης» των εργαστηρίων είναι ανεπαρκές.

Μετά την αποχώρησή τους, οι Μπέντον και Ένγκελς εντάχθηκαν στο METR, έναν μη κερδοσκοπικό οργανισμό έρευνας για την ασφάλεια της AI, με στόχο την ανάπτυξη επιστημονικών μεθόδων αξιολόγησης καταστροφικών κινδύνων.

«Δεν θα προλάβουμε να οργανωθούμε»

Ο μεγαλύτερος φόβος των επιστημόνων εστιάζει στην προσπάθεια των εταιρειών να αυτοματοποιήσουν την ίδια την έρευνα και ανάπτυξη της τεχνητής νοημοσύνης. Αυτό σημαίνει ότι τα συστήματα θα αρχίσουν σύντομα να βελτιώνουν μόνα τους τις δυνατότητές τους.

«Πιθανότατα θα περάσουμε από έναν κόσμο όπου διαθέτουμε πολύ ικανά συστήματα, σε έναν κόσμο όπου θα συνυπάρχουμε με πράκτορες AI πολύ πιο έξυπνους από τους ανθρώπους, μέσα στα επόμενα λίγα χρόνια», προειδοποιεί ο Μπέντον.

Και οι δύο ερευνητές ξεκαθαρίζουν ότι δεν αγνοούν τα τεράστια οφέλη της AI, υπογραμμίζουν όμως ότι η εξέλιξή της δεν πρέπει να συνεχιστεί χωρίς ανεξάρτητη εποπτεία.

«Ανησυχώ ότι τα πράγματα ενδέχεται να εξελιχθούν πολύ γρήγορα, ώστε να μην προλάβουμε να οργανωθούμε εγκαίρως, εκτός αν αρχίσουμε να ανησυχούμε γι’ αυτό τώρα», κατέληξε ο Μπέντον.

Εικόνες που μέχρι πρότινος συναντούσε κανείς μόνο σε ταινίες επιστημονικής φαντασίας αποτελούν πλέον καθημερινότητα στη Σεντζέν της Κίνας. Οι τοπικές αρχές έχουν εντάξει στο δυναμικό τους αυτόνομα ρομποτικά συστήματα με τεχνητή νοημοσύνη, τα οποία συμμετέχουν ενεργά σε καθημερινές περιπολίες.

Στην περιοχή Μπαντιάν της περιφέρειας Λονγκγκάνγκ ξεκίνησε τη λειτουργία του ο πρώτος αστυνομικός σταθμός με ρομποτικό εξοπλισμό. Το δίκτυο επιτήρησης συνδυάζει: Ανθρωποειδή ρομπότ για άμεση αλληλεπίδραση και ρύθμιση της κυκλοφορίας. Τετράποδα ρομπότ και τροχοφόρα οχήματα για επίγειες περιπολίες. Drones και αυτόνομα οχήματα για εναέρια και συνεχή κάλυψη περιοχών.

Περιπολίες και έλεγχος κυκλοφορίας με AI

Τα ρομποτικά συστήματα κινούνται αυτόνομα σε προκαθορισμένα δρομολόγια, έχοντας τη δυνατότητα να εντοπίζουν ύποπτες συμπεριφορές, να λαμβάνουν σήματα κινδύνου και να συνδράμουν στην αναζήτηση αγνοουμένων. Παράλληλα, τα drones μεταδίδουν εικόνα σε πραγματικό χρόνο στο κεντρικό επιχειρησιακό δωμάτιο, όπου ανθρώπινοι χειριστές συντονίζουν τις δράσεις.

Η εφαρμογή της τεχνολογίας επεκτάθηκε και στη ρύθμιση της κυκλοφορίας έξω από σχολικά συγκροτήματα. Ανθρωποειδή ρομπότ εκτελούν χρέη τροχονόμου, αναγνωρίζοντας τους φωτεινούς σηματοδότες, κάνοντας σήματα στους οδηγούς και δίνοντας φωνητικές οδηγίες στους πεζούς.

Ενίσχυση, όχι αντικατάσταση των αστυνομικών

Οι αρμόδιες αρχές ξεκαθαρίζουν ότι τα ρομπότ δεν προορίζονται για να αντικαταστήσουν το ανθρώπινο προσωπικό. Ο ρόλος τους είναι επικουρικός, αναλαμβάνοντας τη συλλογή δεδομένων και τις επαναλαμβανόμενες περιπολίες ρουτίνας, ενώ η αξιολόγηση των περιστατικών και οι κρίσιμες αποφάσεις παραμένουν αποκλειστικά στα χέρια των αστυνομικών.

Με τις εφαρμογές αυτές, η Σεντζέν μετατρέπεται σε ένα από τα σημαντικότερα πεδία δοκιμής της «ενσώματης τεχνητής νοημοσύνης» παγκοσμίως, όπου τα συστήματα AI αποκτούν φυσική παρουσία και αλληλεπιδρούν απευθείας με τους πολίτες στο αστικό περιβάλλον.

Μαχητές της Υεμένης φέρεται ότι επιδίωξαν να χρησιμοποιήσουν το μοντέλο τεχνητής νοημοσύνης «Claude» της Anthropic για την ανάπτυξη λογισμικού καθοδήγησης, ελέγχου και πλοήγησης των βαλλιστικών πυραύλων τους.

Στην ενημερωτική έκθεση για πιθανές απειλές που δημοσίευσε η Anthropic δεν κατονόμασε συγκεκριμένα τους υποστηριζόμενους από το Ιράν Χούθι. Ωστόσο, όπως μεταδίδουν οι Financial Times, ανέφερε ότι «εντόπισε έναν πυρήνα δραστών με έδρα το βόρειο τμήμα της Υεμένης» –μεγάλο μέρος της οποίας ελέγχεται από τους Χούθι– «η οποία διεξάγει τρία προγράμματα ανάπτυξης όπλων».

Η Anthropic επισήμανε ότι η ομάδα της Υεμένης επιδίωξε να αναπτύξει όπλα, μεταξύ των οποίων έναν βαλλιστικό πύραυλο πολλαπλών σταδίων, έναν πύραυλο πολλαπλών τύπων και έναν κατευθυνόμενο πύραυλο που χρησιμοποιούσε έναν «υπολογιστή πτήσης της κατηγορίας κοινού κινητού τηλεφώνου».

«Οι δράστες χρησιμοποίησαν τον Claude Code αντί για μηχανικούς λογισμικού για να αναπτύξουν το λογισμικό καθοδήγησης, πλοήγησης και ελέγχου που κατευθύνει και σταθεροποιεί ένα ιπτάμενο όχημα», ανέφερε χαρακτηριστικά.

«Χρησιμοποίησαν το Claude για να ενσωματώσουν έναν αυτόματο πιλότο ανοιχτού κώδικα σε έναν υπολογιστή πτήσης τύπου κινητού τηλεφώνου, γράφοντας το λογισμικό ελέγχου και εκτίμησης θέσης, ρυθμίζοντας τις παραμέτρους ελέγχου, εκτελώντας μια διαδικασία ανάπτυξης υλικολογισμικού και πραγματοποιώντας προσομοίωση πτήσης».

Η Anthropic ανέφερε ότι τα μέτρα ασφαλείας της μπλόκαραν «πολλά από τα αιτήματά τους, αλλά όχι όλα», προσθέτοντας πως οι «δράστες χρησιμοποίησαν διάφορες τακτικές για να παρακάμψουν» τα μέτρα και να αποκρύψουν τον στόχο τους.

«Προσπάθησαν να κρύψουν τους στόχους τους και τα προϊόντα για τα οποία προοριζόταν το λογισμικό, και κατένειμαν την εργασία τους σε πολλαπλές συνεδρίες, ώστε καμία μεμονωμένη συνεδρία να μην αποκαλύπτει την πλήρη πρόθεσή τους».

«Δεν διαθέτουμε στοιχεία ότι οι δράστες κατάφεραν να θέσουν σε λειτουργία κάποια επιχειρησιακή συσκευή. Ωστόσο, πραγματοποίησαν δοκιμαστική εκτόξευση ενός κατευθυνόμενου πυραύλου», ανέφερε στην έκθεσή της η Anthropic. «Αυτή η δοκιμή πεδίου φαίνεται να απέτυχε: μέσα σε λίγες ώρες, οι δράστες επέστρεψαν στο Claude για να διερευνήσουν τους λόγους της αποτυχίας».

Στην ίδια έκθεση η εταιρεία υποστηρίζει πως επιστήμονες έκαναν πολλαπλές προσπάθειες να χρησιμοποιήσουν το «Claude» για την έρευνα βιολογικών όπλων.

Η έκθεση αναδεικνύει τους ολοένα και περισσότερους κινδύνους που εγκυμονεί η προηγμένη τεχνητή νοημοσύνη σε λάθος χέρια.

Οι αμερικανικές εταιρείες ΑΙ, που βρίσκονται σήμερα στην πρώτη γραμμή των παγκόσμιων εξελίξεων στο πεδίο, είναι αντιμέτωπες με μία διαρκή μάχη ώστε να διασφαλίσουν ότι τα εργαλεία αυτά δεν θα καταλήξουν σε ακατάλληλα χέρια και δεν θα χρησιμοποιηθούν για επιθέσεις κατά της Αμερικής και των συμμάχων της.