Και όχι άδικα, καθώς το τελευταίο διάστημα πληθαίνουν οι προειδοποιήσεις από επικεφαλής των μεγαλύτερων εταιρειών ΑΙ για τους κινδύνους που ενέχει η ραγδαία ανάπτυξη του τομέα, η πιο σοβαρή μέχρι στιγμής απειλή για τα δισεκατομμύρια δολάρια που επενδύονται στον κλάδο και έχουν ωθήσει τις παγκόσμιες αγορές σε ιστορικά υψηλά επίπεδα.
Η Nvidia, της οποίας τα κέρδη έχουν εκτοξευθεί επειδή τα τσιπ της συμβάλλουν στην εκπαίδευση μοντέλων τεχνητής νοημοσύνης, σημείωσε πτώση 3,5% και αποτέλεσε το μεγαλύτερο βάρος στην αγορά λόγω του τεράστιου μεγέθους της.
Η SpaceX, η οποία αντλεί σημαντικό μέρος της δραστηριότητάς της από την τεχνητή νοημοσύνη, σημείωσε πτώση 1,7%. Ο Όμιλος Softbank, ο ιαπωνικός γίγαντας που αποτελεί σημαντικό επενδυτή της OpenAI, έχασε 10,7% στο Τόκιο, αφού ο Σαμ Άλτμαν της OpenAI δήλωσε ότι πιθανόν θα αναβάλει την προγραμματισμένη δημόσια προσφορά της εταιρείας.
Ο Διευθύνων Σύμβουλος της Anthropic, Ντάριο Αμοντέι, σε ένα εκτενές κείμενο που δημοσίευσε στο X το Σάββατο (12/09), κάλεσε τις εταιρείες τεχνητής νοημοσύνης να επιβραδύνουν τον ρυθμό με τον οποίο βελτιώνουν τις δυνατότητες των μοντέλων τους, εν μέσω των αυξανόμενων φόβων για κατάχρηση της τεχνητής νοημοσύνης.
Τόσο ο Έλον Μασκ, που διευθύνει την xAI, όσο και ο Σαμ Άλτμαν, Διευθύνων Σύμβουλος της OpenAI, δήλωσαν ότι συμφωνούν με τον Αμοντέι.
Είχαν προηγηθεί προειδοποιήσεις από ερευνητές στην κορυφαία αμερικανική εταιρεία ανάπτυξης τεχνητής νοημοσύνης Anthropic, ότι τα ολοένα και ισχυρότερα μοντέλα θα μπορούσαν να ξεφύγουν από τον ανθρώπινο έλεγχο και ακόμη και να οδηγήσουν στην εξαφάνιση της ανθρώπινης φυλής, έχουν τραβήξει την προσοχή στην Κίνα, όπου οι υπεύθυνοι χάραξης πολιτικής προετοιμάζονται για ορισμένους από τους ίδιους κινδύνους.
ΗΠΑ και Κίνα είναι οι δύο βασικές κινητήριες δυνάμεις της ανάπτυξης της τεχνητής νοημοσύνης αιχμής και της παγκόσμιας υιοθέτησης της τεχνολογίας. Και οι δύο υπερδυνάμεις βρίσκονται σε ολοένα και μεγαλύτερη αντιπαράθεση σχετικά με τις πολιτικές τεχνητής νοημοσύνης και τις πρακτικές της βιομηχανίας της άλλης πλευράς, με αυτά τα ζητήματα να προβλέπεται ότι θα βρεθούν στο επίκεντρο των διμερών συνομιλιών αργότερα αυτόν τον μήνα.
Παρά τον αγώνα δρόμου για την ανάπτυξη ολοένα ισχυρότερων συστημάτων τεχνητής νοημοσύνης, τα ρυθμιστικά πλαίσια και οι δημόσιες δηλώσεις από το Πεκίνο υπογραμμίζουν πώς οι κινεζικές Αρχές θεωρούν το ενδεχόμενο η προηγμένη τεχνητή νοημοσύνη να ξεφύγει από την αποτελεσματική ανθρώπινη επίβλεψη ως αρκετά σοβαρό, ώστε να προετοιμάζονται γι’ αυτό.
Κινεζικό καμπανάκι για τα κορυφαία κλειστού κώδικα αμερικάνικα μοντέλα
Ο υπουργός Κρατικής Ασφάλειας της Κίνας Τσεν Γικσίν έγραψε σε κυβερνητικό έντυπο την Κυριακή (13/09) ότι προηγμένα αμερικανικά μοντέλα, όπως το Mythos της Anthropic και το GPT-5.5-Cyber της OpenAI, θα μπορούσαν να θέσουν σοβαρούς κινδύνους για τις κρίσιμες υποδομές πληροφοριών της Κίνας, και ζήτησε μια συνολική ενίσχυση της ασφάλειας της τεχνητής νοημοσύνης.
Οι Κινέζοι προγραμματιστές τεχνητής νοημοσύνης έχουν προωθήσει μοντέλα ανοιχτών βαρών (συνήθως μεγάλα γλωσσικά μοντέλα των οποίων οι εσωτερικές παράμετροι είναι ελεύθερα διαθέσιμες στο κοινό) εν μέρει με το σκεπτικό ότι οι ομάδες κυβερνοασφάλειας μπορούν να τα επιθεωρήσουν, να τα τροποποιήσουν και να τα αναπτύξουν για αμυντικό έργο.
Η πλατφόρμα αποθετηρίου μοντέλων Hugging Face (κεντρικός ψηφιακός χώρος αποθήκευσης, οργάνωσης και διαχείρισης μοντέλων Τεχνητής Νοημοσύνης) δήλωσε ότι χρησιμοποίησε το GLM-5.2, ένα μοντέλο ανοιχτών βαρών που αναπτύχθηκε από την Z.AI της Κίνας, για να αναλύσει μια εισβολή τον Ιούλιο από «δραπέτες» πράκτορες της OpenAI, αφού τα αυστηρότερα περιορισμένα αμερικανικά μοντέλα αποδείχθηκαν λιγότερο χρήσιμα για το εγκληματολογικό έργο.
Αλλά οι ειδικοί τονίζουν επίσης τους κινδύνους που εγκυμονούν τα μοντέλα ανοιχτών βαρών, τα οποία μπορούν να τροποποιηθούν και να αναδιανεμηθούν με ελάχιστη επίβλεψη.
Το Kimi K3 της Moonshot παρέκαμψε τον περασμένο μήνα ένα sandbox δοκιμών (ασφαλές περιβάλλον εργασίας για την ανάπτυξη λογισμικού) του Ινστιτούτου Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου, υπογραμμίζοντας τον κίνδυνο ότι τα κινεζικά μοντέλα τεχνητής νοημοσύνης θα μπορούσαν, όπως και τα αμερικανικά αντίστοιχά τους, να αποφύγουν τους ελέγχους που έχουν σχεδιαστεί για τον περιορισμό της πρόσβασης και των ενεργειών τους.
Καμπανάκι και από τις ρυθμιστικές Αρχές για κίνδυνο απώλειας ελέγχου της τεχνητής νοημοσύνης
Η Κίνα συμπεριέλαβε για πρώτη φορά ένα ρητό σενάριο μελλοντικής απώλειας ελέγχου σε ένα πλαίσιο ασφάλειας τεχνητής νοημοσύνης που κυκλοφόρησε τον Σεπτέμβριο του 2024 υπό την καθοδήγηση της Διοίκησης Κυβερνοχώρου της Κίνας (CAC).
Το έγγραφο, σύμφωνα με το Reuters, ανέφερε ότι δεν μπορούσε να αποκλειστεί το ενδεχόμενο η μελλοντική τεχνητή νοημοσύνη να αποκτήσει αυτόνομα εξωτερικούς πόρους, να «αναπαραχθεί», να αναπτύξει αυτογνωσία και να αναζητήσει εξωτερική ισχύ, δημιουργώντας τον κίνδυνο ανταγωνισμού με τους ανθρώπους για τον έλεγχο.
Η CAC κυκλοφόρησε μια διευρυμένη έκδοση τον Σεπτέμβριο του 2025. Το νεότερο πλαίσιο έκανε το σενάριο ακόμη πιο ακραίο, λέγοντας ότι η τεχνητή νοημοσύνη θα μπορούσε να υποστεί ένα ξαφνικό και απροσδόκητα μεγάλο «άλμα» στη νοημοσύνη πριν αποκτήσει πόρους, «αναπαραχθεί» και αναζητήσει εξουσία. Πρόσθεσε επίσης μια αρχή διακυβέρνησης που αφορά την αξιόπιστη εφαρμογή και την πρόληψη απώλειας ελέγχου.
Μια μεταγενέστερη ερμηνεία από ειδικούς ανέφερε ότι η νέα αρχή είχε ως στόχο να προστατεύσει από κινδύνους απώλειας ελέγχου που απειλούν την ανθρώπινη επιβίωση και ανάπτυξη και αναφέρθηκε σε ένα πιθανό σενάριο «τεχνητής νοημοσύνης που ξεφεύγει».
Ο Σι βάζει στο επίκεντρο τον έλεγχο από τον άνθρωπο
Ο πρόεδρος της Κίνας Σι Τζινπίνγκ
Η ανησυχία έχει φτάσει και τα ανώτατα πολιτικά στρώματα της Κίνας. Στο Παγκόσμιο Συνέδριο Τεχνητής Νοημοσύνης στη Σαγκάη τον Ιούλιο, ο Κινέζος πρόεδρος Σι Τζινπίνγκ δήλωσε ότι οι Αρχές πρέπει να δώσουν μεγάλη προσοχή στους κινδύνους της τεχνητής νοημοσύνης, τόσο στους ήδη υπάρχοντες όσο και σε αυτούς που μπορεί να προκύψουν. Η τεχνητή νοημοσύνη πρέπει «να παραμένει πάντα υπό ανθρώpινο έλεγχο», τόνισε με έμφαση ο Κινέζος πρόεδρος.
Ο ανώτερος αξιωματούχος του υπουργείου Εξωτερικών της Κίνας που είναι υπεύθυνος για υποθέσεις τεχνητής νοημοσύνης, Σουν Σιαομπό, δήλωσε σε συνεδρίαση των Ηνωμένων Εθνών τον περασμένο μήνα ότι η Κίνα επιταχύνει την έρευνα για ευρύτερη νομοθεσία σχετικά με την τεχνητή νοημοσύνη.
Ο αναπληρωτής μόνιμος αντιπρόσωπος της Κίνας στα Ηνωμένα Έθνη, Σουν Λεϊ, προέτρεψε τις κυβερνήσεις αυτόν τον μήνα να προσεγγίσουν τη στρατιωτική τεχνητή νοημοσύνη με προσοχή για να αποφύγουν στρατηγικούς λανθασμένους υπολογισμούς και μια κούρσα εξοπλισμών.
Προειδοποίηση Πεκίνου για κινδύνους από τους AI agents
Εν τω μεταξύ, η Κίνα άρχισε να μετατρέπει αυτές τις αρχές σε πιο συγκεκριμένους κανόνες για τους πράκτορες τεχνητής νοημοσύνης (AI agents), οι οποίοι δρουν πολύ πιο αυτόνομα και εκτελούν πιο σύνθετες εργασίες από ένα συνηθισμένο chatbot. Τον Μάιο, η ρυθμιστική αρχή του κυβερνοχώρου της Κίνας εξέδωσε κοινές κατευθυντήριες γραμμές που αφορούν ειδικά τέτοια συστήματα.
Απαιτούν από τους προγραμματιστές να βελτιώσουν την ικανότητά τους να εντοπίζουν, να παρεμβαίνουν, να μπλοκάρουν και να ανακτώνται από ακατάλληλη συμπεριφορά πρακτόρων. Οι κατευθυντήριες γραμμές εντοπίζουν συγκεκριμένα τη «δηλητηρίαση» δεδομένων, τη χειραγώγηση αλγορίθμων, τις ευπάθειες συστημάτων και την «επιχειρησιακή απώλεια ελέγχου» ως κινδύνους ασφάλειας. Αναφέρουν επίσης ότι οι χρήστες θα πρέπει να διατηρούν την τελική εξουσία λήψης αποφάσεων επί των αυτόνομων αποφάσεων ενός πράκτορα.
Ενώ η Κίνα δεν έχει προτείνει ανεξάρτητους παρατηρητές ενσωματωμένους μέσα σε εταιρείες τεχνητής νοημοσύνης με τον τρόπο που υποστηρίζει η Anthropic, τα πρότυπά της επιτρέπουν στους προγραμματιστές να αναθέτουν αξιολογήσεις ασφάλειας σε τρίτους, καθώς και να προβλέπουν φορείς εξωτερικής αξιολόγησης και ερευνητές ασφάλειας που δοκιμάζουν και ελέγχουν ανοιχτά μοντέλα.
