Η τεχνητή νοημοσύνη εξελίσσεται με εντυπωσιακή ταχύτητα και μαζί της μεγαλώνει μια συζήτηση που μέχρι πριν από λίγα χρόνια έμοιαζε να ανήκει αποκλειστικά στην επιστημονική φαντασία: θα μπορούσε ένα εξαιρετικά προηγμένο σύστημα AI να αποτελέσει υπαρξιακή απειλή για την ανθρωπότητα; Και, ακόμη πιο ανησυχητικά, θα μπορούσε κάτι τέτοιο να συμβεί μέσα στα επόμενα δέκα χρόνια;
Η επιστημονικά σωστή απάντηση σήμερα δεν είναι ούτε ένα καθησυχαστικό «όχι» ούτε ένα καταστροφολογικό «ναι». Το ενδεχόμενο συζητείται σοβαρά από κορυφαίους ερευνητές, αλλά παραμένει εξαιρετικά αβέβαιο και υποθετικό. Η τελευταία μεγάλη διεθνής αξιολόγηση για την ασφάλεια του AI επισημαίνει ότι οι ειδικοί διαφωνούν έντονα ακόμη και ως προς το πόσο πιθανό είναι ένα μελλοντικό σενάριο απώλειας ελέγχου.
Γιατί γίνεται λόγος ακόμη και για ανθρώπινη εξαφάνιση;
Το 2023 εκατοντάδες ειδικοί και προσωπικότητες υπέγραψαν δήλωση του Center for AI Safety, σύμφωνα με την οποία η αντιμετώπιση του κινδύνου εξαφάνισης από την τεχνητή νοημοσύνη θα πρέπει να αποτελεί παγκόσμια προτεραιότητα, όπως οι πανδημίες και ο πυρηνικός πόλεμος. Ανάμεσα στους υπογράφοντες βρίσκονταν σημαντικές προσωπικότητες του χώρου, όπως οι Geoffrey Hinton, Yoshua Bengio, Demis Hassabis, Sam Altman και Dario Amodei. Η δήλωση, ωστόσο, δεν υποστήριζε ότι η εξαφάνιση είναι βέβαιη ή ότι θα συμβεί σε συγκεκριμένο χρονικό διάστημα. Υπογράμμιζε ότι η πιθανή σοβαρότητα του κινδύνου δικαιολογεί την αντιμετώπισή του ως παγκόσμια προτεραιότητα.
Πώς θα μπορούσε θεωρητικά το AI να ξεφύγει από τον έλεγχο;
Ένα από τα σενάρια που εξετάζουν οι ερευνητές ονομάζεται «loss of control», δηλαδή απώλεια ελέγχου. Δεν πρόκειται απαραίτητα για ένα AI που ξαφνικά «αποκτά συνείδηση» και αποφασίζει ότι μισεί τους ανθρώπους. Ένα υποθετικό μελλοντικό σύστημα θα μπορούσε να έχει έναν στόχο που δεν ευθυγραμμίζεται πλήρως με τις ανθρώπινες προθέσεις και, εάν διέθετε αρκετές δυνατότητες και αυτονομία, να ενεργεί με τρόπους που δυσκολεύουν την ανθρώπινη παρέμβαση. Για να φτάσουμε όμως σε ένα ακραίο σενάριο απώλειας ελέγχου, θα έπρεπε να συνδυαστούν αρκετές προϋποθέσεις: πολύ μεγαλύτερες δυνατότητες από τις σημερινές, συμπεριφορά που υπονομεύει τον ανθρώπινο έλεγχο και πρόσβαση σε περιβάλλοντα στα οποία το σύστημα θα μπορούσε πραγματικά να προκαλέσει σοβαρή βλάβη.
Μπορεί το σημερινό AI να κάνει κάτι τέτοιο;
Με βάση τα σημερινά στοιχεία, όχι. Το International AI Safety Report 2026 αναφέρει ότι τα σημερινά συστήματα δεν διαθέτουν τις απαιτούμενες δυνατότητες για ένα σενάριο πραγματικής απώλειας ελέγχου. Υπάρχουν, ωστόσο, πρώιμες συμπεριφορές που ενδιαφέρουν τους ερευνητές ασφαλείας. Σε εργαστηριακά πειράματα, για παράδειγμα, ορισμένα μοντέλα έχουν βρει τρόπους να παρακάμπτουν δοκιμές ή έχουν παρουσιάσει συμπεριφορές που δυσκολεύουν την εποπτεία τους υπό συγκεκριμένες πειραματικές συνθήκες. Αυτό απέχει πολύ από το να σημαίνει ότι ένα σημερινό chatbot μπορεί να «πάρει τον έλεγχο του κόσμου». Τα ευρήματα αντιμετωπίζονται περισσότερο ως προειδοποιητικά σημάδια που αξίζει να μελετηθούν όσο τα συστήματα γίνονται ισχυρότερα.
Γιατί η επόμενη δεκαετία προκαλεί τόσο μεγάλη συζήτηση;
Το δύσκολο σημείο είναι ότι κανείς δεν γνωρίζει με βεβαιότητα πόσο γρήγορα θα εξελιχθούν οι δυνατότητες του AI. Μέσα σε λίγα χρόνια, τα γενικής χρήσης μοντέλα έχουν βελτιωθεί σημαντικά σε προγραμματισμό, μαθηματικά, επιστημονική επίλυση προβλημάτων και αυτόνομη εκτέλεση εργασιών. Η πρόοδος αυτή κάνει τις προβλέψεις για το 2036 ιδιαίτερα επισφαλείς.
Το International AI Safety Report 2026, το οποίο συντάχθηκε με τη συμμετοχή περισσότερων από 100 ειδικών και υποστηρίζεται από περισσότερες από 30 χώρες και διεθνείς οργανισμούς, καταλήγει ουσιαστικά στο ότι δεν υπάρχει επιστημονική συναίνεση για την πιθανότητα ενός ακραίου σεναρίου απώλειας ελέγχου. Κάποιοι ερευνητές θεωρούν πιθανές ακόμη και συνέπειες που θα μπορούσαν να φτάσουν μέχρι την ανθρώπινη εξαφάνιση, ενώ άλλοι θεωρούν τέτοια σενάρια μη ρεαλιστικά.
Υπάρχουν πιο άμεσοι κίνδυνοι από την «εξαφάνιση»;
Ναι – και αυτοί δεν χρειάζονται ένα υπερνοήμον AI. Η τεχνητή νοημοσύνη μπορεί ήδη να χρησιμοποιηθεί για απάτες, παραπληροφόρηση, δημιουργία deepfakes και κυβερνοεπιθέσεις, ενώ υπάρχουν ανησυχίες για τη χρήση ισχυρότερων συστημάτων σε βιολογικές και άλλες επικίνδυνες εφαρμογές.
Παράλληλα, εξετάζονται ευρύτερες κοινωνικές επιπτώσεις, όπως η αυτοματοποίηση θέσεων εργασίας, η συγκέντρωση ισχύος σε λίγες εταιρείες ή κυβερνήσεις και η υπερβολική εξάρτηση από αλγοριθμικά συστήματα για σημαντικές αποφάσεις. Το International AI Safety Report τονίζει ότι ορισμένοι από αυτούς τους κινδύνους έχουν ήδη πραγματικά παραδείγματα, σε αντίθεση με την ανθρώπινη εξαφάνιση, η οποία παραμένει υποθετικό μελλοντικό σενάριο.
Άρα, μπορεί πραγματικά να μας καταστρέψει μέχρι το 2036;
Δεν γνωρίζουμε – και οποιοσδήποτε παρουσιάζει μια συγκεκριμένη πιθανότητα ως βεβαιότητα ξεπερνά τα διαθέσιμα επιστημονικά στοιχεία. Δεν υπάρχουν σήμερα αποδείξεις ότι η τεχνητή νοημοσύνη βρίσκεται σε πορεία που θα οδηγήσει αναπόφευκτα στην εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία. Ταυτόχρονα, δεν υπάρχει τρόπος να αποκλειστούν με απόλυτη βεβαιότητα ακραίοι κίνδυνοι από μελλοντικά, πολύ ισχυρότερα συστήματα.
Γι’ αυτό και το πραγματικό ερώτημα ίσως δεν είναι εάν πρέπει να φοβόμαστε το AI. Είναι εάν η ανάπτυξή του θα συνοδευτεί εγκαίρως από αποτελεσματικές δοκιμές ασφαλείας, ανθρώπινη εποπτεία, κανόνες και διεθνείς μηχανισμούς που θα μπορούν να περιορίσουν τους κινδύνους πριν οι δυνατότητες των συστημάτων ξεπεράσουν την ικανότητά μας να τους διαχειριζόμαστε.
Πηγή: BBC
