Έντονο προβληματισμό για την ταχύτητα με την οποία εξελίσσονται τα αυτοβελτιούμενα συστήματα τεχνητής νοημοσύνης εξέφρασε ο ερευνητής Τζέικομπ Κόξον, ανακοινώνοντας την αποχώρησή του από την Anthropic. Ο 27χρονος επιστήμονας, ο οποίος στο παρελθόν εργαζόταν στην OpenAI, κατηγορεί τις δύο εταιρείες ότι συμμετέχουν σε μια επικίνδυνη τεχνολογική κούρσα, χωρίς να έχουν εξασφαλίσει ότι τα συστήματα που αναπτύσσουν θα παραμείνουν υπό ανθρώπινο έλεγχο.
Δεν θέλει να συμμετέχει στην κούρσα της υπερνοημοσύνης
Ο Κόξον ειδικεύεται στην προεκπαίδευση νέων μοντέλων τεχνητής νοημοσύνης, μια διαδικασία που βασίζεται στην επεξεργασία τεράστιου όγκου δεδομένων. Όπως εξήγησε, αποφάσισε να αποχωρήσει επειδή δεν επιθυμεί να αποτελεί μέρος ενός ανταγωνισμού για τη δημιουργία ολοένα ισχυρότερων συστημάτων, τα οποία ενδέχεται κάποια στιγμή να μπορούν να βελτιώνουν μόνα τους τις δυνατότητές τους.
Σε ανάρτησή του στην πλατφόρμα Χ, την Τρίτη 7 Σεπτεμβρίου, ανακοίνωσε την παραίτησή του και άσκησε σκληρή κριτική τόσο στην Anthropic όσο και στην OpenAI, υποστηρίζοντας ότι καμία από τις δύο εταιρείες δεν λειτουργεί πλέον με την απαιτούμενη υπευθυνότητα.
«Παραιτήθηκα από την Anthropic σήμερα. Πέρασα τα τελευταία τρία χρόνια κάνοντας έρευνα προεκπαίδευσης τόσο στην OpenAI όσο και στην Anthropic. Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Τρέχουν ολοταχώς προς την αυτοβελτιούμενη υπερνοημοσύνη, παίζοντας με τις ζωές μας», έγραψε χαρακτηριστικά.
«Η τεχνητή νοημοσύνη θα μπορούσε να μας σκοτώσει όλους»
Ο Κόξον προχώρησε ακόμη περισσότερο, υποστηρίζοντας ότι αρκετοί από τους ανθρώπους που βρίσκονται στην πρώτη γραμμή της ανάπτυξης της AI θεωρούν πραγματικό το ενδεχόμενο μιας καταστροφικής εξέλιξης μέσα στα επόμενα χρόνια.
«Οι άνθρωποι που δημιουργούν την AI πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους έως το τέλος της δεκαετίας. Δεν πρόκειται για κόλπο μάρκετινγκ», ανέφερε.
Την ανησυχία του συμμερίστηκε δημόσια και ο Εβαν Χάμπιντζερ, στέλεχος της Anthropic με αρμοδιότητα σε ζητήματα ασφάλειας. Σε σχόλιό του στην πλατφόρμα Χ δήλωσε ότι οι φόβοι για έναν υπαρξιακό κίνδυνο από την τεχνητή νοημοσύνη είναι ειλικρινείς, τοποθετώντας την πιθανότητα ενός τέτοιου σεναρίου σε ποσοστό άνω του 10% μέσα στην τρέχουσα δεκαετία.
Χωρίς σαφές σχέδιο για τον έλεγχο μιας ανώτερης AI
Ο Χάμπιντζερ υποστήριξε ότι η Anthropic καταβάλλει τη μεγαλύτερη δυνατή προσπάθεια για την ασφαλή ανάπτυξη της τεχνολογίας. Παραδέχθηκε, ωστόσο, ότι η εταιρεία δεν διαθέτει ακόμη ένα ολοκληρωμένο σχέδιο που θα διασφαλίζει ότι ένα σύστημα με δυνατότητες ανώτερες από τις ανθρώπινες θα εξακολουθήσει να ακολουθεί τις εντολές των δημιουργών του.
Διευκρίνισε πάντως ότι, σύμφωνα με την εκτίμησή του, ο συγκεκριμένος κίνδυνος παραμένει μικρός για τα μοντέλα τεχνητής νοημοσύνης που χρησιμοποιούνται σήμερα.
Η παραίτηση του Κόξον έρχεται σε μια κρίσιμη περίοδο για την Anthropic, καθώς η εταιρεία φέρεται να προετοιμάζει την εισαγωγή της στο χρηματιστήριο. Προηγήθηκε, επίσης, ένα καλοκαίρι κατά το οποίο ήρθαν στο φως περιστατικά κυβερνοπειρατείας, στα οποία χρησιμοποιήθηκαν χωρίς άδεια εργαλεία τεχνητής νοημοσύνης.
Μέχρι στιγμής, ούτε η Anthropic ούτε η OpenAI έχουν απαντήσει στο σχετικό αίτημα του AFP για σχολιασμό.
Η πορεία προς την «αναδρομική αυτοβελτίωση»
Οι μεγαλύτερες εταιρείες του χώρου υποστηρίζουν ότι πλησιάζουν στην εποχή της λεγόμενης «αναδρομικής αυτοβελτίωσης». Πρόκειται για το στάδιο κατά το οποίο ένα μοντέλο τεχνητής νοημοσύνης θα μπορεί να σχεδιάζει μόνο του μια πιο προηγμένη εκδοχή του εαυτού του, περιορίζοντας ουσιαστικά την ανθρώπινη παρέμβαση.
Σύμφωνα με τον Κόξον, εργαζόμενοι στον κλάδο χρησιμοποιούν όρους όπως «crunchtime», δηλαδή «ώρα της κρίσης», και «endgame», δηλαδή «τέλος του παιχνιδιού», όταν αναφέρονται στην πορεία προς τη δημιουργία μιας αυτοβελτιούμενης υπερνοημοσύνης.
Ο ίδιος αναγνωρίζει ότι οι προσπάθειες της Anthropic για την ασφάλεια της AI είναι ουσιαστικές και ειλικρινείς. Θεωρεί, όμως, ότι καμία μεμονωμένη εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα μια τεχνητή νοημοσύνη που θα υπερβαίνει τις ανθρώπινες δυνατότητες, εάν δεν υπάρξουν κρατική παρέμβαση και συντονισμένη επιβράδυνση από ολόκληρο τον τεχνολογικό κλάδο. «Στην Anthropic κατανοούν πολύ καλά το διακύβευμα, αλλά έχουν εμπλακεί σε έναν αγώνα δρόμου για να φτάσουν πρώτοι», σημείωσε.
Η αλλαγή στην πολιτική ασφαλείας της Anthropic
Τον περασμένο Φεβρουάριο, η Anthropic αφαίρεσε από την πολιτική ασφαλείας της την προηγούμενη δέσμευσή της να διακόψει την ανάπτυξη νέων μοντέλων, εφόσον δεν ήταν σε θέση να διαχειριστεί αποτελεσματικά τους πιθανούς κινδύνους. Η εταιρεία αιτιολόγησε την αλλαγή υποστηρίζοντας ότι μια μονομερής παύση θα μπορούσε να δώσει σημαντικό προβάδισμα σε ανταγωνιστές που ενδεχομένως αντιμετωπίζουν με μικρότερη προσοχή τα ζητήματα ασφαλείας.
Πληθαίνουν οι προειδοποιήσεις από το εσωτερικό του κλάδου
Η αποχώρηση του Κόξον δεν αποτελεί ένα μεμονωμένο περιστατικό. Αντίθετα, προστίθεται σε μια ολοένα εντονότερη συζήτηση στους κόλπους της τεχνολογικής βιομηχανίας σχετικά με το εάν η ανάπτυξη των προηγμένων μοντέλων AI προχωρά γρηγορότερα από την ικανότητα των εταιρειών και των κυβερνήσεων να προβλέψουν και να περιορίσουν τους κινδύνους.
Τον Ιούλιο, κορυφαίοι ερευνητές και στελέχη του χώρου υπέγραψαν τη δήλωση «Pacing the Frontier», ζητώντας να παραμείνει ανοιχτή η δυνατότητα επιβράδυνσης της ανάπτυξης των πιο εξελιγμένων συστημάτων. Στόχος είναι να δοθεί ο απαραίτητος χρόνος για την κατανόηση των νέων απειλών, τη δημιουργία αποτελεσματικότερων μηχανισμών ασφαλείας και την ενίσχυση του θεσμικού ελέγχου.
Ανάμεσα στους υπογράφοντες βρίσκονται οι συνιδρυτές της Anthropic, Ντάριο Αμοντέι και Τζάρεντ Κάπλαν, ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Πατσότσκι, καθώς και ο επικεφαλής επιστήμονας της Meta AI, Σενγκτζία Ζάο.
Με πληροφορίες από Wall Street Journal, Forbes, ΑΠΕ ΜΠΕ και AFP
