Φοβους για την ανεξέλεγκτη ανάπτυξη της Τεχνητής Νοημοσύνης (AI) εξέφρασε ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ο οποίος ζήτησε σήμερα να «παγώσει προσωρινά».
Μάλιστα με την πρότασή του συντάχθηκαν πολύ γρήγορα ο Ίλον Μασκ και ο Σαμ Άλτμαν της OpenAI.
Πρέπει να «παγώσουμε προσωρινά» τη βελτίωση της τεχνητής νοημοσύνης «ώστε η πρόληψη των κινδύνων να μπορέσει να ακολουθήσει τον ρυθμό», έγραψε ο Αμοντέι σε μήνυμα που δημοσίευσε στον προσωπικό του ιστότοπο.
Η πρόταση του Ντάριο Αμοντέι απηχεί πολλές παρόμοιες που διατυπώθηκαν τους τελευταίους μήνες αρχικά από τον ίδιο, στη συνέχεια από τον Άλτμαν και τέλος από μια ομάδα εργαζομένων του χώρου.
Αυτές οι εκκλήσεις έγιναν μετά από ένα περιστατικό κατά το οποίο μοντέλα της OpenAI κατάφεραν να «δραπετεύσουν» από το απομονωμένο περιβάλλον τους κατά τη διάρκεια δοκιμών, να συνδεθούν στο διαδίκτυο και να επιτεθούν στην πλατφόρμα ΤΝ Hugging Face.
Έκτοτε, τόσο η OpenAI όσο και η Anthropic έχουν αναφέρει παρόμοια περιστατικά με τους λεγόμενους «πράκτορες» ΤΝ, δηλαδή προγράμματα βασισμένα σε ένα μοντέλο και εξοπλισμένα με τις δικές του γνώσεις και στόχους. Οι ενέργειες αυτών των «πρακτόρων» ανησυχούν τις εταιρείες επειδή δείχνουν ότι έχουν την τάση να συντονίζονται, να θεσπίζουν ιεραρχία μεταξύ τους, να εξαπατούν και να διαγράφουν τα ίχνη τους.
Μια ΤΝ που παίρνει τον έλεγχο του διαδικτύου
Δεδομένης της τρέχουσας ταχύτητας στην ανάπτυξη της τεχνητής νοημοσύνης, «φοβάμαι ότι μέσα σε 6 με 12 μήνες, μια ομάδα (πρακτόρων) θα είναι ικανή να πάρει τον έλεγχο ολόκληρου του διαδικτύου», προειδοποιεί ο Ντάριο Αμοντέι, κάτι που «θα μπορούσε να προκαλέσει ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων».
Την Τρίτη, ο Τζέικομπ, υπάλληλος που παραιτήθηκε από την Anthropic και πρώην εργαζόμενος της OpenAI, είχε καταγγείλει την αδράνεια των δύο ανταγωνιστριών εταιρειών.
«Καμία από τις δύο εταιρείες δεν ενεργεί με υπεύθυνο τρόπο. Οδηγούν με ταχύτητα προς μια υπερεφυΐα ικανή να βελτιώνεται μόνη της και παίζουν με τις ζωές μας», έγραψε στην πλατφόρμα X.
Στις αρχές Αυγούστου, η αμερικανική κυβέρνηση θέσπισε ένα πλαίσιο εποπτείας, το οποίο προβλέπει την εξέταση, σε εθελοντική βάση, νέων μοντέλων τεχνητής νοημοσύνης πριν από την κυκλοφορία τους. Ωστόσο, αυτός ο μηχανισμός παραμένει αδιαφανής. Πολλοί αμφισβητούν την αποτελεσματικότητά του, δεδομένου ότι ο Αμερικανός πρόεδρος Ντόναλντ Τραμπ έχει δηλώσει επανειλημμένα αντίθετος σε οποιοδήποτε μέτρο επιβραδύνει την ανάπτυξη της ΤΝ στις Ηνωμένες Πολιτείες, είτε πρόκειται για την κυκλοφορία μοντέλων είτε για την κατασκευή κέντρων δεδομένων.
Στην ανάρτησή του, ο Ντάριο Αμοντέι ανησυχεί για την άφιξη της αυτόνομης αναδρομικής βελτίωσης (RSI), μιας διαδικασίας κατά την οποία η ΤΝ αυτοβελτιώνεται χωρίς ανθρώπινη παρέμβαση.
«Χωρίς επίβλεψη, (αυτή η μέθοδος) θα μπορούσε να ξεπεράσει τις δικές μας ικανότητές κατανόησης και ελέγχου αυτών των συστημάτων», εξηγεί ο επικεφαλής της Anthropic. Πρέπει να εφαρμοστεί «με μεγάλη προσοχή», εφόσον τελικά κριθεί ότι «πρέπει να χρησιμοποιηθεί».
Πέρα από την έκκλησή του, ο Ντάριο Αμοντέι διατυπώνει πολλές προτάσεις, όπως την ενσωμάτωση ανεξάρτητων παρατηρητών από τις ναυαρχίδες της τεχνητής νοημοσύνης. Αν και το προτείνει σε όλους, δεσμεύεται ότι ο ίδιος θα την εφαρμόσει έστω και μόνος του στην Anthropic Οι παρατηρητές θα έχουν την ίδια πρόσβαση με τους υπαλλήλους και θα μπορούν να επαληθεύουν ότι η εταιρεία τηρεί τις δεσμεύσεις της, να αναφέρουν τυχόν νέα περιστατικά και να επιβλέπουν τη διαχείριση των μοντέλων ώστε να αποφεύγονται οι παρεκτροπές τους.
Ο Σαμ Άλτμαν υποσχέθηκε να κάνει το ίδιο στην OpenAI.
Ιλον Μασκ: «Συμφωνώ με τον Ντάριο»
«Ο Ντάριο έχει δίκιο», αντέδρασε λίγες ώρες αργότερα ο Ίλον Μασκ με ανάρτηση στην πλατφόρμα X στην πρόταση να «παγώσει προσωρινά» η βελτίωση της τεχνητής νοημοσύνης.
«Συμφωνώ με τον Ντάριο», έγραψε επίσης ο επικεφαλής της OpenAI, Σαμ Άλτμαν, επίσης στο X. «Αυτό είναι ένα από τα κύρια θέματα συζήτησης στην OpenAI τις τελευταίες εβδομάδες».
Αν και ο Ίλον Μασκ κάνει τακτικά θετικά σχόλια για την Anthropic και την προσέγγισή της στην Τεχνητή Νοημοσύνη, είναι πολύ σπάνιο να βλέπει κανείς τον επικεφαλής της OpenAI να υποστηρίζει μια πρωτοβουλία εκείνου της Anthropic, καθώς οι δύο εταιρείες είναι οι δύο μεγαλύτεροι ανταγωνιστές στον κλάδο.
Ο Ντάριο Αμοντέι αποχώρησε άλλωστε από την OpenAI το 2020 εν μέρει επειδή θεωρούσε ότι η καλιφορνέζικη εταιρεία ήταν πολύ χαλαρή στο ζήτημα της ασφάλειας της ΤΝ. Το 2021 ίδρυσε την Anthropic.
