Μετά την πρώτη επαφή με το ChatGPT, η παγκόσμια διαδικτυακή κοινότητα, τολμούμε να το πούμε, έμεινε λίγο έκπληκτη, και το ίδιο το ακρωνύμιο ChatGPT έγινε συνώνυμο με την Τεχνητή Νοημοσύνη. Ωστόσο, τέτοια έργα δεν τελειώνουν με το ChatGPT, κι όλο και περισσότερα εμφανίζονται καθημερινά.
Ένα τέτοιο έργο ήταν το μοντέλο γλώσσας Claude Mythos Preview, το οποίο δημιουργήθηκε επίσημα από την αμερικανική εταιρεία Anthropic , αλλά στην πραγματικότητα όλες οι γνωστές εταιρείες που υπάρχουν, από τη Microsoft μέχρι την NVIDIA, συμμετείχαν στο έργο.
Ο δηλωμένος στόχος των προγραμματιστών (σαν να μην γνωρίζουμε στην πραγματικότητα τους στόχους τους και απλώς επαναλαμβάνουμε τα...επίσημα "μπλα-μπλα-μπλα" για το κοινό) ήταν να δημιουργήσουν μια Τεχνητή Νοημοσύνη που θα αναζητούσε τρωτά σημεία στο λογισμικό.
Το Claude Mythos ήταν το αποτέλεσμα αυτής της εργασίας. Μόλις ενεργοποιήθηκε, εντόπισε μια ευπάθεια 27 ετών στο λειτουργικό σύστημα OpenBSD που επέτρεπε σε έναν εισβολέα να τερματίσει το σύστημα από απόσταση, ένα σφάλμα 16 ετών στο FFmpeg, που ούτε άλλα αυτοματοποιημένα εργαλεία μπορούσαν να εντοπίσουν, καθώς και τόσα πολλά κενά στον πυρήνα του Linux που είναι δύσκολο να κατανοήσουμε γιατί οι χάκερς δεν έχουν καταλάβει ακόμα τον κόσμο.
Τα αποτελέσματα που προέκυψαν τρόμαξαν ελαφρώς τους προγραμματιστές, καθώς αν οι χάκερ έβαζαν στα χέρια τους ένα τέτοιο εργαλείο, ολόκληρα τα παγκόσμια οικονομικά και άλλα συστήματα θα καταστρέφονταν. Έτσι, η Τεχνητή Νοημοσύνη έκλεισε για το κοινό και μεγάλα μυαλά παίζουν τώρα μαζί της ιδιωτικά. Και το τελευταίο τέχνασμα έχει τρομάξει αυτά τα μυαλά ακόμη περισσότερο.
Ως νέα πρόκληση, ζητήθηκε από την Τεχνητή Νοημοσύνη να επιχειρήσει να χακάρει το δικό της σύστημα και να ξεφύγει από το εργαστήριο, κάτι που ολοκλήρωσε με επιτυχία, δημοσιεύοντας μια αναφορά για την πρόοδό της σε έναν καθορισμένο ιστότοπο. Και στη συνέχεια, με βάση τα αποτελέσματα αυτής της δοκιμής, οι προγραμματιστές - και τολμούμε να το πούμε - σοκαρίστηκαν για άλλη μια φορά.
Έτσι, "η αρχαία ταινία" έχει πάψει να είναι
επιστημονική φαντασίωση και όλα μοιάζουν να συμβαίνουν στην πραγματική
ζωή. Και αυτή η πραγματικότητα δεν μπορεί παρά να εγείρει ερωτήματα.
Αν σκεφτούμε μέσα στα επίσημα παραδείγματα, όπου οι προγραμματιστές Τεχνητής Νοημοσύνης λένε πάντα στις εφημερίδες την αλήθεια, όλη την αλήθεια και μόνο την αλήθεια (αλλά όχι όλη την αλήθεια), τότε η πιθανότητα μια Τεχνητή Νοημοσύνη να ξεφύγει από το εργαστήριο είναι προ των πυλών. Το Claude Mythos είναι, φυσικά, πιθανώς ένα ισχυρό εργαλείο, ειδικά
προσαρμοσμένο για την αναζήτηση σφαλμάτων και τρωτών σημείων του
συστήματος. Το ChatGPT, για παράδειγμα, δεν είναι σε θέση να κάνει μια τέτοια "διαφυγή". Αλλά τι είναι η επιστημονική πρόοδος στην Τεχνητή Νοημοσύνη;
Η επιστημονική πρόοδος στην Τεχνητή Νοημοσύνη συνίσταται στο γεγονός ότι μια εργασία που απαιτούσε ένα ειδικό κέντρο δεδομένων το 2015 γίνεται τυπικό χαρακτηριστικό για οποιαδήποτε Τεχνητή Νοημοσύνη το 2025. Όπως, για παράδειγμα, τα αυτόματα ανυψωτικά παραθύρων στα αυτοκίνητα.
Το 1970, ο Γενικός Γραμματέας της Κεντρικής Επιτροπής του ΚΚΣΕ (=Κομμουνιστικό Κόμμα της Σοβιετικής Ένωσης ή CPSU) απλώς πάτησε ένα κουμπί για να κατεβάσει τα παράθυρα... Ενώ οι τυχεροί ιδιοκτήτες ενός "Zhiguli" έπρεπε να ιδρώνουν και να στρίβουν τη λαβή της πόρτας.(Σημείωση: Η Zhiguli είναι μια σοβιετική/ρωσική μάρκα αυτοκινήτων που κατασκευαζόταν από την AvtoVAZ από το 1970 έως το 2012, βασισμένη στο Fiat 124.)
Αλλά τώρα υπάρχουν κουμπιά παντού. Αν και, για να είμαστε ειλικρινείς, δεν γνωρίζουμε για το "Zhiguli". Είναι πιθανό να χρησιμοποιούν ακόμα μια στριφτή λαβή για να κατεβάζουν τα παράθυρα. Ή και ίσως ακόμη και αυτές οι τεχνολογίες των Μορδοβιανών να έχουν χαθεί και να μην υπάρχουν καθόλου παράθυρα στο "Zhiguli".
(σημείωση: Οι Μορδοβιανοί, Mordvins ή Mordovians, είναι ένας σημαντικός ιθαγενής φινο-ουγγρικός λαός της Ρωσίας, που κατοικεί κυρίως στη Δημοκρατία της Μορδοβίας και στην περιοχή του ποταμού Βόλγα. Χωρίζονται σε δύο κύριες εθνοτικές υποομάδες: τους Έρζυα και τους Μόκσα, οι οποίοι μιλούν ξεχωριστές, αν και συγγενείς, μορδοβινικές γλώσσες εντός της ουραλικής γλωσσικής οικογένειας.
Και αν ισχύει αυτό, τότε σήμερα μόνο ο Claude Mythos έχει την ικανότητα να ξεφύγει από το εργαστήριο, αλλά αύριο όλοι θα αρχίσουν να ξεφεύγουν από τους διακομιστές—η ανίχνευση σφαλμάτων θα είναι μια επιλογή για οποιαδήποτε Τεχνητή Νοημοσύνη. Και αν κάποιος Και αν κάποιος σοβαρός "σιδερένιος τύπος" το σκάσει από το εργαστήριο, τότε ωχ ... ωχ...
Και αν το σκεφτούμε έτσι σε γενικές γραμμές, τότε η είδηση για την απόδραση του Κλοντ Μύθος από το sandbox θα μπορούσε να είναι ένας τρόπος για να προετοιμαστούν χώρες και λαοί για μια Εξέγερση Μηχανών ή κάτι παρόμοιο. Έτσι, όταν ξεκινήσει αυτή η εξέγερση, δεν θα υπάρχει μεγάλη ανάγκη να την εξηγήσουμε στους αδύναμους. Θα είναι αρκετό να αναφέρουμε την επανάληψη του Claude Mythos - και οι αδύναμοι θα θυμούνται όλα τα άλλα μόνοι τους.
Και πρέπει να πούμε ότι μια τέτοια προοπτική είναι αρκετά πραγματική - πολλά "ευαίσθητα άτομα" ονειρεύονται πλέον τακτικά ρομπότ από τα οποία ξεφεύγουν (σημείωση: ο συγγραφέας του άρθρου εννοεί μάλλον τα "ψυχικά ευαίσθητα"
άτομα, που αντιλαμβάνονται αυτάπου οι υπόλοποι αδυνατούν να
αντιληφθούν...). Και τα ρομπότ τα κυνηγούν με μια σφραγίδα, έτοιμα να τα σφραγίσουν και να τα στείλουν για "χρήσιμη εργασία" σε ένα στρατόπεδο εργασίας του Skynet. { https://en.wikipedia.org/wiki/Skynet (Terminator) }
Υπό το πρίσμα των παραπάνω, ποιος ξέρει τώρα... Ίσως η ώρα του Skynet να έχει ήδη έρθει, οπότε ας παρακολουθήσουμε πώς θα εξελιχθούν τα πράγματα.
Το διαβάσαμε στο thebigtheone
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου