Η Anthropic, που έχει χαρακτηριστεί ως η πιο κερδοφόρα νεοφυής εταιρεία Τεχνητής Νοημοσύνης στον κόσμο, κάλεσε σε παγκόσμιο «πάγωμα» της ανάπτυξης της AI, προειδοποιώντας ότι η ανθρωπότητα κινδυνεύει να χάσει τον έλεγχο της τεχνολογίας.
Η εταιρεία πίσω από το chatbot Claude δήλωσε ότι είναι διατεθειμένη να αναστείλει τις εργασίες για ακόμη πιο ισχυρά συστήματα, εφόσον διασφαλιστεί ότι το ίδιο θα πράξουν και οι υπόλοιποι ανταγωνιστές της στον κλάδο της τεχνητής νοημοσύνης.
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ
«Εάν ήταν δυνατό να επιβραδυνθεί αποτελεσματικά η ανάπτυξη αυτής της τεχνολογίας, ώστε να έχουμε περισσότερο χρόνο να αντιμετωπίσουμε τις τεράστιες επιπτώσεις της, πιστεύουμε ότι αυτό πιθανότατα θα ήταν θετικό», έγραψαν στελέχη της εταιρείας σε επιστολή που παραθέτει η Telegraph.
Τα στελέχη της εταιρείας παρομοίασαν την άνοδο των ισχυρών συστημάτων Τεχνητής Νοημοσύνης με ένα «πρόβλημα ελέγχου εξοπλισμών» και προειδοποίησαν ότι η τεχνολογία που παράγεται μέσω ΑΙ πρέπει να περιοριστεί σύντομα, γιατί ο χρόνος τελειώνει.
Το ΑΙ σε σημείο που δεν χρειάζεται ανθρώπινη αρωγή
Η Anthropic ξεπέρασε πρόσφατα την OpenAI, δημιουργό του ChatGPT, και αναδείχθηκε στην πιο κερδοφόρα εταιρεία Τεχνητής Νοημοσύνης παγκοσμίως, με αποτίμηση 965 δισ. δολαρίων (719 δισ. λιρών).
Η εταιρεία έχει αποφασίσει να μην διαθέσει στο ευρύ κοινό το ισχυρότερο σύστημά της, το Mythos, λόγω φόβων ότι θα μπορούσε να χρησιμοποιηθεί για την πραγματοποίηση καταστροφικών κυβερνοεπιθέσεων.
Σε επιστολή που δημοσιεύθηκε το βράδυ της Πέμπτης, η Μαρίνα Φαβάρο και ο Τζακ Κλαρκ, επικεφαλής του ερευνητικού βραχίονα της Anthropic και πρόεδρος της εταιρείας αντίστοιχα, υποστήριξαν ότι η τεχνολογία της Τεχνητής Νοημοσύνης πλησιάζει σε ένα σημείο όπου τα ίδια τα συστήματα θα μπορούν να αναπτύσσονται μόνα τους.
Σύμφωνα με τους ίδιους, αυτή η φάση, γνωστή ως «αναδρομική αυτοβελτίωση» (recursive self-improvement), θα μπορούσε να οδηγήσει σε εκρηκτική αύξηση των δυνατοτήτων των συστημάτων, αλλά και να καταστήσει αδύνατο τον ανθρώπινο έλεγχό τους.
Απαραίτητη η προσωρινή παύση
Σημειώνεται πως η Anthropic έχει θεωρείται η εταιρεία Τεχνητής Νοημοσύνης που δίνει τη μεγαλύτερη έμφαση στην ασφάλεια της τεχνολογίας, την ίδια στιγμή που πραγματοποιεί ερευνητικές ανακαλύψεις οι οποίες, όπως αναφέρει, ενδέχεται να οδηγήσουν σε επικίνδυνα συστήματα.
Ο διευθύνων σύμβουλος της εταιρείας, Ντάριο Αμοντέι, έχει δηλώσει ότι υπάρχει πιθανότητα 25% «τα πράγματα να εξελιχθούν με εξαιρετικά άσχημο τρόπο».
«Πιστεύουμε ότι θα ήταν θετικό για τον κόσμο να υπάρχει η δυνατότητα επιβράδυνσης ή προσωρινής παύσης της ανάπτυξης της προηγμένης Τεχνητής Νοημοσύνης, ώστε οι κοινωνικοί θεσμοί και η έρευνα ευθυγράμμισης να μπορέσουν να συμβαδίσουν με τις εξελίξεις», τονίζει η Anthropic.
Ωστόσο, η εταιρεία προειδοποίησε ότι ο συντονισμός ενός παγκόσμιου παγώματος θα ήταν εξαιρετικά δύσκολος, επισημαίνοντας τον έντονο ανταγωνισμό μεταξύ Ηνωμένων Πολιτειών και Κίνας στον τομέα της Τεχνητής Νοημοσύνης.
«Μια ουσιαστική επιβράδυνση ή παύση θα απαιτούσε πολλαπλά, καλά χρηματοδοτούμενα εργαστήρια που βρίσκονται στην αιχμή της τεχνολογίας, σε πολλές χώρες, να συμφωνήσουν να σταματήσουν υπό τις ίδιες προϋποθέσεις», ανέφερε.
«Θα απαιτούσε επίσης τη δυνατότητα κάθε πλευράς να επαληθεύει ότι και οι υπόλοιπες έχουν πράγματι σταματήσει… Οι εκπαιδεύσεις μοντέλων είναι πολύ πιο εύκολο να αποκρυφθούν από ό,τι οι πυρηνικές εγκαταστάσεις εκτόξευσης πυραύλων».
Η κα. Φαβάρο και ο κ. Κλαρκ δήλωσαν ακόμη ότι οι εργαζόμενοι της Anthropic παράγουν σήμερα οκτώ φορές περισσότερο κώδικα σε σύγκριση με την περίοδο 2021-2025, ενώ η Τεχνητή Νοημοσύνη γίνεται ολοένα και καλύτερη στη διατύπωση νέων ιδεών και στον σχεδιασμό ερευνητικών προγραμμάτων.
Άλλοι ειδικοί, ωστόσο, έχουν υποστηρίξει ότι η εταιρεία υπερβάλλει σχετικά με τις δυνατότητες της Τεχνητής Νοημοσύνης ή ότι κατασκευάζει προειδοποιήσεις για τους κινδύνους της τεχνολογίας προκειμένου να προωθήσει ρυθμιστικά μέτρα που θα μπορούσαν να πλήξουν τους ανταγωνιστές της.
Η τεχνητή νοημοσύνη περικόπτει θέσεις εργασίας
Η επιστολή της Athropic έρχεται σε μία περίοδο κατά την οποία η τεχνητή νοημοσύνη επηρεάζει την αγορά εργασίας, με ολοένα και περισσότερες επιχειρήσεις να χρηματοδοτούν την «AI μετάβαση» μέσα από περικοπές σε μισθούς, παροχές και θέσεις εργασίας.
Χαρκτηριστικά, η εταιρεία Teradata πρόσφατα ενημέρωσε τους 5.100 εργαζομένους της πως δεν θα υπάρξουν ετήσιες αυξήσεις μισθών, καθώς ο προϋπολογισμός ανακατευθύνεται προς επενδύσεις στην Τεχνητή Νοημοσύνη.
Όπως ανέφερε η διοίκηση, στόχος για το 2026 είναι η «πρωτιά στην αγορά μέσω της Τεχνητής Νοημοσύνης», κάτι που προϋποθέτει ενίσχυση του ανθρώπινου δυναμικού εξειδικευμένου στην τεχνολογία, αλλά όχι απαραίτητα του υπάρχοντος προσωπικού.
Σύμφωνα με εκτιμήσεις, οι επιχειρήσεις αναμένεται να δαπανήσουν περίπου το 1,7% των εσόδων τους στην Τεχνητή Νοημοσύνη το 2026, ενώ το υπόλοιπο βάρος προσαρμογής μεταφέρεται συχνά στο εργατικό δυναμικό.
Μήπως, όντως, ήρθε η ώρα να μιλήσουμε για ρυθμιστικά πλαίσια στη χρήση της τεχνητής νοημοσύνης, προτού οι συνέπειες στην οικονομία, την εργασία και κατ΄επέκταση την αγορά εργασίας γίνουν ανεπανόρθωτα αρνητικές;
Ακολουθήστε το rosa.gr
