Ο συνιδρυτής της Anthropic Τζακ Κλαρκ προειδοποιεί ότι η τεχνητή νοημοσύνη εξελίσσεται ταχύτερα από τη ρύθμισή της, ζητώντας μηχανισμούς ελέγχου καθώς τα συστήματα αποκτούν ολοένα μεγαλύτερη αυτονομία

Ένας από τους συνιδρυτές της Anthropic προειδοποιεί ότι η τεχνητή νοημοσύνη πλησιάζει σε ένα κρίσιμο σημείο καμπής και ζητά τη δημιουργία μηχανισμών που θα επιτρέπουν στην κοινωνία να επιβραδύνει την ανάπτυξή της εφόσον κριθεί απαραίτητο.

Ο Τζακ Κλαρκ, συνιδρυτής της Anthropic, δήλωσε στο BBC Newsnight ότι η βιομηχανία της τεχνητής νοημοσύνης αναπτύσσεται με ταχύτητα χωρίς να διαθέτει επαρκείς δικλίδες ασφαλείας.

«Πρέπει να υπάρχει η δυνατότητα να σηκώσεις το πόδι από το γκάζι και να πατήσεις φρένο. Αυτή τη στιγμή η βιομηχανία της τεχνητής νοημοσύνης έχει γκάζι, αλλά δεν έχει φρένο», ανέφερε χαρακτηριστικά.

Όπως τόνισε, οι κυβερνήσεις και οι ρυθμιστικές αρχές οφείλουν να διασφαλίσουν ότι ο έλεγχος των ολοένα και ισχυρότερων συστημάτων AI θα παραμείνει στα χέρια των ανθρώπων.

«Ο κόσμος πρέπει να σκεφτεί σοβαρά το θέμα και να αναπτύξει νέους κανονισμούς που θα μας επιτρέπουν να εμπιστευόμαστε αυτά τα συστήματα», υπογράμμισε.

Το Claude γράφει ήδη μόνο του το μεγαλύτερο μέρος του κώδικα

Ο Κλαρκ αποκάλυψε ότι το chatbot Claude λειτουργεί σήμερα με κώδικα που σε ποσοστό περίπου 80% έχει παραχθεί από το ίδιο το σύστημα τεχνητής νοημοσύνης.

Σύμφωνα με τον ίδιο, η πλήρης μετάβαση σε κώδικα που θα δημιουργείται εξ ολοκλήρου από AI είναι πιθανό να επιτευχθεί μέσα στα επόμενα δύο χρόνια.

«Αυτό θα είχε τεράστιες συνέπειες», προειδοποίησε.

Παρότι δεν παρουσίασε συγκεκριμένη πρόταση για το πώς θα μπορούσε να εφαρμοστεί ένα «φρένο» στην έρευνα και ανάπτυξη της AI, παρομοίασε τη σημερινή φάση της τεχνολογίας με την έκρηξη της πετρελαϊκής βιομηχανίας στις αρχές του 20ού αιώνα.

Όπως είπε, η κοινωνία τότε δημιούργησε ένα ρυθμιστικό πλαίσιο που επέτρεψε την αξιοποίηση του πετρελαίου χωρίς να εξαρτάται αποκλειστικά από τις αποφάσεις των επιχειρηματιών που ηγούνταν του κλάδου.

Παρά τις προειδοποιήσεις της, η Anthropic χαιρέτισε πρόσφατα το εκτελεστικό διάταγμα του Προέδρου των Ηνωμένων Πολιτειών Ντόναλντ Τραμπ για την τεχνητή νοημοσύνη, το οποίο δεν επιβάλλει υποχρεωτικούς κρατικούς ελέγχους ασφαλείας στα νέα μοντέλα AI.

Η συμμετοχή των εταιρειών σε διαδικασίες δοκιμών παραμένει προαιρετική, ενώ ούτε η Anthropic ούτε άλλοι μεγάλοι παίκτες του κλάδου, όπως η OpenAI και η Google, έχουν ανακοινώσει πρόθεση να επιβραδύνουν ή να αναστείλουν τα ερευνητικά τους προγράμματα.

IPO-μαμούθ και αποτίμηση κοντά στο 1 τρισ. δολάρια

Η Anthropic, η οποία ιδρύθηκε πριν από πέντε χρόνια από επτά πρώην στελέχη της OpenAI, αναπτύσσεται με εξαιρετικά γρήγορους ρυθμούς και προετοιμάζεται για είσοδο στο χρηματιστήριο.

Η εταιρεία θεωρείται μία από τις πιθανότερες υποψήφιες για τη μεγαλύτερη δημόσια εγγραφή στην ιστορία του κλάδου της τεχνητής νοημοσύνης, με την αποτίμησή της να εκτιμάται από ιδιώτες επενδυτές κοντά στο 1 τρισεκατομμύριο δολάρια.

Ο Κλαρκ υποστήριξε ότι οι δημόσιες παρεμβάσεις της εταιρείας δεν έχουν στόχο την εμπορική προβολή, αλλά την ενημέρωση της κοινωνίας για όσα συμβαίνουν στο εσωτερικό των εταιρειών AI.

«Θέλουμε απλώς να πούμε στον κόσμο τι βλέπουμε μέσα σε αυτές τις εταιρείες και πώς εξελίσσεται αυτή η ασυνήθιστη τεχνολογία», είπε.

Οι φόβοι για θέσεις εργασίας και η συμβουλή στους νέους

Ο συνιδρυτής της Anthropic προειδοποίησε επίσης για τις επιπτώσεις που μπορεί να έχει η τεχνητή νοημοσύνη στην αγορά εργασίας, ειδικά μέσω των λεγόμενων «AI agents», αυτόνομων ψηφιακών βοηθών που μπορούν να εκτελούν επαναλαμβανόμενες εργασίες χωρίς ανθρώπινη παρέμβαση.

Τα τελευταία χρόνια αρκετές μεγάλες εταιρείες τεχνολογίας έχουν προχωρήσει σε μαζικές απολύσεις, επικαλούμενες την αυξανόμενη ικανότητα των συστημάτων AI να αντικαθιστούν το έργο εκατοντάδων ή και χιλιάδων μηχανικών λογισμικού.

Παράλληλα, ο Κλαρκ εκτίμησε ότι οι δημιουργικοί άνθρωποι ίσως διατηρήσουν σημαντικό πλεονέκτημα έναντι των μηχανών.

«Παραμένει ανοιχτό το ερώτημα αν τα συστήματα τεχνητής νοημοσύνης μπορούν να είναι πραγματικά δημιουργικά. Μέχρι στιγμής δεν υπάρχουν ισχυρές αποδείξεις γι’ αυτό», σημείωσε.

Σε νέους που ανησυχούν ότι η οικονομία της AI δεν θα έχει χώρο γι’ αυτούς, συνέστησε να καλλιεργήσουν ενδιαφέροντα, να διαβάζουν και να αναπτύσσουν ευρύτερες δεξιότητες.

«Οι άνθρωποι που είναι περίεργοι, δημιουργικοί και σκέφτονται πολυδιάστατα είναι αυτοί που θα επωφεληθούν περισσότερο από αυτή την τεχνολογία. Η περιέργεια επιστρέφει πάντα την επένδυσή της», κατέληξε.

Πηγή: newmoney.gr

ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ

SpaceX: Ετοιμάζει ιδιώτες επενδυτές για IPO ρεκόρ