Offcanvas
Offcanvas
Για τη σύνταξη της έκθεσής τους, οι ερευνητές της METR δήλωσαν ότι είχαν «πρωτοφανή πρόσβαση» σε εσωτερικά δεδομένα της Anthropic για σχεδόν τρεις μήνες
Η Anthropic χρησιμοποιεί υπάρχοντα μοντέλα τεχνητής νοημοσύνης για να εκπαιδεύσει μελλοντικά μοντέλα τεχνητής νοημοσύνης με ιλιγγιώδη ρυθμό. Επίσης, συσσωρεύει μοντέλα που δεν έχουν ακόμη κυκλοφορήσει.
Αυτό προκύπτει από μια νέα έκθεση ανεξάρτητων ερευνητών ασφάλειας που δημοσιεύθηκε πρόσφατα, για την οποία οι ερευνητές προειδοποίησαν ότι υπέστη εκτεταμένη λογοκρισία κατόπιν επιμονής της Anthropic.
«Ενώ μπορέσαμε να μοιραστούμε ελεύθερα τα συμπεράσματά μας υψηλότερου επιπέδου σχετικά με τον κίνδυνο, η Anthropic λογόκρινε το μεγαλύτερο μέρος των στοιχείων που θεωρήσαμε πιο αποκαλυπτικά για αυτά τα συμπεράσματα», ανέφερε η METR στην έκθεσή της.
Για τη σύνταξη της έκθεσής τους, οι ερευνητές της METR δήλωσαν ότι είχαν «πρωτοφανή πρόσβαση» σε εσωτερικά δεδομένα της Anthropic για σχεδόν τρεις μήνες.
Η ομάδα των ερευνητών πραγματοποίησε συνεντεύξεις με υπαλλήλους, διεξήγαγε δημοσκοπήσεις σε κανάλια του Slack και εξέτασε δεδομένα σχετικά με μη δημοσιευμένα, εσωτερικά μοντέλα τεχνητής νοημοσύνης.
Ακολουθούν τρία βασικά συμπεράσματα από την έκθεσή τους, σύμφωνα με το Business Insider:
Προηγμένα μοντέλα
Οι εργαζόμενοι της Anthropic χρησιμοποιούν καλύτερα μοντέλα τεχνητής νοημοσύνης από τους υπόλοιπους χρήστες. Στην πραγματικότητα, η έκθεση της METR αναφέρει ότι τους τελευταίους έξι μήνες, η εταιρεία ολοκλήρωσε την εκπαίδευση τριών μοντέλων που δεν είναι ακόμη διαθέσιμα στο κοινό.
Αυτά τα μοντέλα που προορίζονται αποκλειστικά για εσωτερική χρήση βοηθούν την Anthropic να βελτιώσει τις δυνατότητες τεχνητής νοημοσύνης της ακόμη πιο γρήγορα, σύμφωνα με τις εκτιμήσεις της METR. Η αποκάλυψη αυτή υποδεικνύει μία από τις πιο ριψοκίνδυνες κινήσεις του κλάδου της τεχνητής νοημοσύνης.
Αύξηση της παραγωγικότητας
Η Anthropic παρέδωσε δεδομένα από εσωτερικές δημοσκοπήσεις στο Slack που δείχνουν ότι το προσωπικό του κολοσσού της ΑΙ αναφέρει σημαντική αύξηση της παραγωγικότητας.
Η METR ανέφερε ότι η μέση αυτοαναφερόμενη αύξηση ήταν περίπου 12 φορές μεγαλύτερη «για το πιο ισχυρό εσωτερικό μοντέλο» τον Οκτώβριο. Το METR προειδοποίησε ότι θεωρεί τις δημοσκοπήσεις στο Slack αδύναμη απόδειξη, καθώς ενδέχεται να μην αντιπροσωπεύουν όλους τους υπαλλήλους της Anthropic. Η ερευνητική ομάδα προειδοποίησε επίσης ότι οι ερωτηθέντες ενδέχεται να μην έχουν σκεφτεί πολύ τις απαντήσεις τους.
Αναδρομική αυτοβελτίωση
Οι μηχανικοί της Anthropic αναθέτουν όλο και περισσότερες ευθύνες εποπτείας και εκπαίδευσης σε άλλα μοντέλα τεχνητής νοημοσύνης, μια επικίνδυνη διαδικασία γνωστή ως αναδρομική αυτοβελτίωση. Η μέθοδος αποδίδει καρπούς όσον αφορά την ταχύτητα.
Η METR διαπίστωσε ότι η Anthropic έχει σημειώσει «πρόοδο που αντιστοιχεί περίπου σε δύο χρόνια εξέλιξης κατά τη διάρκεια του τελευταίου έτους».
Οι ερευνητές ανέφεραν ότι τους ενημερώθηκε ότι η επιτάχυνση της έρευνας και ανάπτυξης επιτεύχθηκε «κυρίως μέσω της υποστήριξης της τεχνητής νοημοσύνης και όχι μέσω πλήρως αυτόνομων συνεισφορών».
Πηγή: newmoney.gr
ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ
