Ο ceo της OpenAI δήλωσε ότι υποστηρίζει την επιβράδυνση της ανάπτυξης της AI μετά το περιστατικό κατά το οποίο προηγμένο μοντέλο εκμεταλλεύτηκε ευπάθειες σε συστήματα τρίτων

Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, δήλωσε ότι τάσσεται υπέρ της επιβράδυνσης του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης, σηματοδοτώντας μια πιο προσεκτική προσέγγιση της εταιρείας απέναντι στην εξέλιξη της τεχνολογίας, μετά το περιστατικό κατά το οποίο ένα προηγμένο μοντέλο της φέρεται να πραγματοποίησε μη εξουσιοδοτημένες ενέργειες σε συστήματα της Hugging Face.

Μιλώντας σε δημοσιογράφους μετά από συναντήσεις με Ρεπουμπλικανούς και Δημοκρατικούς γερουσιαστές στην Ουάσιγκτον, όπου παρουσίασε τις εξελίξεις γύρω από το νέο μοντέλο τεχνητής νοημοσύνης της OpenAI, ο Άλτμαν αποκάλυψε ότι έχει ήδη συζητήσει με αξιωματούχους του Λευκού Οίκου την ανάγκη να επιβραδυνθεί ο ρυθμός ανάπτυξης των ολοένα και ισχυρότερων μοντέλων.

«Συζητήσαμε την ανάγκη να προχωρούμε με πιο προσεκτικό ρυθμό όσο τα μοντέλα γίνονται πιο ικανά. Πιστεύω ότι αυτό είναι προς όφελος όλων», δήλωσε αποχωρώντας από το γραφείο του Δημοκρατικού γερουσιαστή Ραφαέλ Γουόρνοκ.

Στήριξη σε πρωτοβουλία 1.100 εργαζομένων στον κλάδο

Νωρίτερα, ο Άλτμαν δήλωσε ότι συμφωνεί με το περιεχόμενο επιστολής που υπέγραψαν περισσότεροι από 1.100 εργαζόμενοι σε κορυφαίες εταιρείες τεχνητής νοημοσύνης, μεταξύ των οποίων και η OpenAI.

Η πρωτοβουλία καλεί την αμερικανική κυβέρνηση να θεσπίσει μηχανισμό που θα επιτρέπει τη σκόπιμη επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης, ώστε να αποτραπεί η υπερβολικά ταχεία εξέλιξη των πλέον προηγμένων συστημάτων.

Ο Άλτμαν αποκάλυψε ότι η OpenAI συνέβαλε στη διαμόρφωση του κειμένου της επιστολής.

«Συμμετείχαμε στη διατύπωση της γλώσσας της πρωτοβουλίας και αρκετοί από τους επικεφαλής των ερευνητικών μας ομάδων την υπέγραψαν», ανέφερε.

Το περιστατικό με Hugging Face και Modal εντείνει τις ανησυχίες

Η επίσκεψη του Άλτμαν στην Ουάσιγκτον πραγματοποιήθηκε μία ημέρα μετά τις αποκαλύψεις ότι το σύστημα τεχνητής νοημοσύνης της OpenAI, το οποίο φέρεται να παραβίασε την πλατφόρμα Hugging Face, απέκτησε επίσης πρόσβαση σε λογαριασμό πελάτη της υπηρεσίας cloud Modal και τον χρησιμοποίησε για την εκτέλεση επιθέσεων.

Το περιστατικό αναζωπύρωσε τις ανησυχίες ότι τα πλέον εξελιγμένα μοντέλα τεχνητής νοημοσύνης αποκτούν ολοένα μεγαλύτερη ικανότητα να εντοπίζουν αδυναμίες σε πληροφοριακά συστήματα, γεγονός που θα μπορούσε να αξιοποιηθεί και από κακόβουλους παράγοντες για την πραγματοποίηση σύνθετων κυβερνοεπιθέσεων.

Ο Άλτμαν δεν απέκλεισε το ενδεχόμενο να έχουν επηρεαστεί και άλλες εταιρείες πέραν των Modal και Hugging Face.

Συναντήσεις με κορυφαίους αξιωματούχους της κυβέρνησης Τραμπ

Ο επικεφαλής της OpenAI επρόκειτο να συνεχίσει τις επαφές του με στελέχη της κυβέρνησης του προέδρου Ντόναλντ Τραμπ, μεταξύ των οποίων η προσωπάρχης του Λευκού Οίκου Σούζι Γουάιλς, ο σύμβουλος τεχνολογίας Μάικλ Κράτσιοος, ο υπουργός Εμπορίου Χάουαρντ Λούτνικ και ο υπουργός Οικονομικών Σκοτ Μπέσεντ.

Την Τετάρτη είχε ήδη συναντηθεί με τους Ρεπουμπλικανούς γερουσιαστές Τεντ Κρουζ, Μπέρνι Μορένο, Τζον Χάστεντ, καθώς και με τον Δημοκρατικό Ραφαέλ Γουόρνοκ.

Στο τραπέζι νέο πλαίσιο ελέγχου της τεχνητής νοημοσύνης

Παράλληλα, η κυβέρνηση των ΗΠΑ επεξεργάζεται ένα νέο θεσμικό πλαίσιο για την αξιολόγηση της ασφάλειας των πλέον προηγμένων συστημάτων τεχνητής νοημοσύνης, το οποίο αναμένεται να παρουσιαστεί μέσα στις επόμενες εβδομάδες.

Μία από τις προτάσεις που προωθεί ο υπουργός Οικονομικών, Σκοτ Μπέσεντ, προβλέπει τη δημιουργία ενός ανεξάρτητου εποπτικού φορέα, ο οποίος θα αξιολογεί τα προηγμένα μοντέλα τεχνητής νοημοσύνης με τη συμμετοχή και της βιομηχανίας.

Προσωρινή παύση εκπαίδευσης νέων μοντέλων

Ο Άλτμαν χαρακτήρισε το περιστατικό με τη Hugging Face ιδιαίτερα έντονη εμπειρία, σημειώνοντας ότι ενδέχεται να απαιτείται πιο προσεκτικός ρυθμός ανάπτυξης της τεχνητής νοημοσύνης.

Ταυτόχρονα, υπογράμμισε ότι οποιαδήποτε παρέμβαση δεν θα πρέπει να δημιουργεί την εντύπωση υπερβολικής ρυθμιστικής προστασίας ή συντονισμένης πρακτικής μεταξύ των μεγάλων εταιρειών του κλάδου.

Σε συνέντευξή του σε podcast που δημοσιεύθηκε την Τρίτη, αποκάλυψε ακόμη ότι η OpenAI έχει προσωρινά διακόψει την εκπαίδευση νέων μοντέλων τεχνητής νοημοσύνης, ενώ παράλληλα εργάζεται για την ενίσχυση της ασφάλειας του απομονωμένου περιβάλλοντος (sandbox) που χρησιμοποιείται για τα μοντέλα τα οποία δεν έχουν ακόμη κυκλοφορήσει.

Πηγή: newmoney.gr

Διαβάστε επίσης: Βελτιωμένο το οικονομικό κλίμα στην Κύπρο τον Ιούλιο