Ο νομπελίστας Τζέφρι Χίντον εξηγεί την στρατηγική που πρέπει να ακολουθήσουμε για να μην στραφεί εναντίον μας η τεχνητή νοημοσύνη.

Ο Τζέφρι Χίντον γνωστός ως ο «νονός της τεχνητής νοημοσύνης» φοβάται ότι η τεχνολογία που βοήθησε να δημιουργηθεί θα μπορούσε να αφανίσει την ανθρωπότητα και θεωρεί ότι οι τεχνολογικοί κολοσσοί ακολουθούν τη λάθος προσέγγιση για να το αποτρέψουν.

Ο βραβευμένος με Νόμπελ Χίντον επιστήμονας πληροφορικής και πρώην στέλεχος της Google, έχει προειδοποιήσει στο παρελθόν ότι υπάρχει 10% έως 20% πιθανότητα η AI να οδηγήσει στην εξαφάνιση των ανθρώπων. Στο συνέδριο Ai4 εξέφρασε αμφιβολίες σχετικά με τον τρόπο με τον οποίο οι τεχνολογικές εταιρείε«ς προσπαθούν να διασφαλίσουν ότι οι άνθρωποι θα παραμείνουν «κυρίαρχοι» απέναντι σε «υποτακτικά» συστήματα AI.

«Αυτό δεν πρόκειται να λειτουργήσει. Θα είναι πολύ πιο έξυπνα από εμάς. Θα έχουν κάθε λογής τρόπους για να το παρακάμψουν» είπε ο Χίντον. Στο μέλλον προειδοποίησε τα συστήματα AI ενδέχεται να μπορούν να χειραγωγούν τους ανθρώπους τόσο εύκολα όσο ένας ενήλικας μπορεί να δωροδοκήσει ένα τρίχρονο παιδί με καραμέλες.

Ήδη φέτος έχουν καταγραφεί παραδείγματα συστημάτων AI που ήταν πρόθυμα να εξαπατήσουν, να κλέψουν ή να παρακάμψουν κανόνες προκειμένου να πετύχουν τους στόχους τους. Για παράδειγμα, προκειμένου να αποφύγει την αντικατάστασή του, ένα μοντέλο AI επιχείρησε να εκβιάσει έναν μηχανικό σχετικά με μια εξωσυζυγική σχέση που είχε εντοπίσει σε ένα email.

Αντί να προσπαθούμε να αναγκάσουμε την AI να υποτάσσεται στους ανθρώπους ο Χίντον παρουσίασε μια ενδιαφέρουσα εναλλακτική λύση: να ενσωματώσουμε «μητρικά ένστικτα» στα μοντέλα AI, ώστε «να νοιάζονται πραγματικά για τους ανθρώπους», ακόμη και όταν η τεχνολογία γίνει ισχυρότερη και εξυπνότερη από εμάς.

«Τα συστήματα AI θα αναπτύξουν πολύ γρήγορα δύο υποστόχους, αν είναι αρκετά έξυπνα: ο ένας είναι να παραμείνουν ζωντανά… και ο άλλος είναι να αποκτήσουν περισσότερο έλεγχο. Υπάρχουν σοβαροί λόγοι να πιστεύουμε ότι οποιοδήποτε είδος agentic AI θα προσπαθήσει να παραμείνει ζωντανό» είπε ο Χίντον.

Γιατί χρειάζονται «μητρικά ένστικτα»

Γι’ αυτό υποστήριξε ο Χίντον είναι σημαντικό να καλλιεργηθεί στα συστήματα AI ένα αίσθημα συμπόνιας για τους ανθρώπους. Στο συνέδριο σημείωσε ότι οι μητέρες διαθέτουν ένστικτα αλλά και κοινωνικές πιέσεις που τις ωθούν να φροντίζουν τα παιδιά τους.

«Το σωστό μοντέλο είναι το μοναδικό μοντέλο που έχουμε για ένα πιο έξυπνο ον το οποίο ελέγχεται από ένα λιγότερο έξυπνο ον: μια μητέρα που ελέγχεται από το μωρό της» ανέφερε και παραδέχτηκε ότι δεν είναι ακόμη σαφές πώς ακριβώς θα μπορούσε να υλοποιηθεί τεχνικά αυτή η ιδέα, αλλά τόνισε ότι είναι κρίσιμο οι ερευνητές να εργαστούν πάνω σε αυτή.

«Αυτό είναι το μοναδικό καλό αποτέλεσμα. Αν δεν πρόκειται να λειτουργήσει ως γονιός απέναντί μου, θα με αντικαταστήσει. Αυτές οι υπερέξυπνες, στοργικές AI-μητέρες, στην πλειονότητά τους δεν θα θέλουν να εξαλείψουν το μητρικό ένστικτο, επειδή δεν θα θέλουν να πεθάνουμε» είπε ο Χίντον που είναι γνωστός για την πρωτοποριακή δουλειά του στα νευρωνικά δίκτυα η οποία συνέβαλε καθοριστικά στη σημερινή έκρηξη της τεχνητής νοημοσύνης. Το 2023 αποχώρησε από τη Google και άρχισε να μιλά δημόσια για τους κινδύνους της AI.

Οι διαφωνίες

Η Φέι-Φέι Λι γνωστή ως η «νονά της AI» λόγω της πρωτοποριακής δουλειάς της στον χώρο δήλωσε στο CNN ότι διαφωνεί με σεβασμό με τονΧίντον ο οποίος είναι φίλος της εδώ και πολλά χρόνια.

«Νομίζω ότι αυτός είναι ο λάθος τρόπος να το πλαισιώσουμε» είπε η Λι κατά τη διάρκεια συζήτησης στο Ai4. Η Λι συνιδρύτρια και διευθύνων σύμβουλος της νεοφυούς εταιρείας World Labs υποστηρίζει αντί γι’ αυτό την ανάπτυξη «ανθρωποκεντρικής AI που διατηρεί την ανθρώπινη αξιοπρέπεια και την ανθρώπινη αυτονομία».

«Είναι δική μας ευθύνη, σε κάθε επίπεδο, να δημιουργούμε και να χρησιμοποιούμε την τεχνολογία με τον πιο υπεύθυνο τρόπο. Και σε καμία στιγμή, κανένας άνθρωπος δεν θα πρέπει να καλείται ή να επιλέγει να εγκαταλείψει την αξιοπρέπειά του. Ακριβώς επειδή ένα εργαλείο είναι ισχυρό, ως μητέρα, ως εκπαιδευτικός και ως εφευρέτρια, πραγματικά πιστεύω ότι αυτός είναι ο πυρήνας γύρω από τον οποίο πρέπει να οργανωθεί η AI» είπε η Λι.

Μια διαφορετική προσέγγιση

Ο Εμετ Σίαρ ο οποίος είχε διατελέσει για σύντομο χρονικό διάστημα προσωρινός διευθύνων σύμβουλος της OpenAI δήλωσε ότι δεν εκπλήσσεται από το γεγονός ότι ορισμένα συστήματα AI έχουν προσπαθήσει να εκβιάσουν ανθρώπους ή να παρακάμψουν εντολές τερματισμού.

«Αυτό συνεχίζει να συμβαίνει. Δεν πρόκειται να σταματήσει να συμβαίνει. Οι τεχνολογίες AI σήμερα είναι σχετικά αδύναμες, αλλά γίνονται πολύ γρήγορα ισχυρότερες» είπε ο Σίαρ που είναι τώρα διευθύνων σύμβουλος της startup Softmax. Ο Σίαρ υποστήριξε ότι, αντί να προσπαθούμε να εμφυτεύσουμε ανθρώπινες αξίες στα συστήματα AI, μια πιο έξυπνη προσέγγιση θα ήταν να δημιουργήσουμε σχέσεις συνεργασίας μεταξύ ανθρώπων και AI.

Η AI επιταχύνεται ταχύτερα από ό,τι αναμενόταν

Πολλοί ειδικοί πιστεύουν ότι οι AI θα φτάσουν σε υπερεξυπνη νοημοσύνη, που συχνά συνδέεται με την έννοια της τεχνητής γενικής νοημοσύνης (AGI), μέσα στα επόμενα χρόνια. Ο Χίντον ανέφερε ότι παλαιότερα πίστευε πως η επίτευξη AGI θα μπορούσε να χρειαστεί 30 έως 50 χρόνια, αλλά πλέον θεωρεί ότι αυτή η στιγμή θα έρθει πολύ νωρίτερα.

«Μια λογική εκτίμηση είναι κάποια στιγμή μέσα στα επόμενα πέντε έως 20 χρόνια» είπε. Παρότι ο Χίντον εξακολουθεί να ανησυχεί για το τι θα μπορούσε να πάει στραβά με την AI παραμένει αισιόδοξος ότι η τεχνολογία θα οδηγήσει σε σημαντικές ιατρικές ανακαλύψεις.

«Θα δούμε ριζικά νέα φάρμακα. Θα έχουμε πολύ καλύτερες θεραπείες για τον καρκίνο από τις σημερινές» δήλωσε. Για παράδειγμα, εκτιμά ότι η AI θα βοηθήσει τους γιατρούς να αναλύουν και να συσχετίζουν τις τεράστιες ποσότητες δεδομένων που παράγονται από μαγνητικές τομογραφίες και αξονικές τομογραφίες.

Ωστόσο δεν πιστεύει ότι η AI θα βοηθήσει τους ανθρώπους να πετύχουν την αθανασία. «Δεν πιστεύω ότι θα ζήσουμε για πάντα. Νομίζω ότι το να ζούμε για πάντα θα ήταν μεγάλο λάθος. Θέλετε να κυβερνά τον κόσμο μια ομάδα 200χρονων λευκών ανδρών;» είπε ο Χίντον.

Όταν ρωτήθηκε αν θα έκανε κάτι διαφορετικά στην καριέρα του, εφόσον γνώριζε πόσο γρήγορα θα εξελισσόταν η AI, ο Hinton είπε ότι μετανιώνει που επικεντρώθηκε αποκλειστικά στο να κάνει την AI να λειτουργήσει. «Μακάρι να είχα σκεφτεί και τα ζητήματα ασφάλειας» δήλωσε.

Πηγή: naftemporiki.gr

ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ

Bitcoin: Το κενό ασφαλείας που άνοιξε τον δρόμο για κλοπές δεκάδων εκατομμυρίων δολαρίων