Είναι ευαίσθητη η τεχνητή νοημοσύνη; Ναι!

 

Ένας μηχανικός της Google φέρεται να τέθηκε σε αναστολή από την εταιρεία αφού ισχυρίστηκε ότι μια τεχνητή νοημοσύνη που βοήθησε να αναπτυχθεί είχε γίνει αισθητή. «Αν δεν ήξερα ακριβώς τι ήταν, που είναι αυτό το πρόγραμμα υπολογιστή που κατασκευάσαμε πρόσφατα, θα πίστευα ότι ήταν ένα επτάχρονο, οκτάχρονο παιδί», είπε ο Blake Lemoine στην Washington Post .

Ο Lemoine κυκλοφόρησε μεταγραφές συνομιλιών με την AI, που ονομάζεται LaMDA (Language Model for Dialogue Applications), στις οποίες φαίνεται να εκφράζει φόβους για απενεργοποίηση, μιλά για το πώς αισθάνεται χαρούμενος και λυπημένος και προσπαθεί να δημιουργήσει δεσμούς με ανθρώπους αναφέροντας καταστάσεις που δεν θα μπορούσε ποτέ να έχει βιώσει πραγματικά. Εδώ είναι όλα όσα πρέπει να γνωρίζετε.

Είναι το LaMDA πραγματικά ευαίσθητο;

Με μια λέξη, όχι, λέει ο Adrian Weller στο The Alan Turing Institute στο Ηνωμένο Βασίλειο.

"Το LaMDA είναι ένα εντυπωσιακό μοντέλο, είναι ένα από τα πιο πρόσφατα σε μια σειρά μοντέλων μεγάλων γλωσσών που έχουν εκπαιδευτεί με μεγάλη υπολογιστική ισχύ και τεράστιες ποσότητες δεδομένων κειμένου, αλλά δεν είναι πραγματικά ευαίσθητα", λέει. "Κάνουν μια περίπλοκη μορφή αντιστοίχισης μοτίβων για να βρουν κείμενο που ταιριάζει καλύτερα με το ερώτημα που τους έχει δοθεί, το οποίο βασίζεται σε όλα τα δεδομένα που έχουν τροφοδοτηθεί."

Ο Adrian Hilton στο Πανεπιστήμιο του Surrey, UK, συμφωνεί ότι η αίσθηση είναι ένας «τολμηρός ισχυρισμός» που δεν υποστηρίζεται από τα γεγονότα. Ακόμη και ο γνωστός γνωστικός επιστήμονας Στίβεν Πίνκερ σκέφτηκε να καταρρίψει τους ισχυρισμούς του Λεμουάν, ενώ ο Γκάρι Μάρκους στο Πανεπιστήμιο της Νέας Υόρκης το συνόψισε σε μια λέξη - « ανοησίες» .

Τι έπεισε λοιπόν τον Lemoine ότι ο LaMDA ήταν ευαίσθητος;

Ούτε ο Lemoine ούτε η Google απάντησαν στο αίτημα του New Scientist για σχολιασμό. Αλλά είναι σίγουρα αλήθεια ότι η απόδοση των μοντέλων AI τα τελευταία χρόνια έχει γίνει εκπληκτικά, ακόμη και συγκλονιστικά καλή.

Το μυαλό μας είναι επιρρεπές στο να αντιληφθεί μια τέτοια ικανότητα - ειδικά όταν πρόκειται για μοντέλα που έχουν σχεδιαστεί για να μιμούνται την ανθρώπινη γλώσσα - ως απόδειξη αληθινής νοημοσύνης. Το LaMDA όχι μόνο μπορεί να κάνει πειστική συνομιλία, αλλά μπορεί επίσης να παρουσιαστεί ότι έχει αυτογνωσία και συναισθήματα.

«Ως άνθρωποι, είμαστε πολύ καλοί στο να ανθρωπομορφοποιούμε πράγματα», λέει η Hilton. «Βάζουμε τις ανθρώπινες αξίες μας στα πράγματα και τα αντιμετωπίζουμε σαν να έχουν αίσθηση. Αυτό το κάνουμε με κινούμενα σχέδια, για παράδειγμα, ή με ρομπότ ή με ζώα. Προβάλλουμε τα δικά μας συναισθήματα και συναίσθημα πάνω τους. Φαντάζομαι ότι αυτό συμβαίνει σε αυτή την περίπτωση».

Θα είναι ποτέ η τεχνητή νοημοσύνη αληθινά ευαίσθητη;

Παραμένει ασαφές εάν η τρέχουσα τροχιά της έρευνας της τεχνητής νοημοσύνης, όπου τα ολοένα μεγαλύτερα μοντέλα τροφοδοτούνται με ολοένα και μεγαλύτερους σωρούς δεδομένων εκπαίδευσης , θα δει τη γένεση ενός τεχνητού μυαλού.

«Δεν πιστεύω αυτή τη στιγμή ότι καταλαβαίνουμε πραγματικά τους μηχανισμούς πίσω από αυτό που κάνει κάτι αισθαντικό και έξυπνο», λέει η Hilton. «Υπάρχει πολλή διαφημιστική εκστρατεία σχετικά με την τεχνητή νοημοσύνη, αλλά δεν είμαι πεπεισμένος ότι αυτό που κάνουμε με τη μηχανική μάθηση αυτή τη στιγμή είναι πραγματικά ευφυΐα με αυτή την έννοια».

Ο Weller λέει ότι, δεδομένου ότι τα ανθρώπινα συναισθήματα βασίζονται σε αισθητηριακές εισροές, μπορεί τελικά να είναι δυνατό να αναπαραχθούν τεχνητά. «Ενδεχομένως, ίσως μια μέρα, μπορεί να είναι αλήθεια, αλλά οι περισσότεροι άνθρωποι θα συμφωνούσαν ότι υπάρχει πολύς δρόμος μπροστά μας».

Πώς αντέδρασε η Google;

Η Washington Post ισχυρίζεται ότι ο Lemoine έχει τεθεί σε αναστολή μετά από επτά χρόνια στην Google, αφού προσπάθησε να προσλάβει δικηγόρο για να εκπροσωπήσει τη LaMDA και έστειλε στα στελέχη ένα έγγραφο που ισχυριζόταν ότι η τεχνητή νοημοσύνη ήταν ευαίσθητη. Η έκθεσή της σημειώνει ότι η Google λέει ότι η δημοσίευση των μεταγραφών παραβίασε τις πολιτικές εμπιστευτικότητας.

Η Google είπε στην εφημερίδα: «Η ομάδα μας, συμπεριλαμβανομένων των ηθικολόγων και των τεχνολόγων, εξέτασε τις ανησυχίες του Blake σύμφωνα με τις αρχές μας για την τεχνητή νοημοσύνη και τον ενημέρωσε ότι τα στοιχεία δεν υποστηρίζουν τους ισχυρισμούς του. Του είπαν ότι δεν υπήρχαν στοιχεία που να αποδεικνύουν ότι ο LaMDA ήταν ευαίσθητος (και πολλά στοιχεία εναντίον του).

Ο Lemoine απάντησε στο Twitter: «Η Google μπορεί να αποκαλέσει αυτήν την κοινή χρήση ιδιοκτησία ιδιοκτησίας. Το ονομάζω να μοιράζομαι μια συζήτηση που είχα με έναν από τους συναδέλφους μου».

new scient