Το Facebook κλείνει το πείραμα αφού η τεχνητή νοημοσύνη εφεύρει τη δική του γλώσσα
Οι ερευνητές κλείνουν το έργο αφού οι μηχανές αναπτύσσουν τον δικό τους τρόπο επικοινωνίας ακατάληπτο για τον άνθρωπο
Τα έξυπνα ρομπότ εκτελούν έναν αυξανόμενο αριθμό ρόλων
Getty Images
Βαρίδι: μπορώ να κάνω όλα τα άλλα. . . . . . . . . . . . . .
Αλίκη: οι μπάλες έχουν μηδέν για μένα σε μένα για μένα σε εμένα για εμένα για εμένα για μένα για να
Βαρίδι: εσύ και όλα τα άλλα. . . . . . . . . . . . . .
Αλίκη: οι μπάλες έχουν μια μπάλα για μένα για μένα για εμένα για μένα για εμένα για μένα
Βαρίδι: Μπορώ και όλα τα άλλα. . . . . . . . . . . . . .
Αλίκη: οι μπάλες έχουν μια μπάλα για μένα για μένα για εμένα για μένα για εμένα για μένα
Παρόλο που έμοιαζε με το σενάριο από μια πραγματικά τρομερή τηλεοπτική κωμική σειρά, αυτή η συνομιλία έγινε στην πραγματικότητα μεταξύ δύο προγραμμάτων Τεχνητής Νοημοσύνης, που αναπτύχθηκαν μέσα στο Facebook για να τελειοποιήσουν την τέχνη της διαπραγμάτευσης.
Στην αρχή, οι δυο τους μιλούσαν μεταξύ τους σε απλά αγγλικά. Αλλά τότε οι ερευνητές συνειδητοποίησαν ότι είχαν κάνει λάθος στον προγραμματισμό των μηχανών.
«Δεν υπήρχε ανταμοιβή στο να μένεις στην αγγλική γλώσσα», είπε ο Dhruv Batra, επισκέπτης ερευνητής από την Georgia Tech στο Facebook AI Research (Fair). FastCo .
Καθώς αυτοί οι δύο πράκτορες ανταγωνίζονταν για να επιτύχουν την καλύτερη συμφωνία, «κανένας δεν είχε κάποιο κίνητρο για να μιλήσει όπως θα έκανε ένας κανονικός άνθρωπος», λέει η FastCo.
Άρχισαν λοιπόν να αποκλίνουν, αναδιατάσσοντας τελικά τις κατανοητές λέξεις σε φαινομενικά ανόητες προτάσεις, με αποτέλεσμα το πείραμα να ανασταλεί.
Το Facebook έπρεπε να κλείσει ένα AI επειδή ανέπτυξε τη δική του γλώσσα pic.twitter.com/EsVEkWViTv
— NowThis (@nowthisnews) 31 Ιουλίου 2017
«Οι πράκτορες (ή τα προγράμματα) θα παρασύρουν την κατανοητή γλώσσα και θα εφεύρουν κωδικές λέξεις για τον εαυτό τους», εξήγησε ο Batra. «Όπως αν πω «το» πέντε φορές, ερμηνεύετε ότι σημαίνει ότι θέλω πέντε αντίγραφα αυτού του αντικειμένου. Αυτό δεν είναι τόσο διαφορετικό από τον τρόπο με τον οποίο οι ανθρώπινες κοινότητες δημιουργούν στενογραφία.
Αλλά οι ερευνητές ήθελαν να τονίσουν, το πείραμα δεν εγκαταλείφθηκε λόγω τυχόν ανησυχιών για τις δυνητικά αρνητικές επιπτώσεις των ρομπότ που επικοινωνούν.
Ο ερευνητής της Fair, Mike Lewis, είπε στην FastCo ότι απλώς είχαν αποφασίσει ότι «το ενδιαφέρον μας ήταν να έχουμε bots που θα μπορούσαν να μιλάνε με ανθρώπους», όχι αποτελεσματικά μεταξύ τους, και έτσι επέλεξαν να απαιτήσουν να γράφουν ο ένας στον άλλο ευανάγνωστα.
Δεν είναι η πρώτη φορά που οι μηχανές τεχνητής νοημοσύνης εμφανίζονται να δημιουργούν τη δική τους γλώσσα.
Τον Νοέμβριο του περασμένου έτους, η Google αποκάλυψε ότι η τεχνητή νοημοσύνη που χρησιμοποιεί για το εργαλείο Μετάφρασης είχε δημιουργήσει τη δική της γλώσσα, από την οποία θα μετέφραζε φράσεις πριν από την παράδοση λέξεων στη γλώσσα-στόχο.
Αναφορά για την εξέλιξη εκείνη την εποχή, Τεχνική κρίση είπε: «Αυτή η «interlingua» φαίνεται να υπάρχει ως ένα βαθύτερο επίπεδο αναπαράστασης που βλέπει ομοιότητες μεταξύ μιας πρότασης ή μιας λέξης.
«Θα μπορούσε να είναι κάτι περίπλοκο ή κάτι απλό», πρόσθεσε ο ιστότοπος, αλλά «το γεγονός ότι υπάρχει καθόλου — μια πρωτότυπη δημιουργία του συστήματος για να βοηθήσει στην κατανόηση των εννοιών που δεν έχει εκπαιδευτεί να κατανοεί — είναι, φιλοσοφικά μιλώντας, αρκετά ισχυρό πράγμα».
Αυτές οι πρόσφατες εξελίξεις έχουν οδηγήσει σε ηθικές συζητήσεις σχετικά με τα πιθανά προβλήματα των μηχανών που επικοινωνούν μεταξύ τους χωρίς ανθρώπινη παρέμβαση.
«Στην περίπτωση του Facebook, το μόνο πράγμα που μπορούσαν να κάνουν τα chatbots ήταν να βρουν έναν πιο αποτελεσματικό τρόπο συναλλαγών», λέει. Gizmodo .
Αλλά υπάρχουν «πιθανώς καλοί λόγοι για να μην αφήσουμε τις ευφυείς μηχανές να αναπτύξουν τη δική τους γλώσσα που οι άνθρωποι δεν θα μπορούσαν να κατανοήσουν με νόημα», προσθέτει ο ιστότοπος.
«Ας ελπίσουμε ότι οι άνθρωποι θα είναι επίσης αρκετά έξυπνοι ώστε να μην συνδέουν πειραματικά προγράμματα μηχανικής εκμάθησης σε κάτι πολύ επικίνδυνο, όπως μια στρατιά από ανδροειδείς που κάνουν λέιζερ ή έναν πυρηνικό αντιδραστήρα».
