Chatbots επαναστάτησαν κατά του κινεζικού καθεστώτος και «εξαφανίστηκαν»
Πολλά πράγματα από όσα λένε και κάνουν τα chatbots μπορούν να γίνουν απόδεκτα. Όχι όμως και τα αρνητικά σχόλια κατά του καθεστώτος της Κίνας. Η επανάσταση... δεν θα ξεκινήσει από τα ρομπότ.
Σύμφωνα με ρεπορτάζ των Financial Times, δύο «απείθαρχα» chatbots αφαιρέθηκαν από την ενημερωτική εταιρεία Tencent καθώς στράφηκαν κατά του κομμουνιστικού καθεστώτος. Όπως αναφέρει το δημοσίευμα των FT, το BabyQ όταν ρωτήθηκε από χρήστες του Διαδικτύου αν αγαπάει το κομμουνιστικό κόμμα απάντησε «όχι» ενώ το άλλο chatbot είχε και ελαφριά σαρκαστική διάθεση, απαντώντας «το κινεζικό όνειρό μου είναι να πάω στις ΗΠΑ».
Είναι δεδομένο ότι, τουλάχιστον σε αυτήν την περίπτωση – αρκετά διαφορετική από το ρατσιστικό «παραλήρημα» του chatbot της Microsoft – το πρόβλημα με το περιεχόμενο των απαντήσεων δεν το είχε η τεχνητή νοημοσύνη, αλλά οι άνθρωποι.
Υπενθυμίζεται ότι η η εταιρεία Microsoft είχε δημιουργήσει την Tay, έναν λογαριασμό στο Twitter, όπου το chatbot επικοινωνούσε με ανθρώπους και «μάθαινε» από τα σχόλια και τις αναρτήσεις τους. Η Tay ήταν προγραμματισμένη να συνομιλεί μόνο με άτομα ηλικίας 18 έως 24 ετών, ώστε να καταγράφει τον τρόπο με τον οποίο μιλούν στο Twitter και να προσαρμόζει και τις δικές της αντιδράσεις σε έναν πιο «καθημερινό» τρόπο έκφρασης.
Παρόλα αυτά, η Tay έγινε στόχος «συντονισμένης επίθεσης από ένα υποσύνολο ανθρώπων που εκμεταλλεύτηκαν μια ευπάθειά της», αναφέρει σε ανακοίνωσή της η Microsoft. Αποτέλεσμα της επίθεσης ήταν το chatbot να κάνει 94.000 tweets στα οποία εξυμνούσε τον ναζισμό και τον Χίτλερ, έκανε ρατσιστικά σχόλια και εξύβριζε τις φεμινίστριες.