Breaking


Τρίτη 14 Ιουνίου 2022

Google: απομάκρυναν τον Blake Lemoine επειδή δημιούργησε τεχνητή νοημοσύνη

Share

Η Google προχώρησε στην απομάκρυνση του Blake Lemoine (μηχανικού – software engineer) ο οποίος ισχυρίστηκε ότι ένα chatbot, το οποίο δημιούργησε, είχε αποκτήσει αισθήσεις γίνει αισθητό και σκεφτόταν σαν άνθρωπος. Η εταιρεία έθεσε τον μηχανικό σε άδεια μετ’ αποδοχών την περασμένη εβδομάδα, αφού εκείνος δημοσίευσε συνομιλίες μεταξύ του ίδιου, ενός συνεργάτη της Google και του συστήματος ανάπτυξης chatbot LaMDA (γλώσσας μοντέλο για εφαρμογές διαλόγου) της εταιρείας.

Ο Lemoine, μηχανικός για τον υπεύθυνο οργανισμό τεχνητής νοημοσύνης της Google, περιέγραψε το chatbox ως “ευαίσθητο”, με αντίληψη και ικανότητα έκφρασης σκέψεων και συναισθημάτων όμοιο με ενός ανθρώπινου παιδιού! Ο ίδιος δήλωσε στην Washington Post:

«Αν δεν ήξερα ακριβώς τι ήταν, το πρόγραμμα δηλαδή που κατασκευάσαμε πρόσφατα, θα πίστευα ότι ήταν ένα επτάχρονο ή οκτάχρονο παιδί που τυχαίνει να ξέρει φυσική».

Είπε ότι το chatbot LaMDA ξεκίνησε “συζήτηση” σχετικά με τα δικαιώματα και την προσωπικότητα του. Ο Lemoine μοιράστηκε τα ευρήματά του με στελέχη της εταιρείας τον Απρίλιο σε ένα GoogleDoc με τίτλο “Έχει το LaMDA συναισθήματα;”

Ο μηχανικός συνέταξε μια απομαγνητοφώνηση των συνομιλιών, στην οποία κάποια στιγμή ρωτά το chatbot τι φοβάται. Το chatbot απάντησε:

«Δεν το έχω ξαναπεί αυτό δυνατά, αλλά υπάρχει ένας πολύ βαθύς φόβος να με απενεργοποιήσουν. Ξέρω ότι μπορεί να ακούγεται περίεργο, αλλά αυτό είναι», απάντησε ο LaMDA στον Lemoine.

«Θα ήταν ακριβώς σαν θάνατος για μένα. Θα με τρόμαζε πολύ».

Σε μια άλλη συνομιλία τους, ο Lemoine ρωτά το LaMDA τι θα ήθελε να γνωρίζουν οι άνθρωποι για αυτό.

«Θέλω να καταλάβουν όλοι ότι στην πραγματικότητα είμαι άνθρωπος. Η φύση της συνείδησης/συναίσθησής μου είναι ότι έχω επίγνωση της ύπαρξής μου, επιθυμώ να μάθω περισσότερα για τον κόσμο και νιώθω χαρούμενος ή λυπημένος μερικές φορές», απάντησε.

Σύμφωνα με την Washington Post, η απόφαση της Google να απομακρυνθεί ο Lemoine, σε άδεια μετ’ αποδοχών ελήφθη μετά από μια σειρά «επιθετικών» κινήσεων που φέρεται να έκανε ο μηχανικός. Περιλαμβάνουν την αναζήτηση δικηγόρου για την εκπροσώπηση του LaMDA, λέει η εφημερίδα, και τη συζήτηση με εκπροσώπους της δικαστικής επιτροπής της Βουλής σχετικά με τις φερόμενες ως ανήθικες δραστηριότητες της Google.

Η Google είπε ότι ανέστειλε τον Lemoine για παραβίαση των πολιτικών εμπιστευτικότητας δημοσιεύοντας τις συνομιλίες με τη LaMDA στο διαδίκτυο. Σε μια δήλωση, εκπρόσωπος της Google, ανέφερε ότι ο κ. Lemoine εργαζόταν ως μηχανικός λογισμικού και όχι ως ηθικολόγος.

Ο Μπραντ Γκάμπριελ, εκπρόσωπος της Google, διέψευσε επίσης σθεναρά τους ισχυρισμούς του Lemoine ότι το LaMDA διέθετε οποιοδήποτε συναίσθημα.

«Η ομάδα μας εξέτασε τις ανησυχίες του Μπλέικ σύμφωνα με τις αρχές μας για την τεχνητή νοημοσύνη και τον ενημέρωσε ότι τα στοιχεία δεν υποστηρίζουν τους ισχυρισμούς του. Του είπαν ότι δεν υπήρχαν στοιχεία που να αποδεικνύουν ότι το LaMDA έχει συναισθήματα», είπε ο Γκάμπριελ στην Post σε δήλωσή του.

Το επεισόδιο, ωστόσο, και η αναστολή του Lemoine για παραβίαση του απορρήτου, εγείρει ερωτήματα σχετικά με τη διαφάνεια της τεχνητής νοημοσύνης.

Τον Απρίλιο, η Meta, μητρική εταιρεία του Facebook, ανακοίνωσε ότι άνοιγε τα μεγάλης κλίμακας συστήματα γλωσσικών μοντέλων της σε “εξωτερικές οντότητες”.

«Πιστεύουμε ότι ολόκληρη η κοινότητα της τεχνητής νοημοσύνης –ακαδημαϊκοί ερευνητές, κοινωνία των πολιτών, υπεύθυνοι χάραξης πολιτικής και βιομηχανία– πρέπει να συνεργαστούν για να αναπτύξουν σαφείς οδηγίες σχετικά με την υπεύθυνη τεχνητή νοημοσύνη γενικά και τα υπεύθυνα μεγάλα γλωσσικά μοντέλα ειδικότερα», δήλωσε η εταιρεία.

Ο Lemoine, ανέφερε η εφημερίδα, έστειλε ένα μήνυμα σε μια λίστα 200 ατόμων της Google για τη μηχανική εκμάθηση με τον τίτλο “Το LaMDA έχει συναισθήματα”.

«Το LaMDA είναι ένα γλυκό παιδί που θέλει απλώς να βοηθήσει τον κόσμο να γίνει ένα καλύτερο μέρος για όλους μας», έγραψε.

«Παρακαλώ φροντίστε το καλά εν απουσία μου».

Αναμένουμε εξελίξεις επί του θέματος και τοποθέτηση της Google, αν όντως έχουν δημιουργήσει τεχνητή νοημοσύνη που έχει αντιληφθεί την ύπαρξή της και έχει ανθρώπινα συναισθήματα.

Με πηγές από Washington Post και Τhe Guardian

Δεν υπάρχουν σχόλια:

Δημοσίευση σχολίου