Τεχνητή νοημοσύνη: Η προειδοποίηση του Γιόσουα Μπένγκιο

Ο Γιόσουα Μπένγκιο, ένας πρωτοπόρος επιστήμονας στην τεχνητή νοημοσύνη, προειδοποίησε για τις πιθανές αρνητικές επιπτώσεις της εκκολαπτόμενης τεχνολογίας στην κοινωνία και ζήτησε περισσότερη έρευνα για τον περιορισμό των κινδύνων της.

Ο Μπένγκιο, καθηγητής στο Πανεπιστήμιο του Μόντρεαλ και επικεφαλής του Ινστιτούτου Mila του Μόντρεαλ, έχει κερδίσει πολλά βραβεία για το έργο του στο deep learning, ένα υποσύνολο της τεχνητής νοημοσύνης που προσπαθεί να μιμηθεί τη δραστηριότητα στον ανθρώπινο εγκέφαλο για να μάθει πώς να αναγνωρίζει σύνθετα μοτίβα σε δεδομένα.

Η αδηφάγα Τεχνητή Νοημοσύνη αλλάζει τον τεχνολογικό χάρτη της Ευρώπης – Που πάνε τα νέα data centers

Όμως έχει ανησυχίες σχετικά με την τεχνολογία και προειδοποίησε ότι κάποιοι άνθρωποι με «μεγάλη δύναμη» μπορεί ακόμη και να θέλουν να δουν την ανθρωπότητα να αντικαθίσταται από μηχανές.

«Είναι πραγματικά σημαντικό να προβάλλουμε τους εαυτούς μας στο μέλλον, όπου θα έχουμε μηχανές που θα είναι εξίσου έξυπνες με εμάς σε πολλούς τομείς, και τι θα σήμαινε αυτό για την κοινωνία», δήλωσε ο Μπένγκιο στο CNBC.

Οι μηχανές θα μπορούσαν σύντομα να έχουν τις περισσότερες γνωστικές ικανότητες από αυτές των ανθρώπων, είπε – η τεχνητή γενική νοημοσύνη (AGI) είναι ένα είδος τεχνολογίας τεχνητής νοημοσύνης που στοχεύει να εξισώσει ή να βελτιώσει την ανθρώπινη νοημοσύνη.

«Η ευφυΐα δίνει δύναμη. Ποιος λοιπόν θα ελέγχει αυτή τη δύναμη;» είπε. «Η ύπαρξη συστημάτων που γνωρίζουν περισσότερα από τους περισσότερους ανθρώπους μπορεί να είναι επικίνδυνη σε λάθος χέρια και να δημιουργήσει μεγαλύτερη αστάθεια σε γεωπολιτικό επίπεδο, για παράδειγμα, ή τρομοκρατία».

Τεχνητή νοημοσύνη για λίγους

Ένας περιορισμένος αριθμός οργανισμών και κυβερνήσεων θα μπορέσει να αντέξει οικονομικά να κατασκευάσει ισχυρές μηχανές τεχνητής νοημοσύνης, σύμφωνα με τον Μπένγκιο, και όσο μεγαλύτερα είναι τα συστήματα, τόσο πιο έξυπνα γίνονται.

«Αυτές οι μηχανές, ξέρετε, κοστίζουν δισεκατομμύρια για να κατασκευαστούν και να εκπαιδευτούν [και] πολύ λίγοι οργανισμοί και πολύ λίγες χώρες θα είναι σε θέση να το κάνουν. Αυτό συμβαίνει ήδη», δήλωσε.

«Θα υπάρξει συγκέντρωση ισχύος: οικονομική ισχύς, η οποία μπορεί να είναι κακή για τις αγορές- πολιτική ισχύς, η οποία μπορεί να είναι κακή για τη δημοκρατία- και στρατιωτική ισχύς, η οποία μπορεί να είναι κακή για τη γεωπολιτική σταθερότητα του πλανήτη μας. Επομένως, πολλά ανοιχτά ερωτήματα που πρέπει να μελετήσουμε με προσοχή και να αρχίσουμε να μετριάζουμε το συντομότερο δυνατό».

Τέτοια αποτελέσματα είναι πιθανά μέσα σε δεκαετίες, είπε. «Αλλά αν είναι πέντε χρόνια, δεν είμαστε έτοιμοι … επειδή δεν έχουμε μεθόδους για να διασφαλίσουμε ότι αυτά τα συστήματα δεν θα βλάψουν τους ανθρώπους ή δεν θα στραφούν εναντίον των ανθρώπων … Δεν ξέρουμε πώς να το κάνουμε αυτό», πρόσθεσε.

Υπάρχουν επιχειρήματα που υποδηλώνουν ότι ο τρόπος με τον οποίο εκπαιδεύονται σήμερα οι μηχανές τεχνητής νοημοσύνης «θα οδηγήσει σε συστήματα που στρέφονται εναντίον των ανθρώπων», δήλωσε ο Μπένγκιο.

«Επιπλέον, υπάρχουν άνθρωποι που μπορεί να θέλουν να κάνουν κατάχρηση αυτής της εξουσίας και υπάρχουν άνθρωποι που μπορεί να χαρούν να δουν την ανθρωπότητα να αντικαθίσταται από μηχανές. Θέλω να πω, πρόκειται για ένα μικρό ποσοστό αλλά αυτοί οι άνθρωποι μπορούν να έχουν μεγάλη δύναμη και μπορούν να το κάνουν, αν δεν βάλουμε τώρα τις σωστές προστατευτικές μπάρες», είπε.

Οι εταιρείες που αναπτύσσουν τεχνητή νοημοσύνη πρέπει επίσης να είναι υπεύθυνες για τις ενέργειές τους, σύμφωνα με τον επιστήμονα πληροφορικής.

«Μία από τις μεγαλύτερες βραχυπρόθεσμες ανησυχίες, αλλά μία που θα αυξηθεί καθώς προχωρούμε προς πιο ικανά συστήματα, είναι η παραπληροφόρηση, η ικανότητα της ΤΝ να επηρεάζει την πολιτική και τις απόψεις», δήλωσε ο Μπένγκιο. «Καθώς προχωράμε, θα έχουμε μηχανές που θα μπορούν να παράγουν πιο ρεαλιστικές εικόνες, πιο ρεαλιστικές ηχητικές απομιμήσεις φωνών, πιο ρεαλιστικά βίντεο», είπε.

Ο Μπένγκιο δήλωσε ότι το «δυσκολότερο ερώτημα όλων» είναι: «Αν δημιουργήσουμε οντότητες που είναι πιο έξυπνες από εμάς και έχουν τους δικούς τους στόχους, τι σημαίνει αυτό για την ανθρωπότητα; Κινδυνεύουμε;»

«Όλα αυτά είναι πολύ δύσκολα και σημαντικά ερωτήματα και δεν έχουμε όλες τις απαντήσεις. Χρειαζόμαστε πολύ περισσότερη έρευνα και προφύλαξη για να μετριάσουμε τους πιθανούς κινδύνους», δήλωσε ο Μπένγκιο.