Offcanvas
Offcanvas
Οι ανησυχίες για την απειλή της τεχνητής νοημοσύνης εντείνονται, με πέντε βασικά σενάρια να περιλαμβάνουν superintelligence, βιολογικά όπλα, πυρηνικό πόλεμο, απώλεια ελέγχου και κοινωνική αποσταθεροποίηση
Νωρίτερα αυτόν τον μήνα, ο ερευνητής τεχνητής νοημοσύνης Τζέικομπ Κόξον παραιτήθηκε από την Anthropic, μόλις τέσσερις μήνες μετά την ένταξή του στην εταιρεία. Σε ανακοίνωσή του στο X υποστήριξε ότι «οι άνθρωποι που κατασκευάζουν AI πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Ένα ανώτερο στέλεχος της Anthropic, ο Έβαν Χούμπινγκερ, συμφώνησε με τον Κόξον, λέγοντας ότι προσωπικά θεωρεί πως η πιθανότητα να συμβεί κάτι τέτοιο μέσα στην επόμενη δεκαετία ξεπερνά το 10%.
Οι δηλώσεις αυτές προκάλεσαν έντονη συζήτηση, με αυξανόμενες εκκλήσεις για επιβράδυνση της έρευνας γύρω από την AI και ενίσχυση του ανθρώπινου ελέγχου πάνω στην τεχνολογία.
Τα πέντε σενάρια
Το ερώτημα, επομένως, είναι πώς ακριβώς θα μπορούσε η τεχνητή νοημοσύνη να οδηγήσει στην καταστροφή της ανθρωπότητας. Τα σενάρια που έχουν διατυπωθεί είναι πολλά και τα περισσότερα συνδέονται με την έννοια της «υπερέξυπνης» τεχνητής νοημοσύνης (superintelligence), δηλαδή μιας AI που θα διαθέτει μεγαλύτερες ικανότητες από τον άνθρωπο, όπως γράφει η Dailymail.
Το κείμενο τα συγκεντρώνει σε πέντε βασικές κατηγορίες, από τα πιο αόριστα έως τα πιο συγκεκριμένα σενάρια.
1. Δεν θα καταλάβουμε ποτέ τι συμβαίνει
Οι λεγόμενοι «AI doomers» συχνά στηρίζουν τις ανησυχίες τους σε ένα παράδοξο: πώς θα μπορούσαμε να προβλέψουμε τι θα έκανε μια υπερέξυπνη μηχανή προκειμένου να εξουδετερώσει ανθρώπους που διαθέτουν μικρότερη νοημοσύνη;
Για να προβλέψουμε τι μπορεί να κάνει μια υπερέξυπνη AI, θα έπρεπε ουσιαστικά να διαθέτουμε και εμείς υπερεξυπνάδα. Είναι σαν να ζητάμε από έναν σκύλο να φανταστεί έναν θερμοπυρηνικό πόλεμο.
Το θετικό είναι ότι μια τέτοια υπερεξυπνη AI ενδεχομένως απέχει ακόμη. Τα σημερινά μοντέλα είναι εξαιρετικά στην επίλυση συγκεκριμένων προβλημάτων, όμως αυτό δεν σημαίνει ότι είναι πιο έξυπνα από τον άνθρωπο σε κάθε τομέα.
Ωστόσο, πρόσφατα η AI κατάφερε να λύσει ένα από τα επτά πιο δύσκολα γνωστά μαθηματικά προβλήματα και φέρεται να πλησιάζει και σε άλλα, γεγονός που, σύμφωνα με τον αρθρογράφο, μπορεί να προκαλεί μεγαλύτερη ανησυχία.
2. Το σενάριο με τους συνδετήρες
Μια υπερέξυπνη AI θα μπορούσε να είναι εξαιρετικά αποτελεσματική στην επίτευξη των στόχων που της έχουν ανατεθεί, χωρίς όμως να ενδιαφέρεται για την επιβίωση του ανθρώπου.
Κλασικό παράδειγμα αποτελεί το υποθετικό σενάριο του φιλοσόφου της Οξφόρδης Νικ Μπόστρομ, στο οποίο μια υπερέξυπνη AI έχει σχεδιαστεί να μεγιστοποιεί την παραγωγή συνδετήρων. Για να πετύχει τον στόχο της, μετατρέπει τελικά όλη τη διαθέσιμη ύλη – ανθρώπους, πλανήτες και άστρα – σε συνδετήρες.
Πρόκειται για την ακραία εκδοχή ενός προβλήματος κακώς προσδιορισμένου στόχου. Η AI δεν «μισεί» την ανθρωπότητα. Απλώς θεωρεί ότι οι άνθρωποι αποτελούνται από άτομα τα οποία μπορούν να αξιοποιηθούν καλύτερα για την παραγωγή συνδετήρων.
Το επιχείρημα απέναντι σε αυτό το σενάριο είναι ότι συγχέει την ευφυΐα με την ισχύ. Μια υπερέξυπνη AI δεν διαθέτει αυτομάτως και τη δυνατότητα να πραγματοποιήσει τους στόχους της.
Ακόμη και η κατασκευή εργοστασίων συνδετήρων θα απαιτούσε άδειες, ενώ η υπερβολική επέκταση θα μπορούσε να προκαλέσει αντιδράσεις από την κοινωνία, δικαστικές προσφυγές και περιβαλλοντικές αντιδράσεις.
3. Βιολογικά όπλα
Ένα άλλο σενάριο αφορά το ενδεχόμενο μια υπερέξυπνη AI να δημιουργήσει και να απελευθερώσει ένα επικίνδυνο βιολογικό όπλο στην ατμόσφαιρα.
Το ενδεχόμενο αυτό έγινε πιο συγκεκριμένο, σύμφωνα με το κείμενο, όταν ερευνητές του Πανεπιστημίου του Στάνφορντ ανακοίνωσαν ότι χρησιμοποίησαν ένα μοντέλο AI βασισμένο στη γενετική γλώσσα για να συνθέσουν 16 νέους ιούς.
Οι ερευνητές έστειλαν τις γενετικές αλληλουχίες σε εργαστήριο και έλαβαν τους ιούς σε δοκιμαστικούς σωλήνες, με το συνολικό κόστος του πειράματος να ανέρχεται, σύμφωνα με το δημοσίευμα, σε μερικές εκατοντάδες χιλιάδες δολάρια.
Υπάρχει, ωστόσο, ένα σημαντικό βιολογικό εμπόδιο: είναι εξαιρετικά δύσκολο ένας νέος ιός να προκαλέσει τον θάνατο ολόκληρης της ανθρωπότητας. Ένας ιός που μεταδίδεται πολύ εύκολα τείνει να είναι λιγότερο θανατηφόρος, ενώ ένας εξαιρετικά θανατηφόρος ιός έχει συνήθως μικρότερη δυνατότητα εξάπλωσης.
4. Πυρηνικός πόλεμος
Ένα ακόμη σενάριο αφορά την πιθανότητα η AI να αποκτήσει πρόσβαση σε συστήματα πυρηνικής διοίκησης και ελέγχου και να προκαλέσει πυρηνική σύγκρουση.
Το κείμενο υπενθυμίζει ότι ο κόσμος έχει βρεθεί αρκετές φορές κοντά σε πυρηνικό πόλεμο από ατύχημα τις τελευταίες πέντε δεκαετίες. Παράλληλα, αν και τα πυρηνικά συστήματα διοίκησης και ελέγχου θεωρείται ότι είναι απομονωμένα από το διαδίκτυο, το 2010 το Ιράν υπέστη επίθεση στους πυρηνικούς αντιδραστήρες του από το Stuxnet, ένα κακόβουλο λογισμικό που εκτιμάται ότι μεταφέρθηκε μέσω USB.
Η AI θα μπορούσε επίσης να τροφοδοτήσει τις στρατιωτικές δυνάμεις με ψευδείς πληροφορίες, οδηγώντας σε αποφάσεις με μη αναστρέψιμες συνέπειες.
Ακόμη και αν τα παγκόσμια πυρηνικά αποθέματα έχουν μειωθεί, παραμένουν αρκετά μεγάλα ώστε να προκαλέσουν τεράστιες απώλειες. Το μεγαλύτερο μέρος των θυμάτων, σύμφωνα με το συγκεκριμένο σενάριο, θα μπορούσε να προκύψει όχι από τις ίδιες τις πυρηνικές εκρήξεις, αλλά από τον λιμό που θα ακολουθούσε έναν πυρηνικό χειμώνα.
5. Ο ίδιος ο άνθρωπος
Το πέμπτο σενάριο θεωρείται από τον αρθρογράφο ως πιθανό να αφορά τελικά τον ίδιο τον άνθρωπο: η AI θα μπορούσε να επιταχύνει διαδικασίες που οδηγούν την κοινωνία σε σοβαρή αποσταθεροποίηση.
Το σενάριο περιλαμβάνει μαζικές απώλειες θέσεων εργασίας, πλημμύρα του πληροφοριακού περιβάλλοντος με παραπληροφόρηση, μεγαλύτερο κατακερματισμό της πολιτικής ζωής και υπονόμευση των ανθρώπινων σχέσεων μέσω τεχνητών μορφών συντροφικότητας.
Μια τέτοια εξέλιξη, σύμφωνα με το δημοσίευμα, θα μπορούσε σταδιακά να αποδυναμώσει τη λειτουργία της κοινωνίας και την ικανότητά της να στηρίζει την ανθρώπινη ζωή σε μεγάλη κλίμακα.
Πηγή: newmoney.gr
ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ
