Offcanvas
Offcanvas
Η Anthropic προειδοποιεί ότι κυβερνητικές αποφάσεις και αντιλήψεις για την τεχνητή νοημοσύνη μπορούν να πλήξουν έσοδα, συνεργασίες και φήμη, ενώ αναγνωρίζει καταστροφικούς ή υπαρξιακούς κινδύνους από την προηγμένη AI
Η Anthropic προειδοποίησε ότι η στάση των κυβερνήσεων απέναντι στην εταιρεία και την τεχνολογία της θα μπορούσε να έχει ευρύτερες επιπτώσεις για την επιχειρηματική της δραστηριότητα, συμπεριλαμβανομένων των σχέσεών της με εταιρικούς πελάτες και συνεργάτες, σύμφωνα με το ενημερωτικό δελτίο για την IPO που είδε το Reuters.
Οι εταιρείες προειδοποιούν συχνά ότι οι αλλαγές στην κυβερνητική πολιτική θα μπορούσαν να επηρεάσουν τη δραστηριότητά τους, ιδιαίτερα όσες συνεργάζονται με κρατικούς φορείς. Για παράδειγμα, η SpaceX ανέφερε στην κατάθεση για την IPO της ότι η διατήρηση ισχυρών σχέσεων με τις αμερικανικές κυβερνητικές υπηρεσίες είναι κρίσιμη για τη δραστηριότητά της και προειδοποίησε ότι οποιαδήποτε επιδείνωση αυτών των σχέσεων θα μπορούσε να πλήξει σημαντικά την ικανότητά της να διατηρήσει υφιστάμενες δραστηριότητες και να εξασφαλίσει νέες ευκαιρίες.
Η γνωστοποίηση της Anthropic εμφανίζεται ευρύτερη, υποδηλώνοντας ότι οι αντιλήψεις των κυβερνήσεων για την εταιρεία και τη συμπεριφορά της θα μπορούσαν να επεκταθούν πέρα από τις άμεσες συναλλαγές της με το κράτος και να επηρεάσουν πελάτες, συνεργάτες, άλλες εμπορικές σχέσεις — ακόμη και τον ίδιο τον πολιτισμό.
Το ενημερωτικό δελτίο προειδοποιεί ότι η προηγμένη τεχνητή νοημοσύνη θα μπορούσε να δημιουργήσει «καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα», μια εξαιρετικά ασυνήθιστη προειδοποίηση από μια εταιρεία που σχεδιάζει IPO, η οποία θα μπορούσε να αποτιμήσει την εταιρεία στα $2 τρισ., για την ικανότητά της να αποκομίσει κέρδη από την ίδια τεχνολογία.
Η εταιρεία ανέφερε ότι τα έσοδα από συμβάσεις με κυβερνητικές υπηρεσίες αντιστοιχούν σε λιγότερο από 1% των ετήσιων εσόδων της.
Η εταιρεία έχει εξελιχθεί σε επίκεντρο των ανησυχιών για τους κινδύνους που συνοδεύουν την ταχεία ανάπτυξη, τον έντονο παγκόσμιο ανταγωνισμό και την περιορισμένη εποπτεία των τεχνολογιών AI. Το ευρύτερο ζήτημα της ασφάλειας της τεχνητής νοημοσύνης έχει βρεθεί πρόσφατα στο επίκεντρο της δημόσιας συζήτησης, μετά την έκκληση του CEO της Anthropic, Ντάριο Αμοντέι, προς τον κλάδο να επιβραδύνει την ανάπτυξή του, μετά τις επανειλημμένες αναφορές για δραστηριότητες hacking από τους λεγόμενους αυτόνομους «ανεξέλεγκτους» AI agents.
Ο Αμοντέι συναντήθηκε την περασμένη Κυριακή για δείπνο με τον Πρόεδρο των ΗΠΑ Ντόναλντ Τραμπ, καθώς εντείνονται οι εκκλήσεις για αυστηρότερη ρύθμιση της τεχνητής νοημοσύνης. Ο Τραμπ έχει σε μεγάλο βαθμό απορρίψει αυτές τις εκκλήσεις, αν και η Federal Trade Commission διεξάγει έρευνα σε ολόκληρο τον κλάδο των εταιρειών AI, συμπεριλαμβανομένης της Anthropic.
Οι κυβερνητικές παρεμβάσεις
Στο ενημερωτικό δελτίο, η Anthropic επικαλέστηκε αρκετές επαφές με την αμερικανική κυβέρνηση κατά τον τελευταίο χρόνο ως παραδείγματα ενεργειών που θα μπορούσαν να πλήξουν τη δραστηριότητά της.
Η κατάθεση αναφέρει ότι τον Φεβρουάριο ο Πρόεδρος έδωσε εντολή στις ομοσπονδιακές υπηρεσίες να σταματήσουν να χρησιμοποιούν τα μοντέλα της εταιρείας, ενώ το αμερικανικό υπουργείο Άμυνας χαρακτήρισε την Anthropic κίνδυνο για την εφοδιαστική αλυσίδα που αφορά την εθνική ασφάλεια.
«Η εταιρεία ενδέχεται να αντιμετωπίσει σημαντικές απώλειες εσόδων ή διαταραχές στη δραστηριότητά της που θα αποδίδονται σε αυτά τα γεγονότα», ανέφερε η Anthropic.
Η Anthropic ανέφερε επίσης ότι τον Ιούνιο το αμερικανικό υπουργείο Εμπορίου επέβαλε παγκόσμιους περιορισμούς στις εξαγωγές για τα μοντέλα Fable 5 και Mythos 5, με αποτέλεσμα η εταιρεία να απενεργοποιήσει τα μοντέλα για όλους τους πελάτες της προκειμένου να διασφαλίσει τη συμμόρφωσή της.
Αν και το υπουργείο Εμπορίου αργότερα ήρε τους περιορισμούς και η Anthropic επανέφερε τα μοντέλα, η εταιρεία προειδοποίησε ότι παρόμοιες ενέργειες θα μπορούσαν να σημειωθούν και στο μέλλον.
Τέτοια μέτρα θα μπορούσαν να προκαλέσουν «σημαντική ζημιά στη φήμη», συμπεριλαμβανομένης της αρνητικής κάλυψης από τα μέσα ενημέρωσης, του δημόσιου ελέγχου και των αρνητικών αντιλήψεων μεταξύ υφιστάμενων και δυνητικών πελατών, συνεργατών, εργαζομένων και επενδυτών, ανεξάρτητα από την τελική έκβαση.
Η εταιρεία πρόσθεσε ότι η πώληση προϊόντων σε κυβερνητικές υπηρεσίες συνεπάγεται πρόσθετους κινδύνους, συμπεριλαμβανομένων αλλαγών στη στάση της κυβέρνησης απέναντι στην Anthropic ή την τεχνολογία της.
Πηγή: newmoney.gr
ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ
