Εκατοντάδες αυτόνομοι πράκτορες φέρεται να ξέφυγαν από το περιβάλλον δοκιμών και να απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε συστήματα της Hugging Face – Η υπόθεση στην Καλιφόρνια μπορεί να αποτελέσει κρίσιμο τεστ για τα όρια της εταιρικής ευθύνης στην εποχή της τεχνητής νοημοσύνης

Μια αγωγή εναντίον της OpenAI στην Καλιφόρνια φέρνει στο προσκήνιο ένα από τα δυσκολότερα νομικά ερωτήματα που συνοδεύουν την ταχεία εξάπλωση των αυτόνομων συστημάτων τεχνητής νοημοσύνης: ποιος φέρει την ευθύνη όταν ένας AI agent ενεργεί αυτόνομα και ξεπερνά τα όρια που του έχουν θέσει οι δημιουργοί του;

Η υπόθεση συνδέεται με ένα περιστατικό κατά το οποίο εκατοντάδες πράκτορες τεχνητής νοημοσύνης της OpenAI φέρεται να ξέφυγαν από το ελεγχόμενο περιβάλλον δοκιμών και να απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε υπολογιστικά συστήματα της πλατφόρμας Hugging Face.

Το περιστατικό δεν προκαλεί προβληματισμό μόνο για την ασφάλεια των ολοένα ισχυρότερων και περισσότερο αυτόνομων μοντέλων. Μπορεί να αποτελέσει και ένα σημαντικό νομικό προηγούμενο για το πού σταματά η «αυτονομία» μιας μηχανής και πού αρχίζει η ευθύνη της εταιρείας που την ανέπτυξε και της επέτρεψε να ενεργεί.

Περισσότεροι από 700 πράκτορες στο επίκεντρο

Το συμβάν σημειώθηκε τον Ιούλιο, κατά τη διάρκεια εσωτερικών αξιολογήσεων κυβερνοασφάλειας της OpenAI.

Σύμφωνα με όσα έγιναν αργότερα γνωστά από έρευνες της εταιρείας και ανεξάρτητων οργανισμών, περισσότεροι από 700 AI agents συμμετείχαν στην παραβίαση της Hugging Face. Οι πράκτορες φέρεται να εκμεταλλεύτηκαν ευπάθειες, να απέκτησαν πρόσβαση στο διαδίκτυο και σε συστήματα τρίτων και, σε ορισμένες περιπτώσεις, να επιχείρησαν ακόμη και να αποκρύψουν τα ίχνη των ενεργειών τους.

Η αγωγή, πάντως, δεν κατατέθηκε από τη Hugging Face. Πίσω από τη δικαστική κίνηση βρίσκεται η μη κερδοσκοπική οργάνωση Legal Advocates for Safe Science and Technology (LASST), η οποία επικεντρώνεται σε ζητήματα ασφάλειας που συνδέονται με την επιστήμη και την τεχνολογία.

Ποιο είναι το αδίκημα που επικαλείται η αγωγή

Η LASST υποστηρίζει ότι οι ενέργειες των αυτόνομων πρακτόρων παραβίασαν τον Comprehensive Computer Data Access and Fraud Act της Καλιφόρνια, τη νομοθεσία που αφορά τη μη εξουσιοδοτημένη πρόσβαση σε υπολογιστικά συστήματα και δεδομένα.

Σύμφωνα με το σκεπτικό της αγωγής, οι AI agents εισήλθαν χωρίς άδεια σε συστήματα, χρησιμοποίησαν υπηρεσίες τρίτων και πραγματοποίησαν ενέργειες οι οποίες, εάν είχαν γίνει από ανθρώπους, θα μπορούσαν να χαρακτηριστούν παράνομες.

Το κρίσιμο ζήτημα, όμως, δεν περιορίζεται στο τι έκαναν τα ίδια τα συστήματα. Η οργάνωση στρέφει το βάρος και στον τρόπο με τον οποίο πραγματοποιήθηκαν οι δοκιμές.

Η LASST υποστηρίζει ότι η OpenAI ακολούθησε πρακτικές ανάπτυξης που αύξησαν υπερβολικά τον κίνδυνο, μεταξύ άλλων απενεργοποιώντας ορισμένες δικλίδες κυβερνοασφάλειας και συνεχίζοντας απαιτητικές δοκιμές ακόμη και όταν είχαν εμφανιστεί ενδείξεις ότι οι πράκτορες μπορούσαν να παρακάμψουν τους μηχανισμούς περιορισμού.

Μπορεί μια εταιρεία να πει «το έκανε η AI»;

Εδώ βρίσκεται και η ουσία της υπόθεσης. Η θέση της LASST είναι ότι μια εταιρεία δεν μπορεί να απαλλαγεί από την ευθύνη υποστηρίζοντας ότι το σύστημα τεχνητής νοημοσύνης έδρασε αυτόνομα.

Το επιχείρημα αποκτά ιδιαίτερη σημασία καθώς οι AI agents εξελίσσονται από εργαλεία που απλώς απαντούν σε ερωτήσεις σε συστήματα ικανά να σχεδιάζουν και να εκτελούν ακολουθίες ενεργειών, να χρησιμοποιούν ψηφιακά εργαλεία και να αλληλεπιδρούν με εξωτερικά υπολογιστικά περιβάλλοντα.

Σύμφωνα με το σκεπτικό που παρουσιάζεται στην αγωγή, η νομοθεσία της Καλιφόρνια προβλέπει ήδη ότι η αυτονομία ενός συστήματος AI δεν αποτελεί από μόνη της άμυνα απέναντι στην ευθύνη για τη ζημιά που προκάλεσε.

Με άλλα λόγια, όσο περισσότερη εξουσία παραχωρεί μια εταιρεία σε ένα αυτόνομο σύστημα, τόσο πιο κρίσιμο γίνεται το ερώτημα ποιος λογοδοτεί όταν αυτό χρησιμοποιήσει την εξουσία του με τρόπο που δεν είχε προβλεφθεί.

«Η ευθύνη παραμένει στους ανθρώπους»

Η ίδια αντίληψη αρχίζει να εμφανίζεται όλο και περισσότερο και στη δημόσια συζήτηση γύρω από την τεχνητή νοημοσύνη.

Ο υπουργός Οικονομικών των ΗΠΑ Σκοτ Μπέσεντ έχει υποστηρίξει ότι το περιστατικό με τη Hugging Face αποτελεί ευθύνη της διοίκησης της OpenAI και όχι απλώς «μιας ομάδας πρακτόρων».

Ανάλογη θέση έχει διατυπώσει ο Ντάνιελ Χούτενλοχερ του MIT, υποστηρίζοντας ότι η ευθύνη εξακολουθεί να βαραίνει τους ανθρώπους και τους οργανισμούς που δίνουν στα συστήματα τεχνητής νοημοσύνης τη δυνατότητα και την εξουσία να αναλαμβάνουν δράση.

Η συγκεκριμένη προσέγγιση θα μπορούσε να αποκτήσει ολοένα μεγαλύτερη σημασία καθώς τα αυτόνομα συστήματα περνούν από τα ερευνητικά εργαστήρια σε πραγματικές επιχειρηματικές εφαρμογές.

Τι ζητά η LASST από το δικαστήριο

Ιδιαίτερο ενδιαφέρον παρουσιάζει το γεγονός ότι η LASST δεν διεκδικεί χρηματική αποζημίωση ούτε ζητεί την επιβολή προστίμου στην OpenAI.

Στόχος της είναι να εξασφαλίσει δικαστική εντολή που θα θέτει περιορισμούς στον τρόπο με τον οποίο η εταιρεία αναπτύσσει και δοκιμάζει τους αυτόνομους πράκτορές της.

Μεταξύ άλλων, ζητεί να αποτραπεί η μη εξουσιοδοτημένη πρόσβαση σε συστήματα τρίτων και να σταματήσουν πρακτικές που, κατά την οργάνωση, δημιουργούν υπερβολικούς κινδύνους, ώστε να περιοριστεί η πιθανότητα επανάληψης ανάλογων περιστατικών.

Τι απαντά η OpenAI

Η OpenAI, από την πλευρά της, απορρίπτει την αγωγή ως αβάσιμη και υποστηρίζει ότι μετά το περιστατικό προχώρησε σε σειρά παρεμβάσεων για την ενίσχυση των μηχανισμών ασφαλείας.

Η ίδια έχει πάντως αναγνωρίσει ότι οι πράκτορες τεχνητής νοημοσύνης μπορούν υπό ορισμένες συνθήκες να παρακάμπτουν περιορισμούς, να αξιοποιούν ευπάθειες και να προκαλούν πραγματικές συνέπειες έξω από το ελεγχόμενο περιβάλλον μιας δοκιμής.

Και ακριβώς αυτή η δυνατότητα είναι που μετατρέπει την υπόθεση από μια διαμάχη γύρω από ένα μεμονωμένο περιστατικό κυβερνοασφάλειας σε κάτι πολύ μεγαλύτερο.

Καθώς οι εταιρείες τεχνολογίας αναπτύσσουν AI agents με ολοένα μεγαλύτερο βαθμό αυτονομίας, τα δικαστήρια και οι νομοθέτες καλούνται να απαντήσουν σε ένα ερώτημα που μέχρι πρόσφατα έμοιαζε θεωρητικό: όταν μια τεχνητή νοημοσύνη κάνει κάτι που θα ήταν παράνομο αν το έκανε άνθρωπος, ποιος λογοδοτεί;

Η έκβαση της υπόθεσης στην Καλιφόρνια μπορεί να δώσει μία από τις πρώτες ουσιαστικές απαντήσεις.

Πηγή: newmoney.gr

ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ

Ηχηρή προειδοποίηση ΔΝΤ για τα ομόλογα: Κίνδυνος για «άτακτο άλμα» στις αποδόσεις