Δικηγόρος τιμωρήθηκε με πρόστιμο $5.000 γιατί χρησιμοποίησε το ChatGPT και δημιούργησε ανύπαρκτους μάρτυρες

Ένας συνήγορος υπεράσπισης, ο οποίος είχε αναλάβει την έφεση στην καταδίκη πελάτη του για φόνο, υπέβαλε ένα νομικό κείμενο που περιείχε κατασκευασμένες καταθέσεις αστυνομικών και ανύπαρκτων μαρτύρων, τους οποίους «εφηύρε» το ChatGPT της OpenAI, σύμφωνα με το Ανώτατο Δικαστήριο του Νέου Μεξικού.

Το Ανώτατο Δικαστήριο επέβαλε πρόστιμο στον δικηγόρο, Στίβεν Άαρονς, κρίνοντάς τον ένοχο για ασέβεια προς το δικαστήριο, καθώς δεν προέβη στις απαραίτητες ενέργειες για να διαπιστώσει την ακρίβεια των πληροφοριών που παρουσίασε στο αίτημά του. Ο δικηγόρος, με τη σειρά του, δήλωσε ότι ετοίμασε το κείμενο με τη βοήθεια του προγράμματος Τεχνητής Νοημοσύνης.

Το αίτημα έφεσης περιείχε «ψευδείς μαρτυρίες από εξ ολοκλήρου επινοημένους μάρτυρες», όπως τόνισε το δικαστήριο, επισημαίνοντας ότι ο δικηγόρος επέδειξε «αδιαφορία» απέναντι στα συμφέροντα του πελάτη του. Για τους λόγους αυτούς, του επιβλήθηκε πρόστιμο ύψους 5.000 δολαρίων και θα παραπεμφθεί στο πειθαρχικό συμβούλιο του δικηγορικού συλλόγου.

Ο Άαρονς ανέφερε στο πρακτορείο Reuters ότι χρησιμοποίησε το ChatGPT για να συντάξει μια περίληψη της δίκης, όταν ανέλαβε την υπόθεση της έφεσης πέρυσι, και δεν αντιλήφθηκε το εύρος των «παραισθήσεων» που παρουσίαζε η Τεχνητή Νοημοσύνη.

«Έχω μετανοήσει, αλλά ελπίζω ότι το πειθαρχικό συμβούλιο θα λάβει υπόψη του ότι επρόκειτο για ένα ειλικρινές λάθος», δήλωσε. «Αυτό αποτελεί ένα μάθημα που έγινε μάθημα για όλους τους επαγγελματίες που βασίζονται σε αυτή την ισχυρή, αλλά μερικές φορές ασταθή, τεχνολογία».

Η OpenAI δεν ανταποκρίθηκε στο αίτημα για σχολιασμό.

Τον τελευταίο καιρό, πολλοί δικαστές, τόσο σε πολιτειακό όσο και σε ομοσπονδιακό επίπεδο, έχουν επιβάλει πειθαρχικές κυρώσεις σε δικηγόρους, επειδή υπέβαλαν έγγραφα που συντάχθηκαν με τη βοήθεια εργαλείων ΤΝ χωρίς να προηγηθεί επαρκής έλεγχος. Ορισμένοι δικαστές έχουν επίσης δεχθεί κριτική για τη δική τους χρήση της ΤΝ. Δεκάδες δικηγόροι βρίσκονται αντιμέτωποι με κυρώσεις, καθώς υπέβαλαν έγγραφα στα οποία η ΤΝ παρερμήνευσε τον νόμο.

Ο Άαρονς, ο οποίος διατηρεί ιδιωτικό δικηγορικό γραφείο στη Σάντα Φε, είχε αναλάβει την υπόθεση του Όσκαρ Ρενέ Σαντοβάλ, ο οποίος έχει δηλώσει αθώος για τη δολοφονία της μητέρας των παιδιών του. Ωστόσο, πέρυσι κρίθηκε ένοχος και καταδικάστηκε σε ισόβια κάθειρξη. Η έφεση παραμένει σε εκκρεμότητα και στις αρχές Σεπτεμβρίου διορίστηκε νέα δικηγόρος του, η δημόσια συνήγορος Κιμ Τσάβες Κουκ.

Τον προηγούμενο μήνα, το Ανώτατο Δικαστήριο διέταξε τον Άαρονς να εξηγήσει πώς το κατασκευασμένο υλικό, που περιλάμβανε επινοημένες δηλώσεις όπως «ο δράστης φορούσε σκούρο παντελόνι και λευκό μπλουζάκι», συμπεριλήφθηκε στην έφεσή του. Ο δικηγόρος απάντησε ότι τροφοδότησε το ChatGPT με απομαγνητοφωνημένες καταθέσεις και άλλα υλικά, υποθέτοντας ότι θα δημιουργούσε μια «ακριβή σύνοψη» της αρχικής δίκης. Οι δικαστές, ωστόσο, δεν πείστηκαν ότι ο Άαρονς αγνοούσε την πιθανότητα η ΤΝ να κάνει λάθη. «Βλέπετε ειδήσεις; Ακούτε ραδιόφωνο; Διαβάζετε οτιδήποτε για όσα συμβαίνουν στον κόσμο; Επειδή το πρόβλημα με τους δικηγόρους που βασίζονται στις παραισθήσεις της ΤΝ βρίσκεται στα πρωτοσέλιδα καθημερινά», δήλωσε η δικαστής Σ. Σάνον Μπέικον.