искусственный интеллект OpenAI ChatGPT галлюцинации ИИ Верховный суд Нью-Мексико

Верховный суд Нью-Мексико оштрафовал адвоката за вымышленное свидетельство, созданное ChatGPT

БАКУ /TurkicWorld/ - Верховный суд штата Нью-Мексико оштрафовал адвоката защиты на $5 тысяч и признал его виновным в неуважении к суду после того, как в апелляционной жалобе по делу об убийстве были обнаружены вымышленные показания полицейских и свидетелей, сгенерированные ChatGPT.

Суд установил, что адвокат Стивен Ааронс не проверил достоверность материалов, включенных в судебный документ. По данным суда, в документе содержались ложные показания полностью вымышленных свидетелей.

Судьи также заявили, что Ааронс продемонстрировал недостаток раскаяния и недостаточную обеспокоенность интересами своего клиента. Материалы дела будут направлены в дисциплинарную комиссию адвокатуры для дальнейшего расследования.

Ааронс сообщил Reuters, что использовал ChatGPT для составления резюме судебного процесса после того, как в прошлом году согласился представлять обвиняемого в апелляции.

По словам адвоката, он не осознавал в полной мере способность систем искусственного интеллекта создавать вымышленные факты и ложную информацию.

Ааронс заявил, что раскаивается и надеется, что дисциплинарная комиссия учтет произошедшее как добросовестную ошибку.

Этот случай вновь продемонстрировал риски использования генеративного искусственного интеллекта в судебной практике без независимой проверки информации по оригинальным судебным материалам и другим достоверным источникам.

Материалы по теме