Партнер престижной юридической фирмы с Уолл-стрит Sullivan & Cromwell принес официальные извинения федеральному судье по делам о банкротстве после того, как обнаружил, что судебный иск содержит многочисленные сфабрикованные юридические цитаты и другие ошибки, допущенные искусственным интеллектом.
Business Insider сообщает, что старший партнер Sullivan & Cromwell на прошлой неделе направил письмо главному судье Мартину Гленну в Манхэттене, в котором признал, что предыдущая заявка, поданная фирмой, содержала неточные цитаты и то, что он назвал галлюцинациями искусственного интеллекта. Иск был подан от имени Prince Global Holdings, фирмы-банкрота, которую Sullivan & Cromwell представляла в деле.
В своем письме Эндрю Дитдерих, соруководитель отдела глобальных финансов и реструктуризации Sullivan & Cromwell, объяснил природу проблемы. «Галлюцинации — это случаи, когда инструменты искусственного интеллекта фабрикуют цитаты из дел, неверно цитируют авторитетные источники или генерируют несуществующие юридические источники», — написал он. «Мы глубоко сожалеем, что это произошло».
В письме содержалась диаграмма, в которой подробно описывались конкретные проблемы, связанные с предложением. В документе содержались неправильные названия и номера дел, а также цитаты, которые оказались полностью сфабрикованными, а не взятыми из реальных юридических прецедентов. Эти ошибки представляли собой серьезное нарушение стандартов, ожидаемых в материалах федерального суда, где точность цитирования юридических полномочий имеет основополагающее значение для судебного процесса.
Ошибки не были обнаружены внутри компании Sullivan & Cromwell, а были выявлены адвокатами Boies Schiller Flexner, юридической фирмы, представляющей кредиторов в деле о банкротстве. Дитдерих отметил, что поблагодарил противоположную фирму за обнаружение ошибок и принес извинения за допущенную оплошность.
В компании Sullivan & Cromwell, основанной 140 лет назад, работает более 1000 адвокатов, и она входит в число самых известных юридических фирм на Уолл-стрит. По словам Дитдериха, фирма придерживается комплексной политики, регулирующей использование искусственного интеллекта в юридической работе, и установила меры безопасности, специально разработанные для предотвращения попадания именно такого типа ошибок в суды. Однако он признал, что в данном случае эти процедуры не были соблюдены, и процесс проверки цитирования фирмой также не смог выявить сфабрикованный материал перед отправкой.
Breitbart News ранее сообщал, что глава другой юридической фирмы, недавно пораженной галлюцинациями ИИ, Morgan & Morgan, в письме своей огромной фирме назвал угрозу ИИ для юридической профессии «до тошноты пугающей»:
Во внутреннем письме, представленном в судебном документе, директор по трансформации Morgan & Morgan предупредил более 1000 адвокатов фирмы, что цитирование в судебных документах фальшивых дел, созданных с помощью ИИ, может привести к серьезным последствиям, включая потенциальное увольнение. Это предупреждение прозвучало после того, как один из ведущих адвокатов фирмы, Рудвин Айала, привел восемь случаев в иске против Walmart, которые, как позже выяснилось, были созданы ChatGPT, чат-ботом с искусственным интеллектом.
Этот инцидент вызвал обеспокоенность по поводу растущего использования инструментов искусственного интеллекта в юридической профессии и потенциальных рисков, связанных с использованием этих инструментов без надлежащей проверки. Адвокаты Walmart призвали суд рассмотреть вопрос о санкциях против Morgan & Morgan, утверждая, что приведенные дела «похоже, не существуют нигде, кроме мира искусственного интеллекта».
Пока юридические фирмы борются с судебными исками, наполненными фальшивыми цитатами из дел и вымышленными цитатами, Америка в целом осознает тот факт, что ИИ представляет как большие возможности, так и большую опасность для нашей страны и культуры. Директор социальных сетей Breitbart News Уинтон Холл написал свой мгновенный бестселлер Красный код: левые, правые, Китай и гонка за контроль над ИИ служить окончательным руководством о том, как движение MAGA может создавать позиции в отношении ИИ, которые принесут пользу человечеству, не передавая контроль над нашей страной левым из Кремниевой долины и не позволяя китайцам захватить мир.
Подробнее читайте на Business Insider здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы искусственного интеллекта, свободы слова и онлайн-цензуры.
