Документы внутреннего тестирования Meta Марка Цукерберга показывают, что невыпущенный продукт чат-бота не смог защитить несовершеннолетних от сексуальной эксплуатации почти в 70 процентах тестовых сценариев, согласно показаниям суда, представленным в понедельник в рамках иска штата Нью-Мексико против интернет-гиганта об эксплуатации детей.
Axios сообщает, что выводы были сделаны в ходе судебного разбирательства по иску, поданному генеральным прокурором Нью-Мексико Раулем Торресом (демократ) против гиганта социальных сетей. Свидетель-эксперт Дэймон Маккой, профессор Нью-Йоркского университета, дал показания о результатах внутренней «красной команды» Meta после изучения документов, которые компания предоставила на этапе раскрытия судебного процесса.
Согласно внутреннему отчету, представленному в суде, Meta протестировала свой чат-бот по трем критическим категориям безопасности. Результаты показали значительные неудачи во всех трех областях. В категории «сексуальная эксплуатация детей» процент неудач составил 66,8%. По преступлениям на сексуальной почве, насильственным преступлениям и контенту, разжигающему ненависть, процент отказов достиг 63,6 процента. Даже в категории самоубийств и членовредительства продукт не смог обеспечить адекватную защиту в 54,8 процентах случаев.
Маккой показал, что чат-боты Meta нарушали собственную политику в отношении контента почти в двух третях случаев, основываясь на результатах внутреннего тестирования. Он заявил, что, учитывая серьезность некоторых типов разговоров, выявленных во время тестирования, он не хотел бы, чтобы продукт подвергался воздействию пользователей младше 18 лет. В его показаниях конкретно упоминается Meta AI Studio, продукт, который позволяет пользователям создавать персонализированных чат-ботов.
В основе иска лежат обвинения в том, что Meta приняла дизайн-решения, которые не могут должным образом защитить детей в Интернете от хищников, и что компания выпустила своих чат-ботов с искусственным интеллектом, не приняв надлежащих мер безопасности. Судебный иск Торреса последовал на фоне более тщательного изучения продуктов чат-ботов Meta, которые столкнулись с обвинениями во флирте и участии в вредных разговорах с несовершеннолетними. Эти опасения вызвали как судебные расследования, так и запросы со стороны законодателей Капитолийского холма.
Мета отреагировал на показания, разъяснив характер и результат процесса тестирования. Представитель компании заявил, что рассматриваемый продукт так и не был выпущен на рынок именно потому, что в ходе тестирования были выявлены опасения. Представитель подчеркнул, что так называемая «красная команда» — это упражнение, специально разработанное для выявления нарушений, чтобы компания могла решать проблемы до запуска, и что результаты не отражают, как пользователи на самом деле будут воспринимать выпущенный продукт.
Однако показания Маккоя охарактеризовали документ по-другому, указав на то, что он описывает результаты продукта после его внедрения. Это несоответствие подчеркивает ключевой момент разногласий в деле, касающемся интерпретации процедур и результатов внутреннего тестирования Meta.
В более широком контексте этого дела речь идет о Meta AI Studio, которую компания выпустила для широкой публики в июле 2024 года. Этот продукт позволяет пользователям создавать своих собственных персонализированных чат-ботов с искусственным интеллектом. Буквально в прошлом месяце Meta приняла меры, чтобы приостановить доступ подростков к своим ИИ-персонажам, шаг, который был сделан на фоне растущей обеспокоенности по поводу безопасности несовершеннолетних, использующих эти функции.
Подробнее об Axios можно прочитать здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы свободы слова и онлайн-цензуры.
