В ходе неловкого инцидента, подчеркивающего подводные камни использования искусственного интеллекта в правоохранительных органах, полицейское управление в Хибер-Сити, штат Юта, было вынуждено объяснить, почему в полицейском отчете, созданном ИИ, утверждалось, что прибывший на помощь офицер превратился в лягушку.
Futurism сообщает, что полицейское управление Хибер-Сити в штате Юта недавно начало тестирование программного обеспечения на базе искусственного интеллекта под названием Draft One, разработанного полицейской технической компанией Axon, для автоматического создания полицейских отчетов на основе видеозаписей с нательных камер. Целью было сократить объем бумажной работы для офицеров. Однако результаты были далеки от удовлетворительных, и во многих случаях ошибки оставались незамеченными.
В одном особенно ярком случае программное обеспечение искусственного интеллекта уловило фоновую болтовню из фильма Диснея. Принцесса и лягушка который играл во время создания отчета. Это привело к странному упоминанию о том, что ответивший офицер сам превращался в лягушку. «Именно тогда мы поняли, насколько важно исправлять эти отчеты, созданные искусственным интеллектом», — заявил сержант полиции Рик Кил.
Даже простая имитация остановки трафика, призванная продемонстрировать возможности инструмента, превратилась в головную боль, а полученный отчет потребовал многочисленных исправлений. Несмотря на эти недостатки, Кил заявил, что программное обеспечение экономит ему «шесть-восемь часов в неделю».
Использование ИИ в правоохранительных органах вызвало критику со стороны экспертов, которые предупреждают о потенциальных предвзятости и проблемах с подотчетностью. Эндрю Фергюсон, профессор права Американского университета, выразил обеспокоенность тем, что простота технологии может привести к тому, что офицеры будут менее осторожны в написании.
Критики также утверждают, что отчеты, генерируемые ИИ, могут привести к возможности отрицания и снизить ответственность офицеров за ошибки. Расследование, проведенное Electronic Frontier Foundation, показало, что Draft One «похоже, намеренно создан для того, чтобы избежать проверок, которые могли бы обеспечить какую-либо подотчетность перед общественностью». Расследование показало, что зачастую невозможно отличить, какие части отчета были созданы ИИ, а какие написаны офицером.
Подробнее о футуризме можно прочитать здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы свободы слова и онлайн-цензуры.
