Согласно новому анализу экспертов по искусственному интеллекту, мошенничество с дипфейками превратилось в операцию промышленного масштаба, а инструменты искусственного интеллекта теперь позволяют практически любому создавать сложные мошенничества, нацеленные на отдельных лиц и организации по всему миру.
Хранитель сообщает, что создание персонализированных мошенничеств с использованием технологии искусственного интеллекта превратилось из нишевой угрозы в недорогую, легко развертываемую операцию, доступную в большом масштабе, согласно анализу базы данных AI Incident. Эта технология больше не ограничивается сложными преступными предприятиями: она доступна практически любому мошеннику, имеющему доступ в Интернет.
В базе данных зарегистрировано более дюжины недавних инцидентов, связанных с «выдачей себя за другое лицо с целью получения прибыли», включая дипфейковые видеоролики премьер-министра Западной Австралии Роберта Кука, которые, по-видимому, рекламируют инвестиционную схему, сфабрикованные видеоролики, на которых врачи одобряют крем для кожи, а также дипфейковые видео шведских журналистов и президента Кипра, используемые для мошенничества.
Финансовый эффект был существенным. В прошлом году финансовый директор сингапурской транснациональной корпорации выплатил мошенникам почти 500 000 долларов во время, по его мнению, законного видеозвонка с руководством компании. В Великобритании потребители потеряли около 9,4 миллиарда фунтов стерлингов из-за мошенничества всего за девять месяцев, предшествовавших ноябрю 2025 года.
Саймон Милиус, исследователь Массачусетского технологического института, работающий над проектом, связанным с базой данных, подчеркнул резкий сдвиг. «Возможности внезапно достигли такого уровня, что фальшивый контент может создавать практически кто угодно», — сказал Милиус, отметив, что «мошенничество, мошенничество и целевые манипуляции» стали самой крупной категорией зарегистрированных инцидентов за одиннадцать из последних двенадцати месяцев. «Он стал очень доступным до такой степени, что фактически не существует никаких барьеров для входа», — добавил он.
Исследователь из Гарварда Фред Хайдинг поддержал эти опасения. «Масштаб меняется», — сказал Хайдинг. «Оно становится настолько дешевым, что теперь им может пользоваться практически каждый. Модели становятся действительно хорошими – они становятся намного быстрее, чем думает большинство экспертов».
Преследованию подвергаются даже компании, занимающиеся безопасностью искусственного интеллекта. В начале января Джейсон Ребхольц, генеральный директор стартапа Evoke, занимающегося безопасностью искусственного интеллекта, разместил в LinkedIn вакансию и вскоре начал обмениваться электронными письмами с кем-то, кто оказался талантливым инженером. Несмотря на то, что он заметил тревожные сигналы — электронные письма отправляются в спам, странности в резюме — он приступил к собеседованию. Когда наконец появилась видеотрансляция кандидата, проблемы стали очевидны.
«Фон был крайне фальшивым», — объяснил Ребхольц. «Мне было действительно трудно справиться с (областью) по краям человека. Как будто часть его тела входила и выходила… А потом, когда я смотрю на его лицо, оно просто очень мягкое по краям».
Ребхольц завершил интервью, а затем отправил запись в фирму по обнаружению дипфейков, которая подтвердила, что видео было создано искусственным интеллектом. Мошенник мог получить зарплату инженера или доступ к коммерческой тайне.
«Это похоже на то, что если мы подвергаемся нападкам, то это касается всех», — заметил Ребхольц.
По мнению Хейдинга, ситуация, скорее всего, ухудшится, прежде чем улучшиться. Дипфейковое клонирование голоса уже достигло совершенства, что позволяет легко выдавать себя за людей, например за членов семьи, зовущих на помощь. Видеотехнологии, хотя и вызывают беспокойство, продолжают быстро развиваться.
Хайдинг предупредил о долгосрочных последствиях: «Здесь будет большая болевая точка — полное отсутствие доверия к цифровым институтам, а также к институтам и материалам в целом».
Подробнее читайте на Хранитель здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы свободы слова и онлайн-цензуры.
