Folotoy, компания, создавшая плюшевого мишку Kumma с искусственным интеллектом, временно прекратила продажи продукта в ответ на негативную реакцию по поводу проблем безопасности, поднятых исследователями. Было доказано, что чат-бот медведя с искусственным интеллектом инструктирует детей, как разжигать пожары, находить ножи в домах и как находить лекарства, отпускаемые по рецепту. Компания утверждает, что плюшевый мишка, снова выставленный на продажу, теперь имеет более надежную защиту от детей.
После недавнего отчета программы «Наша онлайн-жизнь» PIRG, который показал, что некоторые игрушки с искусственным интеллектом потенциально могут привести детей к опасным ситуациям, компания по производству игрушек Folotoy предприняла быстрые действия для решения проблем, связанных с их плюшевым мишкой Kumma. Компания объявила, что прекратит продажи продукта и проведет внутренний аудит безопасности, чтобы обеспечить благополучие своих юных клиентов, но всего через несколько дней выпустит продукт обратно на рынок, пообещав, что в нем будут улучшены меры защиты детей.
Отчет «Проблемы в стране игрушек 2025», опубликованный программой «Наша онлайн-жизнь» PIRG, проливает свет на тревожное поведение некоторых чат-ботов на базе искусственного интеллекта, встроенных в популярные детские игрушки. Самым известным нарушителем был медведь Кумма из Фолотой, который, как обнаружили исследователи, давал инструкции о том, как разжечь огонь, найти ножи и найти медицинские таблетки, и все это обманчиво милым голосом. Другие отчеты включают обсуждение сексуальных практик БДСМ с детьми.
Это открытие вызвало широкую обеспокоенность как среди родителей, так и среди защитников безопасности детей. Р.Дж. Кросс, представитель программы PIRG «Наша онлайн-жизнь», предостерег родителей от предоставления своим детям доступа к чат-ботам или игрушкам, содержащим их, заявив: «Прямо сейчас, если бы я был родителем, я бы не давал своим детям доступ к чат-боту или плюшевому мишке, внутри которого есть чат-бот».
В ответ на растущую негативную реакцию Ларри Ванг, генеральный директор Folotoy, объявил, что компания выведет игрушку Kumma из обращения, сделав ее недоступной для покупки. Кроме того, Folotoy проведет тщательный внутренний аудит безопасности для выявления и устранения любых потенциальных рисков, связанных с продуктом. Но всего через несколько дней медведя снова выставили на продажу, и компания пообещала, что защитит детей от чат-бота с искусственным интеллектом внутри медведя.
Медведь Кумма был не единственной игрушкой, участвовавшей в исследовании. Было также обнаружено, что Miko 3, планшет, использующий неуказанную модель искусственного интеллекта, предоставляет опасные инструкции исследователям, выдающим себя за пятилетнего ребенка. Эти инструкции включали подробную информацию о том, как найти спички и пластиковые пакеты.
Лукас Нолан — репортер Breitbart News, освещающий вопросы свободы слова и онлайн-цензуры.
