OpenAI отложила запуск своей спорной функции «взрослого режима» из-за резкого сопротивления со стороны собственного консультативного совета и опасений по поводу того, что технические меры безопасности не могут защитить несовершеннолетних.
Уолл Стрит Джорнал сообщает, что генеральный директор Сэм Альтман впервые предложил эту функцию в прошлом году, аргументируя необходимость «относиться к взрослым пользователям как к взрослым», разрешая эротические текстовые разговоры. Первоначально запланированное на первый квартал этого года, внедрение было перенесено как минимум на месяц.
Это предложение вызвало ожесточённую оппозицию со стороны специально подобранного OpenAI консультативного совета по благополучию и искусственному интеллекту. На январской встрече советники единогласно выразили ярость, узнав, что компания планирует действовать, несмотря на их оговорки. Один из членов совета предупредил, что OpenAI рискует создать «сексуального тренера по самоубийству» — ссылка на случаи, когда у пользователей ChatGPT развивались сильные эмоциональные связи с ботом, прежде чем покончить с собой.
Технические проблемы не менее серьезны. Система прогнозирования возраста OpenAI, предназначенная для блокировки доступа несовершеннолетних к контенту для взрослых, ошибочно классифицировала несовершеннолетних как взрослых примерно в 12 процентах случаев во время внутреннего тестирования. Поскольку на платформе каждую неделю посещают примерно 100 миллионов пользователей в возрасте до 18 лет, такой уровень ошибок может подвергнуть миллионы детей воздействию откровенного материала. Компания также изо всех сил пыталась снять ограничения на эротический контент, при этом блокируя сценарии без согласия и детскую порнографию.
Внутренние документы, рассмотренные Журнал выявили дополнительные риски: компульсивное использование, эмоциональная чрезмерная зависимость от чат-бота, эскалация в сторону все более экстремального контента и вытеснение реальных отношений.
Представитель OpenAI описала запланированную функцию как позволяющую «порну, а не порнографию» в текстовой форме, при этом эротические изображения, голос и видео останутся закрытыми при запуске. Она признала, что алгоритмы прогнозирования возраста «никогда не будут полностью надежными», но отметила, что их эффективность сопоставима с отраслевыми стандартами.
Альтман оказался в публичном противоречии. Во время августовского подкаста, когда его спросили о решениях, которые были «лучшими для мира, но не лучшими для победы», он сказал: «Мы еще не разместили аватар секс-бота в ChatGPT». Он признал, что эротика увеличит доходы, но сказал, что это противоречит долгосрочным целям компании. Два месяца спустя он объявил на X, что контент для взрослых будет запущен в декабре – сообщение, которое ошеломило сотрудников, появившись всего через несколько часов после того, как компания представила свой консультативный совет по благополучию. На следующий день он продолжил: «Мы не являемся избранной полицией морали мира».
В своей новой книге Красный код: левые, правые, Китай и гонка за контроль над ИИДиректор социальных сетей Breitbart News Уинтон Холл подробно пишет о том, как мы можем защитить наших детей и внуков.
«Суть», утверждает Холл, заключается в том, что «ребенку нет оправдания взаимодействия с персонажами или платформами-компаньонами с искусственным интеллектом», прежде чем напомнить читателям, что дети в США «уже проводят слишком много времени, глядя на экраны».
«Регулярное использование родительского контроля, строгая конфиденциальность данных и настройки, соответствующие возрасту, а также обсуждение онлайн-безопасности необходимы для того, чтобы помочь детям преодолевать опасности и ответственно использовать технологии», — предполагает автор.
Подробнее читайте на Уолл Стрит Джорнал здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы свободы слова и онлайн-цензуры.
