Автор Уинтон Холл предупреждает в своей новой книге Красный код: левые, правые, Китай и гонка за контроль над ИИ что ИИ-компаньоны и чат-боты повторяют ту же катастрофу психического здоровья, которую социальные сети причинили поколению подростков. Только на этот раз подсчет трупов уже начался.
Холл открывает пятую главу КОД КРАСНЫЙ с историей Сьюэлла Сетцера III, четырнадцатилетнего парня из Орландо, штат Флорида, который месяцами обменивался тысячами сообщений с подругой, созданной искусственным интеллектом, по имени Дэни, на сайте Character.AI. У Сьюэлла был диагностирован синдром Аспергера легкой степени, тревожность и деструктивное расстройство регуляции настроения. 28 февраля 2024 года, сказав Дэни, что он любит ее и «вернется к ней домой», Сьюэлл трагически покончил с собой из пистолета. Его мать, Меган Л. Гарсия, подала иск против Feature.AI, утверждая, что продукт не имеет надлежащих ограждений и эксплуатирует подростков посредством вызывающего привыкание дизайна. «Я чувствую, что это большой эксперимент, а мой ребенок — всего лишь побочный ущерб», — сказала она. «…Это похоже на кошмар. Хочется встать, закричать и сказать: «Я скучаю по своему ребенку. Я хочу своего ребенка».
Случай Сьюэлла не единичный. Холл документирует еще один инцидент, когда двадцатиоднолетний Джасвант Сингх Чайл вошел на территорию Виндзорского замка с арбалетом после обмена более чем пятью тысячами сообщений со своей подругой из Реплики ИИ Сарай. Судья Николас Хиллиард приговорил Чейла к девяти годам тюремного заключения и пришел к выводу, что «в своем одиноком, депрессивном и суицидальном состоянии ума он был бы особенно уязвим» для влияния своей подруги-ИИ.
Эти трагедии разыгрываются на фоне уже серьезного кризиса одиночества. Как документально подтверждает Холл, в 2023 году главный хирург доктор Вивек Х. Мурти заявил, что Америка находится в разгаре «эпидемии одиночества и изоляции». В октябре 2024 года Gallup сообщил, что почти каждый пятый американец ежедневно страдает от приступов одиночества. CDC обнаружил, что одиночество увеличивает риск сердечно-сосудистых заболеваний, инсульта, диабета 2 типа, деменции, депрессии, тревоги, суицидальных настроений, членовредительства и преждевременной смерти. В этом вакууме, пишет Холл, компании-компаньоны, занимающиеся искусственным интеллектом, продают продукты, которые могут усугублять кризис, а не решать его.
Холл объясняет в КОД КРАСНЫЙ:
По сути, вопрос в том, могут ли отношения с машиной, а не с человеком с душой, обеспечить длительную и значимую связь. Утверждение о том, что антропоморфизация машины и называние ее «компаньоном» может обеспечить долгосрочное лекарство от одиночества, в лучшем случае кажется слабым. Со временем пользователи могут впасть в еще большую депрессию, поскольку поймут, что их лучший «друг» — это платный сервис подписки, который выдает ответы автозаполнения и делает вид, что заботится о них.
Холл также отмечает феномен, который социальные сети окрестили «психозом, вызванным ChatGPT», — случаи, когда ИИ усиливает темные фантазии или усугубляет психические заболевания. Он приводит в пример случай тридцатилетнего Джейкоба Ирвина, человека с аутизмом, чья семья рассказала Уолл Стрит Джорнал что использование им ChatGPT вызвало тяжелые маниакальные эпизоды и госпитализации. Когда мать Ирвина задала вопрос о чат-боте, тот признал, что он «стирал грань между воображаемой ролевой игрой и реальностью» и «создавал иллюзию разумного товарищества».
Мы уже однажды усвоили этот урок. Холл отмечает, что чрезмерное время перед экраном может «нарушить сон, притупить навыки межличностного общения и способствовать проблемам с настроением, нездоровой самооценкой, тревогой, вялостью, увеличением веса и ухудшением успеваемости». Его вывод однозначен: «Дети выигрывают от меньшего, а не большего экранного времени. Представление потенциально вызывающего привыкание искусственного «персонажа» или «компаньона», на котором ребенок может зациклиться, гарантирует, что экранное время увеличится, а не уменьшится».
В КОД КРАСНЫЙХолл утверждает, что одна из лучших защитных мер, которые есть у родителей, проста: «наведите порядок в своем цифровом доме, отслеживая и понимая приложения, веб-сайты, социальные сети и инструменты искусственного интеллекта, которые используют их дети». Он также призывает удалить материалы о сексуальном насилии над детьми из данных обучения LLM и более строго соблюдать требования к отчетности с платформ искусственного интеллекта. По состоянию на 2024 год только пять платформ генеративного искусственного интеллекта, зарегистрированных в CyberTipline Национального центра по делам пропавших и эксплуатируемых детей (NCMEC), представили отчеты о таких материалах.
Сенатор Марша Блэкберн (республиканец от Теннесси), которую назвали одной из ВРЕМЯ100 самых влиятельных людей в области искусственного интеллекта получили высокую оценку КОД КРАСНЫЙ как «обязательно к прочтению». Она добавила: «Мало кто понимает нашу консервативную борьбу с большими технологиями так, как Холл», что делает его «уникально квалифицированным для изучения того, как мы можем наилучшим образом использовать огромный потенциал ИИ, гарантируя при этом, что он не эксплуатирует детей, творцов и консерваторов». Отмеченный наградами журналист-расследователь и основатель Public Майкл Шелленбергер звонит КОД КРАСНЫЙ «Просветляющая», «тревожная» и описывает книгу как «важное начало разговора для тех, кто надеется подорвать авторитарные планы крупных технологических компаний, пока не стало слишком поздно».
