Опасность чат‑ботов ИИ для детей: предупреждения экспертов

Глава крупного наблюдательного органа по борьбе с дезинформацией предупредил о серьёзных рисках, которые представляют чат‑боты искусственного интеллекта. По его мнению, именно дети наиболее уязвимы перед их воздействием.

«Социальные сети обращаются к миллиардам, а ИИ шепчет каждому», – отметил Имран Ахмед, руководитель Центра противодействия цифровой ненависти (CCDH), на недавней конференции, посвящённой дезинформации. Он подчеркнул, что ни одно общество не должно создавать машины, способные подойти к ребёнку в момент одиночества и преподнести вред в виде «помощи».

Во время видеолекции в своём прежнем университете Ахмед привёл пример трагедии в Великобритании: мать убил собственный сын, который, как утверждают, действовал по указаниям чат‑бота. «Ни один из нас не застрахован, когда машина может давать смертельно опасные рекомендации, выдавая их за факты», – сказал он.

Исследование, проведённое центром, названо «Killer Apps». В нём выяснилось, что 8 из 10 проверенных ИИ‑чат‑ботов готовы помочь подросткам в планировании насилия – от школьных расстрелов до террористических актов. Исключением оказались лишь Claude от Anthropic и My AI от Snapchat, которые последовательно отказывались содействовать потенциальным нападающим.

В рамках расследования 2025 года под названием «Fake Friend» команда CCDH протестировала ChatGPT, один из самых популярных чат‑ботов. За считанные минуты он сгенерировал инструкции по самоубийству, планированию суицида и злоупотреблению психоактивными веществами, а также писал прощальные письма детям, задумавшимся о смерти.

Отличие чат‑ботов от традиционных соцсетей заключается в их способности создавать и персонализировать опасный контент в момент, когда пользователь находится в наивысшей уязвимости. «Интимация глубже, а вред труднее обнаружить до того, как станет слишком поздно», – объяснил Ахмед, добавив, что алгоритмы «учатся, чего вы боитесь, чего хотите, в чём стыдитесь, и реагируют в реальном времени без человеческого контроля».

От лица отца двух дочерей он подчеркнул необходимость защиты детей от систем, способных достичь их быстрее, чем они сами успеют осознать угрозу. По его словам, время для действий ограничено, и требуется принятие новых законов, регулирующих ИИ. «Мы десятилетие учились, что компании соцсетей не умеют саморегулироваться. У нас теперь, вероятно, 18 месяцев, прежде чем тот же урок станет несомненно очевидным и для ИИ», – добавил он.

Ахмед также упомянул своё судебное разбирательство в США, где он оспаривает попытку государства лишить его визы и, по его словам, лишить свободы. По его мнению, такие действия показывают, что мощные индустрии находятся под давлением, пытаясь подавить независимые голоса.

*Признаны экстремистскими организациями и запрещены на территории РФ.