В ООН предупредили о росте рисков ИИ для детей

В ООН предупредили о росте рисков, связанных с искусственным интеллектом, для детей и призвали к принятию целого ряда мер по защите несовершеннолетних от насилия, эксплуатации и психологических травм. Об этом сообщается на сайте Центра новостей ООН.

В ООН указали на огромное количество вредоносного контента в интернете, созданного с помощью искусственного интеллекта. В числе способов воздействия на детей - дипфейки и кибербуллинг.

Кроме того, организации, защищающие права детей, сообщают, что злоумышленники могут использовать ИИ для анализа поведения ребенка в интернете, его эмоционального состояния и интересов, чтобы, например, адаптировать свою стратегию совращения. Искусственный интеллект также позволяет преступникам создавать откровенные поддельные изображения реальных детей, что порождает новую форму сексуального вымогательства.

Независимый глобальный институт Childlight Global Child Safety Institute, созданный для сбора данных о сексуальной эксплуатации и насилии над детьми, в своем отчете за 2025 год проинформировал, что количество случаев насилия над детьми с использованием технологий в США увеличилось с 4,7 тыс. в 2023 году до более чем 67 тыс. в 2024 году.

По мере того как государства - члены ООН узнают о масштабах и серьезности проблемы, они принимают более решительные меры. В конце 2025 года Австралия стала первой страной в мире, запретившей аккаунты в социальных сетях для детей младше 16 лет на том основании, что риски, связанные с размещаемым ими контентом, значительно перевешивают потенциальные выгоды. Правительство сослалось на подготовленный по его заказу отчет, который показал, что почти две трети детей в возрасте от 10 до 15 лет просматривали контент, содержащий ненависть, насилие или вызывающий тревогу, а более половины подвергались кибербуллингу. Большая часть этого контента была просмотрена на в социальных сетях.

«Ряд других стран, включая Малайзию, Великобританию, Францию и Канаду, похоже, последуют примеру Австралии, подготовив правила и законы для аналогичных запретов или ограничений», - отметили в ООН.

В начале 2026 года широкий ряд органов ООН, включая Международный союз электросвязи и Комитет ООН по правам ребенка, подписал совместное заявление об искусственном интеллекте и правах ребенка, опубликованное 19 января, в котором описываются риски для детей и подтверждается коллективная неспособность общества справиться с ними. В заявлении отмечается недостаточная грамотность в области искусственного интеллекта среди детей, учителей, родителей или опекунов, а также нехватка технической подготовки среди политиков и правительств по вопросам искусственного интеллекта, методов защиты данных и оценки воздействия на права ребенка.

На фоне этого органы ООН подготовили ряд рекомендаций по защите детей в интернете. В частности, государствам рекомендовано укреплять механизмы управления ИИ для защиты прав детей. Глобальным организациям настоятельно рекомендуется учитывать права детей в стратегиях, связанных с ИИ. Для обеспечения конфиденциальности необходимы более строгие меры защиты данных. Специалисты убеждены, что правительства и компании должны обеспечить прозрачность, подотчетность и соответствие технологий ИИ принципам защиты детей. Кроме того, государства должны предотвращать и пресекать насилие и эксплуатацию детей, которые стали возможными или усугубились из-за ИИ. В ООН призвали, чтобы решения, принимаемые на основе ИИ, были направлены на обеспечение интересов и всестороннего развития каждого ребенка, а инклюзивный и свободный от предвзятости ИИ необходим для того, чтобы все дети в равной степени получали пользу от новых технологий.