как Meta разоблачит «взрослые» аккаунты подростков

Meta Platforms Inc.* разрабатывает новую систему защиты подростков в социальной сети Instagram*. Компания планирует использовать искусственный интеллект для выявления молодых пользователей, которые указывают недостоверный возраст, и автоматически переводить аккаунты в режим с повышенными настройками конфиденциальности.

По словам директора по управлению продуктами Meta* по работе с молодежью и социальному воздействию Эллисон Хартнетт, компания разработала специальный программный инструмент под названием «adult classifier». Система будет категоризировать пользователей по двум возрастным группам — старше или младше 18 лет. Для определения возраста алгоритм анализирует данные учетной записи, списки подписчиков, взаимодействие с контентом и даже просматривает поздравления с днем рождения от друзей.

На основании результатов работы программы пользователи, предположительно не достигшие 18 лет, будут автоматически переведены в категорию подростковых аккаунтов, независимо от указанного в профиле возраста. В сентябре Instagram запустил новый тип аккаунтов для подростков с более строгими настройками приватности по умолчанию, включая ограничения на получение сообщений и просмотр определенного контента.

Компания уже переводит подростков в режим повышенной защиты на основании самостоятельно указанного возраста, но планирует задействовать новую систему классификации в начале следующего года. Пользователи 16-17 лет смогут самостоятельно изменять ограничительные настройки конфиденциальности, а младше 16 лет — только с согласия родителей.

Защита несовершеннолетних пользователей от вредоносного контента остается серьезной проблемой для Meta* на протяжении многих лет. Компания столкнулась с судебным иском от десятков генеральных прокуроров штатов, утверждающих, что социальная сеть способствовала формированию зависимости у детей и ухудшению психического здоровья подростков. Также поступали жалобы от родителей, чьи дети пострадали из-за контента или общения в продуктах Meta*.

В 2021 году бывшая сотрудница Facebook* Фрэнсис Хауген обнародовала тысячи страниц документов, показывающих, что собственные исследования компании выявили негативное влияние Instagram* на психическое здоровье девочек-подростков.

По данным исследования британского телекоммуникационного регулятора, треть несовершеннолетних пользователей социальных сетей указывают возраст 18 лет и старше. Meta* намерена существенно усложнить процесс фальсификации возраста в Instagram*. Система будет отмечать подростков, пытающихся создать новый аккаунт с тем же электронным адресом, но другой датой рождения. Компания также может проверять уникальный идентификатор устройства для определения владельца нового профиля.

Подросткам, пытающимся увеличить указанный возраст, придется подтверждать личность, загружая официальные документы или отправляя видео-селфи в стороннюю службу Yoti, которая оценивает возраст по чертам лица. После проверки изображения удаляются. Ранее существовавшая возможность подтверждения возраста через поручительство друзей была отменена.

Meta* планирует разработать систему апелляций для пользователей, которые были ошибочно определены как несовершеннолетние. На данный момент, пока компания работает над повышением точности системы классификации, пользователи, ошибочно определенные как подростки, могут самостоятельно отключать ограничения без разрешения родителей.

Руководство Meta* считает, что наиболее эффективным решением для проверки возраста была бы верификация через магазины приложений перед загрузкой определенных программ. Однако представители Apple и Google выразили несогласие с таким подходом, ссылаясь на принцип минимизации данных и отсутствие универсального решения проблемы.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.