Instagram хочет использовать искусственный интеллект для выявления подростков, которые лгут о своем возрасте

Об этом заявила директор Meta по управлению продуктами для молодежи и социального воздействия Элис Хартнетт, сообщает Bloomberg. Meta подверглась критике со стороны родителей и законодателей за негативное влияние социальных сетей на психическое здоровье подростков.

Meta хочет использовать собственный программный инструмент под названием Adult Classifier для классификации пользователей на две возрастные категории — младше или старше 18 лет — на основе информации об учетной записи человека. Чтобы определить возраст пользователя, программа может изучить его профиль, просмотреть список его подписчиков и определить, какой контент он ищет. И даже изучить невинные сообщения от друзей вроде поздравлений с днем рождения.

По словам Хартнетт, на основании полученных данных люди, подозреваемые в том, что им нет 18 лет, будут автоматически классифицироваться как подростки, независимо от того, сколько лет они указали в своем профиле. В сентябре Instagram представил новые подростковые аккаунты, которые по умолчанию имеют более строгие настройки конфиденциальности, например, ограничивают, от кого пользователь может получать сообщения и какие типы контента он может просматривать. Компания не уточнила, насколько точен классификатор взрослых.

Компания уже переводит подростков на более строгие настройки, основываясь на информации о дне их рождения. Она планирует начать использовать классификатор взрослых в начале следующего года, чтобы поймать людей, которые могут попытаться обойти новые правила. Все пользователи младше 18 лет будут автоматически попадать в подростковые аккаунты, но те, кому уже исполнилось 16 лет, смогут самостоятельно отключить более строгие настройки конфиденциальности. Молодым людям до 16 лет для этого необходимо разрешение родителей.

На Meta поданы десятки исков от генеральных прокуроров различных штатов США, которые утверждают, что компания сознательно пыталась привязать детей к социальным сетям и способствовала возникновению кризиса психического здоровья подростков. Компания также стала объектом нападок со стороны родителей, утверждающих, что их дети-подростки умерли от наркотиков или покончили с собой из-за контента, который они видели в социальных сетях Meta, или из-за разговоров, которые они вели в этих сетях.

В 2021 году сотрудница Facebook Фрэнсис Хауген обнародовала тысячи страниц документов, из которых, в частности, следовало, что компания по результатам собственных исследований знала, что Instagram может негативно повлиять на психическое здоровье девочек-подростков.

Как только новые ограничения будут введены в действие, большой проблемой станет обеспечение их соблюдения. Исследование, проведенное Британским управлением телекоммуникаций, показало, что треть несовершеннолетних, имеющих аккаунты в социальных сетях, указывают свой возраст как 18 или старше.

Подход Meta к проверке возраста стал возможен благодаря огромному количеству информации, которой люди делятся о себе в приложениях, включая их социальные круги, симпатии и антипатии, а также предпочтения в контенте. Хартнетт добавила, что аккаунты в Instagram для подростков только разворачиваются в США и некоторых других странах, но пока что подростки, лгущие о своем возрасте, являются меньшей проблемой, чем ожидала компания.