AI-селфи для проверки возраста: бум технологий и новые риски

Правительства по всему миру усиливают контроль над онлайн-платформами, от социальных сетей до сайтов для взрослых. Это привело к стремительному росту спроса на технологии искусственного интеллекта, способные определять возраст пользователя по селфи.

Эти инновационные решения обещают скорость и точность при внедрении законодательных мер, таких как запрет на использование социальных сетей для лиц младше 16 лет, который вступает в силу в Австралии 10 декабря.

Для пользователя проверка возраста с помощью такой технологии — проще простого. Достаточно сделать фото анфас фронтальной камерой телефона или компьютера, и автоматизированная система выдаст результат в течение минуты.

«Мы определили, что ваш возраст — 18 лет или старше», — гласит всплывающее окно на игровой платформе Roblox. В просторном лондонском офисе стартапа Yoti на подоконниках выстроились в ряд манекены — некоторые с париками или масками — для тестирования их ИИ. Технология не обманывается.

«Мы не можем быть уверены, что изображение принадлежит реальному лицу», — сообщает одна из тестовых платформ на смартфоне. Генеральный директор Робин Томбс отмечает: «Со временем алгоритм стал очень хорошо анализировать закономерности и определять: 'лицо с такими характеристиками выглядит на 17 или 28 лет'… он просто научился очень точно оценивать возраст».

Компании на подъеме, но есть опасения.

Сегодня стартап обрабатывает около миллиона проверок возраста в день, обслуживая таких крупных клиентов, как Meta, TikTok, Sony и Pinterest. Yoti начал получать прибыль в этом году, показав доход в 20 миллионов фунтов стерлингов (26 миллионов долларов) за 12 месяцев до марта. Компания прогнозирует 50% рост продаж в текущем финансовом году.

Конкуренты также демонстрируют успехи: 34 компании, включая Persona, Kids Web Services, K-id и VerifyMy, входят в Ассоциацию поставщиков услуг верификации возраста (AVPA). В 2021 году AVPA прогнозировала годовой доход почти в 10 миллиардов долларов для этого сектора в 37 странах, входящих в ОЭСР, на период 2031-2036 годов, хотя более свежих прогнозов не выпускалось.

Директор AVPA Иэн Корби осторожен в прогнозах: «Может произойти что угодно. Регулирование развивается очень быстро, технологии — тоже», — сказал он AFP.

Вопросы конфиденциальности и предвзятости.

Системы верификации возраста на основе ИИ вызывают вопросы относительно потенциальной предвзятости и влияния на конфиденциальность. «Эти инструменты могут быть несколько навязчивыми или опасными для частной жизни людей», — считает Оливье Блази, профессор кибербезопасности в престижной французской инженерной школе Polytechnique. Однако, по его словам, многое зависит от информации, которой сайты делятся со сторонними поставщиками услуг верификации возраста.

«Я думаю, что сейчас экосистема склоняется к ИИ, но в ближайшие годы может произойти откат к лучшей защите частной жизни пользователей», — предположил Блази.

Слабые места и будущие перспективы.

Блази отметил, что системы все еще имеют слабые места, указывая, что «с помощью обычной косметики можно относительно легко выглядеть старше или моложе». Другие указывают на предвзятость в алгоритмах верификации возраста, которые могут быть менее точными при анализе лиц небелого населения.

Один из отчетов независимого австралийского органа выявил, что «недостаточная представленность коренных народов остается проблемой», хотя «вендоры начинают ее решать». Глава Yoti Робин Томбс признает, что для обучения модели компании на некоторых возрастных группах или оттенках кожи было доступно меньше данных. Но он настаивает, что их инструмент может «проверять, используют ли люди ложные аксессуары или макияж и тому подобное».

Касательно конфиденциальности, он заявил, что инструмент Yoti немедленно удаляет все данные после проведения анализа. Платформы, использующие инструменты анализа селфи от таких компаний, как Yoti, могут настраивать параметры оценки, оставляя некоторый запас погрешности. Например, сайты, запрещающие доступ лицам младше 18 лет, часто требуют, чтобы система считала посетителей старше 21 года. Те, кто попадает в «серую зону», могут быть вынуждены прибегнуть к более традиционным методам верификации — например, предъявить официальное удостоверение личности и сделать его снимок или скан.