SafetyCore выходит за пределы Google Messages: что меняется в Android
Google развивает в Android системный механизм локальной проверки чувствительного контента. Android System SafetyCore уже используется Google Messages для распознавания изображений с наготой непосредственно на смартфоне, а теперь в документации Android появился ContentSafetyManager - системный API, через который аналогичную проверку смогут запрашивать другие авторизованные приложения. Это не означает постоянного сканирования всей галереи, но превращает классификацию изображений в отдельный системный слой Android, доступный не только одному приложению Google.Что Android System SafetyCore делает уже сейчас
SafetyCore - отдельная системная служба Google для устройств начиная с Android 9. Компания описывает Android System SafetyCore как общую инфраструктуру, которую приложения могут использовать для защиты пользователя от нежелательного контента.Наиболее известное применение службы сейчас находится в Google Messages. Функция Sensitive Content Warnings способна обнаруживать изображения, которые могут содержать наготу, размывать их и показывать предупреждение перед просмотром, отправкой или пересылкой.
При этом популярная формулировка о том, что Google установил приложение, которое самостоятельно просматривает все фотографии пользователя, не соответствует описанной компанией архитектуре. Google утверждает, что SafetyCore активируется только тогда, когда интегрированное приложение специально запрашивает классификацию контента.
В Google Messages у взрослых пользователей Sensitive Content Warnings по умолчанию выключены. Для подростковых аккаунтов функция может быть включена автоматически, а для контролируемых детских профилей ей управляют родители.
Google утверждает, что фотографии не уходят на сервер
Ключевой особенностью SafetyCore является локальная обработка. По заявлению Google, классификация выполняется непосредственно на устройстве, а само изображение, результат классификации и идентифицирующая пользователя информация не отправляются на серверы компании.Это важное отличие от облачного анализа, при котором изображение сначала загружается на внешний сервер. Здесь модель должна работать внутри смартфона, а приложение получает результат проверки локально.
Однако такая архитектура решает только один вопрос приватности - передачу самого контента Google. Она не отменяет более широкий вопрос о том, какие приложения в будущем смогут запрашивать системную классификацию и какие действия они будут выполнять после получения результата.
Что меняет новый ContentSafetyManager
В августе в официальной документации Android появился ContentSafetyManager. API предоставляет приложениям доступ к настроенной на устройстве службе проверки чувствительного контента и позволяет передавать ей файл для классификации.Это потенциально значительно расширяет область применения технологии. Проверка больше не обязательно должна оставаться внутренней функцией Google Messages: интегрированное приложение сможет обратиться к системному механизму перед отображением или обработкой контента.
Но говорить, что Google уже открыл SafetyCore абсолютно всем разработчикам без ограничений, пока рано. В документации используется формулировка "granted apps", а сам ContentSafetyManager находится на уровне API 10000 - специальном обозначении текущей предварительной версии Android API. Условия предоставления доступа и окончательная модель разрешений еще могут измениться до стабильного релиза.
Новый API сам по себе не дает приложению доступ ко всей галерее
Это принципиальное ограничение. Возможность попросить Android классифицировать файл не означает автоматического разрешения читать все фотографии пользователя. Приложению по-прежнему нужен законный для Android доступ к самому файлу или медиаконтенту.Поэтому ContentSafetyManager нельзя рассматривать как готовую кнопку "просканировать весь телефон". Если приложение не имеет доступа к фотографии, наличие системного классификатора само по себе такой доступ ему не предоставляет.
С другой стороны, приложение, которому пользователь уже дал широкий доступ к медиатеке, теоретически получает дополнительный готовый инструмент классификации. Именно расширение области применения системного анализатора и вызывает вопросы у части исследователей приватности.
Что известно о типах контента, которые сможет определять система
Для Google Messages подтверждена конкретная функция - обнаружение изображений с возможной наготой. При этом публичная документация нового ContentSafetyManager описывает механизм более широко как content safety и sensitive content warnings.Утверждение, что новый Android API уже документирован как сканер материалов сексуального насилия над детьми, открытыми спецификациями пока не подтверждается. В опубликованном API нет отдельного публичного перечня подобных категорий. Поэтому смешивать известную функцию обнаружения наготы с возможными будущими классами контента пока не следует.
Это не означает, что технические возможности системы навсегда ограничатся одной категорией. Скорее наоборот: появление общего системного API создает инфраструктуру, которую Android сможет расширять. Но будущие возможности нужно отделять от того, что документировано сейчас.
Почему SafetyCore вызывает раздражение даже при локальной обработке
Спор вокруг SafetyCore возник не только из-за самого машинного анализа изображений. Служба появилась на большом количестве Android-устройств как системный компонент Google, не требуя от владельца привычного сценария самостоятельного поиска и установки отдельного приложения.Cybernews сообщает, что часть пользователей после удаления обнаруживала SafetyCore установленным снова. На этом фоне энтузиасты создали проект SafetyCore Placeholder - пустой пакет с тем же системным именем, предназначенный для блокирования повторной установки настоящего компонента за счет различающейся цифровой подписи.
репозиторий SafetyCore Placeholder действительно существует и продолжает обновляться. Сам факт появления такого проекта хорошо показывает главный источник недоверия: не обязательно то, что анализ выполняется локально, а отсутствие у многих пользователей ясного понимания, когда компонент появился на телефоне, зачем он нужен и какие приложения в дальнейшем смогут к нему обращаться.
Где проходит реальная граница между защитой и контролем
С технической точки зрения локальная классификация значительно приватнее отправки личных фотографий на сервер. Она позволяет предупреждать о потенциально нежелательном изображении, не раскрывая сам файл Google. Это реальное преимущество архитектуры SafetyCore.Одновременно ContentSafetyManager меняет масштаб технологии. Если раньше пользователь мог воспринимать классификацию как функцию конкретного мессенджера, теперь она постепенно становится частью операционной системы. Это означает, что вопрос доверия перемещается с одного приложения на системную инфраструктуру Android и правила доступа к ней.
Поэтому наиболее важными станут не громкие заявления о "сканировании всех фотографий", а более конкретные вещи: какие приложения получат разрешение на API, какие категории контента сможет определять система, будет ли пользователь видеть факт проверки и сможет ли полностью отключить системную классификацию.
Итог
SafetyCore уже является частью современной инфраструктуры безопасности Android и умеет локально распознавать потенциальную наготу для Google Messages. Google утверждает, что при этом изображения и результаты проверки остаются на самом устройстве, а вся галерея автоматически не анализируется.Новость заключается в другом: Google готовит ContentSafetyManager, который превращает подобную классификацию в системную возможность для других авторизованных приложений. Пока API находится в предварительной стадии, поэтому говорить о бесконтрольном доступе любого разработчика или обязательном анализе всех пользовательских фотографий нельзя. Но сам переход от функции одного мессенджера к общему Android-сервису делает вопрос прозрачности и контроля со стороны пользователя значительно важнее.
Редакция PavRC