Компания Apple подтвердила, что вводит новую систему распознавания сомнительного контента на гаджетах пользователей. Теперь специальные алгоритмы будут проверять фото в iCloud на содержание детского порно и контента, связанного с сексуальным насилием над детьми (CSAM).
Как сообщают представители Apple, прежде чем изображение будет загружено и сохранено на iCloud, технология будет искать совпадения с уже внесенным в базу контентом CSAM. Если алгоритм найдет совпадения, фотография будет отправлена модератору-человек, который оценит ее, отметит в базе и обратится в правоохранительные органы. В дальнейшем учетная запись будет отключена от системы.
В компании также заявляют, что технология сможет отслеживать отредактированный контент. Базы данных с изображениями сексуального насилия над детьми Apple предоставил Национальный центр США по проблемам пропавших и эксплуатируемых детей (NCMEC).
Представители компании заявляют, что новая технология обладает преимуществом в плане конфиденциальности по сравнению с уже существующими методиками отслеживания нежелательного контента. По их словам, система настолько точна, что имеется лишь один шанса из триллиона, что за год будет неверно отмечена хотя бы одна учетная запись.
Однако эксперты опасаются, что эта технология может быть использована для слежки за гражданами. Исследователь кибербезопасности из Университета Джона Хопкинса Мэтью Грин в беседе с BBC выразил глубокую озабоченность инициативой Apple:
«Независимо от того, каковы долгосрочные планы Apple, они послали очень четкий сигнал. По их (очень влиятельному) мнению, безопасно создавать системы, которые сканируют телефоны пользователей на предмет запрещенного контента.
Окажутся ли они правы или неправы в этом вопросе, вряд ли имеет значение. Это разрушит плотину — правительства потребуют этого от всех».
Нововведение появится в свежих версиях iOS и iPadOS осенью 2021 года.
Интересно на каком материале нейросети Apple научились определять детское порно?
С одной стороны все выглядит пристойно, борьба с безусловным злом. Но объявляя об этом во всеуслышание они делают это нововведение практически бесполезным для этой задачи, ибо преступники просто перестанут хранить и распространять эти данные посредством этих сервисов. Это больше похоже на расширение окна Овертона, сначала ввести это для целей с которыми невозможно не согласиться, а потом тихонько расширять и использовать для всего чего угодно.
Напоминает борьбу с терроризмом в США, когда под без сомнения праведным предлогом, создается механизм позволяющий обходить все права, вроде частной жизни, свободы слова и т.д.