Аналитический отдел компании Falcongaze, разработчик DLP решений в сфере ИБ, проанализировал эти нововведения.
Не так давно в ProPublica появилась информация о том, что подрядчик WhatsApp имеет более 1000 модераторов, которые анализируют неприемлемый контент. Когда пользователь жалуется на сообщение, искусственный интеллект анализирует контент на нарушение. В случае нахождения нарушения, модератор получает доступ к сообщению и ещё четырём предыдущим. Таким образом проводится проверка на спам, террористические призывы, материалы с содержанием насилия над детьми, шантаж и т.д.
Некоторые эксперты выразили опасения о том, что с помощью этой нейросети WhatsApp может обходить протоколы сквозного шифрования, тем самым нарушая приватность данных пользователей. Несмотря на то, что по заявлению Уилла Кэткарт, главы компании, WhatsApp смог обнаружить и заблокировать более 400 000 изображений с нежелательным и противоправным контентом (CSAM).
Apple
В iOS 15 и MacOS Monterey появится похожая система. Корпорация Apple внедрит в эти версии операционных систем технологию NeuralHash. В отличие от системы WhatsApp, она работает прямо на устройстве пользователя.
NeuralHash сравнивает хеш-суммы загружаемых в iCloud изображений с базой хеш-сумм элементов нежелательного контента, не расшифровывая их. При достижении определенного лимита совпадений система сравнивает количество контента, который был определён как неприемлемый, с общим количеством фотографий в iCloud пользователя и определяет, нужна ли последующая расшифровка и оповещение правоохранительных органов.
Обе компании утверждают, что все это делается для более высокого уровня безопасности. Но сможет ли система распознавать неприемлемый контент безошибочно? Как будет осуществляться контроль за персональными данными, которые могут попасть к модератору?
Да и вопрос о том, насколько этично третьим лицам просматривать конфиденциальную информации, остается открытым.
Угрозы безопасности
• CISA: уязвимость в Linux используется в атаках с вымогательским ПО
• Новая волна атак: инфостилер RedTiger нацелился на пользователей Discord
• TP-Link предупреждает о критической уязвимости внедрения команд в шлюзах Omada
• Сайт Xubuntu взломали: вместо установочного файла распространялся вирус для Windows
• Хакеры заявляют об утечке данных 5,5 миллиона пользователей Discord. Компания подтверждает компрометацию 70 000 аккаунтов
• Поддельные страницы сервиса itch.io крадут аккаунты геймеров и устанавливают вредоносное ПО