Разделы → Software - Full list for registred users only → Безопасность → "враждебный паттерн"
|
про интересную статью, >>препринт ( https://arx...0.14667.pdf )<< которой появился недавно на arxiv.org. Суть в том, что группа исследователей из университета Мэриленда пыталась подобрать т.н. "враждебный паттерн" (некий условный рисунок), который мешал бы машинному зрению из фэйсбука детектировать человека [одетого в футболку с принтом]. И им это удалось. https://t.me/lab66/990 некий алгоритм от visionlabs лица определяет и футболка не работает. Да, он и будет определять. Паттерны тестировались для AI от facebook, для разных систем нужны свои варианты "враждебных принтов". И вообще, это не конструктивные мысли, натравливать всякие Visionlabs AI на энтузиастов из Мэриленда. Конструктивные - это prompt design-ить так, чтобы какой-нибудь Midjourney AI генерировал "принты невидимости" под заказ. Воевать нейросети должны друг с другом, а не с нами. Нарушить работу нейросетей заточенных на оценку тепловизионного профиля будет одновременно и сложнее и проще. Проще потому что технологии инфракрасных ловушек-обманок достаточно отработаны, сложнее потому что реализовать их для усредненного человека проблематичнее, чем нанести рисунок на футболку. Вот разбор той же статьи. https://t.m...hannel/1289 Картинка в руках обманула камеры видеонаблюдения https://npl...ack-on-cctv Нейросеть помогла обмануть систему распознавания лиц незаметным макияжем https://npl...9/27/makeup Исследователи научились обманывать системы распознавания лиц легким макияжем https://hab...ews/578524/ и т.д и т.п. . |
