Использование квантовых вычислений для защиты ИИ от атак

14:40, Август 16, 2023 Машинное обучение — это область искусственного интеллекта (ИИ), в которой компьютерные модели становятся экспертами в различных задачах, потребляя большие объемы данных. Это вместо того, чтобы человек явно программировал этот уровень знаний. Например, современные шахматные ИИ не нуждаются в том, чтобы гроссмейстеры обучали шахматным стратегиям, они могут «выучить» их самостоятельно, сыграв миллионы игр против своих копий. Это бесценно в ситуациях, когда запись явных инструкций нецелесообразна, если не невозможна, — как определить математическую функцию, которая может определить, изображена ли на картинке кошка или собака? Человеческие дети никогда не учатся такой функции, а скорее видят множество примеров кошек и собак, а затем в конечном итоге развивают понимание их различий. Машинное обучение — это воспроизведение этого процесса на компьютерах. Но, несмотря на их невероятные успехи и все более широкое распространение , платформы на основе машинного обучения остаются очень уязвимыми для атак со стороны злоумышленников, то есть злонамеренного вмешательства в их данные, что приводит к неожиданным сбоям. Например, модели классификации изображений (которые анализируют фотографии, чтобы идентифицировать и распознавать широкий спектр критериев) часто можно обмануть, добавляя хорошо продуманные изменения (известные как возмущения) к их входным изображениям, которые настолько малы, что незаметны для глаза. человеческий глаз. И этим можно воспользоваться. Сохраняющаяся уязвимость к подобным атакам также вызывает серьезные вопросы о безопасности развертывания нейронных сетей машинного обучения в потенциально опасных для жизни ситуациях. Это включает в себя такие приложения, как самоуправляемые автомобили, где система может быть сбита с толку при движении через перекресток из-за безобидного граффити на знаке остановки. В критический момент, когда разработка и развертывание ИИ быстро развиваются, наша исследовательская группа ищет способы использования квантовых вычислений для защиты ИИ от этих уязвимостей. Машинное обучение и квантовые вычисления Недавние достижения в области квантовых вычислений вызвали большой интерес к перспективам улучшения машинного обучения с помощью квантовых компьютеров. Уже были предложены различные алгоритмы «квантового машинного обучения», включая квантовые обобщения стандартных классических методов. Обобщение относится к способности модели обучения должным образом адаптироваться к новым, ранее неизвестным данным. Считается, что модели квантового машинного обучения могут изучать определенные типы данных значительно быстрее, чем любая модель , разработанная для современных или «классических» компьютеров. Обычные компьютеры работают с битами данных, которые могут быть либо «нулевыми», либо «единицами» — классическая двухуровневая система. Квантовые компьютеры работают с «кубитами», состояниями двухуровневых квантовых систем, которые обладают странными дополнительными свойствами, которые можно использовать для решения определенных задач более эффективно, чем их классические аналоги. Однако менее ясно, насколько широко будут распространены эти ускорения и насколько полезным будет квантовое машинное обучение на практике. Это связано с тем, что, хотя ожидается, что квантовые компьютеры будут эффективно изучать более широкий класс моделей, чем их классические аналоги, нет никакой гарантии, что эти новые модели будут полезны для большинства задач машинного обучения, которые действительно интересуют людей. Это могут быть проблемы с медицинской классификацией или генеративные системы искусственного интеллекта. Эти проблемы побудили нашу команду задуматься о том, какие другие преимущества квантовые вычисления могут принести задачам машинного обучения, помимо обычных целей повышения эффективности или точности. Защита ИИ от атак В нашей последней работе, опубликованной в журнале Physical Review Research , мы предполагаем, что модели квантового машинного обучения могут быть лучше защищены от атак злоумышленников, генерируемых классическими компьютерами. Состязательные атаки работают путем выявления и использования функций, используемых моделью машинного обучения . Но функции, используемые универсальными моделями квантового машинного обучения, недоступны классическим компьютерам и, следовательно, невидимы для противника, вооруженного только классическими вычислительными ресурсами. Эти идеи также можно использовать для обнаружения наличия состязательных атак , одновременно используя классические и квантовые сети. В нормальных условиях обе сети должны делать одинаковые прогнозы, но при наличии атаки их выходы будут расходиться. Хотя это обнадеживает, квантовое машинное обучение продолжает сталкиваться с серьезными проблемами. Главным из них является огромный разрыв в возможностях, который разделяет классическое и квантовое вычислительное оборудование. Современные квантовые компьютеры по-прежнему существенно ограничены своим размером и высоким уровнем ошибок, что не позволяет им выполнять длительные вычисления. Огромные инженерные проблемы остаются, но если их удастся преодолеть, уникальные возможности крупномасштабных квантовых компьютеров, несомненно, принесут удивительные преимущества в широком диапазоне областей....

Читать полный текст на android-robot.com

Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Интернет и Игры

Представлен метод защиты ChatGPT от джейлбрейк-атак Большие языковые модели (LLM), модели на основе глубокого обучения, обученные генерировать, обобщать, переводить и обрабатывать письменные тексты, привлекли значительное внимание после выпуска диалоговой платформы ChatGPT от Open AI. Хотя ChatGPT и подобные платформы в настоящее время широ …

Интернет и Игры 17:40, Январь 19, 2024 | android-robot.com

Honda тестирует карту эвакуации на основе квантовых вычислений Эффективная маршрутизация предназначена не только для служб доставки посылок, она может спасти жизни во время стихийных бедствий. Благодаря партнерству с Terra Quantum Европейский исследовательский институт Honda (HRI-EU) успешно протестировал решение на основе квантовых вычислений для сок …

Software 23:20, Сентябрь 25, 2023 | android-robot.com

OCS предлагает сервисы StormWall для защиты от DDoS-рисков и хакерских атак Компания StormWall предлагает рынку решения в области информационной безопасности — сервисы на основе искусственного интеллекта для защиты от DDoS-атак, а также от хакерских атак. OCS Distribution, ведущий отечественный ИТ-дистрибьютор, представил партнерскому каналу своего нового вендора …

Наука и Технологии 13:40, Март 22, 2023 | cwr.osp.ru

Россия и Африка намерены расширять торговлю и использование нацвалют Россия и Африка намерены расширять торговлю и использование нацвалют, говорится в плане действий Форума партнерства Россия – Африка на 2023–2026 годы, опубликованном пресс-службой Кремля.Стороны намерены, в частности, определить отрасли экономики России и африканских государств для реализа …

Промышленность и Энергетика 18:50, Июль 30, 2023 | finam.ru

Экономия без усилий: Почему использование промокодов - важный элемент успешного онлайн-шопинга Использование промокодов при совершении покупок в Интернете добавляет захватывающее измерение - радость открытия. Это превращает процесс покупки в охоту за сокровищами, где в цифровом пространстве спрятаны драгоценные камни, ожидающие своего часа. Волнение от того, что вы натыкаетесь на эт …

Аналитические Статьи 20:25, Ноябрь 9, 2023 | super-interes.ru

Новый подход к реализации параллельных беспроводных вычислений в памяти Передовые коммуникационные технологии, такие как мобильная сеть пятого поколения (5G) и Интернет вещей (IoT), могут значительно выиграть от устройств, поддерживающих беспроводную связь при минимальном энергопотреблении. Поскольку большинство существующих устройств имеют отдельные компонент …

Software 01:10, Июнь 7, 2023 | android-robot.com

В ЦИК заявили об усилении атак на систему электронного голосования Глава ЦИК России Элла Памфилова заявила об усилении атак на интернет-ресурсы комиссии и систему федерального дистанционного электронного голосования (ДЭГ), произошедшее накануне ЕДГ. Большинство атак, по ее словам, поступает из-за рубежа. С этим заключением согласны IT-специалисты. Этот же …

Новости 05:10, Сентябрь 8, 2023 | compromat.group

Искусственные нейроны имитируют сложные способности мозга для вычислений ИИ нового поколения Исследователи создали атомарно тонкие искусственные нейроны, способные обрабатывать как световые, так и электрические сигналы для вычислений. Материал позволяет одновременное существование отдельных путей прямой и обратной связи в нейронной сети, повышая способность решать сложные проблемы …

Наука и Технологии 12:30, Май 10, 2023 | android-robot.com

Аудит информационной безопасности: обеспечение защиты данных Аудит информационной безопасности является важным инструментом для обеспечения защиты данных и предотвращения угроз в сфере информационных технологий. В этой статье мы рассмотрим, что такое аудит информационной безопасности, как он проводится и почему он является неотъемлемой частью работы …

Наука и Технологии 18:30, Июль 13, 2023 | astera.ru

Дроны используются для защиты ветряных турбин от льда Влажные и холодные условия – враги энергии ветра. Если на лопастях ротора образуется слой льда, это может привести к дисбалансу вращения и, следовательно, к повышенному износу. В таких случаях турбины часто приходится останавливать на несколько дней, что приводит к огромным потерям операто …

Наука и Технологии 15:20, Декабрь 4, 2023 | android-robot.com

Сеченовский университет вступает в эру квантовых технологий в медицине В Москве на Форуме будущих технологий подписано соглашение о сотрудничестве в области квантовых технологий в медицине между Сеченовским университетом, Фондом «Сколково», «Международным центром квантовых технологий» и «Облачными квантовыми технологиями». Цель соглашения — создавать новые ле …

Наука и Технологии 14:40, Февраль 15, 2024 | api.follow.it

Обнаружены критические уязвимости в распределении квантовых ключей Группа под руководством академика Го Гуангцаня из Университета науки и технологий Китая Китайской академии наук добилась прогресса в практической безопасности распределения квантовых ключей (QKD). Исследователи обнаружили потенциальную уязвимость в системе модуляции передатчика QKD и прове …

Интернет и Игры 15:00, Июнь 19, 2023 | android-robot.com

Toshiba открыла центр квантовых технологий QKD в Великобритании Новый объект, расположенный в Кембриджском научном парке, является коммерческим ответвлением Кембриджской исследовательской лаборатории Toshiba и представляет собой инвестиции Toshiba в размере 20 миллионов фунтов стерлингов в разработку квантово-безопасной сетевой системы распределения кв …

Наука и Технологии 08:40, Октябрь 4, 2023 | android-robot.com

Microsoft и Quantinuum заявили о «прорыве» в квантовых вычислениях Microsoft и Quantinuum заявили, что они сделали ключевой шаг в превращении квантовых компьютеров в коммерческую реальность, сделав их более надежными. Такие технологические компании, как Microsoft, Alphabet, Google и IBM, стремятся создать машины, использующие преимущества квантовой механи …

Гаджеты 12:50, Апрель 8, 2024 | mobidevices.com

На развитие квантовых технологий в России направят 100 миллиардов рублей «Дорожной картой» по развитию квантовых вычислений предусматривается создание собственного 100-кубитного процессора к 2025 году. Зампред правительства РФ Дмитрий Чернышенко провел совещание по развитию высокотехнологичной отрасли «Квантовые вычисления». С основным докладом на совещании выс …

Наука и Технологии 19:00, Март 22, 2023 | cwr.osp.ru

Усиление стратегической защиты: мощь и мобильность зенитно-ракетной системы С-350Э «Витязь 50R6» Зенитно-ракетная система средней дальности С-350Э «Витязь 50R6» от «Алмаз-Антей» предлагает обновление и дополнение к существующим российским системам обороны. Созданная для замены устаревших систем, таких как С-300ПС и С-300ПТ-1А, она нацелена на повышение возможностей …

Наука и Технологии 02:40, Май 28, 2023 | api.follow.it

Страна по имени «Детство»: 1 июня в Брянском районе отметили Международный день защиты детей Этот светлый праздник, который отмечают по всему миру в первый день лета, посвящён важнейшей части нашего общества – детям. Именно они будут строить наше будущее, примут наше наследие и будут создавать новый мир. Именно поэтому День защиты детей один из самых важных праздников. Он призван …

Новости 11:00, Июнь 2, 2023 | desnyanskaya-pravda.ru

Новаторская роботизированная рука готова достичь новых высот в области квантовых технологий Ученые, проводящие квантовые исследования, смогут делать это быстрее и более адаптируемо благодаря новой роботизированной руке, которая может стать ключом к крупным прорывам. Изобретение , разработанное исследователями из Лабораторий квантовой инженерии и Бристольской лаборатории робототех …

Hardware 01:50, Ноябрь 20, 2023 | android-robot.com

Виртуальная лаборатория открывает возможности машинного обучения для понимания многообещающего класса квантовых материалов Томас Эдисон испытал сотни материалов и тысячи раз потерпел неудачу, прежде чем обнаружил, что карбонизированная хлопковая нить долго и ярко горит в лампе накаливания. Эксперименты часто требуют много времени (команда Эдисона потратила 14 месяцев) и дорого (выигрышная комбинация стоила око …

Hardware 05:10, Июнь 25, 2023 | android-robot.com

Эксперты Ассоциации АБИСС обсудили актуальные темы обеспечения информационной безопасности сферы КИИ и защиты персональных данных На прошлой неделе состоялся пресс-завтрак, посвященный наиболее обсуждаемым вопросам обеспечения информационной безопасности сферы КИИ и защиты персональных данных. Организатором встречи стала Ассоциация пользователей стандартов по информационной безопасности АБИСС. Открывал встречу Алекса …

Наука и Технологии 22:40, Апрель 8, 2023 | digimedia.ru

Украина хоронит погибших и разбирает завалы — после одной из самых массированных атак ВС РФ за все время войны. Пострадали Киев, Одесса, Харьков, Львов и другие города. Шестьсот семьдесят четвертый день войны. Фотографии Каждый день с начала полномасштабного российского вторжения в Украину редакторы «Медузы» выбирают главные военные снимки, сделанные накануне. Эти фотографии содержат сцены жестокости, насилия и смерти, однако большинство из них не помещены под специальную плашку, которой обычно редакция ск …

Новости 12:20, Декабрь 30, 2023 | meduza.io