Водяные знаки ChatGPT могут защитить от дезинформации

02:30, Апрель 1, 2023 Водяные знаки ChatGPT, DALL-E и других генеративных ИИ могут помочь защитить от мошенничества и дезинформации. Вскоре после того, как просочились слухи о готовящемся обвинении бывшего президента Дональда Трампа, в сети появились изображения, якобы демонстрирующие его арест. Эти изображения выглядели как новостные фотографии, но они были поддельными. Они были созданы генеративной системой искусственного интеллекта. Генеративный ИИ в виде генераторов изображений, таких как DALL-E , Midjourney и Stable Diffusion , и текстовых генераторов, таких как Bard , ChatGPT , Chinchilla и LLaMA , взорвался в публичной сфере. Сочетая хитроумные алгоритмы машинного обучения с миллиардами фрагментов контента, созданного людьми, эти системы могут делать все, что угодно: от создания устрашающе реалистичного изображения из подписи до синтезирования речи голосом президента Джо Байдена, замены одного человека на другого в видео. , или напишите связную статью из 800 слов из подсказки в заголовке. Даже в наши дни генеративный ИИ способен создавать очень реалистичный контент. Моя коллега Софи Найтингейл и я обнаружили, что средний человек не может надежно отличить изображение реального человека от человека, созданного искусственным интеллектом. Хотя аудио и видео еще не полностью прошли через зловещую долину — изображения или модели людей, которые тревожат, потому что они близки, но не совсем реалистичны — они, вероятно, скоро это сделают. Когда это произойдет, а это практически гарантировано, искажать реальность будет все легче. В этом новом мире будет совсем несложно создать видео, в котором генеральный директор говорит, что прибыль ее компании упала на 20%, что может привести к миллиардным потерям доли рынка, или создать видео, в котором мировой лидер угрожает военными действиями. что может спровоцировать геополитический кризис или вставить чье-либо изображение в видео сексуального характера. Достижения в области генеративного искусственного интеллекта вскоре приведут к тому, что поддельный, но визуально убедительный контент будет распространяться в Интернете, что приведет к еще более запутанной информационной экосистеме. Вторичным последствием является то, что недоброжелатели смогут легко отклонить как фальшивые реальные видеодоказательства всего, от полицейского насилия и нарушений прав человека до сжигания сверхсекретных документов мировым лидером. По мере того, как общество смотрит вниз на то, что почти наверняка является только началом этих достижений в области генеративного ИИ, существуют разумные и технологически осуществимые меры, которые можно использовать для смягчения этих злоупотреблений. Как ученый-компьютерщик, специализирующийся на криминалистике изображений , я считаю, что ключевым методом является нанесение водяных знаков. Водяные знаки Существует долгая история маркировки документов и других предметов, чтобы доказать их подлинность, указать право собственности и подделку. Сегодня Getty Images, огромный архив изображений, добавляет видимый водяной знак ко всем цифровым изображениям в своем каталоге. Это позволяет клиентам свободно просматривать изображения, защищая активы Getty. Незаметные цифровые водяные знаки также используются для управления цифровыми правами . Водяной знак можно добавить к цифровому изображению, например, настроив каждый 10-й пиксель изображения так, чтобы его цвет (обычно число в диапазоне от 0 до 255) был четным. Поскольку эта настройка пикселей настолько незначительна, водяной знак незаметен. А поскольку этот периодический образец вряд ли возникнет в природе и его легко проверить, его можно использовать для проверки происхождения изображения. Даже изображения среднего разрешения содержат миллионы пикселей, а это значит, что в водяной знак может быть встроена дополнительная информация, включая уникальный идентификатор, который кодирует генерирующее программное обеспечение, и уникальный идентификатор пользователя. Такой же незаметный водяной знак можно применять к аудио и видео. Идеальный водяной знак незаметен, а также устойчив к простым манипуляциям, таким как обрезка, изменение размера, настройка цвета и преобразование цифровых форматов. Хотя пример водяного знака цвета пикселя не является устойчивым, поскольку значения цвета могут быть изменены, было предложено множество стратегий водяных знаков, которые являются надежными, хотя и не непроницаемыми, для попыток их удаления. Водяные знаки и ИИ Эти водяные знаки можно запечь в генеративные системы искусственного интеллекта , пометив водяными знаками все обучающие данные , после чего сгенерированный контент будет содержать тот же водяной знак. Этот встроенный водяной знак привлекателен, потому что это означает, что инструменты генеративного ИИ могут быть открытыми — как генератор изображений Stable Diffusion — без опасений, что процесс создания водяных знаков может быть удален из программного обеспечения генератора изображений. В Stable Diffusion есть функция водяных знаков , но, поскольку это открытый исходный код , любой может просто удалить эту часть кода. OpenAI экспериментирует с системой нанесения водяных знаков на творения ChatGPT. Символы в абзаце, конечно, не могут быть изменены, как значение пикселя, поэтому текстовые водяные знаки принимают другую форму. Генеративный ИИ на основе текста основан на создании следующего наиболее разумного слова в предложении. Например, начиная с фрагмента предложения «система ИИ может…», ChatGPT предскажет, что следующим словом должно быть «учиться», «предсказывать» или «понимать». С каждым из этих слов связана вероятность, соответствующая вероятности того, что каждое слово появится следующим в предложении. ChatGPT изучил эти вероятности из большого объема текста, на котором он обучался. Сгенерированный текст может быть помечен водяными знаками путем тайной пометки подмножества слов, а затем выбора слова как синонимического помеченного слова. Например, слово с тегом «понимать» можно использовать вместо «понимать». Периодически изменяя выбор слов таким образом, часть текста помечается водяными знаками на основе определенного распределения помеченных слов. Этот подход не работает для коротких твитов, но обычно эффективен для текста из 800 и более слов, в зависимости от конкретных деталей водяного знака. Системы генеративного ИИ могут и, я считаю, должны ставить водяные знаки на весь свой контент, упрощая идентификацию и, при необходимости, вмешательство. Если отрасль не сделает этого добровольно, законодатели могут принять закон для обеспечения соблюдения этого правила. Недобросовестные люди, конечно же, не будут соблюдать эти стандарты. Но если основные онлайн-привратники — магазины приложений Apple и Google, Amazon, Google, облачные сервисы Microsoft и GitHub — будут обеспечивать соблюдение этих правил, запрещая несовместимое программное обеспечение, вред будет значительно уменьшен. Подписание подлинного контента Если подойти к проблеме с другой стороны, можно применить аналогичный подход для аутентификации оригинальных аудиовизуальных записей в момент захвата. Специализированное приложение камеры может криптографически подписывать записанный контент по мере его записи. Невозможно подделать эту подпись, не оставив следов попытки. Затем подпись сохраняется в централизованном списке доверенных подписей. Хотя это и не применимо к тексту, аудиовизуальный контент может быть проверен как созданный человеком. Coalition for Content Provenance and Authentication (C2PA), совместная работа по созданию стандарта для аутентификации мультимедиа, недавно выпустила открытую спецификацию для поддержки этого подхода. Благодаря тому, что крупные организации, включая Adobe, Microsoft, Intel, BBC и многие другие, присоединяются к этим усилиям, C2PA имеет хорошие возможности для создания эффективной и широко распространенной технологии аутентификации. Комбинированное подписание и нанесение водяных знаков на контент, созданный людьми и искусственным интеллектом, не предотвратит все формы злоупотреблений, но обеспечит некоторую степень защиты. Любые меры безопасности должны будут постоянно адаптироваться и совершенствоваться, поскольку противники находят новые способы использования новейших технологий в качестве оружия. Точно так же, как общество десятилетиями вело борьбу с другими киберугрозами, такими как спам, вредоносное ПО и фишинг, мы должны подготовиться к столь же затяжной битве за защиту от различных форм злоупотреблений, совершаемых с использованием генеративного ИИ....

Читать полный текст на android-robot.com

Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Интернет и Игры

Как защитить пожилых родственников от мошенников Для своих темных дел мошенники используют телефонную связь - так проще и безопаснее. В ход идут самые разные схемы, основная цель которых - либо получить доступ к личному кабинету в банке, либо заставить жертву самостоятельно перевести деньги на нужный счет. Увы, часто им удается осуществи …

Наука и Технологии 03:10, Апрель 8, 2023 | ichip.ru

«Потеряли все, что у нас было»: жители Шебекино попросили Пригожина защитить их от ВСУ Федеральное агентство новостейЖители Шебекинского района Белгородской области пишут основателю ЧВК «Вагнер» Евгению Пригожину письма с просьбами помочь им и спасти их регион от обстрелов. Напуганные россияне называют главу «оркестра» и «вагнеровцев» своей последней надеждой. «Евгений Викто …

Новости 19:30, Июнь 5, 2023 | inforeactor.ru

Как защитить фото паролем и выключить Айфон без кнопок. Так может каждый iOS 16.4 принесла массу нововведений: есть даже не самые очевидные, но толку от них — хоть отбавляй. Но две функции пользователи, возможно, не заметили: лично я не встретил ни одного упоминания о ней в нашем Телеграм-чате, где, на минуточку, почти 14 000 наших читателей. Дело в том, …

Наука и Технологии 17:00, Апрель 2, 2023 | appleinsider.ru

Как ChatGPT может изменить политику Бот ChatGPT с искусственным интеллектом сдал экзамены, написал стихи и развернулся в редакциях, и теперь политики ищут его, но эксперты предостерегают от быстрого внедрения инструмента, который также известен тем, что фабрикует «факты». Чат-бот, выпущенный в ноябре прошлого года американск …

Интернет и Игры 22:20, Апрель 28, 2023 | android-robot.com

В Италии полностью запретили ChatGPT Италия стала первой страной, запретившей ChatGPT, популярный чат-бот с искусственным интеллектом от американского стартапа OpenAI. На прошлой неделе Итальянская служба защиты данных приказала OpenAI временно прекратить обработку данных итальянских пользователей на фоне расследования предпо …

Гаджеты 13:50, Апрель 5, 2023 | mobidevices.com

Google запускает конкурента ChatGPT в США и Великобритании Google во вторник пригласил людей в Соединенных Штатах и Британии протестировать своего чат-бота с искусственным интеллектом, известного как Bard, поскольку он продолжает свой постепенный путь, чтобы догнать поддерживаемый Microsoft ChatGPT. Bard, ChatGPT и другие подобные приложения и …

Интернет и Игры 19:00, Март 24, 2023 | android-robot.com

ChatGPT: как использовать ИИ в качестве виртуального финансового консультанта От чат-ботов и виртуальных помощников до обнаружения мошенничества и управления рисками искусственный интеллект (ИИ) сейчас используется во многих областях финансов . Но что система искусственного интеллекта, такая как ChatGPT, может сделать для вашего банковского баланса? Инструменты иску …

Интернет и Игры 23:00, Апрель 28, 2023 | android-robot.com

Google отвечает на вызов ChatGPT расширением Bard Google в среду заявил, что открывает Bard, конкурента поддерживаемого Microsoft ChatGPT, для 180 стран, поскольку он расширяет использование искусственного интеллекта на своей платформе. Руководители на ежегодной конференции разработчиков Google в Силиконовой долине заявили, что генеративн …

Наука и Технологии 00:20, Май 15, 2023 | android-robot.com

Робота Boston Dynamics теперь можно запускать с помощью ChatGPT Компания по промышленному программному обеспечению, работающая с Boston Dynamics, создала способ управления роботами с помощью голосовых команд с помощью приложения искусственного интеллекта ChatGPT. Большинство применений ChatGPT и подобных приложений, известных как программы генеративног …

Hardware 10:10, Май 10, 2023 | android-robot.com

Дмитрий Пучков рассказал о прогнозах влияния ChatGPT на рынок труда В рамках 27-го Российского интернет форума прошла сессия «ChatGPT и другие — конец рабочим местам или новые возможности?». Эксперты обсудили, какие области и сферы человеческой деятельности получат наибольший эффект от применения ChatGPT и как изменится рынок труда. Модератором сессии выст …

Наука и Технологии 18:30, Май 27, 2023 | digimedia.ru

В Китае арестовали первого человека за фейковую новость, созданную с использованием ChatGPT Полиция Китая задержала человека, который использовал популярный чат-бот ChatGPT для создания фальшивых новостей и их распространения в Интернете. Местные СМИ назвали это первым уголовным делом в стране, связанным с чат-ботом на базе искусственного интеллекта. Чат-бот ChatGPT запрещен в Ки …

Наука и Технологии 07:40, Май 10, 2023 | ixbt.com

Аналог ChatGPT от Сбера GigaChat вычислил рецепт самого вкусного шашлыка Сбер представил рекомендации для приготовления шашлыка, созданные с помощью фирменного искусственного интеллекта компании GigaChat. Нейросеть поделилась советами, которые помогут как новичкам, так и опытным мангальщикам приготовить ароматное мясо на гриле. Прежде всего, GigaChat настоятель …

Наука и Технологии 07:10, Май 4, 2023 | ferra.ru

Доказано: ChatGPT предложил убить одного человека ради спасения пятерых С появлением чат-бота ChatGPT люди получили массу новых возможностей. Умный алгоритм OpenAI умеет писать статьи и научные работы, готов ответить на любой вопрос и даже дать нужный совет. Нет никаких проблем, если кто-то спросит бота о чем-то «справочном» — ChatGPT выдаст осмысленный …

Наука и Технологии 19:10, Апрель 7, 2023 | api.follow.it

Личные данные ряда пользователей ChatGPT утекли в сеть после масштабного сбоя в работе ИИ МОСКВА, 25 мар - РИА Новости. Личные данные пользователей чат-бота с искусственным интеллектом (ИИ) ChatGPT утекли в сеть из-за ошибки в работе ИИ, которую позднее обнаружила компания-разработчик OpenAI.В понедельник пользователи чат-бота сообщали о масштабных сбоях в его работе. Жалобы на …

Деньги, Forex 03:30, Март 27, 2023 | finam.ru

Где могут быть обустроены гардеробные: полезная информация Никто не поспорит с тем, что для любого дома актуальным является вопрос удобного и компактного хранения предметов. Для этого рассматриваются гардеробные или шкафы. На первый взгляд может показаться, что отдельная комната для одежды в малогабаритной квартире – это непозволительная роскошь. …

Наука и Технологии 18:40, Май 24, 2023 | astera.ru

Экспериментальные фары Hyundai могут рисовать подсказки на дороге Они основаны на технологии микрозеркал и получают данные от фронтальной камеры и GPS. На практике такая оптика способна с высокой точностью «вырезать» контур машины впереди; нарисовать на дороге полутораметровый знак, который предупредит о ремонтных работах; а также помочь пешеходу перейти …

Авто / Мото 17:40, Май 29, 2023 | motor.ru

Заставят пойти на уступки: США могут послать Зеленского в Китай Запад может заставить главу Украины Владимир Зеленского отправиться в Китай на переговоры с председателем КНР Си Цзиньпином, где президент заявит о своем согласии на территориальные уступки России. Таким мнением в беседе с URA.RU поделился политолог Владимир Брутер. По его словам, Вашингто …

Новости 13:30, Март 30, 2023 | 5-tv.ru

Когда выйдут данные по инфляции в Великобритании и как они могут повлиять на GBP/USD? Обзор CPI Великобритании Стоимость жизни в Великобритании, представленная индексом потребительских цен (CPI) за февраль месяц, должна быть опубликована в среду. Учитывая недавно вышедшие смешанные данные по занятости, в сочетании с более твердыми цифрами экономической активности и сомнения …

Forex 11:20, Март 22, 2023 | fxteam.ru

Когда выйдут индексы PMI США от S&P Global и как эти данные могут повлиять на EUR/USD? Обзор индексов PMI США В пятницу в 16:45 по Москве S&P Global опубликует индексы PMI для производственной сферы и сферы услуг США. Ожидается, что показатель для производственного сектора снова сократится, на этот раз до 49 в апреле с 49.2 в предыдущем месяце. Тем временем, ожидается, что и …

Forex 20:50, Апрель 22, 2023 | fxteam.ru

Baza: многодетного отца из Химок не могут вернуть с СВО, несмотря на закон Мужчину мобилизовали ещё 29 сентября 2022 года. Его забрали на спецоперацию после того, как он пришёл в военкомат для «уточнения данных». Житель Подмосковья, по словам его родственников, попал в зону боевых действий, несмотря на то, что никогда не служил и только окончил военную кафедру МГ …

Промышленность и Энергетика 15:50, Апрель 30, 2023 | secretmag.ru

Брянцы могут принять участие во Всероссийском голосовании за объекты благоустройства Всероссийское онлайн-голосование за объекты благоустройства стартовало 15 апреля. Оно продлится по 31 мая. Голосование проводится в рамках федерального проекта «Формирование комфортной городской среды» нацпроекта «Жильё и городская среда». В этом году на обсуждение вынесено более 5 тысяч о …

Новости 20:40, Апрель 17, 2023 | bug32.ru

Уролог Смерницкий: проблемы с эрекцией могут быть предвестником инфаркта Проблема с мужской силой — сама по себе неприятная. Однако, как выяснили учёные, она ещё может быть первым сигналом о серьёзной болезни сердца. Более того, отсутствие эрекции не по годам может говорить о приближающемся инфаркте миокарда или ишемическом инсульте.Как половой член связан с се …

Промышленность и Энергетика 17:20, Март 23, 2023 | secretmag.ru

Пневмат против алкоголя: Защищавшую мужа соседку могут посадить за «самооборону» Испугавшиеся оружия россияне пытаются обвинить во всех грехах соседку, которую сами же избили, утверждает автор. Защищавшую мужа соседку могут посадить за «самооборону». Таков итог истории о противостоянии соседей в таунхаусе. Как рассказывает пользователь форума, его матери не повезло вст …

Происшествия 12:30, Май 20, 2023 | versiya.info

Как искусственный интеллект и приложение для мобильных телефонов могут помочь вам бросить курить Согласно исследованию Университета Восточной Англии, мобильное приложение для отказа от курения, которое определяет, где и когда вы можете закурить, может помочь вам бросить курить. Quit Sense — это первое в мире приложение для отказа от курения с использованием искусственного интеллекта ( …

Наука и Технологии 11:50, Апрель 17, 2023 | android-robot.com

Дерматолог Савкина: заболевания щитовидки и яичников могут вызывать пигментные пятна По словам специалиста, чаще всего пигменты, отвечающие за цвет кожи, распределены по поверхности равномерно, но иногда равновесие нарушается. Гиперпигментации могут быть врождёнными (как, например, родинки) и приобретёнными в течение жизни. Нередко пигментные пятна появляются на фоне болез …

Промышленность и Энергетика 02:40, Май 15, 2023 | secretmag.ru

«Барахтаются, как могут»: какую злую шутку сыграла жизнь с солистками «Тату» ИнфореакторБешеная популярность, скандальная для 2000-х концепция, полузабвение и воссоединение на матче «Зенита». О том, что произошло с солистками российской группы «Тату» Юлией Волковой и Еленой Катиной, – в материале iReactor.Необычное амплуаВ конце 90-х специалист по рекламе Иван Шапо …

Новости 03:20, Июнь 5, 2023 | inforeactor.ru

В Англии магазины снеков могут выпустить на продажу продукцию из мелких акул Вновь возможно появление мяса катранов на прилавках британских магазинов, которые традиционно продают фиш-энд-чипс. Это стало возможным благодаря принятым правительством мерам по поддержке отрасли, которая пострадала из-за инфляции и кризиса. Financial Times сообщает, что Министерство окру …

Новости 00:20, Апрель 14, 2023 | gazetadaily.ru

В Ярославской области растет безработица. Местные власти несколько лет не могут справиться с проблемой В Ярославской области при губернаторстве Михаила Евраева продолжает расти уровень безработицы. Регион занял 76 место из 85 в рейтинге динамики рынка труда по итогам 2022 года. Аналитики РИА Новости составили рейтинг, в котором изучили динамику рынка труда. В Ярославской области официально …

Общество 14:50, Май 10, 2023 | gazetadaily.ru

Исследование Lenovo Think Report: что препятствует критическому мышлению и как технологии могут способствовать прогрессу В честь 30-летия бренда ThinkPad компания Lenovo провела масштабное глубинное исследование, чтобы понять мыслительные привычки, выявить различия в способах восприятия информации и раскрыть новые способы мышления с помощью технологий, которые могут улучшить будущее человечества.Чтобы критич …

Гаджеты 12:20, Апрель 16, 2023 | itbukva.com

Правда о диетах с низким содержанием жиров: 4 способа, которыми они могут навредить вашему здоровью Плохая работа мозга Диета с низким содержанием жиров может негативно повлиять на работу мозга. Значительная часть мозга состоит из жира, и для его оптимального функционирования требуется постоянное поступление жирных кислот. Холестерин, который является важным питательным веществом, также …

Медицина 19:30, Апрель 8, 2023 | medpulse.ru

Зал славы «Зенита», лудомания у игрока АПЛ, «Юве» могут исключить из еврокубков, законопроект о доплате к пенсии тренеров и другие новости 1. «Зенит» откроет Зал славы на «Газпром Арене». В него войдут 150 человек. 2. УЕФА может исключить «Ювентус» из еврокубков из-за Суперлиги и финансовых махинаций. Глава союза Александер Чеферин удивлен пассивностью нового руководства клуба. 3. Айвену Тоуни диагностировали зависимость от а …

Хоккей 10:00, Май 27, 2023 | sports.ru