Клоны ИИ, сделанные из пользовательских данных, представляют сверхъестественные риски

08:10, Июнь 11, 2023 Представьте, если хотите, цифрового двойника. Клон, который выглядит, говорит и ведет себя точно так же, как вы, созданный из глубин искусственного интеллекта и отражающий все ваши манеры с жуткой точностью. Как бы захватывающе это ни звучало, как бы вы к этому отнеслись? Наше исследование в Университете Британской Колумбии обращает внимание на этот вопрос. Благодаря достижениям в технологиях глубокого обучения, таких как интерактивные приложения для дипфейка , преобразование голоса и виртуальные актеры , стало возможным цифровое воспроизведение внешности и поведения человека. Это зеркальное отражение человека, созданное искусственным интеллектом, называется «клоном ИИ». Наше исследование погружается в мутные воды того, что эти клоны ИИ могут означать для нашего самовосприятия, отношений и общества. В нашей статье, опубликованной в рамках Proceedings of ACM on Human-Computer Interaction , мы определили три типа рисков, связанных с репликами ИИ: боязнь двойников, фрагментация идентичности и живые воспоминания. Клонирование ИИ Мы определили клоны ИИ как цифровые представления людей, предназначенные для отражения некоторых или нескольких аспектов реального «исходного человека». В отличие от вымышленных персонажей в цифровой среде, эти ИИ-клоны основаны на существующих людях, потенциально имитируя их внешнее сходство, разговорные манеры или модели поведения. Глубина репликации может сильно различаться: от воспроизведения определенных отличительных черт до создания почти идеального цифрового двойника. Клоны ИИ также представляют собой интерактивные технологии, предназначенные для интерпретации пользовательского и внешнего ввода, проведения внутренней обработки и получения ощутимых результатов. И что особенно важно, это технологии на основе искусственного интеллекта, основанные на личных данных. По мере того, как объем генерируемых нами персональных данных продолжает расти, растет и точность этих клонов ИИ в воспроизведении нашего поведения. Страхи, фрагменты и ложные воспоминания Мы представили 20 участникам восемь спекулятивных сценариев с участием клонов ИИ. Участники были разного возраста и происхождения, и они размышляли о своих эмоциях и потенциальном воздействии на их самовосприятие и отношения. Во-первых, мы обнаружили, что боязнь двойников — это боязнь не только самого клона ИИ, но и его потенциального неправильного использования. Участники беспокоились, что их цифровые коллеги могут использовать и вытеснять их личность. Во-вторых, существовала угроза фрагментации идентичности. Создание реплик угрожает уникальной индивидуальности клонируемого человека, вызывая нарушение его целостного самовосприятия. Другими словами, люди беспокоятся, что могут потерять часть своей уникальности и индивидуальности в процессе воспроизведения. Наконец, участники выразили озабоченность по поводу того, что мы назвали «живыми воспоминаниями». Это относится к опасности, возникающей, когда человек взаимодействует с клоном кого-то, с кем у него уже есть отношения. Участники беспокоились, что это может привести к искажению личности или что у них разовьется чрезмерная привязанность к клону, что изменит динамику межличностных отношений. Сохранение человеческих ценностей Очевидно, что разработка и развертывание клонов ИИ имеет серьезные последствия . Наше исследование не только вносит ценный вклад в критический диалог об этичности ИИ, но также предлагает новую основу для разработки клонов ИИ, в которой приоритет отдается идентичности и подлинности. Все заинтересованные стороны, включая проектировщиков, разработчиков, политиков и конечных пользователей, обязаны ответственно перемещаться по этой неизведанной территории. Это включает в себя добросовестное рассмотрение стратегий модерации и истечения срока действия данных, созданных пользователями, для предотвращения неправильного использования и чрезмерного доверия. Кроме того, необходимо признать, что влияние технологий клонирования ИИ на личную идентичность и межличностные отношения представляет собой лишь верхушку айсберга. По мере того, как мы продолжаем идти по деликатному пути в этой растущей области, результаты нашего исследования могут служить компасом, который поможет нам расставить приоритеты этических соображений и человеческих ценностей превыше всего....

Читать полный текст на android-robot.com

Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Software

Эксперт рассказал про риски внедрения ИИ Многие из нас в шутку вспоминают фильм со Шварценеггером про скайнет, который уничтожает мир, когда обсуждают активное развитие искусственного интеллекта. Но мало кто задумывается всерьёз о том, что в реальности технология ИИ, столь активно внедряемая сейчас повсеместно, несёт в себе целый …

Наука и Технологии 03:10, Июль 18, 2023 | pravda.ru

Анализ рынка: почему российские индексы представляют потенциал роста и привлекательность для инвесторов Российские индексы привлекают внимание инвесторов благодаря своему потенциалу роста и привлекательности. Российский рынок предлагает уникальные возможности, и понимание факторов, способствующих его росту, может помочь инвесторам принимать обоснованные решения. В этой статье мы проанализиру …

Аналитические Статьи 10:48, Июль 5, 2023 | super-interes.ru

Новый вычислительный инструмент находит «горячие точки», где сходятся экологические и экономические риски Вычислительный инструмент, разработанный исследователями из Объединенной программы Массачусетского технологического института по науке и политике глобальных изменений, определяет конкретные округа в Соединенных Штатах, которые особенно уязвимы для экономического кризиса в результате перехо …

Software 20:40, Май 21, 2023 | android-robot.com

Все о техническом анализе финансовых данных Все начинающие бизнесмены или опытные предприниматели ежедневно сталкиваются с большим количеством проблем, которые не так просто решить. Сейчас многие подумают, прочем же бизнесмен здесь, ведь работой предприятия занимается менеджер. Да, мысль логична с одной стороны, но с другой хороший …

Экономика 14:40, Август 6, 2023 | versiya.info

EUR/USD коррективно снижается до 1,0980 после публикации данных EUR/USD сейчас разворачивает первоначальный рост и возвращается к отметке 1.0980. Данные по занятости в несельскохозяйственном секторе США в апреле преподнесли сюрприз. Уровень безработицы снизился до 3,4%. EUR/USD испытывает дальнейшее понижательное давление и быстро теряет первоначальный …

Forex 01:40, Май 6, 2023 | fxteam.ru

Twitter обвиняет Microsoft в неправомерном использовании данных Адвокат владельца Twitter Илона Маска обвинил Microsoft в неправомерном использовании данных сервиса и потребовал от софтверного гиганта провести аудит. Письмо в первую очередь касается, казалось бы, узкого набора предполагаемых нарушений со стороны Microsoft при извлечении информации из б …

Интернет и Игры 23:30, Май 25, 2023 | android-robot.com

Аудит информационной безопасности: обеспечение защиты данных Аудит информационной безопасности является важным инструментом для обеспечения защиты данных и предотвращения угроз в сфере информационных технологий. В этой статье мы рассмотрим, что такое аудит информационной безопасности, как он проводится и почему он является неотъемлемой частью работы …

Наука и Технологии 18:30, Июль 13, 2023 | astera.ru

Стартап в сфере безопасности данных Rubrik планирует IPO в этом году Rubrik Inc., стартап в сфере облачной безопасности и безопасности данных, поддерживаемый корпорацией Microsoft, планирует провести первичное публичное размещение акций в этом году, а роуд-шоу для инвесторов может начаться уже в октябре, пишет Bloomberg со ссылкой на источники.По их словам, …

Деньги, Forex 09:10, Сентябрь 5, 2023 | finam.ru

Бывшего сотрудника американского генконсульства обвинили в сборе данных об СВО для США. Что рассказали в ФСБ о его деле? Федеральная служба безопасности (ФСБ) России обвинила экс-сотрудника американского генконсульства во Владивостоке Роберта Шонова в сборе для США данных о ходе специальной военной операции (СВО).По данным спецслужбы, Шонов с сентября 2022 года собирал информацию о мобилизации в регионах Рос …

Новости 22:10, Август 28, 2023 | compromat.group

Форекс сегодня: инвесторы готовятся к росту волатильности на фоне выхода ключевых данных Вот что вам нужно знать в четверг, 30 марта: Во второй половине недели на финансовых рынках сохраняется неустойчивая ситуация, при этом инвесторы готовятся к росту волатильности позднее в течение дня. В экономической повестке четверга будут представлены данные по настроениям в деловых круг …

Forex 13:10, Март 30, 2023 | fxteam.ru

Форекс сегодня: Доллар США остается под давлением перед выходом данных среднего уровня Вот что вам нужно знать во вторник, 4 апреля: После отскока, наблюдавшегося в начале недели, индекс доллара США развернулся на юг на разочаровывающих данных по индексу PMI в производственном секторе ISM и в понедельник закрылся глубоко на отрицательной территории. Индекс продолжил свое пад …

Forex 13:00, Апрель 4, 2023 | fxteam.ru

Машинное обучение справляется с огромными наборами данных: алгоритм преодолевает эксабайтный барьер Алгоритм машинного обучения продемонстрировал способность обрабатывать данные, объем которых превышает доступную память компьютера, путем определения ключевых характеристик огромного набора данных и разделения их на управляемые пакеты, которые не перегружают компьютерное оборудование. Алго …

Software 11:00, Сентябрь 18, 2023 | android-robot.com

Искусственный интеллект может прогнозировать нагрузку на электросети на основе данных об использовании автомобильных и железных дорог. Искусственный интеллект может прогнозировать нагрузку на электросети на основе данных об использовании автомобильных и железных дорог. Чтобы удовлетворить спрос и справляться с пиками потребления, поставщики электроэнергии должны иметь возможность прогнозировать нагрузку на сеть. Группа уч …

Наука и Технологии 23:10, Май 2, 2023 | android-robot.com

Эксперты Ассоциации АБИСС обсудили актуальные темы обеспечения информационной безопасности сферы КИИ и защиты персональных данных На прошлой неделе состоялся пресс-завтрак, посвященный наиболее обсуждаемым вопросам обеспечения информационной безопасности сферы КИИ и защиты персональных данных. Организатором встречи стала Ассоциация пользователей стандартов по информационной безопасности АБИСС. Открывал встречу Алекса …

Наука и Технологии 22:40, Апрель 8, 2023 | digimedia.ru