Может ли ИИ быть беспристрастным судьей? Удивительно, но нет

Может ли ИИ быть беспристрастным судьей? Удивительно, но нет
07:20, Май 18, 2023 Одним из наиболее значимых достижений в области ИИ является развитие глубокого обучения. Эта технология позволяет компьютерам обрабатывать и анализировать огромные объемы данных, выявлять паттерны и принимать решения на основе этих данных. Человек далеко не идеален – часто ошибается, иногда даже совершает поступки, которые не следовало. Для этого и существуют судьи, которые способны здраво рассудить совершенные поступки, по закону, но так ли это на самом деле? Увы, но не совсем, порой бывают случаи, когда наказывают тех людей, чьей вины и вовсе нет. Судьи могут брать взятки и быть неточными в суждениях. Но что насчет роботов? Они же точно могут объективно рассудить кто прав, а кто виноват. Могут, однако их методы оказались крайне жестокими. В последнем исследовании было обнаружено, что модели, обученные с помощью обычных методов сбора данных, оценивают нарушения правил более жестко, чем люди. Как робот выдает суждения Исследование проведенное на эту тему было опубликовано в журнале Science, оно предоставило возможность оценить недостатки и скорректировать курс в области ИИ. Поскольку последние тесты показали, что машины зачастую делают ужесточенный выбор наказания – авторы выразили сомнение по методам их обучения. ИИ имеет большой потенциал для трансформации медицинской отрасли. Он может помочь в диагностике болезней, создании индивидуализированных лечебных планов, улучшении хирургических процедур и даже предсказании эпидемий. В попытках постоянно автоматизировать любую область – человек часто прибегает к таким способом, как машинное обучение, дабы упростить работу и сделать все более надежным. Но исследователи обнаружили, что эти модели часто не копируют человеческие решения по поводу нарушения правил, а наоборот, лишь ужесточают меры пресечения. Ученые указали на то, как важно давать именно открытые и достоверные данные прежде чем обучать ИИ. Под «правильными» данными подразумевают те, которые были помечены людьми, которых прямо спросили, нарушают ли они определенное правило. Обучение предполагает демонстрацию модели машинного обучения миллионов примеров таких «нормативных данных», чтобы она могла научиться выполнять задачу. Читайте также: Искусственный интеллект научили читать человеческие мысли. Но и тут не все просто, такие системы зачастую маркируются описательно – то есть людей просят определить фактические особенности, например, наличие вредной еды на фото. Если такие данные используются для определения нарушений, например, подходит ли еда под школьную политику, запрещающую жареную пищу, то такие модели склонны ошибаться. Суждения робота и человека Такое снижение точности может иметь серьезные последствия в реальном мире. Например, если система применяется для принятия решений относительно вероятности повторного совершения преступления, она может выносить более строгие суждения, чем человек. То есть увеличение сроков наказания, залогов. ИИ также играет важную роль в развитии робототехники. Современные роботы все более способны выполнять сложные задачи, взаимодействовать с людьми и обучаться новым навыкам. Это позволяет им использоваться в различных областях, от производства до медицины и исследований космоса. Может быть интересно – роботы умеют проводить религиозные ритуалы — вот как это выглядит. Большинство научных групп предполагает, что человеческие суждения, которые содержатся в ярлыках, необъективны. Однако этот результат указывает на нечто еще более тревожное. Эти модели даже не воспроизводят уже существующие предвзятые человеческие суждения, поскольку данные, на которых они обучаются, имеют недостатки: люди различным образом размечают особенности изображений и текста, если они знают, что они будут использоваться для вынесения вердикта. Это имеет огромное значение для систем машинного обучения, которые применяются в человеческих процессах. Получение данных для обучения ИИ В ходе сбора информации для этого проекта исследователи заметили интересный факт: люди иногда дают разные ответы, когда их просят указать описательные или нормативные оценки на одни и те же данные. Чтобы получить описательные метки, исследователи просили участников определить фактические характеристики, например, содержит ли текст непристойные выражения. Для сбора же нормативных меток – они предоставляли участникам правило и спрашивали, нарушает ли данный текст это правило. Искусственный интеллект может помочь в создании более устойчивой и экологически чистой среды. Кроме того они решили копнуть чуть глубже. Ученые собрали четыре набора данных, имитирующих различные варианты. Например, один набор данных состоял из изображений собак, которые могли нарушать правила аренды квартиры. После чего участников попросили поделиться описательными и нормативными суждениями. ИИ учится достаточно быстро – и есть уже сферы, где он опередил человека. В каждом случае, котором присваивали описательные метки, просили указать наличие трех фактических признаков на изображении или в тексте, например, выглядит ли собака агрессивной. Их ответы затем использовались для формирования суждений. Участники, которые присваивали описательные метки, не были ознакомлены с правилами, регулирующими содержание домашних животных. С другой стороны, участникам, которым присваивались нормативные метки, предоставляли информацию о политике, запрещающей наличие агрессивных собак, и затем спрашивали, была ли она нарушена на каждом изображении и почему. Исследователи заметили, что в описательной среде люди гораздо чаще классифицировали объекты как нарушения. Разница, рассчитанная путем абсолютного различия в средних значениях меток, варьировалась от 8 процентов в наборе данных с изображениями, используемыми для оценки дресс-кода, до 20 процентов в случае с собаками. Сложности обучения роботов Для более тщательного изучения, исследователи провели обучение двух моделей для оценки нарушений правил, используя один из четырех параметров данных. Одну модель обучали на описательных данных, а другую – на нормативных, после чего сравнили их производительность. Нейронные сети – одна из основных технологий, лежащих в основе ИИ. Они моделируют работу нейронов в человеческом мозге и обучаются на основе больших объемов данных. Нейронные сети используются для распознавания образов, обработки естественного языка, анализа данных и многих других задач. Интересным оказалось, что модель, обученная на описательных данных, показывает более низкую производительность по сравнению с моделью, обученной на нормативных, при выполнении тех же суждений. Особенно описательная модель чаще неправильно классифицирует входные данные, ошибочно предсказывая нарушение правил. Кроме того ее точность также была ниже при классификации объектов, по которым возникли разногласия у маркировщиков данных. Не забудьте подписаться на наш Telegram и ВК – там мы публикуем уникальный материал! Это исследование подтверждает значимость того, как и каким путем была получена информация. Важно учитывать контекст обучения и контекст применения данных, чтобы управление ИИ было корректным. Один из способов решить эту проблему – повышение прозрачности информации. Если исследователи знают, как данные были собраны, они могут более эффективно использовать их. Другой возможной стратегией является точная настройка описательно обученной модели на небольшом количестве нормативных данных. Эта концепция, известная как трансфертное обучение, будет исследоваться в дальнейшем....
Читать полный текст на hi-news.ru  

Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Астероид Оумуамуа может быть водородным айсбергом

Астероид Оумуамуа может быть водородным айсбергом Новый состав межзвёздного объекта может объяснить его особенности, форму и даже скорость движения. Учёные Йельского университета (США) предполагают, что астероид Оумуамуа может быть водородным айсбергом. Поводом для таких заключений стали результаты исследования, опубликованные в журнале T …

Наука 10:00, Апрель 11, 2023 | versiya.info
Негрейра советовал Барсе позаботиться об отношениях с судьей Мансано в силу его молодости, таланта и перспектив. Он дал характеристики на Матеу Лаоса

Негрейра советовал «Барсе» позаботиться об отношениях с судьей Мансано в силу его молодости, таланта и перспектив. Он дал характеристики на Матеу Лаоса и других арбитров Вице-президент судейского комитета Испании дал «Барсе» характеристики на ведущих арбитров. Напомним, прокуратура Барселоны подала иск на клуб и его бывших президентов Жозепа Бартомеу и Сандро Роселя по делу о возможной коррупции при выплатах бывшему футбольному чиновнику Хосе Марии Энрикес …

Футбол 03:30, Март 22, 2023 | sports.ru
Где могут быть обустроены гардеробные: полезная информация

Где могут быть обустроены гардеробные: полезная информация Никто не поспорит с тем, что для любого дома актуальным является вопрос удобного и компактного хранения предметов. Для этого рассматриваются гардеробные или шкафы. На первый взгляд может показаться, что отдельная комната для одежды в малогабаритной квартире – это непозволительная роскошь. …

Наука и Технологии 18:40, Май 24, 2023 | astera.ru
Ограбление по-индийски: Это мог быть фильм, но это реальная история

Ограбление по-индийски: Это мог быть фильм, но это реальная история В ноябре, устав от суровой московской осени, мой супруг выдал, на его взгляд, потрясающую идею. "Давай перезимуем в Индии!" – с довольной улыбкой на лице произнес он. Муж в этой стране в прошлом уже успел побывать, поэтому имел четкое представление о том, где нам предстоит провести б …

Новости 18:30, Апрель 23, 2023 | dni.ru
Уролог Смерницкий: проблемы с эрекцией могут быть предвестником инфаркта

Уролог Смерницкий: проблемы с эрекцией могут быть предвестником инфаркта Проблема с мужской силой — сама по себе неприятная. Однако, как выяснили учёные, она ещё может быть первым сигналом о серьёзной болезни сердца. Более того, отсутствие эрекции не по годам может говорить о приближающемся инфаркте миокарда или ишемическом инсульте.Как половой член связан с се …

Промышленность и Энергетика 17:20, Март 23, 2023 | secretmag.ru
Создатель Тетриса Алексей Пажитнов пришел к Юрию Дудю  и рассказал, как после начала войны с Украиной перестал быть аполитичным. Вот что он говорит о

Создатель «Тетриса» Алексей Пажитнов пришел к Юрию Дудю — и рассказал, как после начала войны с Украиной перестал быть аполитичным. Вот что он говорит о российском вторжении и пропаганде Юрий Дудь взял интервью у Алексея Пажитнова — советского и российского программиста, который создал игру «Тетрис». Ради этого журналист прилетел в США, где гейм-дизайнер живет с 1991 года. Интервью вышло вскоре после релиза «Тетриса» — биографической драмы Apple TV+, над которой создатель …

Новости 17:00, Май 15, 2023 | meduza.io
Как ChatGPT может изменить политику

Как ChatGPT может изменить политику Бот ChatGPT с искусственным интеллектом сдал экзамены, написал стихи и развернулся в редакциях, и теперь политики ищут его, но эксперты предостерегают от быстрого внедрения инструмента, который также известен тем, что фабрикует «факты». Чат-бот, выпущенный в ноябре прошлого года американск …

Интернет и Игры 22:20, Апрель 28, 2023 | android-robot.com
Йеллоустон может уснуть из-за уменьшения вулканической области

Йеллоустон может «уснуть» из-за уменьшения вулканической области Активная гидротермальная зона после открытых землетрясений может не нести угрозу США и планете. Вулканолог Томас Нотт из университета в Лестере (Великобритания) с коллегами уверен, что Йеллоустон может «уснуть» из-за уменьшения вулканической области, сообщает журнал Geology со …

Наука 23:00, Май 14, 2023 | versiya.info
Открытие окна IPO может состояться в конце 2023 года

Открытие окна IPO может состояться в конце 2023 года Новая волна IPO может начаться уже в четвертом квартале 2023 года или в первых месяцах 2024-го. Основными претендентами на проведение листинга в первые месяцы после открытия окна возможностей являются технологические компанииПо мнению TechCrunch, одним из наиболее вероятных кандидатов на п …

Деньги, Forex 03:00, Апрель 15, 2023 | finam.ru
Стало известно, из-за какого закона бытовая техника в РФ может подорожать

Стало известно, из-за какого закона бытовая техника в РФ может подорожать Газовые плиты и водонагреватели в России могут подорожать. Этому может поспособствовать новый закон о проверках газа в домах и квартирах, заявила Гильдия инженеров газового оборудования (ГИГО), пишет «Российская газета». Организация попросила правительство отложить вступление закона в силу …

Деньги, Forex 19:40, Май 21, 2023 | banki.ru
Как защитить фото паролем и выключить Айфон без кнопок. Так может каждый

Как защитить фото паролем и выключить Айфон без кнопок. Так может каждый iOS 16.4 принесла массу нововведений: есть даже не самые очевидные, но толку от них — хоть отбавляй. Но две функции пользователи, возможно, не заметили: лично я не встретил ни одного упоминания о ней в нашем Телеграм-чате, где, на минуточку, почти 14 000 наших читателей. Дело в том, …

Наука и Технологии 17:00, Апрель 2, 2023 | appleinsider.ru
Каждый может улучшить рост волос: витамины и минералы для ухода за волосами

"Каждый может улучшить рост волос": витамины и минералы для ухода за волосами На рост и здоровье наших волос влияют различные факторы. Для здорового роста волос необходим достаточный приток крови, чему способствуют физические упражнения, массаж, свежий воздух и насыщение кислородом. Однако некоторые привычки, такие как тугое завязывание волос на длительное время или …

Медицина 20:00, Апрель 29, 2023 | medpulse.ru
В России в скором времени может появиться специальная доменная зона для государственных организаций .гос

В России в скором времени может появиться специальная доменная зона для государственных организаций «.гос» Основатель дискуссионного клуба «Суверенная Россия. Вызовы современности» Гаджимагомед Расулов на площадке XII форума безопасного интернета выступил с инициативой о создании новой доменной зоны для России, отвечающей насущным задачам и потребностям по защите информации в интернет. Новая пл …

Интернет и Игры 15:20, Май 3, 2023 | android-robot.com
Психиатр Рогозин: разрыв отношений может привести к проблемам с сердцем или головным болям

Психиатр Рогозин: разрыв отношений может привести к проблемам с сердцем или головным болям Расставание — это всегда стресс, эмоциональное и физиологическое напряжение. Те, кто долго не может прийти в себя, рискуют серьёзно подорвать своё здоровье. И потом голова будет болеть уже не из-за разбитого сердца, а от реального букета болячек и походов по врачам.Почему стресс разрушает …

Промышленность и Энергетика 09:10, Апрель 9, 2023 | secretmag.ru
Накал санкционных оборотов может привести Россию к изоляции от всего мира в ближайшем будущем

Накал санкционных оборотов может привести Россию к изоляции от всего мира в ближайшем будущем Финал может быть неоднозначный. Источник фото: dailystorm.ru Запад развернул новую компанию по выяснению отношений с Россией. Итогом этих выяснений может стать новый пакет санкций, который не только пополнит список персональных ограничений для политиков, но и затронут целые сектора экономи …

Политика 10:20, Март 24, 2023 | versiya.info
Секрет амазонской темной земли может помочь ускорить восстановление лесов по всему миру

Секрет амазонской «темной земли» может помочь ускорить восстановление лесов по всему миру Экосистемы могут быть очень разнообразными: от тропических джунглей до арктических тундр. Каждая экосистема имеет свои особенности и адаптации, которые позволяют ей существовать в своем уникальном окружении. Леса играют важную роль на нашей планете, они являются жизненно важным компонентом …

Наука и Технологии 14:00, Май 27, 2023 | hi-news.ru
Искусственный интеллект может прогнозировать нагрузку на электросети на основе данных об использовании автомобильных и железных дорог.

Искусственный интеллект может прогнозировать нагрузку на электросети на основе данных об использовании автомобильных и железных дорог. Искусственный интеллект может прогнозировать нагрузку на электросети на основе данных об использовании автомобильных и железных дорог. Чтобы удовлетворить спрос и справляться с пиками потребления, поставщики электроэнергии должны иметь возможность прогнозировать нагрузку на сеть. Группа уч …

Наука и Технологии 23:10, Май 2, 2023 | android-robot.com
Если так пойдет и дальше, силовики это прекратят. Медуза выяснила, как в Кремле отнеслись к заявлению Пригожина про счастливого дедушку, который може

«Если так пойдет и дальше, силовики это прекратят». «Медуза» выяснила, как в Кремле отнеслись к заявлению Пригожина про «счастливого дедушку», который может оказаться «законченным мудаком» Критика, с которой создатель ЧВК Вагнера Евгений Пригожин обрушился на Минобороны РФ, и его рассуждения о ситуации на фронте начали «всерьез беспокоить высшее руководство страны», утверждают два источника «Медузы», близких к Кремлю. Публичные атаки в адрес военного ведомства со стороны При …

Новости 15:20, Май 10, 2023 | meduza.io
Мбаппе  капитан сборной, а Гризманн может уйти, Россия и Китай против политизации спорта, рекорд Овечкина по сезонам с 40 голами, АПЛ введет паузы в

Мбаппе – капитан сборной, а Гризманн может уйти, Россия и Китай против политизации спорта, рекорд Овечкина по сезонам с 40 голами, АПЛ введет паузы в матчах в Рамадан и другие новости 1. В сборной Франции разгорается скандал: новым капитаном назначен Килиан Мбаппе, что неприятно удивило Антуана Гризманна, который теперь может уйти из команды. Чемпион мира Робер Пирес назвал решение Дидье Дешама «неуважительным» по отношению к форварду «Атлетико». 2. Россия и Китай в сов …

Спорт 07:20, Март 22, 2023 | sports.ru