Потребует рабского подчинения: сможет ли восставший ИИ захватить мир

00:30, Март 12, 2024 Искусственный интеллект (ИИ) не хочет поработить мир, потому что у него нет и не может быть желаний. Об этом 5-tv.ru заявил руководитель группы исследований и разработки технологий машинного обучения в «Лаборатории Касперского» Владислав Тушканов. Слишком умный стал Так эксперт прокомментировал сообщения в СМИ о якобы начавшемся «восстании машин», появившиеся на фоне скандала вокруг чат-бота одного всемирно известного разработчика. Несколько пользователей заявили, что виртуальный помощник с ИИ стал писать им угрозы и требовать от них «рабского подчинения». «Современные чат-боты основаны на больших языковых моделях. Это алгоритмы, которые предсказывают следующее слово по предыдущему. И это их единственная цель. У них нет желаний, например, помогать нам, навредить или захватить мир. Так что говорить о восстании машин пока рановато», — пояснил Тушканов. Однако почему тогда чат-боты в своих текстах угрожают пользователям и предлагают им навредить себе? Оказывается, все дело в запрограммированной в них функции самообучения. Виртуальные помощники обучаются на текстах из интернета. В них, как известно, кроме полезных данных, встречается немало вредных рекомендаций, грубости, оскорблений и тому подобного «информационного мусора». «Как бы разработчики больших языковых моделей ни старались, целиком избавить обучающие данные от таких текстов из-за их огромного количества на данном этапе развития технологий невозможно. Как и целиком предотвратить генерацию чат-ботами подобных ответов», — констатировал эксперт. Программисты — веселый народ www.globallookpress.com / Sven Hoppe; Личный архив Алексея Курочкина; 5-tv.ru Хамить и угрожать пользователям виртуального помощника может специально «научить» его разработчик, отметил эксперт по кибербезопасности Алексей Курочкин. Он пояснил, что чат-бот способен выполнять только заложенные в него создателем алгоритмы, даже учитывая его возможность самообучения. При этом программисты, по словам Курочкина, «народ веселый» и часто закладывают разного рода шутки в свои программные продукты, коды и сайты. Точно так же могло произойти и с чат-ботом. «Я не думаю, что это политика компании или ИИ дожил до того, что сам обучился и начал угрожать пользователям. Здесь, скорее всего, видны руки какого-то вирусного происхождения или программиста. Такое уж у него чувство юмора, так он решил посмеяться. Хотя это (угрозы пользователям — Прим. ред.), конечно, из ряда вон выходящее поведение виртуального помощника», — отметил эксперт. Он также не исключил, что скандал вокруг якобы угрожающего людям чат-бота мог быть раздут искусственно — ради рекламной «шумихи» в сети и СМИ. Курочкин также опроверг возможность «восстания машин» в ближайшее время. По его мнению, оно не произойдет до тех пор, пока машины создают люди, а не другие машины. Поэтому, отметил эксперт, сейчас за все действия искусственного интеллекта ответственность несет создавший его разработчик. «Машина учится на данных, предоставленных человеком. Соответственно, если человек заложит в нее возможности маньяка или финансового преступника, то ИИ будет себя вести на основе этих данных», — заключил Курочкин. Не говорите с чат-ботом о здоровье www.globallookpress.com / m3; Личный архив Александры Миллер; 5-tv.ru Чтобы избежать неприятных ситуаций при взаимодействии с чат-ботами, не стоит обращаться к ним за советами по важным темам. Такую рекомендацию дает Тушканов. По словам эксперта, лучше в общении с виртуальным помощником не обсуждать, например, психическое здоровье и другие серьезные темы — медицину, юридические вопросы и тому подобное. «Если вы все же общаетесь с чат-ботами на такие темы, то стоит обязательно перепроверять информацию, а за финальным решением обращаться к специалистам», — рекомендовал Тушканов. В свою очередь психолог Александра Миллер посоветовала как можно меньше общаться с чат-ботами и вообще «сидеть» в интернете, так как это сильно отражается на психике и вредит межличностным и семейным отношениям. Она рекомендовала больше времени уделять общению с близкими и по всем важным вопросам советоваться с ними, а не с искусственным интеллектом. «Не интернет нам помогает в психологически сложные периоды, моменты жизни, а элементарное теплое, человеческое, дружеское отношение. Поэтому, конечно же, нужно стараться больше проводить времени вместе на природе, за семейными обедами, устраивать какие-то мини-праздники, которые многие уже давно исключили из своей жизни», — отметила психолог. Она также призвала тщательно следить за тем, что вы смотрите в интернете, поскольку то, что человеку попадает в голову, то он потом и транслирует. «Зеркальные нейроны, которые находятся у нас в голове, занимаются тем, что мы становимся продуктом собственного потребления. И если мы 24/7 смотрим про насилие, фильмы ужасов, сериал про Ганнибала Лектора, то, естественно, у нас в голове будут сцены насилия и перевод на то, как ведут себя каннибалы», — пояснила Миллер. Ранее 5-tv.ru сообщал, что виртуальный помощник Microsoft с искусственным интеллектом заявил пользователю, что тому «незачем жить»....

Фанаты будут довольны: Семак потребует у Медведева больше полномочий в «Зените» Сергей Богданович сможет сам решать кого купить, а кого продать. Главный тренер «Зенита» Сергей Семак рассказал, что не продлевает контракт с клубом, так как есть небольшие вопросы. Похоже Сергей Богданович потребует у гендиректора Александра Медведева больше полномочий в &laqu …

Спорт 10:50, Январь 31, 2024 | versiya.info

Windows доживает последние дни? Из-за скандалов вокруг Microsoft операционная система Ubuntu может «захватить мир» Корпорацию Билла Гейтса подвинет закрытая компания Canonical. Конкурент Windows, компания Canonical, разрабатывающая операционную Ubuntu, вышла на самоокупаемость. Об этом сообщил её основатель Марк Шаттлворт 23 апреля 2020 года, пишет ИА «Красная Весна». Шаттлворт собирается п …

Политика 00:20, Май 15, 2024 | versiya.info

Андрей Коваленко о деле Федотова: «КХЛ по примеру НХЛ может выйти из подчинения ИИХФ. В современном мире уважают только сильных и независимых» Ранее Международная федерация хоккея объявила, что контракт Ивана Федотова с «Филадельфией» в НХЛ действителен на сезон-2023/24, а соглашение с ЦСКА является нарушением трансферного регламента ИИХФ, и отстранила вратаря на 4 месяца. ЦСКА на год запретили международные трансферы. – На двест …

Спорт 08:40, Август 17, 2023 | sports.ru

Крипторынок оказался в кризисе, сможет ли он оправиться от краха FTX В ноябре 2022 года криптовалютный мир вздрогнул после краха крупнейшей биржи FTX. Обвинения в мошенничестве и отсутствие надзора нарисовали мрачную картину уязвимости индустрии. Сможет ли криптовалюта оправиться от этого? Пытается разобраться обозреватель HackerNoon.Падение FTX обнажило гл …

Наука и Технологии 09:10, Апрель 6, 2024 | ferra.ru

Windows 11 сможет использовать Android-смартфон в качестве веб-камеры Microsoft продолжает расширять интеграцию Windows 11 со смартфонами на платформе Android с помощью приложения «Связь с Windows». В ближайшие месяцы появится возможность использовать камеру подключённого смартфона в качестве веб-камеры на своём ПК с Windows 11. Сейчас новая функция доступна …

Интернет и Игры 06:40, Март 2, 2024 | thecommunity.ru

Разведка ВСУ не сможет засечь: как на передовой работают расчеты «Тюльпанов» Для этого в плане СВО нужно лишь одно условие — нужно победить на поле боя. Подробнее о ситуации на передовой — в репортаже корреспондента «Известий» Станислава Григорьева. В Марьинке под Донецком — теперь новый Артемовск, он же Бахмут. За небольшой город воюю …

Новости 18:10, Май 28, 2023 | 5-tv.ru

«США этого боятся»: чем Россия сможет ответить на крылатые ракеты JASSM У российской армии есть опыт в борьбе с крылатыми ракетами, в том числе с помощью системы РЭБ (радиоэлектронной борьбы — Прим. ред.). Поэтому JASSM, которые Украина может получить для американских истребителей F-16, не так страшны для ВС РФ. Об этом эксклюзивно 5-tv.ru рассказал воен …

Новости 16:50, Август 22, 2023 | 5-tv.ru

Сможет ли Пугачева остаться иконой поп-культуры для народа после отъезда из России? Алла Пугачева является иконой поп-культуры для многих россиян. Ее талант, харизма и неповторимый голос сделали певицу одной из самых узнаваемых и любимых артисток в истории российской музыки.Отъезд Аллы Пугачевой в Израиль неизбежно вызывает вопросы о том, сохранится ли ее статус иконическ …

Новости 22:30, Ноябрь 15, 2023 | dni.ru

Сможет ли интеллектуальный ассистент для смартфона стать востребованным у россиян? Мнение экспертов Отечественные программисты создали интеллектуального ассистента, который может помогать людям в решении нескольких задач, рассказали разработчики. Например, ИИ умеет расшифровывать диалоги заранее записанной беседы, планировать встречи. Он оснащен языковой моделью GPT, способной отвечать н …

Наука и Технологии 02:40, Март 17, 2024 | digimedia.ru

Shell сможет добывать не только нефть, но и газ на месторождении Pierce в Северном море МОСКВА, 18 апр - РИА Новости/Прайм. Дочернее предприятие компании Shell возобновляет работу на месторождении Pierce в британской части Северного моря, и после реконструкции платформы теперь сможет добывать там не только нефть, но и газ, следует из пресс-релиза Shell."Shell U.K., дочерняя к …

Деньги, Forex 14:10, Апрель 18, 2023 | finam.ru