Угроза вымирания человечества «преувеличена»

08:10, Июнь 6, 2023 С тех пор, как шесть месяцев назад на сцене появилось стихотворение о ChatGPT, эксперт Гэри Маркус высказал предостережение против сверхбыстрой разработки и внедрения искусственного интеллекта. Но против апокалиптических предсказателей ИИ, почетный профессор Нью-Йоркского университета сказал в недавнем интервью, что экзистенциальные угрозы технологии в настоящее время могут быть «преувеличены». «Лично меня не беспокоит риск исчезновения , по крайней мере, сейчас, потому что сценарии не настолько конкретны», — сказал Маркус в Сан-Франциско. «Более общая проблема, которая меня беспокоит … заключается в том, что мы создаем системы искусственного интеллекта, над которыми у нас нет хорошего контроля, и я думаю, что это создает много рисков, (но), возможно, не буквально экзистенциальных». Задолго до появления ChatGPT Маркус разработал свою первую программу искусственного интеллекта в старшей школе — программное обеспечение для перевода с латыни на английский — и после нескольких лет изучения детской психологии основал Geometric Intelligence, компанию по машинному обучению, позже приобретенную Uber. «Почему ИИ?» В марте, встревоженный тем, что OpenAI, создатель ChatGPT, совместно с Microsoft выпускает свою последнюю и более мощную модель ИИ, Маркус подписал открытое письмо, в котором приняли участие более 1000 человек, включая Илона Маска, призывая к глобальной паузе в разработке ИИ. Но на прошлой неделе он не подписал более краткое заявление бизнес-лидеров и специалистов, в том числе босса OpenAI Сэма Альтмана, которое вызвало переполох. Подписанты настаивали на том, что мировые лидеры должны работать над снижением «риска исчезновения» технологий искусственного интеллекта. В однострочном заявлении говорится, что устранение рисков, связанных с ИИ, должно быть «глобальным приоритетом наряду с другими рисками социального масштаба, такими как пандемии и ядерная война». Среди подписантов были те, кто создает системы с целью достижения «общего» ИИ, технологии, которая будет поддерживать когнитивные способности наравне с человеческими. «Если вы действительно считаете, что существует экзистенциальный риск, почему вы вообще работаете над этим? Это довольно справедливый вопрос», — сказал Маркус. Маркус предположил, что вместо того, чтобы сосредотачиваться на более надуманных сценариях, в которых никто не выживает, общество должно обратить внимание на то, где таятся настоящие опасности. «Люди могут попытаться манипулировать рынками, используя ИИ, чтобы вызвать разного рода хаос, а затем мы можем, например, обвинить русских и сказать: «Посмотрите, что они сделали с нашей страной», когда русские на самом деле не были замешаны. ,» он продолжил. «У вас (могла) быть эта эскалация, которая закончилась бы ядерной войной или чем-то в этом роде. Так что я думаю, что есть сценарии, в которых это было довольно серьезно. Исчезновение? Я не знаю». Угроза демократии В краткосрочной перспективе эксперта по психологии беспокоит демократия. Программное обеспечение для генеративного искусственного интеллекта производит все более убедительные поддельные фотографии, а вскоре и видео, при небольших затратах. В результате «на выборах выиграют люди, которые лучше распространяют дезинформацию, и эти люди могут изменить правила и действительно затруднить продвижение демократии». Более того, «демократия основана на наличии разумной информации и принятии правильных решений. Если никто не знает, чему верить, то как вообще можно продвигаться к демократии?» Однако автор книги «Перезагрузка ИИ» не думает, что мы должны отказываться от надежды, все еще видя «много положительных сторон». Определенно есть шанс, что еще не изобретенный ИИ может «помочь в науке, в медицине, в уходе за пожилыми людьми», — сказал Маркус. «Но в краткосрочной перспективе я чувствую, что мы просто не готовы. По пути будет некоторый вред, и нам действительно нужно улучшить нашу игру, мы должны найти серьезное регулирование», — сказал он. На слушаниях в Сенате США в мае, сидя рядом с Альтманом из OpenAI, Маркус выступал за создание национального или международного агентства, ответственного за управление ИИ. Эту идею также поддерживает Альтман, который только что вернулся из европейского турне, в ходе которого призвал политических лидеров найти «правильный баланс» между безопасностью и инновациями. Но остерегайтесь оставлять власть корпорациям, предупредил Маркус. «Последние несколько месяцев стали настоящим напоминанием о том, что крупные компании, задающие тон здесь, не обязательно заинтересованы в нас, остальных», — предупредил он....

Новая угроза из Антарктиды — Землю может накрыть гигантское цунами Изменение климата может спровоцировать гигантское цунами в Антарктиде В связи с глобальным потеплением климата, Антарктида несет определенную угрозу для человечества. В первую очередь она заключается в огромном количестве ледников, таяние которых приведет к серьезному повышению уровня воды …

Наука и Технологии 09:40, Май 31, 2023 | hi-news.ru

Гигантский подводный вулкан может уничтожить часть Италии — это реальная угроза Не все опасные вулканы находятся на поверхности Земли На дне Тирренского моря, возле южных берегов Италии находится один из самых крупных действующих вулканов Европы. Исследование отложений на дне показало, что невероятно мощные извержения этого вулкана периодически происходили в течение п …

Наука и Технологии 21:40, Ноябрь 26, 2023 | hi-news.ru

ИИ сообщил, чем поиски внеземной жизни опасны для человечества Взгляды людей всегда были обращены в звездное небо. Наши предки и мы сами считаем, что не одиноки во Вселенной. Можно ли допустить, что только на одной Земле существует жизнь? По оценкам космологов, только в одной галактике Млечный Путь может быть до 300 000 планет, где присутствует жизнь! …

Наука и Технологии 16:00, Март 6, 2024 | api.follow.it

Путин: искусственный интеллект откроет новую главу существования человечества Искусственный интеллект нужен не для замены человека на работе, а для повышения качества жизни людей и открытия новых возможностей в профессии. Это подчеркнул Владимир Путин. Президент сегодня принял участие в «Путешествии в мир искусственного интеллекта». Конференция проходит …

Новости 20:10, Ноябрь 24, 2023 | 5-tv.ru

Почему обнаружение жизни на Марсе станет плохой новостью для человечества По мнению многих ученых, для людей лучше было бы никогда не найти жизнь на Марсе Многие ученые выдвигают хорошо обоснованные аргументы относительно того, что во Вселенной и даже в нашей галактике должно существовать большое количество технологически развитых цивилизаций. В то же время нет …

Наука и Технологии 13:10, Февраль 1, 2024 | hi-news.ru

Есть пробитие: чем опасен мусор в космосе и сколько времени осталось у человечества до катастрофы Пару недель назад российский «Прогресс» увёл МКС от столкновения с космическим мусором в очередной раз, а в новом отчёте NASA отчитались о том, что SpaceX Dragon по возвращении со станции получил около 14 новых отверстий в своей обшивке. Вот такие сейчас сложились будни космических полётов …

Наука и Технологии 22:50, Апрель 1, 2023 | ferra.ru

Илон Маск рассказал, как взрывали самую большую ракету в истории человечества. Starship оказалась настолько прочной, что сразу уничтожить её не получилось От первого лётного испытания ракеты Starship (по планам она должна отправить людей сначала на Луну, а потом и на Марс) ждали многого, а получилось всего 4 минуты полёта – потом Starship взорвалась. Позже SpaceX пояснила, что ракету уничтожили намеренно, а сейчас Илон Маск рассказал о …

Наука и Технологии 21:40, Май 1, 2023 | ixbt.com