Угроза вымирания человечества «преувеличена»

08:10, Июнь 6, 2023 С тех пор, как шесть месяцев назад на сцене появилось стихотворение о ChatGPT, эксперт Гэри Маркус высказал предостережение против сверхбыстрой разработки и внедрения искусственного интеллекта. Но против апокалиптических предсказателей ИИ, почетный профессор Нью-Йоркского университета сказал в недавнем интервью, что экзистенциальные угрозы технологии в настоящее время могут быть «преувеличены». «Лично меня не беспокоит риск исчезновения , по крайней мере, сейчас, потому что сценарии не настолько конкретны», — сказал Маркус в Сан-Франциско. «Более общая проблема, которая меня беспокоит … заключается в том, что мы создаем системы искусственного интеллекта, над которыми у нас нет хорошего контроля, и я думаю, что это создает много рисков, (но), возможно, не буквально экзистенциальных». Задолго до появления ChatGPT Маркус разработал свою первую программу искусственного интеллекта в старшей школе — программное обеспечение для перевода с латыни на английский — и после нескольких лет изучения детской психологии основал Geometric Intelligence, компанию по машинному обучению, позже приобретенную Uber. «Почему ИИ?» В марте, встревоженный тем, что OpenAI, создатель ChatGPT, совместно с Microsoft выпускает свою последнюю и более мощную модель ИИ, Маркус подписал открытое письмо, в котором приняли участие более 1000 человек, включая Илона Маска, призывая к глобальной паузе в разработке ИИ. Но на прошлой неделе он не подписал более краткое заявление бизнес-лидеров и специалистов, в том числе босса OpenAI Сэма Альтмана, которое вызвало переполох. Подписанты настаивали на том, что мировые лидеры должны работать над снижением «риска исчезновения» технологий искусственного интеллекта. В однострочном заявлении говорится, что устранение рисков, связанных с ИИ, должно быть «глобальным приоритетом наряду с другими рисками социального масштаба, такими как пандемии и ядерная война». Среди подписантов были те, кто создает системы с целью достижения «общего» ИИ, технологии, которая будет поддерживать когнитивные способности наравне с человеческими. «Если вы действительно считаете, что существует экзистенциальный риск, почему вы вообще работаете над этим? Это довольно справедливый вопрос», — сказал Маркус. Маркус предположил, что вместо того, чтобы сосредотачиваться на более надуманных сценариях, в которых никто не выживает, общество должно обратить внимание на то, где таятся настоящие опасности. «Люди могут попытаться манипулировать рынками, используя ИИ, чтобы вызвать разного рода хаос, а затем мы можем, например, обвинить русских и сказать: «Посмотрите, что они сделали с нашей страной», когда русские на самом деле не были замешаны. ,» он продолжил. «У вас (могла) быть эта эскалация, которая закончилась бы ядерной войной или чем-то в этом роде. Так что я думаю, что есть сценарии, в которых это было довольно серьезно. Исчезновение? Я не знаю». Угроза демократии В краткосрочной перспективе эксперта по психологии беспокоит демократия. Программное обеспечение для генеративного искусственного интеллекта производит все более убедительные поддельные фотографии, а вскоре и видео, при небольших затратах. В результате «на выборах выиграют люди, которые лучше распространяют дезинформацию, и эти люди могут изменить правила и действительно затруднить продвижение демократии». Более того, «демократия основана на наличии разумной информации и принятии правильных решений. Если никто не знает, чему верить, то как вообще можно продвигаться к демократии?» Однако автор книги «Перезагрузка ИИ» не думает, что мы должны отказываться от надежды, все еще видя «много положительных сторон». Определенно есть шанс, что еще не изобретенный ИИ может «помочь в науке, в медицине, в уходе за пожилыми людьми», — сказал Маркус. «Но в краткосрочной перспективе я чувствую, что мы просто не готовы. По пути будет некоторый вред, и нам действительно нужно улучшить нашу игру, мы должны найти серьезное регулирование», — сказал он. На слушаниях в Сенате США в мае, сидя рядом с Альтманом из OpenAI, Маркус выступал за создание национального или международного агентства, ответственного за управление ИИ. Эту идею также поддерживает Альтман, который только что вернулся из европейского турне, в ходе которого призвал политических лидеров найти «правильный баланс» между безопасностью и инновациями. Но остерегайтесь оставлять власть корпорациям, предупредил Маркус. «Последние несколько месяцев стали настоящим напоминанием о том, что крупные компании, задающие тон здесь, не обязательно заинтересованы в нас, остальных», — предупредил он....

Новая угроза из Антарктиды — Землю может накрыть гигантское цунами Изменение климата может спровоцировать гигантское цунами в Антарктиде В связи с глобальным потеплением климата, Антарктида несет определенную угрозу для человечества. В первую очередь она заключается в огромном количестве ледников, таяние которых приведет к серьезному повышению уровня воды …

Наука и Технологии 09:40, Май 31, 2023 | hi-news.ru

Есть пробитие: чем опасен мусор в космосе и сколько времени осталось у человечества до катастрофы Пару недель назад российский «Прогресс» увёл МКС от столкновения с космическим мусором в очередной раз, а в новом отчёте NASA отчитались о том, что SpaceX Dragon по возвращении со станции получил около 14 новых отверстий в своей обшивке. Вот такие сейчас сложились будни космических полётов …

Наука и Технологии 22:50, Апрель 1, 2023 | ferra.ru

Илон Маск рассказал, как взрывали самую большую ракету в истории человечества. Starship оказалась настолько прочной, что сразу уничтожить её не получилось От первого лётного испытания ракеты Starship (по планам она должна отправить людей сначала на Луну, а потом и на Марс) ждали многого, а получилось всего 4 минуты полёта – потом Starship взорвалась. Позже SpaceX пояснила, что ракету уничтожили намеренно, а сейчас Илон Маск рассказал о …

Наука и Технологии 21:40, Май 1, 2023 | ixbt.com