Досуг Общество Легенды и Мифы Живой мир Игры МАГАЗИН ДЛЯ ВСЕХ Полезное
1Пт
2Сб
4Пн
5Вт
6Ср
8Пт
9Сб
10Вс
11Пн
12Вт
13Ср
14Чт
15Пт
16Сб
17Вс
20Ср
21Чт
22Пт
23Сб
25Пн
26Вт
28Чт
29Пт
30Сб
31Вс
мая 2020
• Личный кабинет
Логин: (регистрация?) Пароль: (напомнить?)
• РЕГИСТРАЦИЯ
Свежие статьи Самые свежие статьи Вестника К

Полицейский из Подмосковья работал на ЦРУ, воевал в Донбассе и сел на 13 лет за госизмену. Мы с ним поговорили...

Мы выяснили у сопредседателя движения «Голос» Григория Мельконьянца, смогут ли теперь арестованные кандидаты продолжать борьбу за участие в осенних выборах.

Одна из самых запоминающихся участниц московского протеста — 17-летняя Ольга Мисик. Мы с ней поговорили...

Московские суды арестовали 29 июля не менее 40 человек, задержанных на акции протеста 27 июля, сообщает «ОВД-Инфо». Полный перечень решений можно посмотреть...

Зачем Россия отправляет в Венесуэлу военных советников и других специалистов...

• Реклама
О веселом Отдохни с Вестником

Собрали для вас примеры импортозамещения из России и дружественных республик. Глядя на них, хочется то ли плакать, то ли смеяться.

15 мая на аукционе Christieʼs в Нью-Йорке была продана скульптура «Кролик» американского художника Джеффа Кунса. Цена лота составила 91 075 000 долларов — это новый аукционный рекорд для работы ныне живущего художника.

Работа Клода Моне из серии «Стога сена» продана на аукционе Sothebyʼs в Нью-Йорке за 110,7 миллиона долларов. Это рекорд аукционной цены для картин этого художника.

Елена Фернандес из Сальвадора, Бразилия, открыла свой маленький тату-салон и тут же получила невероятную популярность среди местных жителей...

• Новости мира
В Саратовской области рассказали о новых случаях COVID-19
Пневмония диагностирована у 32 из 97 новых выявленных зараженных коронавирусом в Саратовской области, общее число заболевших этой инфекцией выросло до 2746, сообщил в четверг областной оперативный ...

На Украине сообщили об успешном испытании ракет «Нептун»
Глава конструкторского бюро "Луч", входящего в состав концерна "Укроборонпром", Олег Коростелев заявил об успешном испытании крылатых ракет Р-360 комплекса "Нептун". По ...

В Крыму забронировали около 70% мест в мини-отелях и пансионатах
Около 70% мест в мини-отелях и пансионатах Крыма забронировали туристы на период до сентября 2020 года, сообщает ТАСС со ссылкой на председателя региональной Ассоциации малых отелей (АСМОК) Натальи ...


Google начинает разработку "большой красной кнопки", способной остановить искусственный интеллект в чрезвычайной ситуации      

Информация к новости
  • Просмотров: 1886
  • Комментариев: 0
  • Автор: Бэкки
  • Дата: 7-06-2016, 16:31
  • В закладки:
  • 0
7-06-2016, 16:31


Насколько известно, использование искусственного интеллекта в настоящее время является наилучшим способом автоматизации выполнения целого ряда сложных и объемных задач, включая маркировку миллионов снимков в Интернете или создание роботов, самостоятельно выбирающих свои действия в той или иной ситуации. Группы программистов и ученых головокружительными темпами создают новые, совершенствуют и усложняют существующие алгоритмы систем искусственного интеллекта. Все это означает, что пора начинать задумываться о том, что же надо будет делать в случае, если какая-нибудь система искусственного интеллекта выйдет из-под контроля и начнет действовать во вред окружающим людям.

Подразделение компании Google под названием Deepmind, совместно со специалистами Института будущего человечества (Future of Humanity Institute, FoH), провели исследования, касающиеся проблемы остановки деятельности систем искусственного интеллекта в случае начала их неправильного функционирования. Согласно результатам этих исследований, единственным надежным решением в данном случае является "большая красная кнопка", которая полностью прерывает деятельность системы искусственного интеллекта.

Основой для данных исследований стали исследования, проведенные в 2013 году. В прошлых исследованиях использовалась несложная система искусственного интеллекта, обученная управлять игрой в Тетрис. Через какое-то время этот алгоритм понял совершенно самостоятельно, что когда уровень игры поднимается выше его возможностей, ему стоит только нажать на паузу и он уже не проиграет.

Такой вид придуманной машиной хитрости является самым безобидным, но это полностью вписывается в прогнозы, выдвинутые специалистами Института будущего человечества. Ник Бостром (Nick Bostrom), основатель этого института, в свое время написал книгу под названием "Суперинтеллект /Superintelligence", которая является своего рода предупреждением всему человечеству. Это предупреждение заключается в том, что когда искусственный интеллект получит возможность неконтролируемого и ничем не ограниченного самообучения, он быстро разовьется до уровня, который во много раз превзойдет интеллектуальный уровень человечества. Такое событие было впервые описано в 1958 году ученым-математиком Стэнислоу Улэмом (Stanislaw Ulam) и оно, это событие, получило название "Сингулярность".

Разработанный учеными термин "прерывание безопасности" заключается в установке в недра вычислительной системы своего рода аппаратного предохранителя, который срабатывает в случае, если действия искусственного интеллекта становятся опасными для окружающих. Но в некоторых случаях система искусственного интеллекта сможет успеть развиться до уровня, когда она сможет эффективно противодействовать активации предохранителя, и ее, по мнению специалистов Google Deepmind и FoH, потребуется обмануть, как это часто и успешно делают люди.

Для того, чтобы реализовать все вышесказанное, специалисты, разрабатывающие системы искусственного интеллекта, должны установить "правила прерывания", спусковой механизм, который позволит "временно или на постоянной основе изменить поведение субъекта (ИИ) насильственным образом". Другими словами, это своего рода сигнал, наподобие ключевого слова, который должен заставить машину думать, что ей пора остановиться. Но машинный интеллект, развившийся выше определенного уровня, сможет воспротивиться такому побуждению, и следующим шагом станет следующая команда (скрипт, ключевое слово или нечто подобное) извне, которая должна заставить машину считать, что она уже внутренне согласилась с первым побуждением. Другими словами, это все является способом обойти автоматику или программы, которые перестали воспринимать команды от людей.

Исследователи отмечают, что сигналами к прерыванию деятельности систем искусственного интеллекта должны распоряжаться только люди, владеющие этими системами. Любые другие люди должны быть лишены возможности воспользоваться такими функциями. И реализация всего этого должна быть максимально проста, исследователи считают, что это может быть система дистанционного управления с одной единственной "аварийной красной кнопкой".

Но и такая технология защиты не будет эффективна при некоторых условиях. Если уровень развития системы искусственного интеллекта перешагнет определенный порог, то время будет упущено и система будет в состоянии просчитать все возможные варианты развития событий, удалить "правила прерывания" из своего собственного кода.

И в заключении следует отметить, что исследования, проведенные Google Deepmind и FoH, являются достаточно обобщенным, ведь на свете еще не существует вычислительной архитектуры, предназначенной для универсального искусственного интеллекта. Но такая архитектура несомненно появится в скором будущем и ее разработчики должны будут учесть в ней все подобные нюансы, установив набор необходимых аппаратных и программных предохранителей.

Источник





Вернуться   ==   Сообщить об ошибке? ==  Просмотров: 1886  ==  Комментариев: 0    Автор: Бэкки


Дорогие друзья! У нас появилась официальная группа вконтакте: http://vk.com/vestnik_k - теперь следить за нашими новостями еще удобнее!
поделиться с друзьями     
Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь. Мы рекомендуем Вам зарегистрироваться, либо войти на сайт под своим именем, чтобы получить доступ ко всем ресурсам сайта.

Информация

Посетители, находящиеся в группе Гость, не могут оставлять комментарии к данной публикации.
  • На Главную
  • Реклама
    Новости мира
    В Саратовской области рассказали о новых случаях COVID-19
    Пневмония диагностирована у 32 из 97 новых выявленных зараженных коронавирусом в Саратовской области, общее число заболевших этой инфекцией выросло до 2746, сообщил в четверг областной оперативный ...

    На Украине сообщили об успешном испытании ракет «Нептун»
    Глава конструкторского бюро "Луч", входящего в состав концерна "Укроборонпром", Олег Коростелев заявил об успешном испытании крылатых ракет Р-360 комплекса "Нептун". По ...

    В Крыму забронировали около 70% мест в мини-отелях и пансионатах
    Около 70% мест в мини-отелях и пансионатах Крыма забронировали туристы на период до сентября 2020 года, сообщает ТАСС со ссылкой на председателя региональной Ассоциации малых отелей (АСМОК) Натальи ...

    Вверх
    Вверх