Заметили ошибку в тексте?
Выделите её мышкой и
нажмите Ctrl + Enter

Альтернативный взгляд

«Альтернативная история, уфология, паранормальные явления, криптозоология, мистика, эзотерика, оккультизм, конспирология, наука, философия»

Мы не автоматический, тематический информационный агрегатор

Статей за 48 часов: 32
18 +

Очевидец: Если Вы стали очевидцем НЛО, с Вами произошёл мистический случай или Вы видели что-то необычное, то расскажите нам свою историю.
Автор / исследователь: У Вас есть интересные статьи, мысли, исследования? Публикуйте их у нас.
!!! Ждём Ваши материалы на e-mail: info@salik.biz или через форму обратной связи, а также Вы можете зарегистрироваться на сайте и размещать материалы на форуме или публиковать статьи сами (Как разместить статью).

Контролировать обладающий сверхразумом искусственный интеллект невозможно!
Среднее время прочтения:

Источник:
Автор:
Сергей Лукавский
Контролировать обладающий сверхразумом искусственный интеллект невозможно!

По мере того, как ученые продолжают делать машины все более и более умными, многие люди задаются вопросом: «Что произойдет, если компьютеры станут слишком умными, и не будут ли они действовать исключительно ради собственного блага?». Индустрия развлечений — от «Матрицы» до «Терминатора» — уже начала задумываться, будут ли роботы будущего когда-нибудь угрожать человечеству. Международная группа ученых в ходе своего нового исследования пришла к выводу, что нет никакого способа остановить развитие машин. По их мнению, люди не смогут помешать супер-искусственному интеллекту делать то, что тот посчитает нужным.

Ученые из Центра изучения людей и машин при Институте Макса Планка начали размышлять над тем, как будет выглядеть такая машина. Представьте себе систему ИИ, интеллект которой намного превосходит человеческий – настолько, что она сможет учиться самостоятельно без дополнительного программирования. Исследователи говорят, что если такую машину подключить к Интернету, то ИИ получит доступ ко всем данным человечества и даже сможет взять под контроль другие машины по всему миру.

- Salik.biz

Авторы исследования ставят вопрос, что такой разум мог бы сделать со всей этой мощью? Будет ли все это работать во благо людей? Будут ли направлены огромные вычислительные мощности на решение таких проблем, как изменение климата? Или машина будет стремиться взять под контроль жизнь своих соседей-людей?


Контролируя неконтролируемое — опасности сверхразумного искусственного интеллекта

И специалисты по компьютерной технике, и философы изучали, есть ли способ удержать сверхразумные машины от потенциального нападения на их создателей, гарантируя что компьютеры будущего не причинят вреда своим хозяевам. Новое исследование, к сожалению, показывает, что удержать в узде сверхразумный ИИ практически невозможно.

«Суперинтеллектуальная машина, управляющая миром – сегодня это звучит как научная фантастика. Но уже есть машины, которые самостоятельно выполняют определенные сложные задачи, а программисты не до конца понимают, как те научились этому. Поэтому возникает вопрос, может ли это в какой-то момент стать неконтролируемым и опасным для человечества», — говорит соавтор исследования, руководитель Digital Mobilization Group в Центре людей и машин Мануэль Себриан.

В ходе исследования был создан теоретический алгоритм сдерживания, который не позволил бы ИИ причинять вред людям ни при каких обстоятельствах. В моделировании ИИ перестает функционировать, если исследователи сочтут его действия вредными. Авторы исследования говорят, что в реальном мире это может просто не сработать.


Записал:

SALIK

Санкт-Петербург
info
+49
Я не автоматический, тематический информационный агрегатор! Материалы Salik.biz содержат мнение исключительно их авторов и не отражают позицию редакции. Первоисточник статьи указан в самом начале.

Поделиться в социальных сетях:


Оцените:
+1
244
RSS
Нет комментариев. Ваш будет первым!
Загрузка...

   Подписывайтесь на нашу группу ВКонтакте:   Подписаться