Заметили ошибку в тексте?
Выделите её мышкой и
нажмите Ctrl + Enter

Альтернативный взгляд

«Альтернативная история, уфология, паранормальные явления, криптозоология, мистика, эзотерика, оккультизм, конспирология, наука, философия»

Мы не автоматический, тематический информационный агрегатор

Статей за 48 часов: 83

Сайт для здравомыслящих и разносторонне развитых людей


Очевидец: Если Вы стали очевидцем НЛО, с Вами произошёл мистический случай или Вы видели что-то необычное, то расскажите нам свою историю.
Автор / исследователь: У Вас есть интересные статьи, мысли, исследования? Публикуйте их у нас.
!!! Ждём Ваши материалы на e-mail: info@salik.biz или через форму обратной связи, а также Вы можете зарегистрироваться на сайте и размещать материалы на форуме или публиковать статьи сами (Как разместить статью).

Искусственный интеллект научили обманывать другой искусственный интеллект
Среднее время прочтения:

Искусственный интеллект научили обманывать другой искусственный интеллект

Методику для обмана анализирующего текст искусственного интеллекта (ИИ) разработали исследователи из Массачусетского технологического института (MIT), 23 февраля сообщает Wired.

Исследователи обратили внимание на то, что незначительное изменение фразы, понятное человеку, может обманывать ИИ. Они разработали алгоритм, чтобы заменить слова синонимами и обмануть распознающий текст ИИ. Нюанс в том, что для подбора синонимов атакующий алгоритм сам же использует ИИ.

- Salik.biz

В качестве примера приводится фраза «The characters, cast in impossibly contrived situations, are totally estranged from reality.» («Персонажи, сыгранные в невероятно надуманных ситуациях, полностью оторваны от реальности»), которая является негативным отзывом к фильму.

Если заменить в ней слова синонимами, то фразу «The characters, cast in impossibly engineered circumstances, are fully estranged from reality» («Персонажи, сыгранные в невероятно искусных обстоятельствах, полностью оторваны от реальности»), то ИИ считает отзыв положительным.

Обманывать можно ИИ-системы и других типов, в данном случае уязвимости в основном были продемонстрированы в системах распознавания изображений и речи.

Исследователи отметили, что подобные малозаметные искажения данных могут обманывать ИИ и использоваться для атак на системы, что становится значимым по мере распространения ИИ в области финансов, здравоохранения и др.

Источник:
Записал:

SALIK

Санкт-Петербург
info
+48
Я не автоматический, тематический информационный агрегатор! Материалы Salik.biz содержат мнение исключительно их авторов и не отражают позицию редакции.

Поделиться в социальных сетях:


Оцените:
0
82
RSS
Нет комментариев. Ваш будет первым!
Загрузка...

   Подписывайтесь на наш канал в YouTube:   Подписаться



Читайте также