Выбор фона:
/ Новости сайта / Наука и Технологии / Создан первый в мире искусственный интеллект-психопат
07.06.2018

Создан первый в мире искусственный интеллект-психопат

Оценка: 5.0    1909 2 Наука и Технологии
14:01
Обычно алгоритмы искусственного интеллекта создают так, чтобы они помогали людям. Но исследователи из MIT Media Lab решили поступить иначе и создали первую в мире искусственную психопатическую нейросеть. 

И этот алгоритм получил соответствующее зловещее имя. Его зовут Норман, в честь Нормана Бейтса, знаменитого маньяка из романа «Психо» Роберта Блоха и его легендарной одноименной экранизации, поставленной Альфредом Хитчкоком. Он был задуман как часть первоапрельских розыгрышей, но постепенно стал вполне серьезным исследованием.

Норман начал свою деятельность как любая другая нейросеть — по мере поступления данных он искал в них повторяющиеся паттерны. Такие нейросети могут осуществлять поиск по фотографиям или создавать убедительный синтез речи, но у Нормана была другая задача. Он был рожден стать психопатом.

Команда ученых ограничила информационный поток Нормана мрачными данными с подразделов Reddit, где собираются те, кто обменивается фотографиями, касающимися смерти и разрушения. Из-за проблем этического характера нейросети не показывали снимки реальных умирающих людей. Норман получал только подписи под картинками, а сами изображения представляли скорее размытые кляксы, и именно это сформировало основу крайне мрачной индивидуальности нового ИИ.

После такой тренировки Норману и «обыкновенному» ИИ показали несколько «пятен Роршаха». И если стандартный ИИ увидел в этих кляксах самолет, цветы и маленькую птичку, то Норман — людей, умирающих от огнестрельных ран, человека, выпрыгивающего из окна, расстрелянного из пулемета в разгар дня и даже попавшего в тестораскаточную машину.

Зачем же исследователи создали столь странную нейросеть? Нормана свели с ума не для того чтобы продемонстрировать дурное влияние Интернета на человеческую психику. Нейросеть, в отличие от человека, это чистый лист, у нее нет никаких побуждений или внутренних желаний, у нее нет биологии. Опыт Нормана обращается к совсем другой опасности: к тому, что искусственный интеллект может легко приобрести крайне опасные предубеждения и преконцепции. Это еще одна демонстрация того, что в случае ИИ и нейросетей, вы получаете то, что вкладываете в них, и крайне важно тренировать эти платформы так, чтобы они не формировали жестких предубеждений. И уж точно не стоит давать им возможность серфить по темным закоулкам сети.

И теперь ученые хотят посмотреть, смогут ли они вылечить Нормана. Вы тоже можете в этом поучаствовать, пройти тот же тест Роршаха и добавить в базу собственные описания клякс. Исследователи будут использовать эту информацию, чтобы исправить модель Нормана и посмотреть, будет ли он видеть меньше убийств. Насколько удачным будет такой эксперимент, покажет только время.

 


Поделитесь в социальных сетях

Комментарии 2

0  
deonissio 07.06.2018 17:39 [Материал]
У нас "Норман" называется сеть алкогольных магазинов biggrin
+1  
Arwis 07.06.2018 14:16 [Материал]
Да ладно! Программеры накосячили, а фирма, чтобы не опозориться, выдаёт эти косяки как особенности продукта. А потом кучу отмазок придумают, что мол так и было задумано. biggrin
Добавлять комментарии могут только зарегистрированные пользователи.
[ Регистрация | Вход ]

Похожие материалы

Разговоры у камина
Календарь
Последние комментарии
Дирижабль царя Соломона
От Сабы до Израиля примерно полторы тысячи км, если измерить по гугль-карте. Расстояние огромное - н (от Rosto)
Атмосферное давление и уровень соли - признаки древнего катаклизма
Затвердевание смолы - это химический процесс, во время которого выделялся газ, поэтому в пузырьках т (от Rosto)
Живем ли мы в мире, контролируемом ИИ?
Это не ИИ, а прогрессивный пессимист. (от Baro)
10 фактов о смерти
Когда то человек знал и умел не только пользоваться живой природой, но и СОздавать формы и поддержив (от renmilk11)