НовостиШапито

Reddit сделал из ИИ психопата-убийцу

Ученые запаниковали после проведения последнего исследования в MIT.

Ученые из Массачусетского технологического института решили воспитать искусственный интеллект на постах из Reddit. Они и не подозревали, что создадут настоящего монстра.

Ученые назвали нейросеть в честь персонажа Нормана Бейтса, убийцы с раздвоением личности из фильма «Психо», незабвенного Альфреда Хичкока. В ходе эксперимента ему подсовывали контент из «темных уголков Reddit». Все посты, которые подготовили для Нормана были исключительно негативного характера: смерть, страдание, боль. Цель опыта была в том, чтобы понять, как собранные данные могут влиять на поведение и принятие решений ИИ.

Ученые запаниковали после проведения исследования. Набор данных Нормана стал очень отличаться от стандартного искусственного интеллекта. Робот просто стал психом, зацикленным на убийствах и смерти.

В рамках теста Роршаха ИИ повёл себя необычно. Картинки показывали двум нейросетям. Первую обучали на обычных наборах изображений. Вторая — Норман. Например, на одной из картинок стандартный ИИ увидел пару людей, стоящих рядом друг с другом, в то время как Норман описал мужчину, который прыгает из окна. В другой чернильной кляксе первый испытуемый узрел группу птиц, которые сидят на ветке. А вот ИИ-психопату показался человек, убитый разрядом электрического тока.

Тест Роршаха
Тест Роршаха

По словам инженеров MIT, они создали Нормана, чтобы напомнить , что поведение нейросети — вина не ее алгоритмов, а данных, на которых она обучалась.

.

Нашли ошибку? Помогите нам: выделите ее и нажмите CTRL+ENTER. Спасибо!

Метки

Комментарий (0)

Напишите комментарий...
avatar

Похожие статьи

Регистрация
Регистрация
Вход
Забыли пароль?
Close

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: