Надежда Попова (congregatio) wrote,
Надежда Попова
congregatio

Categories:

Бытие и сознание

Занятная новость из мира околонауки.

* * * * *
Norman - алгоритм, который обучен распознавать и интерпретировать фотографии и прочие изображения. Но это не обычный пример искусственного интеллекта (ИИ). Norman во всем видит ужасы. /.../ Например - стая птиц на ветке дерева. Norman, изучая то же самое изображение, видит человека, которого пытают током.
/.../
Этот психопатический алгоритм был создан командой исследователей Массачусетского технологического института (MIT). Они пытались понять, как повлияют на восприятие мира искусственным интеллектом фотографии и изображения из темных уголков интернета.
Программе показывали выложенные в Reddit фотографии людей, погибающих в ужасающих обстоятельствах.
Затем алгоритму, который научился распознавать изображения и описывать, что он видит, представили тест Роршаха: симметричные относительно вертикальной оси чернильные кляксы разных цветов.
Психологи уже несколько десятилетий используют подобный тест для того, чтобы понять, насколько позитивно или негативно пациент относится к окружающему миру.
Norman постоянно видел ужасы - трупы, кровь и разруху в каждой такой кляксе.
Одновременно другой алгоритм искусственного интеллекта учился на позитивных фотографиях - снимках людей, птичек, кошек и так далее.
Второй алгоритм не увидел ничего ужасного в кляксах Роршаха.
Тот факт, что Norman видит только ужасы, демонстрирует одну из фундаментальных проблем процесса машинного обучения, считает профессор Массачусетского технологического института Ияд Рахван.
/.../
Эксперимент с алгоритмом Norman указывает, что если алгоритм искусственного интеллекта базируется на плохо подобранной изначальной информации, то он сам станет приходить к неудобоваримым выводам.
(источник)
* * * * *

Ну я бы сказала, что это проблема не только искусственного интеллекта, а даже и в первую очередь не его. Интеллект вполне натуральный в виде всяких человеческих существ вполне наглядно демонстрирует ту же схему вот уже много-много веков. 
Tags: околонаучное
Subscribe
promo congregatio june 24, 22:42 1
Buy for 50 tokens
От членов конгрегатской группы в ВК поступило предложение начинать сбор на пятую книгу. Когда Геннадий сможет начать, я еще не знаю: сейчас он занимается четвертым томом, и насколько длинная к нему очередь потом - пока неизвестно. Я написала ему письмо, жду ответа. Надеюсь, он сумеет нас втиснуть…
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 6 comments