The best iНормализующая машина — это интерактивная инсталляция, которая в игровой форме предлагает посетителям выставки определить, кто из людей на фото выглядит более “нормальным”. Так, зрители обучают нейросеть отличать “нормальную внешность” от менее “нормальной” внешности. Машина анализирует решения участников и добавляет их в свой агрегированный алгоритмический образ нормальности. Итогом этого обучения становится вердикт нейросети о том, насколько “нормальным” является сам зритель.
Зер—Авив исследует опасный потенциал искусственного интеллекта. Алгоритмическое определение нормальности может стать опасным в том случае, если у этого решения есть какие—либо последствия. Это может быть определение “благонадежности” того или иного индивида, от степени которой зависит сумма кредита, стоимость страховки, или то, какую машину можно взять в каршеринге.
История прошлого века показывает, что люди могут пользоваться не намного более сложными алгоритмами, которые разделяют людей по национальной принадлежности или вероисповеданию. Довольно страшно, если решение о жизни или смерти человека, его свободе или несвободе принимается согласно простому алгоритму.