Искусственный интеллект (ИИ) и машинное обучение все глубже проникают в различные сферы нашей жизни. Пользуясь интернетом, например, мы можем увидеть персонализированные рекомендации, интересную рекламу. Специалистам многих областей нейросети помогают принимать важные решения. Но по мере развития искусственного интеллекта все чаще возникает вопрос – а насколько решения, предлагаемые нейросетями, являются объективными, беспристрастными? Исследования показывают, что алгоритмы ИИ зачастую работают предвзято, и это достаточно серьезная проблема, которая может привести к нанесению вреда отдельным людям и целым социальным группам.
Почему возникает предвзятость
Необъективность в алгоритмах ИИ чаще всего возникает из-за предвзятых данных, используемых для их обучения. Если исходные данные содержат определенные погрешности или суждения, которые носят характер предрассудков, то и алгоритмы, обученные на таких данных, будут воспроизводить и еще больше усиливать эти предубеждения. Иногда причиной предвзятости служат определенные ошибки, которые закладываются еще на стадии разработки ИИ. Например, использование слишком простых эвристических правил или выбор определенных признаков для анализа данных часто приводят к систематическим ошибкам.
Какие приемы разрабатываются для преодоления ошибок
Для решения проблемы предвзятости в алгоритмах ИИ разработчики для начала занимаются ее определением, выявлением. То есть, отвечают на вопрос — а в чем, собственно, заключается заблуждение в работе нейросети? С этой целью разрабатываются различные методы – аудит данных, алгоритмы оценки, различные виды тестирования. С их помощью достигается возможность обнаруживать предвзятость на разных этапах разработки.
После того, как предвзятость в алгоритмах ИИ выявлена, предпринимаются активные меры по ее минимизации и нейтрализации. С данной целью также используют различного рода специализированные приемы – очистку данных, разработку справедливых алгоритмов, создание контрольных наборов данных, обеспечение прозрачности и подотчетности, внедрение этических принципов, а также обучение и повышение осведомленности нейросети в той или иной области информации.
Примеры предвзятости
Если говорить о конкретных образцах, в которых проявляется предвзятость искусственного интеллекта, то их достаточно много. Один из наиболее часто встречающихся примеров – это ситуация, когда нейросеть в процессе диалога с пользователем выдает шаблонные ответы, основывающиеся на идеях стереотипного характера. Часто такой тип предвзятости возникает на этапе обучения нейросети. К примеру, искусственному интеллекту предлагается большое количество фотографий людей, принадлежащих к той или иной этнической группе. После этого нейросеть начинает хуже распознавать фотографии тех, кто принадлежит к другой группе.
Также часто искусственный интеллект выдает свои предубеждения в процессе оценки определенных данных или же результатов. К примеру, в компании для оценки мастерства потенциальных кандидатов в сотрудники используется искусственный интеллект. Если же кто-то из кандидатов предоставляет такие результаты, которые (по мнению нейросети) являются нетипичными, то она оценит их более низко. Хотя на самом деле этот потенциальный сотрудник может оказаться, наоборот, намного более креативным в своей работе.
Иногда погрешности и ошибки в работе нейросетей появляются в том случае, когда их обучают на основе недостаточно крупной выборки. Искусственный интеллект, обучавшийся на небольшом количестве данных, тоже часто выдает не особенно качественные результаты. К примеру, специализированная система, предназначенная для распознавания речи, обучалась по большей части на мужских голосах. В таком случае те аудиозаписи, которые были записаны женским голосом, она может распознавать несколько хуже в сравнении с мужскими.
Еще нейросети часто допускают ошибки, выражающиеся в неоднозначности определенных целей и представлений. К примеру, искусственный интеллект может предлагать пользователю Сети те товары и продукты, которые основываются на его поисковых предпочтениях. А на самом деле эти товары могут и не соответствовать его реальным интересам – ведь если человек сделал пару запросов в поисковик, это еще не говорит о том, он нуждается в указанном им продукте.