fbpx

Как научиться доверять технологиям с машинным обучением

Технологии и МО

Машинное обучение является одним из направлений искусственного интеллекта. Основной принцип заключается в том, что машины получают данные и «обучаются» на них.

Любая новая технология, проникая в жизнь, вызывает набор не самых простых этических вопросов. В случае с машинным обучением эта проблема выходит на новый уровень: машине доверяют право принятия жизненно важных решений в компании.

Особенности

В работе машинного обучения есть одна важнейшая особенность: обучаясь на определенном объеме данных, он выдает результат, который без анализа невозможно объяснить. Так, к примеру, как объяснить, что в следующем сезоне продажи упадут, и поэтому не стоит этот продукт производить/закупать?

Так происходит потому, что современные алгоритмы — это сложные решения, у которых нет последовательного выполнения конечного перечня простых и легко объяснимых шагов. Они строятся на анализе и обработке огромных массивов данных с применением разных вероятностных и математических принципов. Работу таких алгоритмов невозможно объяснить на пальцах в короткий промежуток времени. Именно поэтому и требуются дополнительные средства, обеспечивающие возможность прослеживания прозрачности выполненных шагов и сделанных выводов.

Этика: МО и человеческие ценности

Основные направления, в которых сегодня чаще всего возникают этические вызовы при использовании искусственного интеллекта (ИИ) и МО:

Ответственность. С ростом роли ИИ становится труднее распределить ответственность за решения, которые он принимает. Если допущены ошибки, которые причинили ущерб, возникает вопрос: кто должен нести эти риски и компенсировать их?

Прозрачность. Если для принятия важных решений используются сложные системы машинного обучения, могут возникать сложности с выявлением причин выбранного действия. Необходимо четкое объяснение машинного мышления.

Предвзятость. Системы машинного обучения могут закрепить существующие стереотипы и предвзятость в процессах принятия решений. Необходимо позаботиться о том, чтобы ИИ развивался как недискриминационная технология.

Человеческие ценности. Никакие ИИ-решения сами по себе не имеют собственных ценностей и значений, а также какого-либо аналога врожденного «здравого смысла». Британский стандарт BS 8611 «Этическое проектирование и применение роботов и роботизированных систем» дает некоторые полезные рекомендации в этой области: «Роботы не должны быть предназначены для убийства или нанесения вреда людям; ответственными за них агентами являются люди, а не роботы; всегда должна существовать возможность выяснить, кто несет ответственность за каждого конкретного робота и его поведение».

Источник: Harvard Business Review

Оставайтесь на связи

+7 (812) 407 10 11
Этот адрес электронной почты защищён от спам-ботов. У вас должен быть включен JavaScript для просмотра.

 

ООО "Ново Би Ай"© 199026, Россия, Санкт-Петербург, В.О. 26-я линия, д.15, корп.2, Литер А – БЦ «Биржа»

 

Russian (RU)    English (UK)