Как научиться доверять технологиям с машинным обучением
Машинное обучение является одним из направлений искусственного интеллекта. Основной принцип заключается в том, что машины получают данные и «обучаются» на них.
Любая новая технология, проникая в жизнь, вызывает набор не самых простых этических вопросов. В случае с машинным обучением эта проблема выходит на новый уровень: машине доверяют право принятия жизненно важных решений в компании.
В работе машинного обучения есть одна важнейшая особенность: обучаясь на определенном объеме данных, он выдает результат, который без анализа невозможно объяснить. Так, к примеру, как объяснить, что в следующем сезоне продажи упадут, и поэтому не стоит этот продукт производить/закупать?
Так происходит потому, что современные алгоритмы — это сложные решения, у которых нет последовательного выполнения конечного перечня простых и легко объяснимых шагов. Они строятся на анализе и обработке огромных массивов данных с применением разных вероятностных и математических принципов. Работу таких алгоритмов невозможно объяснить на пальцах в короткий промежуток времени. Именно поэтому и требуются дополнительные средства, обеспечивающие возможность прослеживания прозрачности выполненных шагов и сделанных выводов.
Что делать?
Протестировать на своих данных и записаться на тест-драйв технологии с машинным обучением.
