Сочинение на тему Обзор глубокого структурированного обучения

Глубокое обучение (также известное как глубокое структурированное обучение или иерархическое обучение) является частью более широкого семейства методов машинного обучения, основанных на представлении данных обучения, в отличие от алгоритмов, специфичных для конкретных задач. Обучение может быть контролируемым, полууправляемым или неконтролируемым. Глубокое обучение – это класс алгоритмов машинного обучения, которые: (pp199–200)

Используйте каскад из нескольких слоев нелинейных блоков обработки для извлечения и преобразования объектов. Каждый последующий слой использует выходные данные предыдущего слоя в качестве входных данных. Учитесь под присмотром (например, классификация) и / или без присмотра (например, анализ образца). Изучите несколько уровней представлений, которые соответствуют различным уровням абстракции; уровни образуют иерархию понятий. Используйте некоторую форму градиентного спуска для обучения через обратное распространение.

Слои, которые использовались в глубоком обучении, включают в себя скрытые слои искусственной нейронной сети и наборы пропозициональных формул. Они могут также включать скрытые переменные, организованные послойно в глубоких порождающих моделях, таких как узлы в сетях Deep Belief и Deep Boltzmann Machines. Есть две основные причины, по которым он стал полезен только недавно:

Глубокое обучение требует большого количества помеченных данных. Например, для разработки автомобиля без водителя требуются миллионы изображений и тысячи часов видео. Глубокое обучение требует значительных вычислительных мощностей. Высокопроизводительные графические процессоры имеют параллельную архитектуру, которая эффективна для глубокого обучения. В сочетании с кластерами или облачными вычислениями это позволяет группам разработчиков сократить время обучения для сети глубокого обучения с недель до часов или меньше.