Нейросети учатся быстрее
Новая область искусственного интеллекта включает использование алгоритмов для автоматического проектирования нейросетей, которые являются более точными и эффективными, чем разработанные человеческими инженерами. Но эта технология нейронно-архитектурного поиска (neural architecture search, NAS) является затратной с точки зрения вычислительной мощности.
Самый современный алгоритм NAS, недавно разработанный Google для работы на куче графических процессоров, потратил 48 000 GPU-часов для создания одной сверточной нейронной сети, которая используется для классификации изображений и задач обнаружения. У Google есть возможность параллельно запускать сотни графических процессоров и другого специализированного оборудования параллельно, но такое недоступно для многих других.
Алгоритм NAS, представленный Массачусетским технологическим институтом, может напрямую обучать специализированные сверточные нейросети (CNN) для целевых аппаратных платформ — при работе с массивным набором данных изображений — всего за 200 GPU-часов, что значительно расширяет потенциальное использование этих типов алгоритмов.
По мнению ученых, ограниченные в ресурсах исследователи и компании могли бы извлечь выгоду из алгоритма в виде экономии времени и затрат. Общей целью является «демократизация ИИ», говорит соавтор исследования Сонг Хан, доцент кафедры электротехники и компьютерных наук Microsystems Technology Laboratories в MIT. «Мы хотим, чтобы как эксперты по искусственному интеллекту, так и неспециалисты эффективно проектировали архитектуры нейросетей с помощью простого решения, которое быстро работает на конкретном оборудовании».
Однако он добавляет, что такие NAS-алгоритмы никогда не заменят инженеров-людей. «Цель состоит в том, чтобы избавиться от повторяющейся и утомительной работы, связанной с проектированием и усовершенствованием архитектуры нейронных сетей».
Что ж, все это только ускоряет наступление общего искусственного интеллекта.
Journal information