March 24th, 2020

Новый фреймворк Google снижает расходы на обучения ИИ на 80%



Для того чтобы сократить расходы на дорогостоящие тренировки ИИ-моделей, специалисты Google разработали фреймворк SEED RL, который распределяет обучение модели на тысячи машин. Для стартапов он станет возможностью заняться проектами, которые раньше были по карману только крупным ИИ-лабораториям.

Тренировки сложных моделей машинного обучения в облаке остаются чрезвычайно дорогим занятием. Согласно прошлогоднему докладу исследователей из Университета Вашингтон, стоимость обучения составляет в среднем $25 000 за две недели. OpenAI тратила на языковую модель GPT-2 $256 в час, а Google — $6912 на работу с моделью BERT.

Архитектура SEED RL основана на фреймворке Google TensorFlow 2.0. Она использует графические карты и тензорные процессоры (TPU), централизуя логические выводы модели, пишет Venture Beat. Для предотвращения ограничения передачи данных ИИ выполняет логические выводы централизованно вместе с элементом обучения, который тренирует модель, используя данные из распределенных логических выводов. Переменные и информация о состоянии целевой модели хранятся локально, тогда как наблюдения отсылаются ученику на каждом этапе. Задержка остается на минимальном уровне благодаря сетевой библиотеке, привязанной к открытому фреймфорку RPC.

Элемент обучения SEED RL может быть масштабирован на тысячи ядер, а число агентов — на тысячи машин. Один алгоритм — V-trace — предсказывает распределение действий, второй — R2D2 — выбирает действие на основе его предсказанной ценности.

Для оценки SEED RL разработчики использовали несколько популярных вариантов: среду Arcade Learning Environment, системы DeepMind Lab и Google Research Football. Им удалось решить ранее нерешенную задачу Google Research Football и добиться 2,4 млн кадров в секунду с 64 ядрами Cloud TPU. Это новый рекорд по сравнению с прошлым достижением распределенного агента.

Результаты говорят о значительном ускорении обучения, а поскольку этот подход значительно дешевле, чем использование графических процессоров, то и стоимость экспериментов существенно снижается. Авторы исследования полагают, что благодаря SEED RL обучение с подкреплением получило возможность использовать потенциал акселераторов наравне с другими методами глубокого обучения.

promo luckyea77 june 21, 2015 20:04 30
Buy for 10 tokens
В этой записи я буду давать ссылки на посты с лекциями и уроками в этом блоге: Учебные материалы и тесты: 11 ресурсов для бесплатного образования Проект "Лучшие кадры лучшей страны" Онлайн-курсы по высоким технологиям и инновациям Дистанционное образование в России (среднее профессиональное…

Квантовый конденсатор размером с марку может хранить до 100 ТБ данных



Британские физики первыми создали «спиновой конденсатор», способный генерировать и сохранять спиновое состояние электронов в течение нескольких часов. Это открытие позволит разработать новое поколение электроники, требующее меньше энергии и вырабатывающее меньше тепла.

В электронике конденсатор служит для накапливания заряда. Спиновой конденсатор работает по схожему принципу, но помимо только заряда он накапливает спиновое состояние группы электронов — то есть, фактически, «замораживает» спиновое положение каждого из них, сообщает Phys.org.

Эта способность открывает путь к созданию новых устройств, которые могли бы хранить информацию настолько эффективно, что стали бы намного меньше. Спиновой конденсатор со стороной около 2,5 см может хранить 100 ТБ данных.

«Это небольшой, но значимый прорыв к тому, что может стать революцией в электронике, вызванной применением принципов квантовой технологии», — заявил Оскар Кеспедес, научный руководитель проекта.

По его словам, сегодня до 70% энергии, которая используется в электронных устройствах вроде компьютеров или смартфонов тратится впустую в виде тепла. Это неэффективно и ограничивает возможности современных технологий. Кроме того, углеродный след интернета уже достиг уровня авиации и нарастает год от года.
Collapse )

Трансплантация митохондрий поможет лечить рак, деменцию и сердце



Ученые доказали, что могут «перезагружать» поврежденные клетки с помощью трансплантации митохондрий. В будущем эта универсальная процедура поможет лечить совершенно разные смертельные заболевания относительно простым способом.

Исследователи из Калифорнийского университета в Ирвайне впервые показали, что можно контролировать биоэнергетику клетки с помощью трансплантации митохондрий. Пока ученые достигли первых промежуточных результатов, однако в перспективе такие трансплантации могут быть использованы для лечения сердечно-сосудистых, метаболических, нейродегенеративных и онкологических заболеваний.

Митохондрии называют электростанциями клеток и их дисфункция может привести к ослаблению клетки или гибели. Ученые решили выяснить, что произойдет с клетками сердца при пересадке в них здоровых митохондрий.

Здоровые митохондрии выделили из клеток скелетных мышц и пересадили в кардиомиоциты. Уже через два дня состояние клеток улучшалось и способность производить энергию усиливалась, показали эксперименты. Однако со временем терапевтический эффект снижался. Наблюдения проводились непрерывно в течение месяца.

«Это означает, что клетки возможно „перезагружать“, а лечение имеет потенциал применения, как минимум, в условиях острого стресса», — заявили ученые.

Затем они подтвердили жизнеспособность технологии в различных клеточных линиях, а также путем пересадки митохондрий крыс в клетки человека. Пересадка митохондрий между различными видами также оказалась возможной.

В новых исследованиях необходимо прояснить коммуникацию пересаженных митохондрий с ядром клетки-хозяина. Это поможет оценить, будут ли они восприниматься в новом «доме» в долгосрочной перспективе.

Китайское правительство запускает национальную блокчейн-платформу



В апреле альянс, состоящий из правительственных групп, банков и технологических компаний Китая, публично запустит первый национальный сервис на базе распределенного реестра (BSN). Единая блокчейн-платформа должна сократить расходы частного бизнеса на использование технологии блокчейна в своих бизнес-процессах на 80%. К концу 2020 года узлы сети появятся в 200 городах КНР, а со временем, как надеется в правительстве Китая, станут всемирным стандартом.

Согласно данным Всемирной организации интеллектуальной собственности, Китай лидирует в мире по числу патентов, связанных с технологией блокчейна. В частности, JD.com — один из крупнейших онлайн-магазинов Китая — использует блокчейн для подтверждения подлинности товаров категории «люкс». А Главное таможенное управление использует блокчейн для наблюдения за 26 международными таможенными терминалами.

Крупнейшим затруднением на пути развития распределенного реестра было и остается то, что создать платформу — дорого и сложно. Поэтому появление BSN или чего-то подобного было неизбежностью, пишет Spectrum.

BSN — это альянс, основанный, в частности, Национальным информационным центром Китая, платежной системой China UnionPay, провайдером China Mobile и платежной компанией Red Date. Под его руководством будет действовать блокчейн-платформа BSN, которая даст возможность компаниям существенно сэкономить.

По подсчетам авторов программного документа, обычно расходы на разработку и поддержание блокчейн-платформ достигают $14 000 в год. Компании-участники программы смогут разрабатывать на базе BSN свои приложения и платить за пользование всей инфраструктурой менее $300 в месяц.

В отличие от биткойна и других открытых систем, где каждый может присоединиться и увидеть записи транзакций, приложения на BSN будут по умолчанию с закрытым членством. Для бизнеса такой подход более приемлем, кроме того, его проще масштабировать, поскольку все верификации происходят внутри.

Альянс BSN надеется, что когда-нибудь платформа станет глобальным стандартом для операций с блокчейном. Однако, международные партнеры могут не захотеть присоединяться к альянсу из соображений приватности: корневой ключ будет находиться в руках правительства Китая, что позволит ему наблюдать за всеми транзакциями, совершенными с помощью BSN.

Cognitive Pilot создает открытый датасет для обучения беспилотной сельхозтехники



Cognitive Pilot создает открытый датасет изображений для обучения беспилотной сельхозтехники. Об этом «Хайтеку» рассказали в пресс-службе компании.

Cognitive Pilot, дочерняя компания Сбербанка и Cognitive Technologies, запустила проект вместе с агрохолдингом «Песчанокопская аграрная группа». Он предполагает создание опытного полигона по тестированию систем управления разными видами сельхозтехники на основе искусственного интеллекта.

Кроме комбайнов, в тестированиях будут учавствовать трактора, опрыскивающие машины и другая техника. На основе испытаний компании создадут открытый датасет Cognitive Agro Dataset с изображениями, которые можно будет использовать для обучения автономных сельскохозяйственных машин.

«Целью нашего проекта является формирование уникального инструмента, позволяющего разработчикам систем управления беспилотной сельхозтехникой со всего мира эффективно решать задачи обучения нейронных сетей на реальных данных и создавать свои автопилоты. Сотрудничество с «Песчанокопской аграрной группой», открытие полигона, позволит нам воссоздать широкий класс ситуаций, в том числе и крайне редко встречающихся в условиях реальных сельхоз-работ, в разных погодных условиях при разной освещенности, имеющих высочайшую ценность для подготовки базы данных, и в итоге, обеспечения безопасной работы автономной системы управления сельхозтехникой».
Ольга Ускова, генеральный директор Cognitive Pilot


В компании отмечают, что создание Cognitive Agro Dataset — одна из первых в мире попыток создания датасета для отраслевых разработчиков.