Параллельные и распределенные вычисления 2021 — различия между версиями
VeLKerr (обсуждение | вклад) (Новая страница: «TBD») |
VeLKerr (обсуждение | вклад) |
||
Строка 1: | Строка 1: | ||
+ | = Общие сведения = | ||
+ | * Семестр: 5 (третий курс) | ||
+ | * Форма контроля: диф. зачет | ||
+ | * '''[http://gg.gg/pd21-signup Форма регистрации на курс]. | ||
+ | * [ План лекций, семинаров, контрольных] | ||
+ | * [ Таблица с оценками] | ||
+ | * [http://gg.gg/pd21-join Телеграм-чат курса] | ||
+ | |||
+ | === Материалы занятий === | ||
+ | Доступ открыт для всех аккаунтов @phystech.edu. | ||
+ | |||
+ | ===== Лекции ===== | ||
+ | * [https://drive.google.com/drive/folders/1M3ByLqOQOcQPkSwr6L_XEdZs4lSnqfdf?usp=sharing Видео лекций | ||
+ | ** [ Лекция №1 по MPI] | ||
+ | ** [ Лекция по MPI №2] | ||
+ | * [https://drive.google.com/drive/folders/17oSho6XAuYRRXBQQmgumyH4EFoddO-m4?usp=sharing Слайды презентаций] | ||
+ | |||
+ | ===== Семинары ===== | ||
+ | * [https://drive.google.com/drive/folders/1oitGu8qV-ONZa74pbqYvTKBUG4cSxNRn?usp=sharing Видео семинаров] | ||
+ | * [ Презентации семинаров] | ||
+ | * [ Коды семинаров] | ||
+ | |||
+ | *[ '''Домашние задания'''] | ||
+ | *[https://docs.google.com/spreadsheets/d/1rxr465J4VtRxXnRtID1aRy0RzhpBltpjJYKximAQMB8/edit#gid=0 Интересные ссылки] | ||
+ | |||
+ | |||
+ | == Технические ссылки == | ||
+ | * [https://forms.gle/PWhsFdPR9iVrsXbs9 Форма для проблем с инфраструктурой АТП] | ||
+ | * В случае проблем с кластером MPI, пишите на '''parallel-cluster-atp@googlegroups.com'''. | ||
+ | ==== Сервера ==== | ||
+ | * MPI & OpenMP: <pre>ssh <user>@calc.cod.phystech.edu</pre> | ||
+ | * CUDA: <pre>ssh <user>@lorien.atp-fivt.org</pre> | ||
+ | * Hadoop ecosystem: <pre>ssh <user>@mipt-client.atp-fivt.org</pre> | ||
+ | |||
+ | = Преподаватели = | ||
+ | * '''Лекторы''' | ||
+ | ** Долуденко Алексей | ||
+ | ** Ахтямов Павел | ||
+ | ** Ивченко Олег | ||
+ | ** Липовский Роман | ||
+ | ** 1 приглашенный лектор | ||
+ | |||
+ | * '''Семинаристы''' | ||
+ | ** Ахтямов Павел Ибрагимович | ||
+ | ** Бабин Олег Борисович | ||
+ | ** Вручтель Серафима Вильямовна | ||
+ | ** Иванова Юлия Александровна | ||
+ | ** Ивченко Олег Николаевич | ||
+ | ** Цион Михаил | ||
+ | ** Чернецкий Аркадий | ||
+ | |||
+ | * '''Учебные ассистенты''' | ||
TBD | TBD | ||
+ | |||
+ | = Критерии получения оценки = | ||
+ | Зачёт выставляется на основании баллов, полученных в течение семестра. | ||
+ | |||
+ | == Домашние задания == | ||
+ | Планируется 7 домашних (6 основных и 1 бонусное) заданий. Проверка включает 2 этапа: | ||
+ | # прохождение автоматических тестов (начиная с ДЗ по HDFS). | ||
+ | # code review при условии выполненного п.1. Исправления по code review можно делать в течение '''1 месяца''' после 1-го комментария. | ||
+ | |||
+ | [ Репозиторий с домашками] | ||
+ | |||
+ | == Мини-контрольные == | ||
+ | Состоятся 3 теста. На контрольных нельзя пользоваться IDE и интернетом. Код писать не потребуется. | ||
+ | |||
+ | {| class="wikitable" | ||
+ | |- | ||
+ | ! Название | ||
+ | ! Дата | ||
+ | ! Длительность | ||
+ | |- | ||
+ | | PD-2021. HDFS & MapReduce || || 15 мин. | ||
+ | |- | ||
+ | | PD-2021. Hive & Spark || || 15 мин. | ||
+ | |- | ||
+ | | PD-2021. Kafka, Zookeeper || || 15 мин. | ||
+ | |} | ||
+ | |||
+ | В случае если вы не сможете написать КР в указанную дату по технической или другой уважительной причине, просьба заполнить [https://forms.gle/iYUgzuV83hF3H2Lo8 '''форму на дописывание''']. Дописывание состоится в январе 2022: | ||
+ | * PD-2020. Дописывание. HDFS & MAPREDUCE | ||
+ | * PD-2020. Дописывание. Hive & Spark | ||
+ | * PD-2020. Дописывание. Zookeeper, Kafka, Cassandra | ||
+ | |||
+ | Каждое дописывание длится 15 минут. | ||
+ | |||
+ | = Литература = | ||
+ | === MPI & OpenMP === | ||
+ | # Антонов А.С. Технологии параллельного программирования MPI и OpenMP: Учеб. пособие. Предисл.: В.А.Садовничий. - М.: Издательство Московского университета, 2012. | ||
+ | |||
+ | === CUDA === | ||
+ | # Дж. Сандерс, Э. Кэррот. Технология CUDA в примерах и задачах, 2013 (рус). | ||
+ | # [http://courses.cms.caltech.edu/cs179/ Курс "GPU programming" в Caltech]. | ||
+ | # [https://www.cs.bgu.ac.il/~graph161/wiki.files/09f-GPU%20-%20Scans.pdf Лекция по Scan курсе по комп. графике, Ben-Gurion university] | ||
+ | # [http://developer.download.nvidia.com/compute/cuda/1.1-Beta/x86_website/projects/scan/doc/scan.pdf Parallel Prefix Sum (Scan) with CUDA, Mark Harris, NVidia] | ||
+ | # Книги от Nvidia: [https://developer.nvidia.com/gpugems/gpugems/contributors GPU gems], [https://developer.nvidia.com/gpugems/gpugems2/inside-front-cover GPU gems 2], [https://developer.nvidia.com/gpugems/gpugems3/foreword GPU gems 3]. Особенно интересна глава 39 из [https://developer.nvidia.com/gpugems/gpugems3/part-vi-gpu-computing/chapter-39-parallel-prefix-sum-scan-cuda GPU Gems] про Scan. | ||
+ | |||
+ | === HDFS === | ||
+ | # [https://www.oreilly.com/library/view/hadoop-the-definitive/9781491901687/ T. White. "Hadoop. The definitive guide"], гл. 3 "Hadoop distributed filesystem". (есть русский перевод). 4е издание | ||
+ | # [https://storageconference.us/2010/Papers/MSST/Shvachko.pdf Статья про архитектуру HDFS от Константина Швачко (Yahoo!)] | ||
+ | # [http://www.blogjava.net/DLevin/archive/2015/01/25/422428.html Статья про архитектуру HDFS в блоге HortonWorks (Китайская копия :))] | ||
+ | # [http://blog.madhukaraphatak.com/secondary-namenode---what-it-really-do/ Что в действительности делает SNN] | ||
+ | # [https://nancyyanyu.github.io/posts/49a14c15/ Выдержка из курсов Яндекс про HDFS] |
Версия 21:13, 20 сентября 2021
Содержание
Общие сведения
- Семестр: 5 (третий курс)
- Форма контроля: диф. зачет
- Форма регистрации на курс.
- [ План лекций, семинаров, контрольных]
- [ Таблица с оценками]
- Телеграм-чат курса
Материалы занятий
Доступ открыт для всех аккаунтов @phystech.edu.
Лекции
- [https://drive.google.com/drive/folders/1M3ByLqOQOcQPkSwr6L_XEdZs4lSnqfdf?usp=sharing Видео лекций
- [ Лекция №1 по MPI]
- [ Лекция по MPI №2]
- Слайды презентаций
Семинары
- Видео семинаров
- [ Презентации семинаров]
- [ Коды семинаров]
- [ Домашние задания]
- Интересные ссылки
Технические ссылки
- Форма для проблем с инфраструктурой АТП
- В случае проблем с кластером MPI, пишите на parallel-cluster-atp@googlegroups.com.
Сервера
- MPI & OpenMP:
ssh <user>@calc.cod.phystech.edu
- CUDA:
ssh <user>@lorien.atp-fivt.org
- Hadoop ecosystem:
ssh <user>@mipt-client.atp-fivt.org
Преподаватели
- Лекторы
- Долуденко Алексей
- Ахтямов Павел
- Ивченко Олег
- Липовский Роман
- 1 приглашенный лектор
- Семинаристы
- Ахтямов Павел Ибрагимович
- Бабин Олег Борисович
- Вручтель Серафима Вильямовна
- Иванова Юлия Александровна
- Ивченко Олег Николаевич
- Цион Михаил
- Чернецкий Аркадий
- Учебные ассистенты
TBD
Критерии получения оценки
Зачёт выставляется на основании баллов, полученных в течение семестра.
Домашние задания
Планируется 7 домашних (6 основных и 1 бонусное) заданий. Проверка включает 2 этапа:
- прохождение автоматических тестов (начиная с ДЗ по HDFS).
- code review при условии выполненного п.1. Исправления по code review можно делать в течение 1 месяца после 1-го комментария.
[ Репозиторий с домашками]
Мини-контрольные
Состоятся 3 теста. На контрольных нельзя пользоваться IDE и интернетом. Код писать не потребуется.
Название | Дата | Длительность |
---|---|---|
PD-2021. HDFS & MapReduce | 15 мин. | |
PD-2021. Hive & Spark | 15 мин. | |
PD-2021. Kafka, Zookeeper | 15 мин. |
В случае если вы не сможете написать КР в указанную дату по технической или другой уважительной причине, просьба заполнить форму на дописывание. Дописывание состоится в январе 2022:
- PD-2020. Дописывание. HDFS & MAPREDUCE
- PD-2020. Дописывание. Hive & Spark
- PD-2020. Дописывание. Zookeeper, Kafka, Cassandra
Каждое дописывание длится 15 минут.
Литература
MPI & OpenMP
- Антонов А.С. Технологии параллельного программирования MPI и OpenMP: Учеб. пособие. Предисл.: В.А.Садовничий. - М.: Издательство Московского университета, 2012.
CUDA
- Дж. Сандерс, Э. Кэррот. Технология CUDA в примерах и задачах, 2013 (рус).
- Курс "GPU programming" в Caltech.
- Лекция по Scan курсе по комп. графике, Ben-Gurion university
- Parallel Prefix Sum (Scan) with CUDA, Mark Harris, NVidia
- Книги от Nvidia: GPU gems, GPU gems 2, GPU gems 3. Особенно интересна глава 39 из GPU Gems про Scan.
HDFS
- T. White. "Hadoop. The definitive guide", гл. 3 "Hadoop distributed filesystem". (есть русский перевод). 4е издание
- Статья про архитектуру HDFS от Константина Швачко (Yahoo!)
- Статья про архитектуру HDFS в блоге HortonWorks (Китайская копия :))
- Что в действительности делает SNN
- Выдержка из курсов Яндекс про HDFS