ComputaÃ§Ã£o de Alto Desempenho (11165)

ComputaÃ§Ã£o de Alto Desempenho (2021/2022) - Departamento de InformÃ¡tica

Descrição

Saber:

Arquiteturas paralelas
Paradigmas de programação paralela
Metodologias gerais de desenho de algoritmos paralelos
Estratégias algorítmicas específicas para diversos tipos de problemas
Técnicas para otimizar o desempenho de algoritmos paralelos nas arquiteturas paralelas estudadas

Saber como:

Otimizar o desempenho de um programa sequencial
Implementar algoritmos paralelos para lidar com computações com grande complexidade e/ou que processam grandes quantidades de dados, executando em GPU(s) (exemplo: CUDA ou OpenCL) e/ou em arquiteturas de memória distribuída (exemplo: MPI ou Spark).
Medir e analisar o desempenho de uma computação paralela.

Soft-skills.

Raciocinar e avaliar criticamente as alternativas algorítmicas e tecnológicas disponíveis para resolver um problema.
Desenhar uma solução para um problema antes de entrar na fase de implementação.
Trabalho em equipa.
Estruturar e escrever um relatório de projeto.

Programa

Motivação

Porquê computação paralela?
Porquê computação de alto desempenho?

Fundamentos de Computação Paralela

Arquiteturas Paralelas
Desempenho paralelo
Paradigmas de Programação Paralela
Desenho de Algoritmos Paralelos

Computação Paralela

Padrões e estratégias para a programação paralela
Processamento em memória partilhada
Computação em GPUs
Programação por troca de mensagens

Computação de alto desempenho centrada em dados

MapReduce
Apache Spark

Algoritmos Paralelos

Algoritmos para processamento de gráficos
Algoritmos de aprendizagem automática

O futuro da computação de alto desempenho

Desafios na industria
Tópicos de pesquisa em aberto

Bibliografia Principal

Como é prática nos cursos de CAD não há um livro da disciplina. Existem vários livros que cobrem os conceitos fundamentais de CAD. Segue uma lista:

T Sterling, M Brodowicz, M Anderson. High Performance Computing - Modern Systems and Practices. Morgan Kaufmann, 2017.
T Rauber and G Rünger. Parallel Programming for Multicore and Cluster Systems. Springer, 2013
P Pacheco.An Introduction to Parallel Programming.Morgan Kaufmann,2011
I Foster. Designing and Building Parallel Programs. Addison-Wesley, 1995,

Computação em GPUs:

NVIDIA documentation
J Sanders, Edward Kandrot, CUDA by Example: An Introduction to General-Purpose GPU Programming, Addison-Wesley, 2010

Processamento de grandes quantidades de ddos

A Shook and D Miner. MapReduce Design Patterns. O’Reilly Media, 2012
High Performance Spark. O’Reilly Media, 2017

Requisitos Prévios

Supõe-se que os estudantes conhecem conceitos básicos de arquitetura de computadores, redes de comunicação e sistemas de operação, e assume-se proficiência em programação (tem sido utilizadas a linguagem C/C++ e Java).

Esforço do Aluno

	Horas por crédito		28
	Horas p/ semana	Semanas	Horas
Aulas prÃ¡ticas e laboratoriais			26.0
Aulas teÃ³ricas			26.0
AvaliaÃ§Ã£o			4.0
Estudo			50.0
Projectos e trabalhos			62.0
Total de Horas			168
ECTS			6.0