Reproducible Research II: Practices and tools for managing computations and data
Réf. 41023
In this MOOC, we will show you how to improve your practices and your ability to manage and process larger amounts of data, complex computations, while controlling your software environment.
- Durée : 4 mois
- Effort : 35 heures
- Rythme: ~8h45/mois
- Langues: Anglais
Ce que vous allez apprendre
À la fin de ce cours, vous saurez :
Manage research data:
- understand the challenges posed by large volumes of data
- archive code and data on well-known archives such as Software Heritage and Zenodo
- integrate data into versioning (Git Annex)
- use structured binary data formats (FITS, HDF5)
Use tools and techniques for controlling the software environment:
- understand how software packages are built and managed
- deploy software environments as containers (ex: Docker)
- manage software environments using a functional package manager (ex: Guix)
- work in controlled software environments on a daily basis
Automate long or complex computations using workflows:
- understand the challenges of scaling up: long calculations, distributed calculations
- choose a workflow tool adapted to your needs
- automate a data analysis using make and snakemake
- control the software environments of a workflow
Description
Following the success of the MOOC "Reproducible research: methodological principles for transparent science", the authors continue on the same theme, dealing more specifically with the issues of massive data and the complex calculations associated with them. These two MOOCs complement each other and offer a coherent training program on the subject.
In this second MOOC, we will show you how to improve your practices for managing large data and complex computations in controlled software environments:
- you will learn how to use formats like JSON, FITS, and HDF5, platforms like Zenodo and Software Heritage, tools like git-annex, docker, singularity, guix, make, and snakemake;
- we will show you how to integrate them in a real-life use case: a sunspot detection study. You will see for yourself that our methods and tools allow you to work in a reliable and reproducible way.
The strength of this new MOOC lies in a general and systematic presentation of the major concepts and of how they translate into practical solutions through numerous hands-on sessions with state-of-the-art open-source tools.
Format
This MOOC consists of three independent modules that combine video lectures, quizzes, pratical sessions, textual course supports, and many exercises for getting hands-on experience with the tools and methods that are presented.
Most of the exercises can be carried out in a JupyterLab environment made available to each MOOC learner. Some exercises require a Linux computer and the possibility to install system software on it.
Prérequis
This course is for everyone who relies on a computer to perform data analysis. You should have some experience with running commands in a terminal, and have a basic knowledge of git (at the level of the first MOOC) and scientific Python.
Evaluation et Certification
An Open Badge for successful completion of the course will be issued on request to learners who obtain an overall score of 50% correct answers to all the quizzes and learning activities. Assessment is based on quizzes and practical exercises.
Plan de cours
Module Introduction
- Introduction with expert interviews
- Getting started with JupyterLab and sunspot time series
Module Managing data
- 1.1 Archiving
- 1.2 File formats
- 1.3 Project Organization
- 1.4 Git Annex
Module Managing software
- 2.1 On the Importance of Software Environment
- 2.2 Package Management Principles
- 2.3 Isolation and Containers
- 2.4 Using Containers
- 2.5 Building and Sharing Containers
- 2.6 Functional Package Managers (Guix, Docker, Singularity...)
Module Managing computations
- 3.1 Why do we need workflows?
- 3.2 From notebooks to shell scripts
- 3.3 Workflows with `make`
- 3.4 Workflows with `snakemake`
- 3.5 Workflows and environments
Équipe pédagogique
Arnaud Legrand
Catégories
Arnaud Legrand est chercheur au CNRS au Laboratoire d'Informatique de Grenoble. Ses recherches portent sur l'évaluation de la performance des grandes infrastructures de calcul. Pour réaliser des expériences et analyser les résultats, il est essentiel de capturer le processus de manière rigoureuse.
Christophe Pouzat
Catégories
Christophe Pouzat est chercheur au CNRS à l'IRMA (Institut de Recherche Mathématique Avancée, Université de Strasbourg). Il est en fait neurophysiologiste et travaille sur l'analyse des données expérimentales. La recherche reproductible lui permet de communiquer explicitement avec les expérimentateurs, évitant ainsi de nombreuses erreurs.
Konrad Hinsen
Catégories
Konrad Hinsen est chercheur au CNRS au Centre de Biophysique Moléculaire d'Orléans et au Synchrotron SOLEIL de Saint Aubin. Il explore la structure et la dynamique des protéines par des méthodes informatiques qu'il tente de rendre reproductibles.
Matthieu Simonin
Catégories
Matthieu Simonin est ingénieur de recherche au centre Inria de l'université de Rennes.
Il travaille au contact des équipes étudiant les systèmes distribués et apporte son soutien pour mener des campagnes expérimentales qui voient s'entremêler des contraintes matérielles, logicielles et des manipulations de données. Depuis peu, Matthieu a rejoint le GDR du labos1point5 en aidant au développement des outils de quantification carbone des activités de recherche, dont les calculs doivent bien sûr être reproductibles !
Ludovic Courtès
Catégories
Ludovic Courtès est ingénieur de recherche Inria à Bordeaux. Il contribue à Guix, un logiciel libre permettant de déployer des environnements logiciels de manière reproductible, avec pour objectif d’en faire un outil de base pour la recherche reproductible.
Kim Tâm HUYNH
Catégories
Kim Tâm HUYNH est ingénieure de recherche dans le SED (Service Expérimentation et Développement) du centre Inria de Paris. Elle s'intéresse aux méthodologies et outillages pour le développement logiciel de recherche.
Établissements
Avec le soutien du Fonds national de la science ouverte
Licence
Licence pour le contenu du cours
Attribution - Pas d’Utilisation Commerciale
Vous êtes autorisé à :
- Partager — copier, distribuer et communiquer le matériel par tous moyens et sous tous formats
- Adapter — remixer, transformer et créer à partir du matériel
Selon les conditions suivantes :
- Attribution — Vous devez créditer l'oeuvre, intégrer un lien vers la licence et indiquer si des modifications ont été effectuées à l'oeuvre. Vous devez indiquer ces informations par tous les moyens raisonnables, sans toutefois suggérer que l'offrant vous soutient ou soutient la façon dont vous avez utilisé son oeuvre.
- Pas d’Utilisation Commerciale — Vous n'êtes pas autorisé à faire un usage commercial de cette oeuvre, tout ou partie du matériel la composant.
Licence pour le contenu créé par les participants du cours
Attribution - Pas d’Utilisation Commerciale
Vous êtes autorisé à :
- Partager — copier, distribuer et communiquer le matériel par tous moyens et sous tous formats
- Adapter — remixer, transformer et créer à partir du matériel
Selon les conditions suivantes :
- Attribution — Vous devez créditer l'oeuvre, intégrer un lien vers la licence et indiquer si des modifications ont été effectuées à l'oeuvre. Vous devez indiquer ces informations par tous les moyens raisonnables, sans toutefois suggérer que l'offrant vous soutient ou soutient la façon dont vous avez utilisé son oeuvre.
- Pas d’Utilisation Commerciale — Vous n'êtes pas autorisé à faire un usage commercial de cette oeuvre, tout ou partie du matériel la composant.