Co-Design volumengekoppelter Multiphysiksoftware: Heterogene EXASCALE-Systeme für die Geodynamik (CoMPS)

Third Party Funds Group - Overall project


Acronym: CoMPS

Start date : 01.11.2022

End date : 31.10.2025

Website: http://terraneo.fau.de


Project details

Short description

Physikalische Fragestellungen werden von der Anwendung diktiert und führen oft auf unterschiedliche Modellierungsparadigmen. In diesem Antrag wird einerseits klassische Kontinuumsmechanik genutzt, die zu Eulerschen Finite-Element-Modellen führt, andererseits lassen sich Transportphänomene jedoch oft besser mit Lagrangeschen Methoden darstellen, z.B. als Trajektorien in einem System vieler Teilchen. Die Kopplung dieser unterschiedlichen Modelle führt zu Herausforderungen in der Mathematik, sowie bei der parallelen Ausführung. Partikel, die durch das simulierte System wandern, erfordern andere Parallelisierungsstrategien als gitterbasierte Methoden. Für die parallele Ausführung in verteiltem Speicher, ist nun eine Co-Partitionierung nötig, damit die Kopplung weitgehend lokal berechnet werden kann. Die Schwierigkeit vervielfacht sich, wenn die Last dynamisch neu balanciert werden muss. Mit diesem Antrag gehen wir noch einen Schritt weiter und berücksichtigen zusätzlich auch mesoskopische Modelle, wie z.B. die Lattice-Boltzmann-Methode (LBM), da sie aufgrund ihrer Struktur als explizites Zeitschrittverfahren nur eine streng lokale Kommunikation benötigt und deshalb im extreme-scale Bereich besondere Vorteile bietet.

Der Antrag wird folglich eine extreme-scale Kopplung zwischen makroskopischen (FEM) Modellen, mesoskopischen Modellen (LBM) und partikelbasierten Methoden breit verfügbar machen. Die Antragsteller sind in der glücklichen Lage, dazu bereits eigene, hochparallele Software für alle drei Paradigmen zu besitzen: HYTEG, ein Finite-Elemente-Paket mit optimalen Mehrgitterlösern, WALBERLA, ein flexibles LBM-Framework, und als Subsystem davon zusätzlich MESAPD, ein massiv-paralleler, konfigurierbarer Simulator für Vielteilchensysteme und die Diskrete Element-Methode. Alle drei Programmpakete wurden über mehr als ein Jahrzehnt lang erfolgreich auf maximale Skalierbarkeit hin entwickelt, so dass sie beispielsweise mit als erste in den illustren HiQ-Club1 der am besten skalierbaren Simulationssoftware aufgenommen wurden.
Der neue Antrag zielt darauf ab, auf Basis der bestehenden Software ein integratives Framework für komplexe multiphsysikalische Kopplungsprobleme zu entwickeln und die Performanz dessen anhand eines Demonstrators aus der Geodynamik zu veranschaulichen. Die Erdmantelkonvektion ist dabei eine der prominenten Grand-Challenge-Anwendungen. Sie erfordert maximale Computerleistung und damit extreme Skalierbarkeit der Simulationssoftware schon allein, weil die Vernetzung des Erdmantels mit 1 km Auflösung zu Gittern mit mehr als 10^{12} Zellen führt. Diese Demonstratoranwendung benötigt darüber hinaus sowohl die Kopplung zwischen einem quasi-stationären Stokes-Löser, Transportgleichungen für die Energie und weiteren Größen als auch eine systematische Behandlung von Datenunsicherheiten in den inversen Problemen.
Methodisch werden dazu neuartige Techniken der Codegenerierung genutzt und weiter entwickelt. Ein spezieller Fokus liegt auf der Nutzung moderner heterogener Architekturen durch die systematische Untersuchung von Verfahren mit reduzierter Genauigkeit und Mixed-Precision-Ansätzen. Dies ist in einen systematischen Softwareentwicklungsprozess eingebettet, der auf eine state-of-the-art Performanzmodellierung zurückgreift. 

Scientific Abstract

Physikalische Fragestellungen werden von der Anwendung diktiert und führen oft auf unterschiedliche Modellierungsparadigmen. In diesem Antrag wird einerseits klassische Kontinuumsmechanik genutzt, die zu Eulerschen Finite-Element-Modellen führt, andererseits lassen sich Transportphänomene jedoch oft besser mit Lagrangeschen Methoden darstellen, z.B. als Trajektorien in einem System vieler Teilchen. Die Kopplung dieser unterschiedlichen Modelle führt zu Herausforderungen in der Mathematik, sowie bei der parallelen Ausführung. Partikel, die durch das simulierte System wandern, erfordern andere Parallelisierungsstrategien als gitterbasierte Methoden. Für die parallele Ausführung in verteiltem Speicher, ist nun eine Co-Partitionierung nötig, damit die Kopplung weitgehend lokal berechnet werden kann. Die Schwierigkeit vervielfacht sich, wenn die Last dynamisch neu balanciert werden muss. Mit diesem Antrag gehen wir noch einen Schritt weiter und berücksichtigen zusätzlich auch mesoskopische Modelle, wie z.B. die Lattice-Boltzmann-Methode (LBM), da sie aufgrund ihrer Struktur als explizites Zeitschrittverfahren nur eine streng lokale Kommunikation benötigt und deshalb im extreme-scale Bereich besondere Vorteile bietet.

Der Antrag wird folglich eine extreme-scale Kopplung zwischen makroskopischen (FEM) Modellen, mesoskopischen Modellen (LBM) und partikelbasierten Methoden breit verfügbar machen. Die Antragsteller sind in der glücklichen Lage, dazu bereits eigene, hochparallele Software für alle drei Paradigmen zu besitzen: HYTEG, ein Finite-Elemente-Paket mit optimalen Mehrgitterlösern, WALBERLA, ein flexibles LBM-Framework, und als Subsystem davon zusätzlich MESAPD, ein massiv-paralleler, konfigurierbarer Simulator für Vielteilchensysteme und die Diskrete Element-Methode. Alle drei Programmpakete wurden über mehr als ein Jahrzehnt lang erfolgreich auf maximale Skalierbarkeit hin entwickelt, so dass sie beispielsweise mit als erste in den illustren HiQ-Club1 der am besten skalierbaren Simulationssoftware aufgenommen wurden.
Der neue Antrag zielt darauf ab, auf Basis der bestehenden Software ein integratives Framework für komplexe multiphsysikalische Kopplungsprobleme zu entwickeln und die Performanz dessen anhand eines Demonstrators aus der Geodynamik zu veranschaulichen. Die Erdmantelkonvektion ist dabei eine der prominenten Grand-Challenge-Anwendungen. Sie erfordert maximale Computerleistung und damit extreme Skalierbarkeit der Simulationssoftware schon allein, weil die Vernetzung des Erdmantels mit 1 km Auflösung zu Gittern mit mehr als 10^{12} Zellen führt. Diese Demonstratoranwendung benötigt darüber hinaus sowohl die Kopplung zwischen einem quasi-stationären Stokes-Löser, Transportgleichungen für die Energie und weiteren Größen als auch eine systematische Behandlung von Datenunsicherheiten in den inversen Problemen.
Methodisch werden dazu neuartige Techniken der Codegenerierung genutzt und weiter entwickelt. Ein spezieller Fokus liegt auf der Nutzung moderner heterogener Architekturen durch die systematische Untersuchung von Verfahren mit reduzierter Genauigkeit und Mixed-Precision-Ansätzen. Dies ist in einen systematischen Softwareentwicklungsprozess eingebettet, der auf eine state-of-the-art Performanzmodellierung zurückgreift. 

Involved:

Contributing FAU Organisations:

Funding Source