Während dieses Lunch Talks wird Philipp Wiesner von der Forschungsgruppe Verteilte und Betriebssysteme der TU Berlin das wichtige Thema der Nachhaltigkeit und des Kohlenstoff-Fußabdrucks im Hinblick auf sehr energieintensive Machine Learning Inferenzdienste behandeln.
Zusammenfassung: Moderne Inferenzdienste für maschinelles Lernen, wie z.B. LLM-Services, sind sehr energieintensiv und haben daher einen signifikanten CO2-Fußabdruck. Solche Dienste können jedoch oft in verschiedenen Qualitätsstufen angeboten werden, z. B. in verschiedenen Modellgrößen, quantisierten oder beschnittenen Versionen. In diesem Vortrag wird das Potenzial für eine dynamische Anpassung der Servicequalität auf der Grundlage des aktuellen Energiemixes untersucht, um die von den Dienstleistern gemeldeten Scope-2-Emissionen sowie die von den Nutzern gemeldeten Scope-3-Emissionen zu senken.
Die BIFOLD-Lunch-Talk-Reihe bietet BIFOLD-Mitgliedern und externen Partnern die Möglichkeit, sich über ihre Forschung im Bereich maschinelles Lernen und Big Data auszutauschen. Jeder Lunch Talk bietet BIFOLD-Mitgliedern, Stipendiaten und externen Forschern und Gästen die Möglichkeit, ihre Forschung zu präsentieren und sich untereinander zu vernetzen.
Der Lunch Talk findet an der TU Berlin von 12:00 Uhr bis 13:00 Uhr statt.
TU Berlin, Raum EN 148
Einsteinufer 17, 10587 Berlin