Foundation Models for Process Parameters Optimization: Evaluating TabPFN for Bayesian Optimization in HMLV Manufacturing

Die Arbeit mit dem Titel „Foundation Models for Process Parameters Optimization: Evaluating TabPFN for Bayesian Optimization in HMLV Manufacturing" stammt von Lucas Greif, Tim Berti und Anne Meyer und untersucht den Einsatz tabellarischer Foundation Models zur Optimierung von Maschinen- und Prozessparametern.

Im Mittelpunkt steht die High-Mix-Low-Volume-(HMLV-)Fertigung, in der viele Produktvarianten, kleine Losgrößen und häufige Designänderungen kostspielige physische Experimente erfordern. Bayes'sche Optimierung (BO) adressiert diesen Bedarf, indem sie mit wenigen Versuchen vielversprechende Parametereinstellungen identifiziert. Entscheidend für die Effizienz ist dabei das sogenannte Surrogatmodell. Ziel der Studie ist es zu untersuchen, ob das kürzlich vorgestellte tabellarische Foundation Model TabPFN als Surrogatmodell mit etablierten Verfahren wie Gauß-Prozessen (GP) und Random Forests (RF) mithalten kann.

Hierfür wurde TabPFN auf sechs realen, niedrigdimensionalen Versuchsdatensätzen aus der Materialwissenschaft und Prozesstechnik unter realistischen, eng begrenzten Evaluationsbudgets von bis zu 100 Experimenten getestet. Der Vergleich erfolgte anhand eigens für teure Experimente konzipierter Kennzahlen, etwa der Verbesserung gegenüber einer Zufallssuche und der Anzahl benötigter Experimente bis zum Erreichen nahezu optimaler Lösungen.

Die Ergebnisse zeigen, dass TabPFN die beste durchschnittliche Platzierung über alle Datensätze erzielt und nahezu optimale Lösungen schneller erreicht als die übrigen Verfahren – besonders im niedrigen bis mittleren Budgetbereich, der für die HMLV-Fertigung charakteristisch ist. Klassische GP-Surrogate bleiben bei größeren Versuchsbudgets weiterhin eine starke Wahl, während Random Forest und Zufallssuche durchgängig zurückfallen. Die Arbeit leistet damit einen wichtigen Beitrag zur dateneffizienten Prozessoptimierung in der flexiblen Fertigung.