Přejít k hlavnímu obsahu

Přihlášení pro studenty

Přihlášení pro zaměstnance

Publikace detail

Optimizing Hyperparameters of a Multi-Scale Convolutional Neural Model Tailored to Describe Amorphous Materials Behavior
Autoři: Pakosta Marek
Rok: 2024
Druh publikace: článek ve sborníku
Název zdroje: 2024 10th International Conference on Control, Decision and Information Technologies (CoDIT) : proceedings
Název nakladatele: IEEE (Institute of Electrical and Electronics Engineers)
Místo vydání: New York
Strana od-do: 958-963
Tituly:
Jazyk Název Abstrakt Klíčová slova
cze Optimalizace hyperparametrů vícestupňového konvolučního neuronového modelu přizpůsobeného popisu chování amorfních materiálů Tento článek představuje postup optimalizace parametrů víceškálového neuronového modelu, který je klíčový pro přesnou charakterizaci chování amorfních materiálů, konkrétně kinetiky skelného přechodu, která je považována za jeden z nejdůležitějších, avšak ne zcela pochopených jevů fyziky a chemie pevných látek s širokým spektrem aplikací. Systematickým zkoumáním prostoru hyperparametrů a důsledným vyhodnocením výsledných modelů byla identifikována vysoce účinná konfigurace - Conv1D kernel size=8-24-48, Conv1D #filters=16 & Dense #neurons=16 - která nabízí optimální výkon s pozoruhodně krátkými průměrnými epochovými časy. Naše zjištění naznačují slibnou strategii zvyšování velikosti jádra při současném snižování počtu filtrů a neuronů v husté vrstvě, což je podpořeno vynikajícím výkonem klíčových konkurentů sdílejících tento trend. Další zkoumání však odhaluje srovnatelnou úroveň výkonnosti následných konkurentů, což naznačuje potřebu dalších vzorků pro vyvození definitivních závěrů. Náš experiment poukazuje na složitý vztah mezi přesností modelu a výpočetními zdroji a zdůrazňuje nutnost dalších výsledků pro získání komplexního porozumění vlivu hyperparametrů. Ukazují se tři slibné kombinace pro budoucí experimenty, přičemž jako jasný vítěz pro praktické použití vystupují Conv1D kernel size=8-24-48, Conv1D #filters=16 & Dense #neurons=16. Krystalické materiály; Skelný přechod; Neuronové sítě
eng Optimizing Hyperparameters of a Multi-Scale Convolutional Neural Model Tailored to Describe Amorphous Materials Behavior This paper presents an optimization procedure of parameters in a multi-scale neural model, which is crucial for accurately characterizing the behavior of amorphous materials; more specifically glass transition kinetics, which is considered one of the most important yet not fully understood phenomena of solid-state physics and chemistry, with wide-ranging applications. Through systematic exploration of a hyperparameter grid space and rigorous evaluation of resultant models, a highly effective configuration was identified - Conv1D kernel size=8-24-48, Conv1D #filters=16 & Dense #neurons=16 - which offers optimal performance with remarkably short mean epoch times. Our findings suggest a promising strategy of increasing kernel size while decreasing the number of filters and neurons in the dense layer, supported by the superior performance of key competitors sharing this trend. However, further examination reveals comparable performance levels among subsequent competitors, indicating the need for additional samples to draw definitive conclusions. Our experiment highlights the intricate relationship between model accuracy and computational resources, emphasizing the necessity for further results to gain a comprehensive understanding of hyperparameter impact. Three promising combinations for future experimentation emerge, with Conv1D kernel size=8-24-48, Conv1D #filters=16 & Dense #neurons=16 standing out as the clear winner for practical application. Crystalline materials; Glass transition; Multilayer neural networks