Login for students

Login for employees

Publication detail

Optimizing Hyperparameters of a Multi-Scale Convolutional Neural Model Tailored to Describe Amorphous Materials Behavior
Authors: Pakosta Marek
Year: 2024
Type of publication: článek ve sborníku
Name of source: 2024 10th International Conference on Control, Decision and Information Technologies (CoDIT) : proceedings
Publisher name: IEEE (Institute of Electrical and Electronics Engineers)
Place: New York
Page from-to: 958-963
Titles:
Language Name Abstract Keywords
cze Optimalizace hyperparametrů vícestupňového konvolučního neuronového modelu přizpůsobeného popisu chování amorfních materiálů Tento článek představuje postup optimalizace parametrů víceškálového neuronového modelu, který je klíčový pro přesnou charakterizaci chování amorfních materiálů, konkrétně kinetiky skelného přechodu, která je považována za jeden z nejdůležitějších, avšak ne zcela pochopených jevů fyziky a chemie pevných látek s širokým spektrem aplikací. Systematickým zkoumáním prostoru hyperparametrů a důsledným vyhodnocením výsledných modelů byla identifikována vysoce účinná konfigurace - Conv1D kernel size=8-24-48, Conv1D #filters=16 & Dense #neurons=16 - která nabízí optimální výkon s pozoruhodně krátkými průměrnými epochovými časy. Naše zjištění naznačují slibnou strategii zvyšování velikosti jádra při současném snižování počtu filtrů a neuronů v husté vrstvě, což je podpořeno vynikajícím výkonem klíčových konkurentů sdílejících tento trend. Další zkoumání však odhaluje srovnatelnou úroveň výkonnosti následných konkurentů, což naznačuje potřebu dalších vzorků pro vyvození definitivních závěrů. Náš experiment poukazuje na složitý vztah mezi přesností modelu a výpočetními zdroji a zdůrazňuje nutnost dalších výsledků pro získání komplexního porozumění vlivu hyperparametrů. Ukazují se tři slibné kombinace pro budoucí experimenty, přičemž jako jasný vítěz pro praktické použití vystupují Conv1D kernel size=8-24-48, Conv1D #filters=16 & Dense #neurons=16. Krystalické materiály; Skelný přechod; Neuronové sítě
eng Optimizing Hyperparameters of a Multi-Scale Convolutional Neural Model Tailored to Describe Amorphous Materials Behavior This paper presents an optimization procedure of parameters in a multi-scale neural model, which is crucial for accurately characterizing the behavior of amorphous materials; more specifically glass transition kinetics, which is considered one of the most important yet not fully understood phenomena of solid-state physics and chemistry, with wide-ranging applications. Through systematic exploration of a hyperparameter grid space and rigorous evaluation of resultant models, a highly effective configuration was identified - Conv1D kernel size=8-24-48, Conv1D #filters=16 & Dense #neurons=16 - which offers optimal performance with remarkably short mean epoch times. Our findings suggest a promising strategy of increasing kernel size while decreasing the number of filters and neurons in the dense layer, supported by the superior performance of key competitors sharing this trend. However, further examination reveals comparable performance levels among subsequent competitors, indicating the need for additional samples to draw definitive conclusions. Our experiment highlights the intricate relationship between model accuracy and computational resources, emphasizing the necessity for further results to gain a comprehensive understanding of hyperparameter impact. Three promising combinations for future experimentation emerge, with Conv1D kernel size=8-24-48, Conv1D #filters=16 & Dense #neurons=16 standing out as the clear winner for practical application. Crystalline materials; Glass transition; Multilayer neural networks

Department

Map

en.mapy.cz

Services

Popular Links

© 2023 University of Pardubice, Studentská 95, 532 10 Pardubice 2
Phone: +420 466 036 111, 466 036 112, 466 036 113
Webmaster, RSS
Data box ID: f5vj9hu
Accessibility Statement
CC BY-NC-ND 4.0