SANKT AUGUSTIN.    Chatbots wie ChatGPT sind in der breiten Öffentlichkeit bekannt und helfen im Alltag beispielsweise dabei, Berichte oder Recherchen zu erstellen. Auch in der Materialforschung lassen sich Sprachmodelle nutzen, um etwa neue Moleküle nach bestimmten Vorgaben zu erzeugen (conditional generation).

Forscherinnen und Forscher im Geschäftsfeld »Virtual Material Design« von Fraunhofer SCAI haben auf Basis des Sprachmodells »LLama 2« von Meta ein vortrainiertes Transformer-Modell namens LLamol entwickelt und mit 13 Millionen organischen Verbindungen trainiert. LLamol nutzt eine neue Trainingsmethode, die für große Datensätze geeignet ist und gewährleistet so, dass das Modell robust und flexibel eingesetzt werden kann. Die neue Methode »Stochastic Context Learning« (SCL) ist erfolgreich bei guter Genauigkeit. LLamol erzeugt gültige Molekülstrukturen, ist ein leistungsfähiges Werkzeug für De-novo-Moleküldesign – und das Transformer-Modell lässt sich gut verallgemeinern. Die modifizierte Architektur in Kombination mit SCL hat großes Potenzial dazu, neuartige organische Moleküle zu entwerfen und erlaubt eine präzise Kontrolle über gewünschte Eigenschaften.

In ihrer Veröffentlichung »LLAMOL: A dynamic multi-conditional generative transformer for De Novo Molecular Design« beschreiben Niklas Dobberstein, Astrid Maaß und Jan Hamaekers, wie LLamol funktioniert. Im Forschungsprojekt SONAR suchen sie nach organischen elektroaktiven Verbindungen, die in Flussbatterien eingesetzt werden können, um Strom aus erneuerbaren Energien günstiger speichern zu können.

Link zur Veröffentlichung:
https://arxiv.org/abs/2311.14407

Ansprechpartnerin:
Dr. Astrid Maaß
Geschäftsfeld »Virtual Material Design«
Fraunhofer-Institut für Algorithmen und Wissenschaftliches Rechnen SCAI
Schloss Birlinghoven 1, 53757 Sankt Augustin
Telefon: +49 2241 14-4232
E-Mail: astrid.maass@scai.fraunhofer.de
www.scai.fraunhofer.de/vmd