Prof. Akbik erforscht derzeit die Verarbeitung und das Verständnis natürlicher Sprache durch große Sprachmodelle, mit Fokus auf mehrsprachige Systeme und deren Zuverlässigkeit. Seine aktuellen Arbeiten adressieren konkrete Herausforderungen: Wie lassen sich Named-Entity-Recognition-Modelle systematisch über 91 Sprachen skalieren? Wie können Sprachmodelle so ausgerichtet werden, dass sie menschliche Werte und Überzeugungen authentisch abbilden? Und wie lässt sich die Qualität von Trainingsdaten optimieren, um Sprachmodelle effizienter zu trainieren? Diese Erkenntnisse sind für Unternehmen im Kundenservice, in der Informationsextraktion und in der mehrsprachigen KI-Anwendung unmittelbar relevant. Parallel entwickelt er Methoden zur Evaluierung von Sprachmodellen — etwa wie zuverlässig sie ihr eigenes Wissen einschätzen — und arbeitet an Startup-Projekten zur praktischen Anwendung dieser Technologien.
🔒 Das System hat 590 mögliche Industrie-Partner gefunden — Firmen, Scores und Begründungen sind nur für eingeloggte Nutzer:innen sichtbar. Anmelden
Prof. Dr. Alan Akbik
HU-FIS-Profil ↗KI im Kundenservice (KIK)
company
EXC 2002/2: Science of Intelligence (SCIoI)
university
EXC 2002/2: Science of Intelligence (SCIoI)
university
EXC 2002/2: Science of Intelligence (SCIoI)
other
Förderer: DFG Exzellenzstrategie Cluster Zeitraum: 01/2019 - 12/2025 Projektleitung: Prof. Dr. Marcel Brass
Förderer: DFG Exzellenzstrategie Cluster Projektleitung: Prof. Dr. Marcel Brass
Förderer: Investitionsbank Berlin (IBB) Zeitraum: 02/2025 - 10/2027 Projektleitung: Prof. Dr. Alan Akbik, Prof. Dr. Stefan Lessmann
International Conference on Computational Linguistics
Recent advances in language modeling using recurrent neural networks have made it viable to model language as distributions over characters. By learning to predict the next character on the basis of previous characters, such models have been shown to automatically internalize linguistic concepts such as words, sentences, subclauses and even sentiment. In this paper, we propose to leverage the internal states of a trained character language model to produce a novel type of word embedding which we refer to as contextual string embeddings. Our proposed embeddings have the distinct properties that they (a) are trained without any explicit notion of words and thus fundamentally model words as sequences of characters, and (b) are contextualized by their surrounding text, meaning that the same word will have different embeddings depending on its contextual use. We conduct a comparative evaluation against previous embeddings and find that our embeddings are highly useful for downstream tasks: across four classic sequence labeling tasks we consistently outperform the previous state-of-the-art. In particular, we significantly outperform previous work on English and German named entity recognition (NER), allowing us to report new state-of-the-art F1-scores on the CoNLL03 shared task. We release all code and pre-trained language models in a simple-to-use framework to the research community, to enable reproduction of these experiments and application of our proposed embeddings to other tasks: https://github.com/zalandoresearch/flair
Alan Akbik, Tanja Bergmann, Duncan Blythe, Kashif Rasul, Stefan Schweter, Roland Vollgraf. Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics (Demonstrations). 2019.